ここを見ていると結構トラブルありそうなので、スタンドアローン版をフォルダごとコピーし、
そこをターゲットにしてVivaldi.4.0.2312.25.x64.exeからスタンドアローンインストール。
結果特にトラブルなさげ。次からも単にアップデートせずにこのやり方をすることにした。

でもウィンドウの背景画像がなくなったのは残念。