60pにせず無理ない30pにして(実際問題見てる側ならそこまで気にならんよ)、ソフトエンコでどうかね
NVENCは無限に画質悪いからできれば使わん方が…
仮想ディスプレイでQSV有効にしてみるのも手かな