>>200
回答いただいたオプションなど試してみた結果、画質が改善されたことを確認できました。
https://i.imgur.com/FDzQEye.png
https://i.imgur.com/P9aM76x.png

ただオプションを指定すると二枚目のように乱れが発生したのでたぶん間違ってる箇所があるのかもしれません。（すみません）
あと
＞2500kbps程度では1280x720 60fpsには低すぎます。
でおっしゃられてる通り画質が低い問題は低いビットレート設定によるものでした。
YouTubeで普段配信しないものですからどのくらいがいいのかという匙加減がよくわかってませんでした。
現在はカスタム出力の映像ビットレート欄を10000kbpsという設定でやってます。

だいぶ無知すぎて恥ずかしいんですが、無事解決いたしました。
丁寧に対応いただきどうもありがとうございました。