>>610
要は自分に聞こえるゲームの音だけ小さくしたいんでしょ?
逆やってみたら?

音量ミキサーでゲームを大きくしておく
OBSのソースに音声入力キャプチャを追加

オーディオの詳細プロパティで

・ゲームのキャプチャーを「モニターオフ」に設定する
・音声入力キャプチャをモニターのみ出力(出力はオフ)にする

あとは音声入力キャプチャ側で好きな音量に調整したりミュートにしたり