ff11を内蔵グラボで動かしてるところを、obsのクイックシンクで録画とか、負担かけすぎてるだけだと思うぞ。
cpuのx264でpresetをsuperfastで低負荷録画してみたら?