OBSは単に音声の入力/内部処理/出力でサラウンド音声を扱えるだけ(凄いことだけど)であって、
5.1ch音声をどうキャプチャするかというのはまた別問題だと思う。

必要なのは
  ・5.1chに対応した録音デバイスを作る
  ・ゲームの5.1ch音声がその録音デバイスに流れるようにする
の2点であって、それができればその録音デバイスを使ってffmpegでもOBSでも5.1ch音声を録音できるようになるはず。

この作業に必要なのが、下記のような仮想オーディオデバイスの機能を持つソフト。
  「Voicemeeter Banana」 https://www.vb-audio.com/Voicemeeter/banana.htm
  「Virtual Audio Cable」 https://vac.muzychenko.net/en/

前者のBananaの方が便利で使いやすそうに思えるのでそっちで説明すると、
  ・インストール&再起動
  ・再生デバイスに「VoiceMeeter Input」ができているのでそれを規定(デフォルト)にする
  ・VoiceMeeterの画面右上の「HARDWARE OUT」で、出力A1にサラウンドスピーカー(の再生デバイス)を割り当てる
  ・VoiceMeeterの画面中央の「VIRTUAL INPUT」のVAIOの方(「VoiceMeeter Input」に対応)で、
   出力A1とB1(録音デバイスの「VoiceMeeter Output」に対応)に出力するよう設定する
  ・録音デバイスに「VoiceMeeter Output」ができているので、ffmpegやOBSでそれを指定してキャプチャする
といった感じで、サラウンドキャプチャが可能になるような気がする。
上の手順はざっくりした流れなので、実際にはデバイスのチャンネル設定とか、
他の入出力デバイスの設定とか、チャンネル変換の設定とかも必要になるかもしれない。
そのへんはドキュメントとか見てなんとかしてくれ。

実際やったわけじゃないけど、>>890を元にして調べた限りではこんな感じな気がする。

間違ってたら指摘してくれ。うまくいったなら、その報告もしてもらえるとありがたい。