SMPlayer は、MPlayer/MPV の GUI なので、
通常のオプションで設定できない詳細な設定は、それぞれのマニュアルに書かれたオプションを
環境設定→詳細設定→MPlayer/MPV のオプションの項目に追加します。

MPlayer マニュアル
http://www.mplayerhq.hu/DOCS/man/en/mplayer.1.txt

MPV マニュアル
http://mpv.io/manual/master/