USB拡張カードは認識しますが、GPUパススルーが出来ません・・・
何か設定漏れているとこあるんでしょうか。

[ホスト]-[ハードウェア]-[PCIデバイス]の設定では、
NVIDIA Corporation GP104[GeForce GTX1080]がアクティブになってます。
(hypervisor.cpuid.v0=FALSEは設定しました。
 他、pcihole設定・pcipassthru.msi設定も行いましたが変わらず)、

仮想マシン側にPCIデバイスとしても追加でき、正常に起動ししますが、
デバイスマネージャーでディスプレイドライバを見ると、
VMware SVGA 3Dのみとなっています。

CPUのIOMMUやSMTに関しては、
マザボのBIOSのバージョンを7B09v14に上げ、
目ぼしいところはEnableにしたつもりです。

【環境】
CPU  :AMD Threadripper 1920X
マザボ:MSI X399 GAMING PRO CARBON AC(BIOSは7B09v14)
メモリ:64GB
ESXi :6.5u1にESXiカスタムでxahci(SATAドライバ入れたもの)
PCI-E1:EVGA 1080 GTX
PCI-E2:玄人志向 Radeon HD 6450
PCI-E3:Intel Ethernet Server Adapter I210-T1
電源 :Corsair RM750x
仮想OS:Windows 8.1 Pro(メモリ4GB)

ちなみにRadeon HD 6450でも同様のことを行ってみましたが・・・