いろいろと情報ありがとうございます。

gt630はKeplerのものとFermiのものがあるみたいで、自分のはFermiのものでした。tonymacのサイトで見かけた似たような症状のgt430もFermiのGF108という同じコアを積んでいるみたいで、GF108コアはHigh Sierraに対応していないのかもしれません

>>117
Nvidia署名のkext使う許可、セキュリティとプライバシー項目で探してみたのですが、許可を求められることがなかったです。
nv_disable=1でブートさせると1024×768のみの解像度しか選択できないのですがシステムは正常に動きます。