推論用ならFP8のマトリックス演算でもけっこう使えるってことですよ。