【AI/量子化技術】深層学習モデルの量子化により、データ処理速度が最大5倍に向上 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
深層学習モデルの量子化により、データ処理速度が最大5倍に向上
TRUST SMITHは2021年6月29日、深層学習モデルを量子化することで、データ処理速度が最大5倍向上したと発表した。
膨大な処理が困難だったエッジAI(人工知能)で、深層学習モデルの実装が可能になるという。
同社は、最新の量子化技術を用いることで、深層学習モデルの精度を保ちながらモデルを軽量化した。
従来の演算手法が32ビットの浮動小数点数で数値を取り扱うのに対し、今回の手法では最低2ビットにまで演算に必要なビット数を削減できる。
(以下略、続きはソースでご確認下さい)
MONOist 2021年07月14日 08時00分
https://monoist.atmarkit.co.jp/mn/articles/2107/14/news061.html これはすげえ!!!
CPUだけででもかなり速くなるな
でもVRAMのメモリそのものを増やしてくれwww ミカンなら2倍体でも単為結実性があれば実をでかくできる >>5
標本化のこと
例えば最終的なアウトプットが1/0の2値でいいのなら
インプットデータも32ビットはいらないよね
という話 >>1
私が作った作品といえば・・・
記憶術×エロい奴です。
一夜漬けで、テストで100点とか97点ぐらいとれる
エロい×記憶術の奴です。
でも・・・
公表できない。
人生\(^o^)/オワタ
人生\(^o^)/オワタ
人生\(^o^)/オワタ
人生\(^o^)/オワタ
人生\(^o^)/オワタ
人生\(^o^)/オワタ
以下略。
(´;ω;`)・・・ >>1
このまえ沖電気のやつをみかけたが
画像認識とは違って一般化でもしたんかな
どっちにしろ>>10の解説は間違ってるはず >>1
ソースの情報量は
>>1より多くないので読む必要なかったぞ 量子という単語がでると、量子コンピュータと区別ができない人が勘違いするのは
自然とおもえる、いまの量子コンピュータの話題を支えている人はその区別ができない人
大企業ですら同じじゃないの?というレベルである場合がおそろしい。
そもそもニューラルネットワークは最悪1ビットでも可能であり、GPUや64ビット
CPUが得意な単位が多ビットであるからこそ、簡易化した構成で作ればビット数を減らせなかったが
32ビット16ビット8ビット4ビットと減らすそれは近年恐ろしい勢いで行われ
最終的に1ビットは超えられないので収束する。その手法での性能向上はもう
限界に近付いているってこと。 >>12
ちなみに沖電気のやつは
入力の多bitをフィルタと量子化と層パスで
計算を軽量化するやつだったが
どう考えても入力データを減らすような
アホなことはせんだろう
こっちは学習モデルの方を量子化することにしてるが
そんな大層なもんじゃなくて学習結果側が量子化されてるだけだと思う ややこしいことに量子機械学習というこれとは全く別のものがあることだ ■ このスレッドは過去ログ倉庫に格納されています