【人工知能】ＭＩＴ、光を使ったディープラーニングの原理実証 計算時間と消費電力を大幅削減 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
マサチューセッツ工科大学(MIT)の研究チームは、ディープラーニングに必要とされる複雑で多量の計算を光コンピューティングを使って高速化、低消費電力化する技術を開発したと発表した。まだ概念実証の段階だが、原理的にはディープラーニングの計算時間を大幅に短縮でき、従来のコンピュータに比べて消費電力を1/1000程度にできるという。研究論文は光学分野の専門誌「Nature photonics」に掲載された。
ニューラルネットワークに基づくディープラーニング技術は、画像認識や音声認識をはじめ、医療データベースの中から診断に利用できるパターンを見つけ出したり、膨大な化学式を探索して新薬を創出するなど、さまざまな分野で使われるようになってきている。
しかし、膨大なデータサンプルを学習する過程では時間とエネルギーを消費する大量の計算を行う必要がある。ディープラーニングで多用される計算は、主に行列同士の掛け算の繰り返しであるが、こうした演算処理は従来のCPUあるいはGPUには大きな負荷がかかるものとなる。
研究チームは今回、このようなディープラーニングの計算に適した新しいアーキテクチャとして、光を用いたニューラルネットワークシステムを提案。その概念を実証するための実デバイスを開発し、実際にディープラーニングの手法による音声認識実験を行った。
開発されたデバイスは、「プログラマブル・ナノフォトニック・プロセッサ」と呼ばれるもので、相互接続された光導波路を使って計算を行う。光導波路はデバイス形成後に組み替えることができ、必要な計算に合わせてその都度プログラミングする。
具体的には、カスケード接続されたマッハ・ツェンダー干渉計56個の配列をシリコンフォトニクス集積回路上に形成したデバイスであるという。これを交互につないだ層構造を作って、脳内のニューロンの働きに似た非線形活性化関数と呼ばれる演算を行う。
一般的なニューラルネットワークのアーキテクチャでは、入力層と出力層のあいだに多くの隠れ層が存在しているが、論文によると、今回のアーキテクチャでは、光干渉ユニットと非線形光学ユニットからなる光導波路1個1個がこれらの層として機能する。これを使うと、原理的には、行列の乗算をほぼエネルギーゼロで、瞬時に計算できるという。
研究チームのMarin Solja?i?教授は、この仕組みを「眼鏡のレンズ」に例えて説明している。光が眼鏡のレンズを通過するときには、複雑なフーリエ変換の計算を行ったのと同じ結果が得られる。ナノフォトニック・プロセッサ内で起こるプロセスはこれがさらに一般化されたものであり、根本的には同様の原理に基づいているという。
研究チームは、プログラマブル・ナノフォトニック・プロセッサを用いて実際にニューラルネットワークを実装し、4つの母音について音声認識させる概念実証実験を行った。初歩的なシステムではあるが、音声認識の精度は77%を達成することができたという。これは従来のシステムで実現されている精度の90%程度の性能である。さらなる精度向上に向けてシステム拡張を行うことについては特に問題ないとしている。
http://news.mynavi.jp/news/2017/06/26/068/
論文
Deep learning with coherent nanophotonic circuits
https://www.nature.com/nphoton/journal/vaop/ncurrent/full/nphoton.2017.93.html メガネのレンズ
要するに演算内容は決め打ちってこと？
やることが決まってる分野ならいいだろうけど
昔のコプロセッサみたいな感じか >具体的には、カスケード接続されたマッハ・ツェンダー干渉計56個の配列を
>シリコンフォトニクス集積回路上に形成したデバイスであるという。
>これを交互につないだ層構造を作って、
>脳内のニューロンの働きに似た非線形活性化関数と呼ばれる演算を行う。
わかりやすく説明してください なんだこれ、学習に使うんじゃなくて、学習済みモデルを光デバイスで組み上げる事で、予測時の処理効率が劇的に上がるっていうものかよ
FPGAの役割を光デバイスに置き換えただけじゃん
そんなものもいいけど、学習コストをどうにかしろよ >>1
温度変化に極めてシビアなデバイスになりそうだが メガネのレンズで分かった気がしたが、実はさっぱりわからない。 >>8
いや、これは学習に使ってんだよ
90人分の音声でトレーニングした後に母音の識別をさせてる あーこういう話は数十年前からあるよね
結局実用化されてないわけだけど
今度のもどうかね 光演算素子は昔から話に出てきたが実用的な物になるのかな？ 最終的にはコストで半導体に負けるんだろうけど、行列演算専用の半導体素子ってのが有ってもいいような気がするな
メモリを馬鹿みたいに使う今のやり方はスマートじゃないのかも >>15
AVXとかのSIMDの代わりにCPUにぶち込むのは面白いかもね AIはアナログ処理が向いてるよね
どうせNNの中身の数値は人間には理解不能なんだし このてのニュース毎年何百と聞くが一向に進まないな
何してんだ無能な人類
AI量子コンピューター、ロボットに乗っけて
早く人類絶滅させてくれよ >>19
理解不能は大嘘
重みでノードの依存関係を100％分離できる >>13
ないよ
あると思ってるならお前の勘違いだろう フーリエ変換は計算量が2乗で効いてくるので、低消費電力はもちろん
処理が光速オーダーの一瞬でできることは素晴らしい
>>24
通信用と演算用は若干目指すところが違う 物になるならGoogleあたりは専用チップ作るぐらいすぐやるだろうなあ 面白そう
こういう核心的技術の発展は、ワクワクする反面、不安でもあるな。
人類の覇権の終焉を予感させる。 >>6
ディープラーニングとかややこしい話するからあれなんであって
単純なニューラルネットワークを
フォトニックに形成しただけ >>1
"Deep Learning with Coherent Nanophotonic Circuits"
ttps://arxiv.org/abs/1610.02365 >1 のreferrence[23] （>34 の referrence[14]） のsuppliment を見ないと実験がわからんな
"Bosonic transport simulations in a large-scale programmable nanophotonic processor"
ttps://arxiv.org/abs/1507.03406
ttps://arxiv.org/format/1507.03406 交換機には使える技術だろうけどアナログなコンピュータがデジタルなコンピュータを超える事は無いと思う
鳥の真似をしたって飛行機を超える物は出来なかったように、人を超える人工知能もデジタルなコンピュータが進化して出来るんじゃね ＜訃報＞
蓮実重臣さん４９歳＝音楽家（毎日新聞）
岩手の震災瓦礫で作られた津波バイオリンの奏者（５３）、下顎歯肉癌で死去 -
https://twitter.com/onodekita/status/879297857198542848
世 界 教 師 マ 人 ト レ ー ヤ か ら 警 告
（まもなく、日本発の株式大暴落、次いで米国債大暴落の後、各国メディアに登場、ＵＦＯも）
認知症の過程は放射能汚染によって加速します。
若年性アルツハイマー病の原因となっており、
人々は肺炎やインフルエンザ、慢性疲労、癌、
ＨＩＶ/エイズなどに抵抗できなくなっています。
免疫システムの崩壊の結果がアレルギーです。
死者の数は、他のいかなる原因よりも多いです。
河川の汚染は犯罪と見られなければなりません。
問題は、日本政府が何も認めないことです。
多くの人々が放射能の影響で死んでいるのに、
彼ら（日本国民）は幻想の中に生きています。
日本の近海の食料は安全ではありません。
健康上のリスクは福島に近づくほど高まります。
福島の子供達は癌をもたらす被爆をしています。
福島の住人は廃炉後1、２年で戻れるでしょう。
マ人トレーヤは原発の閉鎖を助言されます。
マ人トレーヤによれば、飛行機など原子のパターンが妨害されると墜落します。
マ人トレーヤはいかなる人間よりも危険をよくご存じです。
マ人トレーヤの唇からますます厳しい警告と重みが発せられることを覚悟しなさい。
>論文によると、今回のアーキテクチャでは、光干渉ユニットと非線形光学ユニットからなる光導波路1個1個がこれらの層と
>して機能する。これを使うと、原理的には、行列の乗算をほぼエネルギーゼロで、瞬時に計算できるという。
光コンピュータの原理的難点は非線形性がほとんどない光素子から無理に非線形性を引き出すためには
電子回路より遥かに大量のエネルギーを食うことなんで、こりゃただのほら話だな Energy Free Make Money System誕生！！今なら5000円プレゼント！！電気代も10％オフ！！毎月スマホ片手に作業するだけで10万円入る！！
権利収入も入る！不労所得も入る！
働かなくて良い！人生悠々自適に暮らせる！
詳しくは↓
http://autodownsystem01.com/page-67/ オペアンプ使ったアナログコンピュータじゃいかんの？
psocみたいなのでいいんじゃないかとか パターン認識はGPUを用いたニューラルネットで出来てるんだから、パターン認識については半導体技術を進化させる以外の活動はたいした意味はないと思う
パターン認識した結果を記号や動作に出力するAIはそれで出来るけど知的な仕事はまだ出来ないからAI開発の次の目標が何かを考えるのが今後の課題 >>41
アナログでも電子回路のほうが安くて速くて集積度高くて消費電力も少ない、オペアンプまで行く必要もない 光回路とかろくに売ってないものでやるってのが天才なんだろな 光回路とかろくに売ってないものでやるってのが天才だな ムーアの法則ってこれまで何度ももう無理って言われてきたけど、
光コンピューティングが実用化されれば、
まだ続くの？ >>51
電子と光で物理が違うのにムーア則が成り立つとなんで思うの？ ID:9B4BTtB9 ID:x0F5V/N0
なんだこの怒濤の異常者二連発？ フォトカプラ内部にスリットいれたら演算できそうな気はするよね なんだ、ポケモンブラッシュで天才製造できるのかと思った。 実際この手の超並列処理が必要な演算は、
アナログコンピューティングが有効。
これみたいに光学でやろうと量子でやろうと根本原理はアナログコンピューター。
機械学習よりも、この辺の根本的理解ができてない、
キュービットがどうだとか説明してる
センター試験だけ得意そうな馬鹿研究者が学習しない限り、
全体のレベルはあがらんよ。 >>64
アナログコンピューティングというのは何を指しているんだ
フォン・ノイマンもびっくりの超理論だなw >>65
ディープラーニング 〜昼下がりのエクスタシー〜 みち子25歳 ■ このスレッドは過去ログ倉庫に格納されています
