【IT】ソニー、ディープラーニングの学習速度で“世界最高速” 学習時間を短縮へ
■ このスレッドは過去ログ倉庫に格納されています
ソニーは11月13日、ディープラーニングの学習速度で世界最高速（同社調べ）を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間〜数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。
AI（人工知能）開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数（バッチサイズ）が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。
今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ：Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」（ABCI）を活用した。
学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。
これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet／ResNet-50」を用いたところ、約3.7分（最大2176基のGPU利用時）で学習が完了し、現状の世界最高速を達成したという（11月13日時点）。
同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
http://www.itmedia.co.jp/news/articles/1811/13/news108.html 既存のＧＰＵシステムの並列処理の規模を大きくしただけじゃない？
ハードウェアの規模を大きくしただけで、ディープラーニングの
新しいアルゴリズムを開発したわけではないんじゃない？ソニーの
発表っていつもどこか本質的でないよな。 >>3
GPUの並列数が増えたときの効率悪化を緩和する技術を開発という発表の対し、
GPU増やしただけじゃないの？という文盲レベルの指摘をする奴が本質を語る。 すごいとは思うけどまあブランドイメージのための発表だな >>7
イスラエルハイテクベンチャーCEOの私を舐めてますか？
あなたは何の仕事をしていますか？ 分かりやすい実績があるといーかな
googleの囲碁ソフトに勝つとかさ おまえらはソニーというだけで、脊髄反射で全否定だろ 自己申告ならなんとでも。コンテストを開催しないと。 日本では学習速度より喰わせるデーター不足の方が問題やな… 俺も脳内ディープラーニングできるけど、やりすぎると脳汁が出てきそうになる >>16
産総研のページ見たらわかるけど、もともと産総研コンテストだよ
想定以上の成果が出たんで大々的に発表してる ああ、どうせ、オープンソースじゃないんでしょ
自慢話はどーでもよいですから Neural Network Librariesはオープンソースだから
実装されれば使えるんじゃねーの。 何が書いてあるのか
かなりの部分がわからん
駄目だ 俺はきっと生き残れないｗ >>22
もう、おっさんの時代は終わったよ （´・ω・`） >>21
オープンソースだから一般でも使えると思うけど、
GPUを2176基も揃えられんわw 学習速度が早くなればトライ&エラーもどんどん進んでディープラーニングの発展につながる。
素晴らしい成果だと思うよ。
日本企業には応用よりもこういう基礎的なところやハードウェアとかが向いてるかもね。
打倒 NVIDIA を目標に頑張ってみたら？ 日本人には改善だけはそれなりの能力があることは認めるww ディープラーニングの仕組みの本が売ってるけど読む気しないわ
年かな > 同社調べ
ただしソースはソニー
昔のまんまじゃん テレビの4kや8kとかと一緒だな
スペック上げたは良いけど使い道がわからんというね…
まぁ凄いことなんだけどね どこかの
大学の研究室とかで共同研究だといって
やってんだろ？ 楽天はデータ持ってるのでは？
二番手戦略だから、AIの価値が立証されるまで使わないのかな
NTTだってオンラインストアを持っているが
Amazonはすでに使ってるだろうし >>24
AMDのnaviは2560基という噂ですよ 意味はないとは言わないけどで？って感じだよなw
早くして何ができるかが問題だよ。バカらしい。
就活しててパソコンの入力早いんですって言ってもでって？言われるのと同じ もうすぐスカイネットの完成か
後20年もしたらロボットに支配されそうだな… え、ソニーのお姉さんがディープ○ロートしてくれるのか。それで速く逝ったほうが勝ちなのか。 累計8万人リストラしてスリム化したソニーは、
ベンチャー企業みたいに色んなことに手を伸ばすな >>22
心配するな
世の中の大多数のIT土方も同じようなものだ
仮に本当に理解してるやつがIT土方してるなら即転職しろ
今や引く手あまたの分野だ >>3
読まずに推測でいいとこつくのは頭のいい人がやることで、
平均を大きく下回る人がやるとホラ、こんなに悲惨なことに。 比較対象は何なんだ、利用価値無いのと比べても意味ない。 >>50
使用したテストデータの記述もあるのにその言いぐさw
わからないならちょっとは調べろと >>44
スピードラーニングは英会話教材ｗ
遼くんは国内の大会しか出ないから要らないでしょｗ Chainer MNの時点で５１２GPUで１５分やったろ
４倍に増やして約４分の１なので線形にスケールしてるが
Chainer MNもやろうと思えば２０００GPU用に改造できるんちゃう
商業的にはコストパフォーマンスがいい方法がほしいよ これはディープラーニングの進行度合いによって、GPUが増えると逆に
減速してしまうということかな
大量のデータを処理するのにパラレルにするよりシリアルにしたほうが
効率が良さそうというイメージはなんとなくできる そのうちAI刑事なんて出てきたりしてw
アッサリ解決みたいな。 ＧＰＵとか言わないで、メーカーなら専用チップを作れよ AIが発達しても学習速度があがっても
人の学習速度が上がることはないし、
勉強とテストはなくならない これを自動運転技術に生かして自動運転技術の開発を進めてこそ本当に価値があるんだろうが、
いつも発表だけで、何かに劇的にいかされましたという所まで聞かないなあ。
学習とかAIの話は 24時間働いて車も家も買わない存在って経済を壊さないのか それでどういうビジネスモデルで金にすんだ？
早いの作っても、ビジネスモデルは外国にいっつも持ってかれてるからね コンピューターにとって0.1秒は永遠に等しい時間とか聞いたことあるけど計算に数十秒かかることがあるんだ ■ このスレッドは過去ログ倉庫に格納されています
