【IT】ソニー、ディープラーニングの学習速度で“世界最高速” 学習時間を短縮へ

■ このスレッドは過去ログ倉庫に格納されています
0001田杉山脈 ★2018/11/13(火) 17:25:59.36ID:CAP_USER
ソニーは11月13日、ディープラーニングの学習速度で世界最高速(同社調べ)を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間〜数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。

 AI(人工知能)開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数(バッチサイズ)が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。

 今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ:Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」(ABCI)を活用した。

 学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。

 これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet/ResNet-50」を用いたところ、約3.7分(最大2176基のGPU利用時)で学習が完了し、現状の世界最高速を達成したという(11月13日時点)。

 同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
http://www.itmedia.co.jp/news/articles/1811/13/news108.html

0017名刺は切らしておりまして2018/11/13(火) 19:18:00.39ID:KUC4Hw6a
日本では学習速度より喰わせるデーター不足の方が問題やな…

0018名刺は切らしておりまして2018/11/13(火) 19:24:36.62ID:UxvuvXn6
俺も脳内ディープラーニングできるけど、やりすぎると脳汁が出てきそうになる

0019名刺は切らしておりまして2018/11/13(火) 19:25:05.73ID:8LZx+7Pl
>>16
産総研のページ見たらわかるけど、もともと産総研コンテストだよ
想定以上の成果が出たんで大々的に発表してる

0020名刺は切らしておりまして2018/11/13(火) 19:29:28.51ID:KeId/5QE
ああ、どうせ、オープンソースじゃないんでしょ
自慢話はどーでもよいですから

0021名刺は切らしておりまして2018/11/13(火) 19:35:07.97ID:4+KzyDSH
Neural Network Librariesはオープンソースだから
実装されれば使えるんじゃねーの。

0022名刺は切らしておりまして2018/11/13(火) 19:46:49.09ID:ZM42N0L1
何が書いてあるのか
かなりの部分がわからん
駄目だ 俺はきっと生き残れないw

0023名刺は切らしておりまして2018/11/13(火) 19:50:49.21ID:1QqUnXuR
>>22
もう、おっさんの時代は終わったよ (´・ω・`)

0024名刺は切らしておりまして2018/11/13(火) 19:52:23.65ID:1QqUnXuR
>>21
オープンソースだから一般でも使えると思うけど、
GPUを2176基も揃えられんわw

0025名刺は切らしておりまして2018/11/13(火) 19:54:32.83ID:CiHbEpC3
学校で睡眠中に学習できたら嬉しい

0026名刺は切らしておりまして2018/11/13(火) 20:07:49.32ID:kEuRPCJi
やるねぇ

0027名刺は切らしておりまして2018/11/13(火) 20:25:15.44ID:vYpV2mES
AI「その攻撃はもう見た」

0028名刺は切らしておりまして2018/11/13(火) 20:28:25.82ID:/Pyc3jD3
学習速度が早くなればトライ&エラーもどんどん進んでディープラーニングの発展につながる。
素晴らしい成果だと思うよ。
日本企業には応用よりもこういう基礎的なところやハードウェアとかが向いてるかもね。
打倒 NVIDIA を目標に頑張ってみたら?

0029名刺は切らしておりまして2018/11/13(火) 20:35:06.62ID:BAUXFyY9
日本人には改善だけはそれなりの能力があることは認めるww

0030名刺は切らしておりまして2018/11/13(火) 20:39:12.52ID:wUSXd7WY
ディープラーニングの仕組みの本が売ってるけど読む気しないわ
年かな

0031名刺は切らしておりまして2018/11/13(火) 20:40:42.14ID:g1CLeedG
ソニーが?
冗談はよしこちゃん

0032名刺は切らしておりまして2018/11/13(火) 20:58:10.93ID:y1v2Hs5v
学習させるデータが無い

0033名刺は切らしておりまして2018/11/13(火) 21:04:05.82ID:JE4BTLBi
> 同社調べ
ただしソースはソニー
昔のまんまじゃん

0034名刺は切らしておりまして2018/11/13(火) 21:08:26.42ID:wx6Ps0Hx
スカイネットの誕生はまだですか?

0035名刺は切らしておりまして2018/11/13(火) 21:23:44.19ID:WiYc+0L7
学習が目的化してるのか?

0036名刺は切らしておりまして2018/11/13(火) 21:29:47.25ID:oR5BsnJW
日本企業ではソニーには期待できるな

0037名刺は切らしておりまして2018/11/13(火) 21:32:56.30ID:YXLo8PW9
テレビの4kや8kとかと一緒だな
スペック上げたは良いけど使い道がわからんというね…
まぁ凄いことなんだけどね

0038名刺は切らしておりまして2018/11/13(火) 21:37:03.66ID:wI21xvJF
どこかの
大学の研究室とかで共同研究だといって
やってんだろ?

0039名刺は切らしておりまして2018/11/13(火) 21:38:53.11ID:otXI8k6x
楽天はデータ持ってるのでは?
二番手戦略だから、AIの価値が立証されるまで使わないのかな
NTTだってオンラインストアを持っているが

Amazonはすでに使ってるだろうし

0040名刺は切らしておりまして2018/11/13(火) 21:51:06.23ID:Y0JPTmjD
>>24
AMDのnaviは2560基という噂ですよ

0041名刺は切らしておりまして2018/11/13(火) 21:52:56.18ID:muBdr3FW
意味はないとは言わないけどで?って感じだよなw
早くして何ができるかが問題だよ。バカらしい。
就活しててパソコンの入力早いんですって言ってもでって?言われるのと同じ

0042名刺は切らしておりまして2018/11/13(火) 22:03:09.65ID:TremkdXT
もうすぐスカイネットの完成か
後20年もしたらロボットに支配されそうだな…

0043名刺は切らしておりまして2018/11/13(火) 22:09:35.95ID:1QqUnXuR
>>40
まじかよ
NAVI 12 すげえな

0044名刺は切らしておりまして2018/11/13(火) 22:17:27.73ID:lpXM7oQT
石川遼選手も愛用しているやつ?

0045名刺は切らしておりまして2018/11/13(火) 22:17:31.76ID:8aipioj9
え、ソニーのお姉さんがディープ○ロートしてくれるのか。それで速く逝ったほうが勝ちなのか。

0046名刺は切らしておりまして2018/11/13(火) 22:28:04.28ID:HWcrc251
累計8万人リストラしてスリム化したソニーは、
ベンチャー企業みたいに色んなことに手を伸ばすな

0047名刺は切らしておりまして2018/11/13(火) 22:31:41.73ID:UGG1a1ev
>>22
心配するな
世の中の大多数のIT土方も同じようなものだ
仮に本当に理解してるやつがIT土方してるなら即転職しろ
今や引く手あまたの分野だ

0048名刺は切らしておりまして2018/11/13(火) 23:11:42.34ID:GH7DPvZc
>>3
読まずに推測でいいとこつくのは頭のいい人がやることで、
平均を大きく下回る人がやるとホラ、こんなに悲惨なことに。

0049名刺は切らしておりまして2018/11/13(火) 23:27:44.70ID:n/oJD9gb
あっそ
良かったね

0050名刺は切らしておりまして2018/11/13(火) 23:39:41.22ID:pq0e13fu
比較対象は何なんだ、利用価値無いのと比べても意味ない。

0051名刺は切らしておりまして2018/11/13(火) 23:57:24.46ID:+QT9gVXo
ただのデータ自動入力を大げさな呼び方してるだけ

0052名刺は切らしておりまして2018/11/14(水) 00:32:47.17ID:BsxoSjcm
>>50
使用したテストデータの記述もあるのにその言いぐさw
わからないならちょっとは調べろと

0053名刺は切らしておりまして2018/11/14(水) 00:52:19.51ID:B9WsSOzP
>>35
科学

0054名刺は切らしておりまして2018/11/14(水) 01:09:28.89ID:kSANLVnq
世界最高速の聞こえる早送りだと思いました

0055名刺は切らしておりまして2018/11/14(水) 01:19:51.29ID:B9WsSOzP
>>44
スピードラーニングは英会話教材w
遼くんは国内の大会しか出ないから要らないでしょw

0056名刺は切らしておりまして2018/11/14(水) 04:20:45.63ID:bwvmuRD+
Chainer MNの時点で512GPUで15分やったろ
4倍に増やして約4分の1なので線形にスケールしてるが
Chainer MNもやろうと思えば2000GPU用に改造できるんちゃう

商業的にはコストパフォーマンスがいい方法がほしいよ

0057名刺は切らしておりまして2018/11/14(水) 07:09:16.43ID:FiJolNUx
これはディープラーニングの進行度合いによって、GPUが増えると逆に
減速してしまうということかな

大量のデータを処理するのにパラレルにするよりシリアルにしたほうが
効率が良さそうというイメージはなんとなくできる

0058名刺は切らしておりまして2018/11/14(水) 07:33:30.37ID:UK18FFbV
そのうちAI刑事なんて出てきたりしてw
アッサリ解決みたいな。

0059名刺は切らしておりまして2018/11/14(水) 07:49:35.91ID:z6BZH6A4
GPUとか言わないで、メーカーなら専用チップを作れよ

0060名刺は切らしておりまして2018/11/14(水) 08:56:19.52ID:yL/+Ntqr
ベンチ用の最適化しただけだろ

0061名刺は切らしておりまして2018/11/14(水) 09:34:59.69ID:Hl47JGaz
AIが発達しても学習速度があがっても
人の学習速度が上がることはないし、
勉強とテストはなくならない

0062名刺は切らしておりまして2018/11/14(水) 10:42:44.18ID:eitMOKfZ
ソープランド

0063名刺は切らしておりまして2018/11/14(水) 14:56:29.16ID:e1u7yyfs
これを自動運転技術に生かして自動運転技術の開発を進めてこそ本当に価値があるんだろうが、
いつも発表だけで、何かに劇的にいかされましたという所まで聞かないなあ。
学習とかAIの話は

0064名刺は切らしておりまして2018/11/14(水) 17:00:57.89ID:DqLDPsFg
24時間働いて車も家も買わない存在って経済を壊さないのか

0065名刺は切らしておりまして2018/11/14(水) 23:35:44.00ID:FzoDsmNf
それでどういうビジネスモデルで金にすんだ?

早いの作っても、ビジネスモデルは外国にいっつも持ってかれてるからね

0066名刺は切らしておりまして2018/11/15(木) 03:26:35.37ID:vMYV5ADT
コンピューターにとって0.1秒は永遠に等しい時間とか聞いたことあるけど計算に数十秒かかることがあるんだ

0067名刺は切らしておりまして2018/11/15(木) 03:51:46.26ID:v34dHeWP
>>15
appleなら礼賛の
アポー脳?

■ このスレッドは過去ログ倉庫に格納されています