0001田杉山脈 ★
2018/11/13(火) 17:25:59.36ID:CAP_USERAI（人工知能）開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数（バッチサイズ）が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。
今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ：Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」（ABCI）を活用した。
学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。
これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet／ResNet-50」を用いたところ、約3.7分（最大2176基のGPU利用時）で学習が完了し、現状の世界最高速を達成したという（11月13日時点）。
同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
http://www.itmedia.co.jp/news/articles/1811/13/news108.html
