【AI】“がっかりAI”はなぜ生まれる? 「作って終わり」のAIプロジェクトが失敗する理由 [01/25]

1しじみ ★2019/01/25(金) 15:16:16.74ID:CAP_USER
「ライバルがAI(人工知能)を使ったサービスを発表したそうだ。ウチはどうするんだ」――本連載では、上司から突然こんなむちゃぶりを受けて困っている人のために、AIプロジェクトの進め方をいちからまとめてきた。

 あなたはAI導入の目標を明確にし、必要なデータをそろえ、PoC(概念実証)を実施して、AIをどう活用すれば本当に役立つのかを把握した所だ。


 あとは本番環境に実装すれば任務完了――と言いたいところだが、残念ながらこれで終わるわけではない。

 採用した新人を現場に配属して「あとはよろしく」で終わる人事担当がいたらどう思うだろうか? AIを開発して終わりと考えるのは、それと同じようなものだ。AIが真に成果を出せるかどうかはその後のフォローで決まると言っても過言ではない。本稿で解説する3つのフォローが実施できるよう、予算とマンパワーを確保しておいてほしい。

■その1:「偏見を持つAI」を作らないために 運用後も「再学習」
 これまでの記事でも述べてきたが、本連載ではAIを「これまで人間のみが実行可能だった作業や、人間には不可能だった作業を、機械がデータに基づいて実行することを可能にする仕組み」と定義している。

 実際に最近のAIアプリケーションは、データを使ってAIを学習させ、目標とする作業をさせるものが多い。そのため連載第2回で解説したように、AI導入プロジェクトでは「適切な質と量のデータを集められるかどうか」が重要になる。
http://image.itmedia.co.jp/news/articles/1901/25/koba4_02.jpg

 AIの開発が終わったからといって、この課題が消えてなくなるわけではない。1度学習させた内容が、時間経過や環境の変化などで不適切なものになる可能性があるためだ。

連載第2回では、米Amazon.comの失敗についても解説した。採用候補者の履歴書を自動で審査するAIを開発したところ、女性よりも男性を高く評価する「偏見」を持つようになってしまったというものだ。この原因は、学習に使用した過去10年分の履歴書において、男性からの応募が大半を占めていたことにある。そして実際に大量の男性が採用されていたことで、AIが「女性」という性質を、低い点数を与えるシグナルと解釈してしまったわけだ。

 これは開発時の学習用データ準備の失敗ということになるが、環境や時代の変化によってAIの学習内容が時代遅れになってしまった事例という解釈もできるだろう。

 例えばいま、日本の企業がAmazonのように過去の履歴書を学習用データとした「履歴書審査AI」を導入したとしよう(ソフトバンクやサッポロビールなど、実際に採用プロセスにAIを活用する企業は既に登場している)。

 このAIは女性差別をしないように調整されているものの、過去の採用で応募してきたのは日本人ばかりだ。しかし今後、少子高齢化対策として日本で外国人が働きやすくなり、大勢の外国人がこの会社に応募するようになったとしたらどうだろうか。非常に優秀な外国人候補者がいても、AIは彼もしくは彼女を適切に評価できない恐れが大きい。

 このように、いくら過去のデータに基づいて優秀なAIを開発しても、その後の環境変化でAIのアウトプットが不適切なものになる可能性がある。そのためAIの判断精度を定期的に確認して、必要であれば新しいデータを使って「再学習」してやる必要があるのだ。

 AIアプリケーションの中には、最新のデータに基づいて自動的に再学習するものもある。しかしその場合も油断は禁物だ。知らないうちに、AIが予想もしない結果を返すようになってしまう恐れがあるためである。

続きはソースで

ITmedia NEWS
http://www.itmedia.co.jp/news/articles/1901/25/news041.html

101ニュースソース検討中@自治議論スレ2019/01/27(日) 05:14:15.54ID:txGR7K08
>>1
そうかがっかり

102ニュースソース検討中@自治議論スレ2019/01/27(日) 08:32:35.74ID:a6dyyMck
情弱から金を巻き上げるためのキラーワード

103ニュースソース検討中@自治議論スレ2019/01/27(日) 13:31:15.32ID:dvvyFmt0
>>99
「考える」が何を意味するのか定義しないと
それは真偽を判定する命題にならない。
人間の脳だって単にパターンマッチングをしているだけかもしれないのに。

104ニュースソース検討中@自治議論スレ2019/01/27(日) 15:45:48.83ID:+maIkZ0Y
>>102
孫正義がNVIDIAの株を買った後で
30年後にAIのIQは1万を超えるって
脳筋や情弱を騙して、株が高騰して
ウソがバレたところで売った

所詮連中のオツムはこの程度のもん
科学とは程遠い金が欲しいだけの
ペテン師の集まり

105ニュースソース検討中@自治議論スレ2019/01/27(日) 18:27:21.59ID:mB9G0RjG
期待するからガッカリする

106ニュースソース検討中@自治議論スレ2019/01/27(日) 20:24:28.59ID:dbBlcNpf
>>104
連中って誰?

107ニュースソース検討中@自治議論スレ2019/01/27(日) 23:59:18.08ID:9/wyL8Mt
>>1
世の中が期待しているAIは、その「適切な質と量のデータ」を十分食わせた後のシステムだろうね
現在のAIは売り物としては中途半端
これからAIがらみで起業するなら「適切な質と量のデータ」を売ることを考えるといいかも

108ニュースソース検討中@自治議論スレ2019/01/28(月) 02:20:08.87ID:LTcLyjKD
理系で自分でプログラミングしたことあるヤツなら
AI=ただのプログラム
ということが分かっている。

AI、AIと騒いでるヤツに限って
まったくプログラミングしたことのないド素人なんだよ。

本当にアホくさいわ

109ニュースソース検討中@自治議論スレ2019/01/28(月) 02:31:41.23ID:LTcLyjKD
アホどものために極論で教えてやる。

AIは、アルゴリズムが未知ではなく解析可能である。
経験によってアルゴリズムが変化していくようなシステムであっても、
全体のアルゴリズムは解析可能である。
さらに乱数を使っているとしても、やはりアルゴリズムは解析可能である。

ところが脳は、その思考や感情などのアルゴリズムはまったく解析不可能である。
おそらく永遠に謎だ。それは、我々の自我がコピー不能であることと関連している。
自我をコピーした瞬間に、どちらが今までの「自分」と意識するのか、
精神的にも論理的にも答えが出せないからだ。

それが脳の凄さなのである。コピー不可。
AIはコピー可なので、脳を超えることは絶対にない。

110ニュースソース検討中@自治議論スレ2019/01/28(月) 03:00:45.90ID:ngR9wgSi
>>1
そりゃそうだろ、AIブームこれで何回目だ?w 最初はドラクエでAI搭載とか言ってた時代だろ
途中にファジーブームで家電にファジー搭載とかやってたけど
真面なのが無いのはそもそも今回だと将棋などで本格的な学習AIが特集されてブームにまたなって
相変わらずAIではない、単なるテーブルだけ増えた単なるプログラム制御の物だからだろ
何も凄く無いしまた馬鹿な客が騙されてるだけ


結果こんな>>16みたいな馬鹿がAIに騙されてAIすげーとか言い出す
単なる人間のパターンをいくつか集計してるだけに過ぎない凡作業をw

111ニュースソース検討中@自治議論スレ2019/01/28(月) 03:02:09.31ID:hWhe5vsC
ここの人はAIが何だと思っているんだろう、、?

112ニュースソース検討中@自治議論スレ2019/01/28(月) 03:17:49.80ID:3zJgK5OY
電子頭脳
と呼んでいた時代から
あまり変わってない

113ニュースソース検討中@自治議論スレ2019/01/28(月) 05:10:29.18ID:TGNlWlZI
AIには常に新しい刺激が必要なのは割と常識
https://cdn-ak.f.st-hatena.com/images/fotolife/s/sergeant/20121016/20121016233429.jpg

114ニュースソース検討中@自治議論スレ2019/01/28(月) 10:53:44.08ID:lCu+Cru9
AIってなにGoto文のかたまりのようなもの?
聡明な馬鹿なの
結局能力ではなく判定結果のたまもの
判断ではなく解答のみ
あみだくじじゃん

115ニュースソース検討中@自治議論スレ2019/01/28(月) 11:13:28.77ID:f/9SxjII
プログラム制御としてはGotoではなく、結果により入力を重みづけする
パーセプトロンが個々にデータ経路のカスタマイズを行うものだから、
むしろオブジェクト指向のカタマリみたいな感じになってる。

解答こそが欲しい人向きで、何故かと答えるとかなり面倒になるのもそう。
そもそも日本語で理由は答えられないし。そういうものと思って利用しなきゃ
いけないものだよ。

まぁ機械の新しい実装なんてどれもそんなものだけどね。

>>114はAIがどういうものと思ってるの?

116ニュースソース検討中@自治議論スレ2019/01/28(月) 11:40:55.81ID:eXESKWmv
クラウドだってあんな騒いで未だになんなのって感じ
みんな勝手に想像して焦ってるだけ

117ニュースソース検討中@自治議論スレ2019/01/28(月) 12:00:56.33ID:f/9SxjII
クラウドは、みんなPCか携帯持ってる状態だから、システムを
新しく作らないでサイト上で作って共有しようというお話。そうすると
データはネット上で再活用できるし、わざわざパソコンや携帯や
サーバー等の資産を購入することないから、安く上がるしデータの
即時性もついてくる。

昔で言うとレンタルサーバーだよ。

他にもいろんなクラウドならではの特色はあるけどね。

で、なんなのっていうと、>>116はクラウドがどういうものならいいな
とか思ってるアイデアでもあるのかな?

118ニュースソース検討中@自治議論スレ2019/01/28(月) 12:02:58.90ID:AXVN8YlX
がっかりするのは誰かという話だろ。
発注者がぼくのかんがえたAIとはちがうと言うからでは。

偏ったデータから公平な結果が導き出されたら、その間の飛躍をどう説明するんだろう。
忖度っていうのか。

119ニュースソース検討中@自治議論スレ2019/01/28(月) 12:15:42.90ID:1gupuC02
AIは手段であって目的じゃないからな

120ニュースソース検討中@自治議論スレ2019/01/28(月) 12:23:12.84ID:pL7PjEJ4
>>1
それは偏見ではなくAIの出した結論に納得していないだけ
納得できる結論しか出さないのならそれこそAIは必要は無い

121ニュースソース検討中@自治議論スレ2019/01/28(月) 12:26:46.25ID:/neV6aat
でもAIの目的の一つは、人が見つけられない、
決めきれない選択法を見つけることだよ。

122ニュースソース検討中@自治議論スレ2019/01/28(月) 12:26:55.31ID:phbTy5dV
俺は生まれたときから

AVが好きだ。

123ニュースソース検討中@自治議論スレ2019/01/28(月) 12:29:28.79ID:lCu+Cru9
>>115
囲碁や将棋のAIだと
やはり勝つためのルートを選ぶあみだくじ
思考力でAIが勝っているわけではなく
最適なルートを取り結果勝つということ
これもオブジェクト指向なのかな?
勝たないという選択肢はないのかな?
接待将棋みたいなやつとか
ギリギリまで踏ん張って力投したように見せかけて負けてあげるAI
作ればできるのかな

124ニュースソース検討中@自治議論スレ2019/01/28(月) 12:41:49.83ID:iNB7kQ1O
>>123
人間の棋士を育成するAIとか出てくるんじゃないかな
古今東西あらゆる対局データをベースに、
単に対局相手になるだけでなく棋士の修行スケジュールなども策定する
みたいな

125ニュースソース検討中@自治議論スレ2019/01/28(月) 12:43:24.78ID:ZInDe765
SBのペッパー君のことか?

126ニュースソース検討中@自治議論スレ2019/01/28(月) 12:45:11.48ID:dEQ/GaIg
そもそもAIと名乗るなよ(笑)

127ニュースソース検討中@自治議論スレ2019/01/28(月) 13:02:03.46ID:f/9SxjII
>>123
最適なルートを選ぶのはそう。
オブジェクト指向は実装の問題。

128ニュースソース検討中@自治議論スレ2019/01/28(月) 13:25:36.07ID:mRi0QBlg
>>123
>>127
最適なルートを取り結果勝つということは、
思考力でAIが勝っているぞ。

そもそも今のGoogleのAlphaZeroは
日本人が作っているソフトとは全く異なるアプローチで
ニューラルネットのパターン認識をモデル化したものだ。

問題は、「相手の気持ちを読む」ということが
そのような利得計算ゲームに特価したAIには出来ないという事。

129ニュースソース検討中@自治議論スレ2019/01/28(月) 13:26:09.71ID:lDliWEUc
AIって結局人工無脳みたいなもんだしなぁ・・・

130ニュースソース検討中@自治議論スレ2019/01/28(月) 13:37:32.03ID:P7mAqdNC
何にもわからない働かない天下りがかかわるから

131ニュースソース検討中@自治議論スレ2019/01/28(月) 14:12:45.39ID:b02ZUCJg
>>1
正しいことをしているのに、人間が勝手に偏見とレッテルを貼っただけやん。

実際は男性のほうがよく働くし離職率も低いんだから当たり前。

132ニュースソース検討中@自治議論スレ2019/01/28(月) 14:14:35.51ID:b02ZUCJg
どんなルールつくっても女が都合悪いと発狂するだけ。

女は発狂しないでAiのつくった合理的なルールに従えよ。

133ニュースソース検討中@自治議論スレ2019/01/28(月) 15:32:20.06ID:jOZAzpGe
そもそも3Dテレビみたいに投機屋がぶち上げるネタのひとつだからな。

30年前もAIブームが起こったが結局ものにならなかった。
人工知能なんていきなり高度なもの目指すから失敗するわけで、使い所を限定してそういうプログラムの一種と捉えれば使える程度の代物。

134ニュースソース検討中@自治議論スレ2019/01/28(月) 15:43:18.35ID:jOZAzpGe
>>107
そういう商売は始まってるよ。
医療系とか各業界で金集めて盛大にやってる。
主にアメリカだけど。

135ニュースソース検討中@自治議論スレ2019/01/28(月) 17:29:51.60ID:f/9SxjII
AIが手放しの「知能」になるのは暫く諦めてもらうとしてw

Aiを含めたデータ分析をするための事前段階としてのデータ化は
まだまだいろんな分野でこれからだろうね。昔からITだとかIoTとか
AIとかビッグデータとか言われてるけど、いまできてるのはデータ
になっているものの活用技術のみ。

医療なんかは、IBMがかなりの予算を出して、一気にデータ化を
するためのプロジェクトを進めてきたけど、秋口にプロジェクト凍結
が発表された。これも医療のカルテがデータになっていないことが
原因の一つ。

皆皆に同じことをやってもらって横並びで比較できれば、医療だって
傷病予測をすることができるけど、同じ定期健診を受けてもらい、
一つの帳簿に記録し、病気や怪我があれば、同じ帳簿に記録して
いくなんてことは未だどこもやってない。定期健診のデータ化自体も
まだまだこれから。

いまの技術でもデータの収集ができれば活用できるところは一杯ある。
AIはその分析の一つの手段だと思うよ。いまのところはね。

136ニュースソース検討中@自治議論スレ2019/01/29(火) 00:04:24.75ID:6md2u8Il
確かにデスピサロにザラキ打ちまくってたな
命令させろ、とか言うコマンド無かったからな

137ニュースソース検討中@自治議論スレ2019/01/29(火) 11:16:06.88ID:PlsBTdy9
>>12
サイクルタイムの短縮による生産性の向上をまず目指す、なぜなら余計なライン新設を抑制することによってコスト圧縮につながるから、そのためにモノがどういう時間間隔で作られてるか正しく計測しよう

みたいに何を目的・目標にするか、そのために何をするかを考えるのが大事なのにとりあえずIoTだからなぁ
手段と目的が逆転する典型

138ニュースソース検討中@自治議論スレ2019/01/29(火) 11:25:05.01ID:VLaaJ0Gl
>>137
そうそう。
目的のもう一つで多いのは機械の不調を確認することね。
それで将来の故障傾向も判るし、稼働中に故障して事故物品が生産されるのを防いだり。

とりあえず、IoT、とりあえず AI、とりあえずインターネット、とりあえずデータベース。日本の
ITは昔からこうだw 工場のライン見たこともないやつが営業やってたりするからなw

139ニュースソース検討中@自治議論スレ2019/01/29(火) 11:43:27.76ID:YtodBaQ7
最近のGoogleMapがいい例だよな。劣化している感じ。

140ニュースソース検討中@自治議論スレ2019/01/29(火) 12:02:45.80ID:ciUSL+iX
データの解析手段だけ提供するところで止まってるから、結局産業に浸透しないんだよ。
各産業のプロを雇い入れて、各産業とITの橋渡し役を作るべき。
AIで人の仕事を無くせるとか言うけれども、IT屋は人の仕事をもっと知るべき。

141ニュースソース検討中@自治議論スレ2019/01/29(火) 12:04:05.19ID:7JMacr44
【フクシマの認めざるを得ない事態】 その方達は現実を直視出来ないのか? 受け容れるのが怖いのか?
http://rosie.5ch.net/test/read.cgi/liveplus/1548728384/l50

142ニュースソース検討中@自治議論スレ2019/01/29(火) 12:17:23.90ID:pbrek1tN
広義にはAIの範疇にはいるとはいえ
極論すれば統計処理システムでしかないものを魔法のごとく宣伝したのが間違い

143ニュースソース検討中@自治議論スレ2019/01/29(火) 15:13:33.53ID:DFASD8ea
>>142
でもテレビで人間を超えて弁護士の代わりになるって言ってたわ

144ニュースソース検討中@自治議論スレ2019/01/31(木) 13:51:00.48ID:JC05zYWz
ドラクエivのAIのロジック知りたい

145ニュースソース検討中@自治議論スレ2019/01/31(木) 13:59:09.19ID:VaRD3zbZ
>>140
IT屋の仕事の半分はそれ。
基本的に、いまはパッケージソフトで十分、コンピュータの
恩恵を受けられるようにはなっているから、必要なのは、
その会社や事業に必要なシステムを揃えること。

なので、依頼主の要望を咀嚼して必要なものを用意するため、
依頼主の会社で事業内容を聞き込みしたり、専門的な計算や
データ生成をする場合は専門家を呼ぶ。業界は多岐に渡り、
製造業や農業、林業、通信、マスコミなど山ほどだから、一般的
にIT屋はいろんな業界とのコネクションを持っている。

中小のIT屋なんかはそれで客先の業界を知り運営に参加してから、
そっちに実業を移す会社もある。

146ニュースソース検討中@自治議論スレ2019/02/07(木) 18:11:10.08ID:VJF3WGP9
>>68

これがまかり通っている事が問題だと思うんだ
理解しようとしないで説明を求めてる

CEOは聞いたことあってもCTOとか知らない人が多い
日本のオタク文化は海外で認められた事契機の物が結構ある気がする

147ニュースソース検討中@自治議論スレ2019/02/08(金) 13:35:00.30ID:v7XY8qGS
だね
「説明はいいから結論だけを言え」
「はあ? そんな事ができるわけねえだろ。馬鹿は休み休み言え」
「ええい、説明されてもわからん。結論だけ言え」
以下ループw

148ニュースソース検討中@自治議論スレ2019/02/08(金) 13:49:39.18ID:tnmreRR1
結局人間があれこれ気を使わなきゃいけないし
中身がブラックボックスならば一たびトラブルが起こったら対処が大変
依存度大きい分トラブルの被害も甚大になるだろう
パソコンの時代よりストレス多そう
人間と仕事する方をとるわ

149ニュースソース検討中@自治議論スレ2019/02/08(金) 17:09:55.13ID:/YfjRHjM
そうかAIは自己学習はできないのか
インターネットに接続してネット世界の森羅万象を見せても
それを学習する能力はないってことか
目の前を画像と音声が流れても学習するという脳の意欲がなければ
ただのクズかもな
フィフスエレメントのおねーちゃんのように
感受性と自発する脳がなければだめということか

150ニュースソース検討中@自治議論スレ2019/02/08(金) 17:14:42.94ID:/YfjRHjM
人の仕事がなくなるぞというオオカミ少年的発動は
けち臭い経営者たちのオオカミ的部分を刺激して
AI技術を売り込もうというステマ的な文言だったんだ
いざよだれ流して買い込んだAI技術はまだまだ金食いの途上なんだ
あはは、楽しいね

151ニュースソース検討中@自治議論スレ2019/02/08(金) 17:58:07.41ID:y66o0ckR
まあアホ経営者が詐欺データサイエンティストに騙されてゴミみてえなPOCでむしられてるのはよく見るな

新着レスの表示
レスを投稿する