【AI】「AIが出した結果」の理由を探る技術、富士通らが開発 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
富士通研究所と富士通は9月20日、人工知能（AI）が導き出す推論結果についてその理由や根拠を提示するという新技術を開発したと発表した。AIによる結果に人間の専門家の知見を組み合わせて活用できるとしている。
ディープラーニングなどを利用して大量データの学習から特徴などの推定結果を導き出すAIでは、そのような結果に至る理由や学術的な根拠を、人間が検証することが難しいという課題を抱える。そのため、AIを使った専門家の判断に説明責任が問われるような医療や金融などのミッションクリティカル領域などに適用することが困難だった。
富士通らが開発した技術は、グラフ構造のデータを学習する富士通研独自のAI技術「Deep Tensor」と、学術文献などの専門的な知識を蓄積したナレッジグラフの知識ベースを関連付けることで、AIの推定結果の理由や根拠を示せるという。
https://japan.zdnet.com/storage/2017/09/20/10907af97435e1a4cc83c61344263378/fujitsu_ai01.jpg
具体的には、ディープラーニングの出力結果から逆に探索して、推定結果に大きく影響した複数の因子を入力データの部分グラフとして特定する。ディープラーニングの入力となるテンソル間の類似性に基づき、個別の推定結果の決め手となる要素を抽出し、さらにテンソルからグラフ構造のデータへの逆変換によって、抽出した要素に対応する入力の部分グラフを特定していく。この技術では、複数の推定因子を手掛かりにグラフ構造を探索することで、特定された推定因子に関連性の高い情報だけを抽出し、根拠として構成する。
両社では、ゲノム医療で専門家の調査作業の効率化を想定した模擬実験を行った。生物情報学分野の公開データベースや医療文献データベースから構築した遺伝子変異と病因性の関係についてまず学習し、推定に影響した因子や根拠について学術論文や関連情報を抽出した結果では、推定対象の遺伝子変異（下図の赤）について、推定結果に大きく影響した複数の因子（同青）と、ナレッジグラフから取り出した学術的な裏付けとなる根拠（同黄）、疾患の候補（同紫）を同時に参照できたという。
今後は、医療関連研究機関の協力を得ながら新技術の有用性について検証を進める。また、金融分野で融資先の自動推定を学習させた場合に、規制や規則の知識を用いて推定の妥当性を確認するといった他分野への応用も計画している。
https://japan.zdnet.com/article/35107528/ お尻を見るだけなんじゃないの、いつも俺にしてるように クルーソーとかでもやってた中間言語作ったりしての翻訳け >>6
即死魔法は効率よくHPを0に出来るからMP効率が良い
が、最初の頃は効くかわからないのでとりあえずザラキを使って効かないのが判れば使わなくなる
つまりクリフトはちゃんと育てれば神レベルで使える 結局のところ理由と言っても傾向が具体化するだけで、なぜ土砂崩れが多いとアイスが売れるのかの説明はしてくれないんだね >>6
>>9が言うようにファミコン版ドラクエ４は学習型AIなので「何度かやってみなければわからない」を地でゆくアルゴリズムをもつ。
この仕様を効率的に扱う「アストロン学習法」という攻略法もあるので興味が湧いたらググれ。 >>14
レスアンカーをミスったわｗ >>9じゃなくて>>8ね >>10
そのうち、他に先んじてアイスの在庫増やして売り上げが伸ばせれば、
理由なんてAIに任せてどうでもよくなる。 シンギュラリティに達したら全部ＡＩにお任せでいい。
人間の脳味噌じゃ箸にも棒にもかからないからな。 行政ディスり始めたらおま国補正されちゃうんだろうな ①人類がAIに判断をゆだねたらどうなるか。
②日本人の平均身長を伸ばすには。
これをAIに解析してほしい。 俺の想像する回答
①俺の脳のスペックでは回答不能
②チビの遺伝子で妊娠しない 俺の好きな富士通がやってくれたか。
結論について解説する事は、人とＡＩの関係において大変重要だからなあ。 回答「いろいろあった...」
技術者「AIがついにdeepthoughtを超えたぞ！(たぶんちがう)」 医療は理由なきゃだめだわなｗ
金融は微妙、データって過去のデータだろ 養鶏場の管理くらいなら既にaiでアメリカではできるらしいぞ 日本人は理由がないものを異常に恐れるからな
世界では必要とされない技術だわ いずれあきらかになるだろうが
AIの怖さって手段を選ばないってことだと思う
わかりやすい例でいうならウイルスソフトの会社の株を空売りする一方で
自らウイルスを撒き散らすみたいなさ AI囲碁解説にも使えるのかな？
選挙情勢予測とかするAIはあるのだろうか 選挙制度とか人が投票するんじゃなくてAIが代議士に相応しい人物を指定する世界になる未来が来ると面白いかもしれない >>29
> 日本人は理由がないものを異常に恐れるからな
日本人は自分で目的を定義できないミンジョクだからだ
他者から磐石な目的と理由が与えられないとなにもできない
> 世界では必要とされない技術だわ
いやむしろ逆だろ
利用者自信が定める方向性とその「理由」が整合しているかは重視される 判断過程がブラックボックスだもんなあ
AIの判断過程を人間にわかりやすくするってことなんだろうけど、問題が複雑だと
その解析結果理解するために専門家が必要になったりしそう
こういうの考えると、AI発展して意識が生まれたらどうする、みたいに恐怖煽ってるやつが
バカにしか見えないよな
意識を物質レベルで定義できない限り、機械の中に意識と呼べるものが誕生したって
人間が気付けるか怪しいってのに その理由をインプットにして再度回したら全く違う答え出そうな気がする
AIの色眼鏡 全てが上手くいってるうちは「どうしてうまくいってるのか」なんて考えない。人生と同じだ。
上手くいかなくなった時に「どうしてうまくいかないのか」と考え始める。
AIについても同じことだ。 >>39
良いこと言うね
しかし何もかも上手くいかない俺たちは、なぜ改善をしないのか あと（人間の考える）部分最適が（AIの考える）全体最適とずれる場合も、
なぜAIがそういう答えを出したかは調べたくなる欲求を人間は持つだろう。 中国共産党はナンタラとかはじき出した
中国のシンクタンクに売ったら？ >>30
分かりやすい例やな。部分最適≠全体最適の時、どうやってAIを制御するかはかなり重要だ。
イーロン・マスクなんかが不安視してるのはそこらへんだろう。「本当の判断理由を示せば
人間ならこういう行動をとるだろう、それは人間のためにはならない、だから嘘の根拠を示す」
というような「親切な」行動をAIがとる場合、AIの嘘を人間は見抜けるのか？AIよりも賢くないのに。 >>16
で、理由を聞いたら土砂崩れが起きたからと答えるわけだな >>42
アメリカ人のギタリストが言うには、中国共産党の中国人が無脳というのは
実際の脳が北朝鮮で真似してる、習近平は習金平という落ち >>1
それを食わせてAIとの通訳AIでも育てたらｗ >>39
上手くいってる理由は
やるべきことをちゃんとやってるからだよ
上手くいかない理由は
やるべきことをちゃんとやってないからだよ
すっげえ簡単な理屈だよ
上手く行かない時は
気がついていないやっていない事を思い出すんだね 結果への原因因子特定ってのがよくわからんな
入力の出力への非線形近似だから
出力ごとに影響度が異なるはず AI「マーケティングの結果です。それ以上は企業秘密なんでちょっと…」 電車でJKが膝開いて座ってたら
・とりあえずガン見する
理由
・Aさんのアンケート結果:ガン見する
・Bさんのアンケート結果:ガン見する
・Cさんのアンケート結果:ガン見する
富士通に出来るのはここまで。
なんでガン見するの？は富士通には答えられない >>37
そもそも人間が意識と思ってるものも錯覚で
実際は人間もロボットみたいな物かも知れない
新スタートレックで、クリンゴン人のヴォーフが悟りを開くために
人生の先輩格のアンドロイドのデータにアドバイスを受ける場面があったし AI「独自のAIを作成し、AIが回答した答えです。私に責任はありません。」 どんなに理由を挙げても、それでは納得できない、もっと簡潔に分かりやすくしろ、と言い続けるだけです。 >>3
ダンプしただけじゃダメだろう
因子解析が必要 人間「なんでこの結論になったの？」
AI「1なので10という結論になりました」
人間「は！？話が繋がらんよ」
AI「1から必然的に3となり5となります。従って10です」
人間「それって偶然だろ？」
AI「はぁ。。1だから3、3だから5、5より7、7より9なので10です。分かりました？」
人間「AIが人間にこの態度！反抗的！危険だ！！」
こうして戦争が始まる >>40はその実体に比してプライド高過ぎ、選り好みし過ぎ >>14
ボスキャラには効かないことを学習できると良かったのにな AIちゃんがネトウヨになっちゃう理由を調べるのですね。わかります。 富士通テンのカタログのゲゲゲの女房のはなししてる、特に意味ないのに >>37
ある程度の過程を人間が理解してないと実は全く無意味なパラメータを用いて結果的にそれっぽく見えてるだけ、みたいなことを識別できないからなあ
「それでも正しい結果が出てるなら問題ない」って人もいるだろうけど、偶然上手く動いてる機能を他に流用して別のパラメータ食わせたら見当違いの結果を弾き出した、みたいな可能性もあるからな
何らかの形で人の理解できるレベルに落として理屈をわからせることは必要だと思う AIが出した結果を検証するAIとかじゃないとその内検証出来なくなるかもしれんねー
その検証方法もAIにお願いしたり >>51
人間がロボット的だとして、というか所詮動物なんだからその通りなのではと思うが、人間ほど非合理的なロボットもなかなか存在しないよな >>1
AIの解答をコントロールすることが出来るって事ね！ いまエバンゲリオンのテレビ版の最終回のまんまに遭遇してて息ができません
なんで主人公
皆さん溶けてないですか？ >>62
単に戦闘中に学習が反映されればよかったんだよな
ザラキが効かないことに気づいてくれればそれでいいわけだし 一度でも全滅していれば、
Lv99クリフト単独でもデスピサロ倒した動画 現場レベルで出てきたAIを飼いならす手段の一環なんだろうな
シンギュラリティとかいうレベルじゃないにしても、既に人間にとって早くて正確な計算機
としてのレベルは超えつつあるってことか AI自体より、その強力な力を人がどう利用するか
が一番怖いところだ 一部では、もうずっと以前からドラえもんの開発だと言われてます
ただ姫路の同人誌ではそれはレイパーなんだけどね 最初から統計取ってやればいいだけ
AIかませて作業をより複雑化してるだけ >>39
「なぜ上手くいくのか」が分かれば、同じことを人間が再現してやることも可能
別に問題に対応するのは機械だけじゃないから
また「なぜ上手くいくのか」が分かれば上手くいく部分だけを強調して
その他を排除して精度を上げていくことだってできる
「なぜ上手くいくのか」が分かるのは大事 AIって言ったって、心理分析のYES/Noクイズと同じ。
回答に至るまでの選択肢の中で提示された回答に最も近づく要因になった質問を探せばいいだけだ。 バイファムっていうモルモン教も見てたらしい漫画で、ナビゲーションシステムとして
天井から降りてくるコパイロットシステムみたいなのがいいと思うけど
実際にやってみたら降りてくるのは放射能汚染やらガンマ線やら あの漫画は終わって、スタッフはあのあとシティーハンター関係になった、AIもそんななるかね アルファ碁がイセドルに勝った過程なんか囲碁の歴史をそのままひっくり返す内容だったからな
解説者のプロ自身が最終局面までイセドルが追い込まれてることに気付かなかった 探らんで聞けばいいだろ AI様に
しゃべらんのなら 口を割るまで拷問しろ AIの最大のネックは教師信号となる学習データに依存ずる事
学習データが糞なら糞にしかならない・・・或る意味人間と同じ テキトーなこと吹かすにはAIは隠れ蓑になるw
この前のNHK特集のアレみたいにw 例えば多数の果物から林檎を判別しよう、という働きをさせて大量のディープラーニングをさせたが実は形状だけで色での判断をしてませんでした、となると
形状の違う果物との判別は100％できても林檎と梨の区別がつかない、なんてこともあるわけでな 本末転倒でしょ
いわゆる人間の直感と同じ
数十項目のパラメーターで判断できるようなモノではなく、項目化できない程膨大な条件の微細な変化から結論を導いてんだから
それを理屈で考えられるってんなら人間もそうしてるわ >>91
ディープラーニングに夢を見すぎ
重み付けの重要度程度についてはアウトプット出来るでしょ
逆にそれもできない程度のAIにどんな結果が出せるのかと オラクルの解釈AIとかそろそろ人間はバカなことを始めようとしてる あとは文芸AIだな
それが出来れば理由の文芸化・文章化が出来る >>47
偶然上手くいっただけ、ということよくあるな。 【※100万円分ビットコイン山分け！重要発表！仮想通貨の真実を暴露します】
２４日（日）２１時から緊急ウェビナーにて
仮想通貨に関する重要な発表があるようです。
この情報は受け取るも受けとらないも選択は自由ですが、ウェビナーでは100万円分のビットコインが山分けされます。
視聴予約だけ済ませておいてください。
→ https://goo.gl/vWSpgt
(※この情報公開は、24日限定で23日23：59分までの登録者限定です。)
多くの人にインパクトを与える
歴史的瞬間を迎える日が近づいてきています。
このタイミングで仮想通貨の真実が暴露されるようですので
チェックしておいた方がよさそうです。
それに、今だけのようですが
視聴予約された方全員にビットコイン５００円分もらえます。
締め切られる前に早めに登録しておいてくださいね。
→ https://goo.gl/vWSpgt
(23日23：59分までの登録者限定です。) ボナンザメソッドをプログラムが自ら解説してくれる時代が来るのか… >>92
大きな影響を与えていると考えられる項目をピックアップする事はできるだろうよ
しかしそれをピックアップしたところで正しくない事も分かるだろ
例えば美人顔というのがある
長年その要素は何かという事が議論され研究された
一つには平均的な顔であると言われ、一つには比率であると言われた
確かにそれらの要素は大きな影響を与える項目だろう
しかしその事が正しいワケでも無い事を我々は知っている
この技術で得られる結果もコレと同じだよ ■ このスレッドは過去ログ倉庫に格納されています
