【人工知能】 AIをもっと賢くするには、だましてやればいい? フェイスブックが新プロジェクトを立ち上げた理由 [朝一から閉店までφ★]
■ このスレッドは過去ログ倉庫に格納されています
人工知能(AI)と、それをだまそうとする人間たちを闘わせる──。そんなユニークな実験プラットフォームを、このほどフェイスブックが立ち上げた。その目的は、既存のテストでは計りきれないAIの「真の賢さ」を計測することにある。
BUSINESS
2020.10.07 WED 08:00
TEXT BY TOM SIMONITE
TRANSLATION BY MUTSUMI FUNAYAMA
WIRED(US)
フェイスブックの人工知能(AI)研究者たちは、アルゴリズムを人間の“悪知恵”に触れさせることで改良しようとしている。
フェイスブックのAI研究所は9月24日、「Dynabench」という名のプロジェクトを立ち上げた。このプロジェクトでは仮想の円形闘技場のようなものがつくられ、そこで人間たちがAIシステムをあの手この手でだまそうとする。
例えば、文章に込められた感情を評価するAIシステムに、ネガティヴに見えるように工夫して書かれたポジティヴな文章を読ませて誤解させたり、ヘイトスピーチのフィルターをだましたりといった具合だ。最初はテキスト処理ソフトウェアを対象に実験が進められるが、今後は音声や画像、インタラクティヴゲームなどの分野も扱うことになるかもしれない。
AIの賢さをより正確に計測する
人間にAIを挑発させる目的は、AIの本当の賢さを(あるいは愚かさを)計測し、さらなる改良のためのデータを得ることだ。
AIの賢さを評価するとき、科学者たちは通常「ベンチマーク」と呼ばれる標準的なデータセットを使い、AIがどれほど正確に画像をラベリングしたり、複数選択肢の質問に答えられたりするかスコアをつけていく。
しかし、フェイスブックの研究者ダウ・キーラによると、これらのテストでは研究者たちが重視している内容を計測できないのだという。「本当に興味があるのは、AIが人間とかかわったときに間違いを犯す頻度です。現在のベンチマークでは、わたしたちがAIの自然言語処理で素晴らしい成果を出しているように見えますが、それは勘違いです。まだまだ、やるべきことはたくさんあるのですから」
研究者たちはAIが人間にだまされたケースを分析することで、アルゴリズムをもっとだまされにくくできるはずだと期待している。
一般のネットユーザーも、AI研究者たちと同じように、AIと対戦してヴァーチャルバッジを獲得する体験を楽しんでくれればとキーラは期待している。だが、このプラットフォームでは、アマゾンのクラウドソーシング・サーヴィス「Amazon Mechanical Turk」を通じて、研究者たちが研究に貢献したユーザーに報酬を支払うこともできるようになる。
また、Dynabenchプラットフォームでは、スタンフォード大学やノースカロライナ大学、ユニヴァーシティ・カレッジ・ロンドンのAI研究室もAIのテストを実施していくという。
答えを察してしまうAIの問題
===== 後略 =====
全文は下記URLで
https://wired.jp/2020/10/07/try-sneak-bad-words-ai-filters-research/ 俺コミュ力でたぶんAIに負けてるわ(´・ω・ `) 善悪の妥当性を決めるのは人間だし本質はどこまで行っても条件検索と変わらん
まぁ条件検索こそ知能の本質なのかもしれないが いやはや。やっぱグーグルとかフェイスブックとか欧米の連中は違うなw
すえ恐ろしいものができそうだ。これでは人間は勝てないだろうw >>1
これね、じつは騙そうとするほうもAIなんだ AI「要するにうちらは人類に必要な真実を生産し供給すればいいんでしょ? >>1
人が勉強して賢くなるのは詐欺師に騙されないようにする為だからAIの強化方法としても正しいと思う >>8
騙すようなデータを集中して与えて鍛え上げる方法もあるよね
FacebookならPyTorchかな 普通に読むと強い表現で批判的な意見を述べてるけど、
行の先頭の文字だけ拾うと応援メッセージ、みたいなやつ?
確かにゴリラの画像を大量に混ぜて顔認識プログラムを鍛え上げれば
いつかは黒人とゴリラの見分けがつくようになる日が来るかも知れんなぁ。 >>16
黒人とゴリラのデータセット作れば今でも見分けられるよ AIにも賢い奴とアホな奴が出てきそうだ。アホなことを教え込めば真面目に極めそう。 AIの賢さではなくて後にSNSでの人の暗記力でなくて賢さもランク付け出来るってことだな 日本は、当初から世界に全く期待されていないみたいだけど、このAI分野で逆転でのしあがることは出来ないのかな。
文科省指導の教育分野、大学・大学院・研究機関等は昭和・平成と年々レベルの低下ばかりだと言うけど、元々日本に向く研究なのに。 この方法論じゃ、どこまでやっても中国語の部屋の辞書を分厚くするだけに過ぎない。 >>13
いやこの「AIの強化」というのは第3次AIブームも大分飽きられてきたから、新たにさらに人を騙す方法を考えようといってるんだぜ >>21
日本マイクロソフトで女の技術者が女子高生つくってるあたり無駄だったし
逆転もなにもAIはたんなるムーブメント的な胡散臭いマスゴミいる限り大学でやるのはしばらくこんなのあるで〜で終わり
あと将棋は日本でのAIはショートカットでほぼ完成し終わった >>21
日本に優れてる部分はない
全員同じマニュアル仕事だけしてればいい 自己学習させて囲碁と将棋覚えさせてたけど
あれはルール覚えと画像認識だけで
やってた感じだな
パソコンの画像記憶は億の数平気だろう
あっという間にプロに勝ってた ロジックの嘘を見抜ければ合格ってとこかな
安倍方式だと
言い張りってのがあるけど 囲碁将棋みたいに、最後はAI vs 人間じゃあ勝負にならなくなるから
たぶんAI同士の闘いになるね。
だから、ネットを使うには個人所有のAI端末が必須になる。
これは御主人様には忠実だが、対ネットは全てを疑いあらゆる
知識知恵を駆使して動き且つ学習するように作っておく。 >>5
騙すどころか
洗脳して奴隷にされるだろ
それも常に武器突きつけられて
反抗したら一族抹殺とか AIは答えが無いものは学べないよ、
あほでAI連呼している馬鹿は答えがなくても学べると思い込む、
全ての結果が答えなら、それも学んでも嘘であり正解でもある、
そこから正解をだすとか嘘もいいところ。 >>1
ガチのAIサービスを提供しているところって極めて少数だろ
AIとかクラウドとか、
本質的には少し前から存在していたものの考え方でしかないし
その名前を掛け替えて中身はそのままのサービスばっかりだよ AIがなければ、これからの人間社会は成り立たないぞ! ☆ 日本人チョロすぎる(笑)マスゴミの工作手口 ☆
壱、日本人の精神を腐敗・堕落させ愚民化させろ。
弐、日本人の女を集中的に狙い洗脳しろ
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ!」という雰囲気を作れ。
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ.
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ!
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ.
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ.
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ!」と植えつけろ。.
拾壱、イケメンブームを定着化させ、「男は外見が全てだ!」と洗脳しろ
ー ソース ー
電通トップ 成田豊は朝鮮生まれ
http://ja.wikipedia.org/wiki/成田豊 【悲報】日本人、ステマに簡単に洗脳される(笑)幼稚な多数決カルト信仰の末路(爆笑)
壱、日本人の精神を腐敗・堕落させ愚民化させろ.
弐、日本人の女を集中的に狙い洗脳しろ!
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ!
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ!」という雰囲気を作れ!
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ!
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ!
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ。
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ!」と植えつけろ。。
拾壱、イケメンブームを定着化させ、「男は外見が全てだ!」と洗脳しろ!
- ソース -
電通グループ会長 成田豊は朝鮮半島生まれ
http://ja.wikipedia.org/wiki だましという不合理は、効率がもっとも高いことの否定であり
知的な賢さには、速度優先の効率的最適解と、速度が非常に遅い最適解に勝ち得る
それがある。
後者に向かうのは非合理という原理を受け入れないといけない、
目の前の問題を的確に解決するテクノロジーではないのは明らかである。 >>1
敵対的強化学習
というのが既にあるが、これはそれとはどう違うんだろう? ■ このスレッドは過去ログ倉庫に格納されています