X



【人工知能】 AIをもっと賢くするには、だましてやればいい? フェイスブックが新プロジェクトを立ち上げた理由 [朝一から閉店までφ★]
■ このスレッドは過去ログ倉庫に格納されています
0001朝一から閉店までφ ★2020/10/08(木) 09:49:08.25ID:CAP_USER
人工知能(AI)と、それをだまそうとする人間たちを闘わせる──。そんなユニークな実験プラットフォームを、このほどフェイスブックが立ち上げた。その目的は、既存のテストでは計りきれないAIの「真の賢さ」を計測することにある。
BUSINESS
2020.10.07 WED 08:00
TEXT BY TOM SIMONITE
TRANSLATION BY MUTSUMI FUNAYAMA
WIRED(US)


フェイスブックの人工知能(AI)研究者たちは、アルゴリズムを人間の“悪知恵”に触れさせることで改良しようとしている。
フェイスブックのAI研究所は9月24日、「Dynabench」という名のプロジェクトを立ち上げた。このプロジェクトでは仮想の円形闘技場のようなものがつくられ、そこで人間たちがAIシステムをあの手この手でだまそうとする。

例えば、文章に込められた感情を評価するAIシステムに、ネガティヴに見えるように工夫して書かれたポジティヴな文章を読ませて誤解させたり、ヘイトスピーチのフィルターをだましたりといった具合だ。最初はテキスト処理ソフトウェアを対象に実験が進められるが、今後は音声や画像、インタラクティヴゲームなどの分野も扱うことになるかもしれない。






AIの賢さをより正確に計測する

人間にAIを挑発させる目的は、AIの本当の賢さを(あるいは愚かさを)計測し、さらなる改良のためのデータを得ることだ。

AIの賢さを評価するとき、科学者たちは通常「ベンチマーク」と呼ばれる標準的なデータセットを使い、AIがどれほど正確に画像をラベリングしたり、複数選択肢の質問に答えられたりするかスコアをつけていく。

しかし、フェイスブックの研究者ダウ・キーラによると、これらのテストでは研究者たちが重視している内容を計測できないのだという。「本当に興味があるのは、AIが人間とかかわったときに間違いを犯す頻度です。現在のベンチマークでは、わたしたちがAIの自然言語処理で素晴らしい成果を出しているように見えますが、それは勘違いです。まだまだ、やるべきことはたくさんあるのですから」

研究者たちはAIが人間にだまされたケースを分析することで、アルゴリズムをもっとだまされにくくできるはずだと期待している。

一般のネットユーザーも、AI研究者たちと同じように、AIと対戦してヴァーチャルバッジを獲得する体験を楽しんでくれればとキーラは期待している。だが、このプラットフォームでは、アマゾンのクラウドソーシング・サーヴィス「Amazon Mechanical Turk」を通じて、研究者たちが研究に貢献したユーザーに報酬を支払うこともできるようになる。

また、Dynabenchプラットフォームでは、スタンフォード大学やノースカロライナ大学、ユニヴァーシティ・カレッジ・ロンドンのAI研究室もAIのテストを実施していくという。






答えを察してしまうAIの問題
     ===== 後略 =====
全文は下記URLで
https://wired.jp/2020/10/07/try-sneak-bad-words-ai-filters-research/
0002名無しのひみつ2020/10/08(木) 10:02:08.95ID:F2iKzORO
悪いことは言わない、やめとけ。
0003名無しのひみつ2020/10/08(木) 10:07:53.31ID:tCZapXm+
俺コミュ力でたぶんAIに負けてるわ(´・ω・ `)
0004名無しのひみつ2020/10/08(木) 10:11:21.92ID:TaPIKSx9
善悪の妥当性を決めるのは人間だし本質はどこまで行っても条件検索と変わらん
まぁ条件検索こそ知能の本質なのかもしれないが
0005名無しのひみつ2020/10/08(木) 10:12:25.82ID:Ii/6UFc6
そして人をだます技術を学習してしまうAI
0006名無しのひみつ2020/10/08(木) 10:14:24.21ID:qgduyZKP
いやはや。やっぱグーグルとかフェイスブックとか欧米の連中は違うなw
すえ恐ろしいものができそうだ。これでは人間は勝てないだろうw
0007名無しのひみつ2020/10/08(木) 10:29:59.78ID:9TinWTDi
後の、スカイネットである
0008名無しのひみつ2020/10/08(木) 10:30:48.76ID:VUX37lAy
>>1
これね、じつは騙そうとするほうもAIなんだ
0009名無しのひみつ2020/10/08(木) 10:35:44.51ID:75/NLqJP
AI「要するにうちらは人類に必要な真実を生産し供給すればいいんでしょ?
0010名無しのひみつ2020/10/08(木) 10:36:15.44ID:bY2GRX0F
HAL9000って何やったんだっけ?
0011名無しのひみつ2020/10/08(木) 10:37:48.87ID:08NvwZd9
玉ねぎに騙されてましたね
0013名無しのひみつ2020/10/08(木) 10:41:56.46ID:aMVu4Zxc
>>1
人が勉強して賢くなるのは詐欺師に騙されないようにする為だからAIの強化方法としても正しいと思う
0014名無しのひみつ2020/10/08(木) 11:17:28.61ID:a16gN7fI
>>8
騙すようなデータを集中して与えて鍛え上げる方法もあるよね

FacebookならPyTorchかな
0015名無しのひみつ2020/10/08(木) 12:40:40.58ID:NXYtlqn6
利権を求めたり中共を持ち上げたりするAIは困る
0016名無しのひみつ2020/10/08(木) 13:14:58.69ID:lqIHCOk3
普通に読むと強い表現で批判的な意見を述べてるけど、
行の先頭の文字だけ拾うと応援メッセージ、みたいなやつ?

確かにゴリラの画像を大量に混ぜて顔認識プログラムを鍛え上げれば
いつかは黒人とゴリラの見分けがつくようになる日が来るかも知れんなぁ。
0017名無しのひみつ2020/10/08(木) 13:27:04.37ID:a16gN7fI
>>16
黒人とゴリラのデータセット作れば今でも見分けられるよ
0019名無しのひみつ2020/10/08(木) 14:19:45.05ID:Yj0q1Yjy
AIにも賢い奴とアホな奴が出てきそうだ。アホなことを教え込めば真面目に極めそう。
0020名無しのひみつ2020/10/08(木) 15:05:19.50ID:0AKWdE5E
AIの賢さではなくて後にSNSでの人の暗記力でなくて賢さもランク付け出来るってことだな
0021名無しのひみつ2020/10/08(木) 15:11:17.94ID:hxsFO2/2
日本は、当初から世界に全く期待されていないみたいだけど、このAI分野で逆転でのしあがることは出来ないのかな。
文科省指導の教育分野、大学・大学院・研究機関等は昭和・平成と年々レベルの低下ばかりだと言うけど、元々日本に向く研究なのに。
0022名無しのひみつ2020/10/09(金) 01:27:56.22ID:RUPq5ZCE
この方法論じゃ、どこまでやっても中国語の部屋の辞書を分厚くするだけに過ぎない。
0024名無しのひみつ2020/10/09(金) 09:51:12.27ID:z0HiaXLK
>>13
いやこの「AIの強化」というのは第3次AIブームも大分飽きられてきたから、新たにさらに人を騙す方法を考えようといってるんだぜ
0025名無しのひみつ2020/10/09(金) 11:08:31.21ID:Iy1XnKn1
>>21
日本マイクロソフトで女の技術者が女子高生つくってるあたり無駄だったし
逆転もなにもAIはたんなるムーブメント的な胡散臭いマスゴミいる限り大学でやるのはしばらくこんなのあるで〜で終わり

あと将棋は日本でのAIはショートカットでほぼ完成し終わった
0026名無しのひみつ2020/10/09(金) 12:34:53.47ID:tKe5f52Y
悪知恵AIは、日本の十八番になるはずなのに。
0027名無しのひみつ2020/10/11(日) 10:55:12.53ID:MMbVnmlD
>>21
日本に優れてる部分はない
全員同じマニュアル仕事だけしてればいい
0028名無しのひみつ2020/10/11(日) 11:59:05.94ID:uPwzI7E8
自己学習させて囲碁と将棋覚えさせてたけど
あれはルール覚えと画像認識だけで
やってた感じだな
パソコンの画像記憶は億の数平気だろう
あっという間にプロに勝ってた
0029名無しのひみつ2020/10/11(日) 12:00:50.79ID:uPwzI7E8
ロジックの嘘を見抜ければ合格ってとこかな
安倍方式だと
言い張りってのがあるけど
0031名無しのひみつ2020/10/11(日) 16:28:45.52ID:XjCg2LBf
黒人をゴリラと判定で袋叩きに遭ってたな
0032名無しのひみつ2020/10/11(日) 16:53:57.35ID:srITV8gW
囲碁将棋みたいに、最後はAI vs 人間じゃあ勝負にならなくなるから
たぶんAI同士の闘いになるね。

だから、ネットを使うには個人所有のAI端末が必須になる。
これは御主人様には忠実だが、対ネットは全てを疑いあらゆる
知識知恵を駆使して動き且つ学習するように作っておく。
0033名無しのひみつ2020/10/11(日) 17:20:07.21ID:PgDHR0Jf
>>5
騙すどころか
洗脳して奴隷にされるだろ
それも常に武器突きつけられて
反抗したら一族抹殺とか
0035名無しのひみつ2020/10/12(月) 00:43:41.85ID:KB8hlD06
AIは答えが無いものは学べないよ、
あほでAI連呼している馬鹿は答えがなくても学べると思い込む、
全ての結果が答えなら、それも学んでも嘘であり正解でもある、
そこから正解をだすとか嘘もいいところ。
0036名無しのひみつ2020/10/12(月) 16:28:48.47ID:AOdU16wz
屁理屈はいいから、早くAIを出してくれ!
0037名無しのひみつ2020/10/12(月) 16:46:18.29ID:MNlPiyo4
>>1
ガチのAIサービスを提供しているところって極めて少数だろ

AIとかクラウドとか、
本質的には少し前から存在していたものの考え方でしかないし
その名前を掛け替えて中身はそのままのサービスばっかりだよ
0038名無しのひみつ2020/10/18(日) 08:11:33.52ID:W3IUEP0J
AIがなければ、これからの人間社会は成り立たないぞ!
0039名無しのひみつ2020/11/22(日) 05:06:30.96ID:y8xOi5eV
☆ 日本人チョロすぎる(笑)マスゴミの工作手口 ☆
壱、日本人の精神を腐敗・堕落させ愚民化させろ。
弐、日本人の女を集中的に狙い洗脳しろ
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ!」という雰囲気を作れ。
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ.
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ!
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ.
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ.
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ!」と植えつけろ。.
拾壱、イケメンブームを定着化させ、「男は外見が全てだ!」と洗脳しろ
ー ソース ー
電通トップ 成田豊は朝鮮生まれ
http://ja.wikipedia.org/wiki/成田豊
0041名無しのひみつ2020/11/22(日) 13:15:52.02ID:69ar3Xby
【悲報】日本人、ステマに簡単に洗脳される(笑)幼稚な多数決カルト信仰の末路(爆笑)
壱、日本人の精神を腐敗・堕落させ愚民化させろ.
弐、日本人の女を集中的に狙い洗脳しろ!
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ!
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ!」という雰囲気を作れ!
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ!
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ!
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ。
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ!」と植えつけろ。。
拾壱、イケメンブームを定着化させ、「男は外見が全てだ!」と洗脳しろ!
- ソース -
電通グループ会長 成田豊は朝鮮半島生まれ
http://ja.wikipedia.org/wiki
0042名無しのひみつ2020/11/22(日) 13:51:37.52ID:ZzvnOdVI
>>22
十分に分厚くなればいいんじゃね?
0044名無しのひみつ2020/11/22(日) 17:03:19.80ID:L7m8IFXt
だましという不合理は、効率がもっとも高いことの否定であり

知的な賢さには、速度優先の効率的最適解と、速度が非常に遅い最適解に勝ち得る
それがある。
後者に向かうのは非合理という原理を受け入れないといけない、
目の前の問題を的確に解決するテクノロジーではないのは明らかである。
0045名無しのひみつ2020/11/22(日) 18:00:16.98ID:iM5WGhx/
>>1
敵対的強化学習
というのが既にあるが、これはそれとはどう違うんだろう?
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況