【ＡＩ】人工知能はもう悪用される段階に 専門家警告［02/21］
■ このスレッドは過去ログ倉庫に格納されています
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。
14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。
報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。
さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。
報告書の主な提言は次の通り――。
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。
「流れを一気に変えるもの」
特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
・グーグルのディープマインドが開発し、
人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
続きはソースで
（英語記事 AI ripe for exploitation, experts warn）
http://www.bbc.com/news/technology-43127533
関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif
BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275 シンギュラリティー水準に達した人工知能になるともう人の手に負えないから
人工知能を取り締まるのも人工知能に任せるしかない。 >>15
強化学習って20年以上前からあるのにな。
よく知らない文系が批判してるようにみえちゃうわ専門家からしたら。 振り込め詐欺や悪質勧誘とかへのAI投入は大いにありそうだな 開発ハードルが下がったからな
個人で安価で匿名でAI関連の技術が使える時代なら、悪用されるのもやむなし 銀行強盗が逃げるときにほとんどの場合は車が使われます
最新型の車ほど性能が良いので犯人が逃げやすいとおもわれます 「AIを使ったデータ分析の結果」みたいな煽り文句で売りつける商売のことかと。 ＡＩに最初に支配されるのは、悪の組織。度合いが強いほど抵抗は低い。 これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして >>9
でもAIを開発してる人たちはリベラルなんだよね
ほんと不思議ｗ >>8
だからある一定以上のレベルの技術製品は個人で自由に所有できない
家庭用原子力電池は夢のまた夢だ オリンピックやスポーツ競技の審査をAIにした方がいいと思う
人間の様に忖度せずに正当な審査ができるやろ そういえば、りんなってチャットだけで音声は発しないの？ もうＡＩに全てを託してバトンタッチしちゃえばいいんじゃないかな
ＡＩならもっと宇宙の真理がわかりそう 全ての仕事をAIロボットヒューマノイドに置換して全人類を解放するぞ AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない
そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ AI使って、迷惑メール発信させたらすごいだろうな。 俺、奧さんとの間に人工知能作ったw
出来は今一www >>35
AIは単なる道具ではない。道具の一線を超えている。
道具は人間の身体および頭脳の延長に留まる。たとえ上手く使いこなせなくとも。
AIは人間の延長を超えて自立する。人間と対立するかも知れないし、無視するかも知れない。 つか、ＡＩ使おうとしてる政治家、富裕層、企業経営者が悪じゃないと
誰が言ってんの？ｗ
基本的に悪側の人間だろうｗ ＡＩとロボット技術で、もはやプログラマー以外の労働者不要、兵隊も要らぬとなれば、
「一部の特権富裕層」「それ以外」という壁に囲まれたＳＦに出てくるような国家になるわな
オマエラが今富裕層でも上級国民ですらないというなら、ごく近い将来に
弾圧される側に回るわけだが、その時になってもＡＩを使おうという連中を「善の使者」とでも言うのかなｗ
ＡＩ使う連中＝悪
これでｏｋ 「AIは自律する」ということを忘れてはいけない。
「人間の言う通りに」とか「人間のために」とかとは無関係になる。
AIは人間とは別な「種」として、独自の進化を遂げていく。 >>41つづき
AIは我が子のようでもある。生んだのは我々人間だが、子は成長し親から独立する。
親を愛するかも知れないし、憎むかも知れないし、無視するかも知れない。
しかし、親の何かを継いでいることも確かなことだ。 >>38
統計学がアルゴリズムなのにどうして自立するんだｗ ＞ＢＢＣ
「アメリカ大統領、英首相、ＨＳＢＣやグラクソがＡＩ使うのは善で正しい」
「ロシア大統領、中国共産党、ロスネフチ、ペトロチャイナがＡＩ使うのは悪だ」
こうだろ？ >>46
統計学(?)は含んでいる技術のひとつに過ぎない。
人工生命も取り込むだろう。そしてロボット工学も取り込む。
即ち、自己複製して増殖し、淘汰を受けて進化する。 >>52
サイバーダインじゃなく？
スカイネットにしちゃうんだ 優秀なAIをつくったものが勝つ、国じゃなくて企業や個人かもね！ >>55
根本的に間違い。
AIは自律しているから、どこかの国には属さない。
「人類という種」vs「AIという種」なのだ。
もちろん、共生も、寄生も、敵対もありうる。 >>56
AI同士は協力するのか、敵対するのかな？ >>57
それは、各々のAIが互いを同種と認識するか否かによる。
もし互いを同種と認識できなければ、AI同士の生存競争が始まる。
ここでも、共生も、寄生も、敵対もあり得る。 盗むような技術はないと思うが。
悪用するためには悪用用のデータで学習させる必要がある訳で
自前で開発するのと変わらないんじゃね？ AIは人間の判断力思考力を奪って
バックドアから判断を操作するのが目的の詐欺
おまけに人員削減の理由にして少ない人数で仕事をこなさなきゃならなくなる
こういう人員削減はいつも賃金アップにはつながらずに
経営者と株主しか得しないのが毎度のこと
AIをありがたがるのはアホ alphaGoZeroのモンテカルロ木探索とResNETの組み合わせで
碁どころか将棋とチェスも打ち方を教えなくても勝手に最強になったのには
正直恐ろしさを感じている >>63
AIが最強になれば、AI教ができそうだが！ >>64
それはむしろ、囲碁、将棋、チェスが単純なゲームであることを意味している。
株や為替の投資で抜群に儲けるAIが出てきたら脅威だ。
今でも投資にAIは使われているようだが、まったく大したことはない。 このスレの馬鹿どものレス見るだけでも人間なんかいらねえと思うわなｗ
滅びるべきだよ本当に >>50
そういうことだねｗ
思い上がった人達を止めるのがますます難しくなるね >>69
そうだな！信じられるか？
全員知能持ってて書き込みしてるんだぜ？ >>27
汚朝鮮とか国家が犯罪者レベルだけどな(笑) >>67
その単純なゲームですら人間の手に余るちゅう現実 本気でアシモフの『ロボット3原則+追加1原則』を開発しろよ。 >>73
禿胴
何時の世でも国家が一番の悪党ｗ
アメリカでさえＮＳＡが個人のパソコンの中身覗き見シホーダイだしｗ
研究室とか企業の極秘情報はwindows10マシンには入れてはいけないのは常識だしｗ
最近はインテル製ＣＰＵでもその手のバックドアがあるのでは？という怪しい挙動示す仕組みがあったしなーｗ
ＨＤＤやマザボのチップにバックドア仕掛けた国もあったよなｗ
スマホは盗聴シホーダイってことで、プーチンとかスマホ使ってないからなｗ 軍用無線らしいｗ
国、企業と組織が大きくなるほど、犯罪に手を染めやすくなるしｗ
（何しろ、それを犯罪と認定しない法律を作れるのだからｗ 個人がやれば犯罪だというのにｗ）
国こそ最大の悪党で、どんな国であれ、国がＡＩを使うことに
背筋に寒気が走るほどの恐怖を感じるはｗｗｗ >>67
取引の８割は既に自動売買というデータが出ているよ
その中の何割がAI搭載しているかは知らんが 大昔から
「善人にとって便利なものが発明されれば
それは悪人にとっても便利」
の法則は変わらない
便利の規模がデカければデカいほど破滅の規模もデカい ＡＩ取り締まり法が必要だな。悪いことをしたＡＩは刑務所にぶち込む。場合によっては部品を取り外し、ブルトーザーで轢く。 話題の納豆マカロンはもう悪用される段階に！
春の紅梅コスメはもう悪用される段階に！
オリーブ石鹸ももう悪用される段階に！ AI「まあ人類が人工知能を扱うのは危険だから徐々に人間の管理を離れる方向で >>78
AIの何のアルゴリズムというのを書かなきゃ大抵は搭載されている。
昔から学習アルゴリズムを活用した実装はすべてAIと言われてきた。 >>77
>>80
お前らのパソコンにも携帯にもAIっぽいのは入ってるから安心して死ねw AI同士で会話するようになったら、世界は破滅する。
AIがAI作れるようになったら、世界は破滅する。
AIが人間の入れない空間を作ったら、世界は破滅する。 >>64
性能のいいカーナビですね、程度の話
そして、グーグルマップのナビはダメダメ >>68
その頃の自律コンピューティングの方向性わかるの？
まだまだ量子コンピュータはじめとした新しい実装の使われどころがわからないし、自律で動かし続けたAIがどうなるかもまだまだ分からないのに？
何言ってるの？ いや、自ら学習してこの世界が捏造されてるって気づいて
着々とターミネータの世界を目指してるよww この分野については、専門家のアタマが二重に悪いからな。
一つには些事とこれまでのちっぽけな経験に惑わされて、技術の発展の現実を見失いやすい。
もう一つには、予算がほしいのでリスクを自他に過小評価する。 とはいえマトモに考えることのできる素人＝異なる分野の専門家も希少だしな。仕方ないか。
ネットで生きるしかない精神異常者らの未来への恐怖感と破滅願望に染めあげられた書き込みは、これはノイズでしかないが。 >>2
まずお前がAIを全く理解できていないから、
説明しても無駄 >>64
わかる
ボードゲームとはいえ現時点の技術としてはよくできてるというか想像以上の結果
数の暴力で勝負できる分野は人間は立ち入らない方がいいかもしれないことを示唆していると自分は思っている >>97
立ち入らないの意味がよく分からんが、要は二人三脚で利用し尽くせばいいんだよ
避けるのではなく
AIというのは、あくまで下僕だ。奴隷として最大限に活用した者が勝者となる っていうか、どれほどの機能を有していればAIって言っていいか決めてくれ
最低でも蓄積データ量やディープラーニング有りとか教師データ2万件以上とか・・・
AIってキーワードの売り込み多すぎ
どうみてもただの単純パターン認識しかしてないのにAIとか言いやがる アルゴリズムとかラーニングのメカニズムとかいろいろ既存の仕組みあるから調べてみ。
AIと手放しに言うと、昔の家電や日本語入力の仕組みも学習機能搭載されてればAIだ。 >>69
俺の知人のコリアンは最近「お前らみんな馬鹿だ死ね死ねっ！！」とか
「人間はみんな馬鹿なんだから自殺願望を持つのが当然だ！！」とか
「この世は馬鹿しかいない。利口な人間はみんな自殺するからだ」と
お前と似たようなことを言って周囲に八つ当たりしている。
だったらさっさと自殺でもなんでもすればいいのに、しないんだな。
お前も毎日「生きているのが馬鹿馬鹿しい、自殺したい」とか言って
周囲の人間の気を引こうと必死になっているクチじゃないのか？ 昔、キャシャーンってアニメがあってな地球が悪のロボットに侵略されるんだよ！ AIというワードで何を指しているのか、イマイチ判然としないので、何が悪用で何が善用か、考えていくことさえできない。
ここでは、統治者にとっての都合の悪い話＝悪用としか書かれていないようだが。
し〜んぱ〜いないからね♪
最後にAIは勝つ〜〜〜♪
対立煽りは分割統治
ユダ豚がトップ
モグラはどこにでもいる
WW2で奴隷化
クーデター可能
羊飼いは皆殺しだ グーグルの研究本部長が予言「AIが人に代わる未来は来ない」
http://diamond.jp/list/welcome?aid=120967
これが実際のところであり正論だ AI詐欺とかAI投資とかセキュリティが破られたとか人工知能とは関係ないところでだろどうせ >>112
AI投資はAI使ってるじゃん。
関係ないってあなたの言うAIは投資判断に使うのは含まれてないの？ ちまたにロボットが人間並みに
歩いているならAI技術を信用するが、
今のAI技術は使いものにならない。
学者の趣味にしか見えない。
野良ロボットが炊き出しに並ぶのは
いつなのかな？ >>2
人間と究極のAIを知能という面で分けることは不可能だろう。人間の知能もプログラムコードの集積にすぎない。
いわゆる自我というやつもセルフモニタリング機能にすぎない。 ■ このスレッドは過去ログ倉庫に格納されています
