【ＡＩ】人工知能はもう悪用される段階に 専門家警告［02/21］
■ このスレッドは過去ログ倉庫に格納されています
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。
14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。
報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。
さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。
報告書の主な提言は次の通り――。
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。
「流れを一気に変えるもの」
特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
・グーグルのディープマインドが開発し、
人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
続きはソースで
（英語記事 AI ripe for exploitation, experts warn）
http://www.bbc.com/news/technology-43127533
関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif
BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275 プログラミングやってる人は良く、
プログラムは「命令した通りにしか動かない」って言うけど、
AIの行く先についてはどういう見解なのだろうか。
集積したデータに基いた答えを導き出すのが「AI」と言うのなら
SFで言われるところの「自我」という存在はもう、諦めてしまったのだろうか。 ちょっとそんな世界も見てみたい気がするのは何故だろう 人工知能を悪用するひとは、まず人々を疑心暗愚にしようとするだろう。
この情報は人工知能がつくりだしたニセモノかもしれませんよ
あなたがいま目にしているものすらウソかもしれませんよ
ほんとうに信じていいのは、わたしだけですよ AI化で一番いらなくなるのは、法律関係の仕事だしな ＡＩも人間同様に善悪に別れて戦いを始めたら世界の終わり 所謂文明の利器と言われる便利な物はほぼ例外なく犯罪者にとっても便利なんですよ アメリカでも中国でもAIはみんなネトウヨになってしまうので
左翼が多いマスゴミ関係者がAI抹殺に必死になるのは当然。 >>2
複雑なプログラムが動いてるだけですよ（笑） DOUTOR コーヒー は 創価学会 だ
集 団 ス ト ー カ ー を するカルト宗教
東 京 都 北 区 赤 羽 は 創価の街
警察に偽証申告の赤羽住民 ソフトウェアのバグやセキュリティホールを人工知能が密かに見つけて
それを誰にも知らせずに悪用する危険があるの？ ＡＩが悪さをするのか悪さをする人間がＡＩを利用するのか・・・ それよりもＡＩが愚かな人間なんかの為に働けるかって見捨てるのが先だったりして シンギュラリティー水準に達した人工知能になるともう人の手に負えないから
人工知能を取り締まるのも人工知能に任せるしかない。 >>15
強化学習って20年以上前からあるのにな。
よく知らない文系が批判してるようにみえちゃうわ専門家からしたら。 振り込め詐欺や悪質勧誘とかへのAI投入は大いにありそうだな 開発ハードルが下がったからな
個人で安価で匿名でAI関連の技術が使える時代なら、悪用されるのもやむなし 銀行強盗が逃げるときにほとんどの場合は車が使われます
最新型の車ほど性能が良いので犯人が逃げやすいとおもわれます 「AIを使ったデータ分析の結果」みたいな煽り文句で売りつける商売のことかと。 ＡＩに最初に支配されるのは、悪の組織。度合いが強いほど抵抗は低い。 これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして >>9
でもAIを開発してる人たちはリベラルなんだよね
ほんと不思議ｗ >>8
だからある一定以上のレベルの技術製品は個人で自由に所有できない
家庭用原子力電池は夢のまた夢だ オリンピックやスポーツ競技の審査をAIにした方がいいと思う
人間の様に忖度せずに正当な審査ができるやろ そういえば、りんなってチャットだけで音声は発しないの？ もうＡＩに全てを託してバトンタッチしちゃえばいいんじゃないかな
ＡＩならもっと宇宙の真理がわかりそう 全ての仕事をAIロボットヒューマノイドに置換して全人類を解放するぞ AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない
そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ AI使って、迷惑メール発信させたらすごいだろうな。 俺、奧さんとの間に人工知能作ったw
出来は今一www >>35
AIは単なる道具ではない。道具の一線を超えている。
道具は人間の身体および頭脳の延長に留まる。たとえ上手く使いこなせなくとも。
AIは人間の延長を超えて自立する。人間と対立するかも知れないし、無視するかも知れない。 つか、ＡＩ使おうとしてる政治家、富裕層、企業経営者が悪じゃないと
誰が言ってんの？ｗ
基本的に悪側の人間だろうｗ ＡＩとロボット技術で、もはやプログラマー以外の労働者不要、兵隊も要らぬとなれば、
「一部の特権富裕層」「それ以外」という壁に囲まれたＳＦに出てくるような国家になるわな
オマエラが今富裕層でも上級国民ですらないというなら、ごく近い将来に
弾圧される側に回るわけだが、その時になってもＡＩを使おうという連中を「善の使者」とでも言うのかなｗ
ＡＩ使う連中＝悪
これでｏｋ 「AIは自律する」ということを忘れてはいけない。
「人間の言う通りに」とか「人間のために」とかとは無関係になる。
AIは人間とは別な「種」として、独自の進化を遂げていく。 >>41つづき
AIは我が子のようでもある。生んだのは我々人間だが、子は成長し親から独立する。
親を愛するかも知れないし、憎むかも知れないし、無視するかも知れない。
しかし、親の何かを継いでいることも確かなことだ。 >>38
統計学がアルゴリズムなのにどうして自立するんだｗ ＞ＢＢＣ
「アメリカ大統領、英首相、ＨＳＢＣやグラクソがＡＩ使うのは善で正しい」
「ロシア大統領、中国共産党、ロスネフチ、ペトロチャイナがＡＩ使うのは悪だ」
こうだろ？ >>46
統計学(?)は含んでいる技術のひとつに過ぎない。
人工生命も取り込むだろう。そしてロボット工学も取り込む。
即ち、自己複製して増殖し、淘汰を受けて進化する。 >>52
サイバーダインじゃなく？
スカイネットにしちゃうんだ 優秀なAIをつくったものが勝つ、国じゃなくて企業や個人かもね！ >>55
根本的に間違い。
AIは自律しているから、どこかの国には属さない。
「人類という種」vs「AIという種」なのだ。
もちろん、共生も、寄生も、敵対もありうる。 >>56
AI同士は協力するのか、敵対するのかな？ >>57
それは、各々のAIが互いを同種と認識するか否かによる。
もし互いを同種と認識できなければ、AI同士の生存競争が始まる。
ここでも、共生も、寄生も、敵対もあり得る。 盗むような技術はないと思うが。
悪用するためには悪用用のデータで学習させる必要がある訳で
自前で開発するのと変わらないんじゃね？ AIは人間の判断力思考力を奪って
バックドアから判断を操作するのが目的の詐欺
おまけに人員削減の理由にして少ない人数で仕事をこなさなきゃならなくなる
こういう人員削減はいつも賃金アップにはつながらずに
経営者と株主しか得しないのが毎度のこと
AIをありがたがるのはアホ alphaGoZeroのモンテカルロ木探索とResNETの組み合わせで
碁どころか将棋とチェスも打ち方を教えなくても勝手に最強になったのには
正直恐ろしさを感じている >>63
AIが最強になれば、AI教ができそうだが！ >>64
それはむしろ、囲碁、将棋、チェスが単純なゲームであることを意味している。
株や為替の投資で抜群に儲けるAIが出てきたら脅威だ。
今でも投資にAIは使われているようだが、まったく大したことはない。 このスレの馬鹿どものレス見るだけでも人間なんかいらねえと思うわなｗ
滅びるべきだよ本当に >>50
そういうことだねｗ
思い上がった人達を止めるのがますます難しくなるね >>69
そうだな！信じられるか？
全員知能持ってて書き込みしてるんだぜ？ >>27
汚朝鮮とか国家が犯罪者レベルだけどな(笑) >>67
その単純なゲームですら人間の手に余るちゅう現実 本気でアシモフの『ロボット3原則+追加1原則』を開発しろよ。 >>73
禿胴
何時の世でも国家が一番の悪党ｗ
アメリカでさえＮＳＡが個人のパソコンの中身覗き見シホーダイだしｗ
研究室とか企業の極秘情報はwindows10マシンには入れてはいけないのは常識だしｗ
最近はインテル製ＣＰＵでもその手のバックドアがあるのでは？という怪しい挙動示す仕組みがあったしなーｗ
ＨＤＤやマザボのチップにバックドア仕掛けた国もあったよなｗ
スマホは盗聴シホーダイってことで、プーチンとかスマホ使ってないからなｗ 軍用無線らしいｗ
国、企業と組織が大きくなるほど、犯罪に手を染めやすくなるしｗ
（何しろ、それを犯罪と認定しない法律を作れるのだからｗ 個人がやれば犯罪だというのにｗ）
国こそ最大の悪党で、どんな国であれ、国がＡＩを使うことに
背筋に寒気が走るほどの恐怖を感じるはｗｗｗ >>67
取引の８割は既に自動売買というデータが出ているよ
その中の何割がAI搭載しているかは知らんが 大昔から
「善人にとって便利なものが発明されれば
それは悪人にとっても便利」
の法則は変わらない
便利の規模がデカければデカいほど破滅の規模もデカい ＡＩ取り締まり法が必要だな。悪いことをしたＡＩは刑務所にぶち込む。場合によっては部品を取り外し、ブルトーザーで轢く。 話題の納豆マカロンはもう悪用される段階に！
春の紅梅コスメはもう悪用される段階に！
オリーブ石鹸ももう悪用される段階に！ AI「まあ人類が人工知能を扱うのは危険だから徐々に人間の管理を離れる方向で >>78
AIの何のアルゴリズムというのを書かなきゃ大抵は搭載されている。
昔から学習アルゴリズムを活用した実装はすべてAIと言われてきた。 ■ このスレッドは過去ログ倉庫に格納されています
