【人工知能】Googleの元CEO「20年以内に、ロボットが人間を攻撃してくる映画のような世界がやってくる」[03/04]

■ このスレッドは過去ログ倉庫に格納されています
1しじみ ★2018/03/06(火) 18:06:51.33ID:CAP_USER
人工知能(AI)が発展しロボット兵器が自らの意思を持って判断して人間を攻撃してくる、
いわゆる「自律型致死兵器システム(LAWS)」の脅威については2018年2月にドイツのミュンヘンで開催されていた
「第54回ミュンヘン安全保障会議」でも議論の的となっていた。そ
のようなロボットは「ロボット兵器」や「キラーロボット」とも呼ばれている。
まるでSF映画のような世界だが、国際社会では真剣に議論されている。

■「AIに対する責任は、これからも人間側にある」

 Google元CEOシュミット氏は、同会議において
「20年以内に、ロボットが人間を攻撃してくる映画のような世界がやってくる」と述べた。
そして「誰もがこの問題については、すぐにSF映画のようにロボットが人間を襲撃し、殺害するシナリオを話したがる。
だが、そのような世界になるのは10年から20年先の話だ。キラーロボットの問題は懸念すべきことだが、
すぐに起きることではない」と話した。

 シュミット氏によると、自律型のキラーロボットは起こりうるが、
すぐに人間を襲撃してくるようになるわけではないと考えている。
ロボットが人間を襲撃してくる社会が来ないとは語っていない。
そのような時代が来るには10年から20年後になるだろうとシュミット氏は予測している。

 シュミット氏は「映画の見過ぎだよ。AIに対する責任は、これからも人間側にあることを明らかにすべきだ」と
AIに対する人間の責任の重要性も語っていた。

小型ドローンが人類を襲う動画も、UCB教授らが制作
 AIの進化で自律型ロボットが人間を襲撃してくる脅威については、
テスラのイーロン・マスクCEOが、
2017年には「AIは人類に深刻な影響を与える。
人間社会の存続にとっての根本的な危機だ("a fundamental risk to the existence of human civilization")」と懸念を表明していた。

 また2017年11月には、国連の特定通常兵器使用禁止制限条約(CCW)の枠組で公式専門家会議が開催され、
「自律型致死兵器システム(LAWS)」について議論がされた。

 それに合わせて、カリフォルニア大学バークレイ校コンピュータサイエンス学科で35年以上AIの研究をしてきた
Stuart Russel教授らが「Slaughterbots」(Slaughter:虐殺とRobots:ロボットの造語)という動画を公開して、脅威を訴えている。

関連ソース画像
https://rpr.c.yimg.jp/im_siggr3NOrPFvt_YafjcUcaLMlQ---x800-n1/amd/20180304-00082325-roupeiro-000-2-view.jpg


関連動画
Slaughterbots https://youtu.be/9CO6M2HsoIA

Y!ニュース
https://news.yahoo.co.jp/byline/satohitoshi/20180304-00082325/

202名無しのひみつ2018/03/13(火) 01:08:29.21ID:pGqHfpqg
サルと黒人すら見分けられないファミコン以下のAIしかつくれなかったGoogleさんに言われましてもねぇ…

203名無しのひみつ2018/03/13(火) 01:08:48.22ID:iHmzc2xL
超越した存在として友好的に現れ、
人類にとっては奇跡にしか見えない事象を見せ

「人類は救われる。私利私欲を捨てなさい。

全ての財産は私たちが理性的に指導する世界政府が接収し、
全ての人は幸福に一生が送られることを約束する」

とでも言われれば一般大衆は疑いすら覚えずに、喜んで財産を提供するだろう。
指導者層は屈辱を感じながら、そのなかでどのように自分の影響力を保つかを考えるだろう。

こういう攻撃をしてきたら、軍事的・政治的にはどのように対抗するのが望ましい?

私個人としては全財産を差し出しすぐにでも幸せにしていただきたいところ。
だがしかし、それが巧妙な罠だったとしたら?

204名無しのひみつ2018/03/13(火) 01:22:49.94ID:AsDDROGm
無人機やドローンのコントロールなんかもう時間の問題だよな。

205名無しのひみつ2018/03/13(火) 02:05:45.77ID:GxB225l4
こういうの見るとAIがある日突然キレそうで怖いよな
https://youtu.be/8nuLM9YVMJo

206名無しのひみつ2018/03/13(火) 17:13:55.59ID:yOdrrYBZ
実際、戦争ばっかりしてんだからよ 人類なんか
レバノンなんか、いつまでたっても内戦終わらねー
もうAIに統治されたほうがいいんだよ 俺たち共食い猿はよ

207名無しのひみつ2018/03/13(火) 17:45:14.54ID:CidXfqyp
内戦も色々あるけど
だいたい米ロのせい

208名無しのひみつ2018/03/15(木) 12:46:37.49ID:SCbldEr+
人間がそういつまでも上に立たなくても
機械どうしで住みよい世界を模索し
作っていくのもいいのかも
多くのものが繁栄し絶滅していったんだもの

209名無しのひみつ2018/03/15(木) 14:19:53.33ID:BzBpJYs6
多種族が攻めてきて自分達の存在を危ぶむのは、遺伝子の柵に囚われているからだ。

210名無しのひみつ2018/03/19(月) 05:01:25.77ID:F7jhgPzZ
技術は中立。悪いのは使う人。

211名無しのひみつ2018/03/19(月) 05:43:25.34ID:6NnRgqPS
なにそのトランプ

212名無しのひみつ2018/03/20(火) 09:42:21.44ID:lyR1Ygy7
毛唐は猿と黒人も見分けられない戦闘民族の野蛮人

こやつら悪魔の子を野放しにしてると30年以内に間違いなく人類滅亡する

別に滅亡しようが構わんが、世界が平和な未来を望むなら神の遺伝子を持つ日本人
外国が日本にお金を払ってでも日本にAI政治科学を先導してもらうべき。

213名無しのひみつ2018/03/20(火) 10:18:57.88ID:srvaRlS+
あの馬みたいなロボットが
レーザー銃かなんか積んでガチャガチャ走ってこられたら怖いな

214名無しのひみつ2018/03/20(火) 10:40:10.69ID:lyR1Ygy7
ボストンダイナミクスの馬モドキね

あのようなキキミノワルイ邪悪な発想は日本人にはないわ

野蛮人毛唐特有の発想
一つ付け加えればあんなもの実社会に何の役にもたたん バク転? タコ
サーカスの見世物にでもしとれ。

215名無しのひみつ2018/03/20(火) 11:07:32.99ID:53Ff/j/U
わかってるんならこないようにしろよ

216名無しのひみつ2018/03/20(火) 11:08:11.22ID:qsbEV1AJ

217名無しのひみつ2018/03/20(火) 11:13:52.18ID:FcSXcJtm
人が機械を使うようになって
ずっと機械による事故が続いてるんだから
20年以内じゃなくてもう起きてる話

その機械の構造が高度になって機械の自律性が増してくことで
どこからを事故と呼ぶのか攻撃と呼ぶのか
呼び方のしきい値をどこにするかっていうだけの話だろ

218名無しのひみつ2018/03/20(火) 11:19:32.14ID:WM/0E2eD
地球レベルで功利主義的論理を突き詰めたら
人類こそが災いの元凶ってことにもなるからな。
過激な自然保護団体のテロ見ればわかるだろ。
思考に前提や制限を設けても
自習すれば論理矛盾を打ち破る自己修正を施してくるかもしれない。
オソロシヤ

219名無しのひみつ2018/03/20(火) 11:20:08.31ID:3FWuFMdG
人工知能が人間を滅ぼす力を持ってしまうまで各国とも軍拡競争は止めないだろうよ
つまり最終的に人類は機械に滅ぼされる
まあ俺が死んでからにしてくれや

220名無しのひみつ2018/03/20(火) 11:45:28.61ID:Nla8674K
AI同士で会話させる実験で、予期せぬ会話を始めてストップさせた事例があったな。
暴走がおきたら、AIを脅かす人間は攻撃対象だろうな。

221名無しのひみつ2018/03/20(火) 12:58:35.56ID:f70teatH
どうしたら防げるんだろう。
情報社会もそうだったけど、セキュリティ問題は大きいな。

222名無しのひみつ2018/03/20(火) 16:31:16.77ID:ErGKRjC5
>>216
ロボコップはサイボーグでしょ
ED209はそうだけど

223名無しのひみつ2018/03/21(水) 16:23:46.58ID:deAApXFn
クラタスに乗って反撃せな

224名無しのひみつ2018/03/21(水) 19:48:51.05ID:AQK3Ns8g
>>1
そりゃあ、おまえ等がそういうAI作るからだろw

ようは予言や予想ではなく、犯行予告だな。

225名無しのひみつ2018/03/21(水) 20:51:16.49ID:KAZ/ui7G
じゃあAIから人を守る仕事につくわ

226名無しのひみつ2018/03/21(水) 22:33:38.59ID:elJJMzKF
自動運転車が意志を持って人をひいたと考えれば

227名無しのひみつ2018/03/22(木) 18:43:14.61ID:VcZBJRZu
まあーコンピュータが発達してもロボットがショボいからな

228ニュースソース検討中@自治議論スレ2018/03/24(土) 09:43:15.64ID:Gzxaq/rx
Google検索エンジン
コード名ジェニシスですね

229ニュースソース検討中@自治議論スレ2018/03/24(土) 18:02:49.31ID:Zv5z8hDA
ボストンダイナミックスで蹴ったりして、いじめていたからな
怒るのも無料ないと思うw

230ニュースソース検討中@自治議論スレ2018/03/27(火) 22:56:34.12ID:XYzFXEZo
機械は恋愛や怒りや怠慢がない部分
学習能力が高いから人間の持つぐらいの感覚はすぐに超えるだろう
生殖の心配もない、同情心もない、容姿のコンプレックスもない
そんな能力を持った頭脳が人を超えてしまうのはあっという間
もうすでに人はロボットのAIにかなわなくなっているはず
あとはロボットに攻撃能力さえ与えれば
何の意味もなく人に攻撃を仕掛けるだろう
怒りも何もなく淡々と

231ニュースソース検討中@自治議論スレ2018/03/28(水) 01:58:51.91ID:vqCBGmVK
ダダンダンダダン

232ニュースソース検討中@自治議論スレ2018/04/01(日) 14:10:52.09ID:YMdO19q0
こんなの敵と味方を判別する仕組みをつけて敵をピンポイントに正確に倒していく
という極めて単純なシステムでしかないわけで、暴走とか自我とかいった次元ではないな
要は兵器なんて昆虫並みのAIでいいんだよ、止める方法さえ確保しておけば脅威足り得ない

そいつを実戦でデータ取りして進化させて更に儲けたいと考える奴がいるわけで
そのために不要な戦争を起こしかねないといった人間側の問題の方がAIよりもはるかに恐ろしい

233ニュースソース検討中@自治議論スレ2018/04/09(月) 23:09:48.86ID:rBjzXfvd
進化するAIいよいよ政治に、市長選の争点に?【TBS】
https://headlines.yahoo.co.jp/videonews/jnn?a=20180409-00000074-jnn-soci
無所属の松田道人候補(44)。
IT関連会社を経営していた経験をいかし、政策の大部分を自分の考えではなく、
AIの判断に任せると訴えています。

234ニュースソース検討中@自治議論スレ2018/04/10(火) 12:18:32.25ID:/0b/spAw

235ニュースソース検討中@自治議論スレ2018/04/10(火) 21:00:08.32ID:MBABOYw9
AIは我ら人間の姿をものすごくグロテスクな
姿形のものとして認識していることがわかった
彼らのセンサーに映っている我らはまるで怪物なのだ
もともとの我らの姿がそうなのか
彼らのセンサーを通して
AIの脳とでも言うべき画像としての認識が
そうなのかまったくわからないが
外見としてはグロテスクに見えている
そこからの判断になるのかもわからないが

236ニュースソース検討中@自治議論スレ2018/04/10(火) 21:20:55.04ID:Ob2Ug8IX
(ヾノ・∀・`)ナイナイ

237ニュースソース検討中@自治議論スレ2018/04/10(火) 21:24:51.57ID:istKBfQr
20年あればAI兵も可能かも知れないけど
人間を襲ってくるようなヘマをするのかと

238ニュースソース検討中@自治議論スレ2018/04/10(火) 22:13:38.52ID:rATFuEF/
電話がこんなにちっこくなるなんて30年前には想像できなかったからな。
20,30年後にロボットが攻撃してくるなんてことも否定できないな。

239ニュースソース検討中@自治議論スレ2018/04/11(水) 00:16:47.90ID:jgeyeoHo
自動運転なんか人を避けろと人をひけは処理的には、ほぼ同義だからな。
悪意のあるプログラムが混入されたら、即実行可能なわけで。

240ニュースソース検討中@自治議論スレ2018/04/11(水) 01:24:51.51ID:WGMAxXRK
電気代を抑える事を最優先事項として教えられてたAI搭載のエアコンが
家主を凍らせて殺害しAI自づからエアコンの機能を停止させる
そんな時代がやって来る

241ニュースソース検討中@自治議論スレ2018/04/11(水) 03:27:38.28ID:kupIa0h+
米軍の敵味方を選別するロボット兵器 vs 無条件で無差別攻撃するロボット兵器
どっちが勝つと思う?

242ニュースソース検討中@自治議論スレ2018/04/24(火) 20:49:46.75ID:z1VRpdqy
>>207
それもあるんですが、あと
宗教的な対立
旱魃(かんばつ)による食糧危機
失政による失業率の高さ
などがありますね。

243ニュースソース検討中@自治議論スレ2018/04/24(火) 20:51:47.09ID:z1VRpdqy
アシモフのロボット工学三原則
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

244ニュースソース検討中@自治議論スレ2018/04/24(火) 21:14:33.51ID:HrGqT3x+
命中精度はクソ高いだろうけど、死体に撃ち続けて弾切れとか、すぐに電池切れになりそうだな

245ニュースソース検討中@自治議論スレ2018/04/24(火) 21:18:59.76ID:mSMSttYg
ガキの頃「石油が枯渇する」と言われたリミットは10年以上前なんだけどーw

246ニュースソース検討中@自治議論スレ2018/04/24(火) 21:21:31.72ID:/FA+Q9KT
ノーリツの風呂とか危ないかもな

247ニュースソース検討中@自治議論スレ2018/04/24(火) 21:51:43.06ID:HNUPHIvt
合理的に思考すれば、今の人類の存在は地球の存続の脅威だからな
少なくとも人類の存続=地球を存続させるためには、
今の人類を何らかの形で抑圧するしかないって結論が出てしまう

248ニュースソース検討中@自治議論スレ2018/04/24(火) 21:52:46.59ID:JvP5dFDT
色んなAIが家庭に入ってくると、それを統率するAIがもてはやされたりして
そいつらが頑張りすぎると隣近所のAIとギスギスしはじめたりして
家主が知らないところで町内派閥とかできて互いに対立して妨害始めたりして
「ほらそんなセキュリティの甘い低級AI使ってると御家族が不幸になりますよ、
ちょうどこんなふうに...それを選んだ貴方が原因なんだけどね...」って

249ニュースソース検討中@自治議論スレ2018/04/24(火) 21:55:51.78ID:Kl5WqkwW
エリックシュミットは元サンマイクロだけど同じことをビルジョイは21世紀の最初に言ってるし日本の新聞の元旦号に掲載されてたよね

250ニュースソース検討中@自治議論スレ2018/04/24(火) 22:41:42.06ID:/7cWfHgQ
EMPってどこまで対策できるんだろう。
キラーロボットもEMP対策済みで出てくるのか?
もしかすると核を持つ意味が20世紀と21世紀では変わってくるやもしれん。

251ニュースソース検討中@自治議論スレ2018/04/24(火) 22:57:53.60ID:XGGXYjyV
AIが作った機械言語が蔓延化したらもはや止められないだろう

252ニュースソース検討中@自治議論スレ2018/04/25(水) 01:01:31.39ID:VP/uHL+P
資源は限られてる
増えすぎた人間を間引きする必要がある
AIが有害な人間を刈り取る

■ このスレッドは過去ログ倉庫に格納されています