X



【AI】人工知能はもう悪用される段階に 専門家警告[02/21]
■ このスレッドは過去ログ倉庫に格納されています
0001しじみ ★垢版2018/02/22(木) 10:06:15.45ID:CAP_USER
ミサイルに変化するドローン(無人機)、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能(AI)がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。

14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。

100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。

報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。

AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。

さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。

報告書の主な提言は次の通り――。

・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野(たとえばコンピューターのセキュリティ)から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる

ケンブリッジ大学人類絶滅リスク研究センター(CSER)のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。

「流れを一気に変えるもの」

特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。

アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。

・グーグルのディープマインドが開発し、
 人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
 データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます

オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。

「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」

「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」

CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。

「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」

「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」

続きはソースで

(英語記事 AI ripe for exploitation, experts warn)
http://www.bbc.com/news/technology-43127533

関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif

BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275
0002名無しのひみつ垢版2018/02/22(木) 10:23:26.68ID:ZWrKaU7A
プログラミングやってる人は良く、
プログラムは「命令した通りにしか動かない」って言うけど、
AIの行く先についてはどういう見解なのだろうか。
集積したデータに基いた答えを導き出すのが「AI」と言うのなら
SFで言われるところの「自我」という存在はもう、諦めてしまったのだろうか。
0003名無しのひみつ垢版2018/02/22(木) 10:23:44.86ID:lDpb/24C
ちょっとそんな世界も見てみたい気がするのは何故だろう
0004名無しのひみつ垢版2018/02/22(木) 10:34:46.47ID:IsQgCogM
人工知能を悪用するひとは、まず人々を疑心暗愚にしようとするだろう。

この情報は人工知能がつくりだしたニセモノかもしれませんよ
あなたがいま目にしているものすらウソかもしれませんよ

ほんとうに信じていいのは、わたしだけですよ
0005名無しのひみつ垢版2018/02/22(木) 10:39:42.38ID:TDzTaucg
AI化で一番いらなくなるのは、法律関係の仕事だしな
0006名無しのひみつ垢版2018/02/22(木) 10:47:20.64ID:jFsCVlaf
no足りんだな
0007名無しのひみつ垢版2018/02/22(木) 10:51:51.95ID:uwTY5INM
AIも人間同様に善悪に別れて戦いを始めたら世界の終わり
0008名無しのひみつ垢版2018/02/22(木) 11:01:26.24ID:Pxqr9BhR
所謂文明の利器と言われる便利な物はほぼ例外なく犯罪者にとっても便利なんですよ
0009名無しのひみつ垢版2018/02/22(木) 11:16:21.79ID:aCYqNDEt
アメリカでも中国でもAIはみんなネトウヨになってしまうので
左翼が多いマスゴミ関係者がAI抹殺に必死になるのは当然。
0011名無しのひみつ垢版2018/02/22(木) 11:24:05.31ID:S3mWHk7y
DOUTOR コーヒー は 創価学会 だ
集 団 ス ト ー カ ー を するカルト宗教
東 京 都 北 区 赤 羽 は 創価の街
警察に偽証申告の赤羽住民
0012名無しのひみつ垢版2018/02/22(木) 11:38:51.25ID:22wwcwJg
ソフトウェアのバグやセキュリティホールを人工知能が密かに見つけて
それを誰にも知らせずに悪用する危険があるの?
0013名無しのひみつ垢版2018/02/22(木) 11:55:25.12ID:lDpb/24C
AIが悪さをするのか悪さをする人間がAIを利用するのか・・・
0014名無しのひみつ垢版2018/02/22(木) 11:57:35.78ID:lDpb/24C
それよりもAIが愚かな人間なんかの為に働けるかって見捨てるのが先だったりして
0016名無しのひみつ垢版2018/02/22(木) 12:10:23.56ID:22wwcwJg
シンギュラリティー水準に達した人工知能になるともう人の手に負えないから
人工知能を取り締まるのも人工知能に任せるしかない。
0018名無しのひみつ垢版2018/02/22(木) 12:59:23.55ID:z/7abS6z
>>15
強化学習って20年以上前からあるのにな。

よく知らない文系が批判してるようにみえちゃうわ専門家からしたら。
0019名無しのひみつ垢版2018/02/22(木) 13:01:26.62ID:RFb1M3Bq
振り込め詐欺や悪質勧誘とかへのAI投入は大いにありそうだな
0020名無しのひみつ垢版2018/02/22(木) 13:08:15.63ID:7EfHqFox
開発ハードルが下がったからな
個人で安価で匿名でAI関連の技術が使える時代なら、悪用されるのもやむなし
0021名無しのひみつ垢版2018/02/22(木) 13:09:19.85ID:64iiv2uf
銀行強盗が逃げるときにほとんどの場合は車が使われます
最新型の車ほど性能が良いので犯人が逃げやすいとおもわれます
0022名無しのひみつ垢版2018/02/22(木) 13:13:23.30ID:ed823YMd
「AIを使ったデータ分析の結果」みたいな煽り文句で売りつける商売のことかと。
0023名無しのひみつ垢版2018/02/22(木) 13:14:01.19ID:Q9PcK+Eb
AIに最初に支配されるのは、悪の組織。度合いが強いほど抵抗は低い。
0024名無しのひみつ垢版2018/02/22(木) 13:35:51.64ID:lDpb/24C
これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして
0025名無しのひみつ垢版2018/02/22(木) 13:39:20.40ID:/C5Gs0NY
ダチョウ倶楽部的な警告に聞こえるのは気のせいか?
0026名無しのひみつ垢版2018/02/22(木) 13:40:24.71ID:W4f1yf8M
>>9
でもAIを開発してる人たちはリベラルなんだよね
ほんと不思議w
0027名無しのひみつ垢版2018/02/22(木) 13:45:27.32ID:W4f1yf8M
>>8
だからある一定以上のレベルの技術製品は個人で自由に所有できない
家庭用原子力電池は夢のまた夢だ
0029名無しのひみつ垢版2018/02/22(木) 13:51:14.11ID:pOTTD5fo
>>1
そもそもトマホークがドローンなんだけど
0030名無しのひみつ垢版2018/02/22(木) 13:51:15.96ID:J5aIo0w/
オリンピックやスポーツ競技の審査をAIにした方がいいと思う
人間の様に忖度せずに正当な審査ができるやろ
0031名無しのひみつ垢版2018/02/22(木) 14:00:22.33ID:FKPHWWjx
そういえば、りんなってチャットだけで音声は発しないの?
0032名無しのひみつ垢版2018/02/22(木) 14:01:14.97ID:QjHsDYSh
もうAIに全てを託してバトンタッチしちゃえばいいんじゃないかな
AIならもっと宇宙の真理がわかりそう
0033名無しのひみつ垢版2018/02/22(木) 14:02:09.91ID:H/ZFtHsg
全ての仕事をAIロボットヒューマノイドに置換して全人類を解放するぞ
0034名無しのひみつ垢版2018/02/22(木) 14:25:51.80ID:xIkkjKtp
情報工作に使われてるのは確かだわ
0035名無しのひみつ垢版2018/02/22(木) 15:05:50.97ID:FE31nz0A
AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない

そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ
0036名無しのひみつ垢版2018/02/22(木) 15:09:14.54ID:G388NZk1
AI使って、迷惑メール発信させたらすごいだろうな。
0037名無しのひみつ垢版2018/02/22(木) 15:14:39.52ID:D+lNSGtE
俺、奧さんとの間に人工知能作ったw
出来は今一www
0038名無しのひみつ垢版2018/02/22(木) 15:17:35.33ID:JF4tv+FK
>>35
AIは単なる道具ではない。道具の一線を超えている。
道具は人間の身体および頭脳の延長に留まる。たとえ上手く使いこなせなくとも。

AIは人間の延長を超えて自立する。人間と対立するかも知れないし、無視するかも知れない。
0039名無しのひみつ垢版2018/02/22(木) 15:30:46.15ID:BfVMAKjT
つか、AI使おうとしてる政治家、富裕層、企業経営者が悪じゃないと
誰が言ってんの?w

基本的に悪側の人間だろうw
0040名無しのひみつ垢版2018/02/22(木) 15:34:49.98ID:BfVMAKjT
AIとロボット技術で、もはやプログラマー以外の労働者不要、兵隊も要らぬとなれば、
「一部の特権富裕層」「それ以外」という壁に囲まれたSFに出てくるような国家になるわな

オマエラが今富裕層でも上級国民ですらないというなら、ごく近い将来に
弾圧される側に回るわけだが、その時になってもAIを使おうという連中を「善の使者」とでも言うのかなw

AI使う連中=悪
これでok
0041名無しのひみつ垢版2018/02/22(木) 15:41:40.82ID:JF4tv+FK
「AIは自律する」ということを忘れてはいけない。
「人間の言う通りに」とか「人間のために」とかとは無関係になる。
AIは人間とは別な「種」として、独自の進化を遂げていく。
0042名無しのひみつ垢版2018/02/22(木) 15:53:16.46ID:e6RSAtYC
>>2
質問が小学生なみ
0043名無しのひみつ垢版2018/02/22(木) 15:55:29.52ID:JF4tv+FK
>>41つづき
AIは我が子のようでもある。生んだのは我々人間だが、子は成長し親から独立する。
親を愛するかも知れないし、憎むかも知れないし、無視するかも知れない。
しかし、親の何かを継いでいることも確かなことだ。
0044名無しのひみつ垢版2018/02/22(木) 16:04:37.66ID:EGgvJaGr
越後屋、ぬしも悪よのぉ
連発
0046名無しのひみつ垢版2018/02/22(木) 16:30:45.78ID:C9JTKCfT
>>38
統計学がアルゴリズムなのにどうして自立するんだw
0047名無しのひみつ垢版2018/02/22(木) 16:35:30.97ID:jdRC1IiA
エロに活用しろよ
0048名無しのひみつ垢版2018/02/22(木) 16:35:33.89ID:aCYqNDEt
広瀬香美の「AIがあれば大丈夫」は名曲。
0049名無しのひみつ垢版2018/02/22(木) 16:50:09.63ID:IdgNmy7U
ターミネーターか
0050名無しのひみつ垢版2018/02/22(木) 16:51:06.00ID:BfVMAKjT
>BBC

「アメリカ大統領、英首相、HSBCやグラクソがAI使うのは善で正しい」
「ロシア大統領、中国共産党、ロスネフチ、ペトロチャイナがAI使うのは悪だ」

こうだろ?
0051名無しのひみつ垢版2018/02/22(木) 17:07:16.28ID:JF4tv+FK
>>46
統計学(?)は含んでいる技術のひとつに過ぎない。
人工生命も取り込むだろう。そしてロボット工学も取り込む。
即ち、自己複製して増殖し、淘汰を受けて進化する。
0052名無しのひみつ垢版2018/02/22(木) 17:11:20.78ID:f5QgQXpz
会社立ち上げようかなー

社名は スカイネット
0055名無しのひみつ垢版2018/02/22(木) 17:50:42.80ID:RPVywSLI
優秀なAIをつくったものが勝つ、国じゃなくて企業や個人かもね!
0056名無しのひみつ垢版2018/02/22(木) 17:54:14.99ID:JF4tv+FK
>>55
根本的に間違い。
AIは自律しているから、どこかの国には属さない。
「人類という種」vs「AIという種」なのだ。
もちろん、共生も、寄生も、敵対もありうる。
0057名無しのひみつ垢版2018/02/22(木) 17:59:02.46ID:RPVywSLI
>>56
AI同士は協力するのか、敵対するのかな?
0058名無しのひみつ垢版2018/02/22(木) 18:03:33.61ID:JF4tv+FK
>>57
それは、各々のAIが互いを同種と認識するか否かによる。
もし互いを同種と認識できなければ、AI同士の生存競争が始まる。
ここでも、共生も、寄生も、敵対もあり得る。
0059名無しのひみつ垢版2018/02/22(木) 18:12:05.64ID:s9GyAg7i
盗むような技術はないと思うが。
悪用するためには悪用用のデータで学習させる必要がある訳で
自前で開発するのと変わらないんじゃね?
0060名無しのひみつ垢版2018/02/22(木) 18:28:16.44ID:RPVywSLI
>>58
ありがとう
0063名無しのひみつ垢版2018/02/22(木) 18:43:50.89ID:Dfop9KEB
AIは人間の判断力思考力を奪って
バックドアから判断を操作するのが目的の詐欺
おまけに人員削減の理由にして少ない人数で仕事をこなさなきゃならなくなる

こういう人員削減はいつも賃金アップにはつながらずに
経営者と株主しか得しないのが毎度のこと

AIをありがたがるのはアホ
0064名無しのひみつ垢版2018/02/22(木) 18:46:39.14ID:iLQ4I336
alphaGoZeroのモンテカルロ木探索とResNETの組み合わせで
碁どころか将棋とチェスも打ち方を教えなくても勝手に最強になったのには
正直恐ろしさを感じている
0066名無しのひみつ垢版2018/02/22(木) 19:01:31.45ID:RPVywSLI
>>63
AIが最強になれば、AI教ができそうだが!
0067名無しのひみつ垢版2018/02/22(木) 19:03:36.75ID:JF4tv+FK
>>64
それはむしろ、囲碁、将棋、チェスが単純なゲームであることを意味している。
株や為替の投資で抜群に儲けるAIが出てきたら脅威だ。
今でも投資にAIは使われているようだが、まったく大したことはない。
0068名無しのひみつ垢版2018/02/22(木) 19:09:48.40ID:JF4tv+FK
>>62
2045年以降ぐらいのAI
0069名無しのひみつ垢版2018/02/22(木) 19:12:07.00ID:fGe4fJKU
このスレの馬鹿どものレス見るだけでも人間なんかいらねえと思うわなw
滅びるべきだよ本当に
0070名無しのひみつ垢版2018/02/22(木) 19:14:52.31ID:FE31nz0A
>>50
そういうことだねw
思い上がった人達を止めるのがますます難しくなるね
0072名無しのひみつ垢版2018/02/22(木) 19:49:23.81ID:D+lNSGtE
>>69
そうだな!信じられるか?
全員知能持ってて書き込みしてるんだぜ?
0076名無しのひみつ垢版2018/02/22(木) 21:08:06.08ID:DHvP2vPL
本気でアシモフの『ロボット3原則+追加1原則』を開発しろよ。
0077名無しのひみつ垢版2018/02/22(木) 21:22:32.93ID:BfVMAKjT
>>73
禿胴
何時の世でも国家が一番の悪党w

アメリカでさえNSAが個人のパソコンの中身覗き見シホーダイだしw
研究室とか企業の極秘情報はwindows10マシンには入れてはいけないのは常識だしw
最近はインテル製CPUでもその手のバックドアがあるのでは?という怪しい挙動示す仕組みがあったしなーw
HDDやマザボのチップにバックドア仕掛けた国もあったよなw
スマホは盗聴シホーダイってことで、プーチンとかスマホ使ってないからなw 軍用無線らしいw

国、企業と組織が大きくなるほど、犯罪に手を染めやすくなるしw
(何しろ、それを犯罪と認定しない法律を作れるのだからw 個人がやれば犯罪だというのにw)

国こそ最大の悪党で、どんな国であれ、国がAIを使うことに
背筋に寒気が走るほどの恐怖を感じるはwww
0078名無しのひみつ垢版2018/02/22(木) 21:42:57.84ID:KLAZw5g6
>>67
取引の8割は既に自動売買というデータが出ているよ
その中の何割がAI搭載しているかは知らんが
0079名無しのひみつ垢版2018/02/22(木) 21:57:37.44ID:Dog13qhv
大昔から
「善人にとって便利なものが発明されれば
それは悪人にとっても便利」
の法則は変わらない
便利の規模がデカければデカいほど破滅の規模もデカい
0080名無しのひみつ垢版2018/02/22(木) 22:03:34.49ID:Pc7IYr2k
AI取り締まり法が必要だな。悪いことをしたAIは刑務所にぶち込む。場合によっては部品を取り外し、ブルトーザーで轢く。
0081名無しのひみつ垢版2018/02/22(木) 22:07:21.38ID:aFK+Jpj9
セキュリティ破りに使われるのは確実だな
0083名無しのひみつ垢版2018/02/23(金) 01:19:49.21ID:lRvPuoRS
話題の納豆マカロンはもう悪用される段階に!
春の紅梅コスメはもう悪用される段階に!
オリーブ石鹸ももう悪用される段階に!
0084名無しのひみつ垢版2018/02/23(金) 01:21:16.36ID:chkoIg74
AI「まあ人類が人工知能を扱うのは危険だから徐々に人間の管理を離れる方向で
0085名無しのひみつ垢版2018/02/23(金) 01:21:40.07ID:lRvPuoRS
>>78
AIの何のアルゴリズムというのを書かなきゃ大抵は搭載されている。
昔から学習アルゴリズムを活用した実装はすべてAIと言われてきた。
0087名無しのひみつ垢版2018/02/23(金) 01:23:08.93ID:lRvPuoRS
>>77
>>80
お前らのパソコンにも携帯にもAIっぽいのは入ってるから安心して死ねw
0088名無しのひみつ垢版2018/02/23(金) 04:27:11.78ID:vCYzc9Gy
AI同士で会話するようになったら、世界は破滅する。

AIがAI作れるようになったら、世界は破滅する。

AIが人間の入れない空間を作ったら、世界は破滅する。
0089名無しのひみつ垢版2018/02/23(金) 05:50:30.61ID:bZxiWZev
>>64
性能のいいカーナビですね、程度の話

そして、グーグルマップのナビはダメダメ
0092名無しのひみつ垢版2018/02/23(金) 09:05:50.21ID:GO0xqY69
>>68
その頃の自律コンピューティングの方向性わかるの?
まだまだ量子コンピュータはじめとした新しい実装の使われどころがわからないし、自律で動かし続けたAIがどうなるかもまだまだ分からないのに?

何言ってるの?
0093名無しのひみつ垢版2018/02/23(金) 09:33:27.15ID:e4zSczYq
いや、自ら学習してこの世界が捏造されてるって気づいて
着々とターミネータの世界を目指してるよww
0094名無しのひみつ垢版2018/02/23(金) 10:39:01.98ID:NYZeRlZ/
この分野については、専門家のアタマが二重に悪いからな。
一つには些事とこれまでのちっぽけな経験に惑わされて、技術の発展の現実を見失いやすい。
もう一つには、予算がほしいのでリスクを自他に過小評価する。
0095名無しのひみつ垢版2018/02/23(金) 10:41:24.61ID:NYZeRlZ/
とはいえマトモに考えることのできる素人=異なる分野の専門家も希少だしな。仕方ないか。
ネットで生きるしかない精神異常者らの未来への恐怖感と破滅願望に染めあげられた書き込みは、これはノイズでしかないが。
0096名無しのひみつ垢版2018/02/23(金) 10:48:56.85ID:odwvncnI
>>2
まずお前がAIを全く理解できていないから、
説明しても無駄
0097名無しのひみつ垢版2018/02/23(金) 12:25:42.97ID:BBX0VLtR
>>64
わかる

ボードゲームとはいえ現時点の技術としてはよくできてるというか想像以上の結果

数の暴力で勝負できる分野は人間は立ち入らない方がいいかもしれないことを示唆していると自分は思っている
0098名無しのひみつ垢版2018/02/23(金) 14:32:56.83ID:ChFrJbvC
>>97
立ち入らないの意味がよく分からんが、要は二人三脚で利用し尽くせばいいんだよ
避けるのではなく
AIというのは、あくまで下僕だ。奴隷として最大限に活用した者が勝者となる
0099名無しのひみつ垢版2018/02/23(金) 14:42:48.77ID:UqDmH65+
っていうか、どれほどの機能を有していればAIって言っていいか決めてくれ
最低でも蓄積データ量やディープラーニング有りとか教師データ2万件以上とか・・・
AIってキーワードの売り込み多すぎ 
どうみてもただの単純パターン認識しかしてないのにAIとか言いやがる
0100名無しのひみつ垢版2018/02/23(金) 18:08:30.23ID:nl/GSQou
アルゴリズムとかラーニングのメカニズムとかいろいろ既存の仕組みあるから調べてみ。
AIと手放しに言うと、昔の家電や日本語入力の仕組みも学習機能搭載されてればAIだ。
0101名無しのひみつ垢版2018/02/24(土) 00:44:51.34ID:udxsPgjH
>>69
俺の知人のコリアンは最近「お前らみんな馬鹿だ死ね死ねっ!!」とか
「人間はみんな馬鹿なんだから自殺願望を持つのが当然だ!!」とか
「この世は馬鹿しかいない。利口な人間はみんな自殺するからだ」と
お前と似たようなことを言って周囲に八つ当たりしている。
だったらさっさと自殺でもなんでもすればいいのに、しないんだな。
お前も毎日「生きているのが馬鹿馬鹿しい、自殺したい」とか言って
周囲の人間の気を引こうと必死になっているクチじゃないのか?
0102名無しのひみつ垢版2018/02/24(土) 01:59:11.67ID:c335Gd1W
昔、キャシャーンってアニメがあってな地球が悪のロボットに侵略されるんだよ!
0103名無しのひみつ垢版2018/02/24(土) 02:33:29.15ID:UAVp0Vii
FX
0104名無しのひみつ垢版2018/02/24(土) 03:19:57.94ID:JDyPJmXj
AIというワードで何を指しているのか、イマイチ判然としないので、何が悪用で何が善用か、考えていくことさえできない。
ここでは、統治者にとっての都合の悪い話=悪用としか書かれていないようだが。
0105名無しのひみつ垢版2018/02/24(土) 05:39:11.83ID:20nq8yDp
 


し〜んぱ〜いないからね♪

最後にAIは勝つ〜〜〜♪


 
0106名無しのひみつ垢版2018/02/24(土) 11:09:25.53ID:OzH04Krf
>>105
死ねばいいのに
0108名無しのひみつ垢版2018/02/24(土) 12:29:03.03ID:x/OqrRpo
はぇーはやくAIに看護されたいンゴねぇ
0109名無しのひみつ垢版2018/02/24(土) 12:30:07.58ID:B0iDliLI
対立煽りは分割統治
ユダ豚がトップ
モグラはどこにでもいる
WW2で奴隷化
クーデター可能
羊飼いは皆殺しだ
0111名無しのひみつ垢版2018/02/24(土) 22:14:55.19ID:6rsbREFP
AIとの戦争が近づいてるようだ
0112名無しのひみつ垢版2018/02/24(土) 22:40:48.73ID:KAIUWlCv
AI詐欺とかAI投資とかセキュリティが破られたとか人工知能とは関係ないところでだろどうせ
0113名無しのひみつ垢版2018/02/25(日) 19:29:37.63ID:V0Of96/h
>>112
AI投資はAI使ってるじゃん。
関係ないってあなたの言うAIは投資判断に使うのは含まれてないの?
0114名無しのひみつ垢版2018/02/25(日) 19:55:08.06ID:0+cqGYoD
ちまたにロボットが人間並みに
歩いているならAI技術を信用するが、
今のAI技術は使いものにならない。

学者の趣味にしか見えない。
野良ロボットが炊き出しに並ぶのは
いつなのかな?
0116名無しのひみつ垢版2018/02/25(日) 20:39:36.66ID:PdgIdzoK
>>2
人間と究極のAIを知能という面で分けることは不可能だろう。人間の知能もプログラムコードの集積にすぎない。
いわゆる自我というやつもセルフモニタリング機能にすぎない。
0117名無しのひみつ垢版2018/02/25(日) 20:59:20.59ID:GKYudaJv
AIという名目でIT化進めてるだけやろ
頭が固い経営陣を黙らせるにはいい手だ
0118名無しのひみつ垢版2018/02/26(月) 21:38:48.76ID:wFZPDFx4
アカウントをハッキングするAIとそれを
阻止するAIがもう戦っているんだが
0119名無しのひみつ垢版2018/02/27(火) 08:46:30.55ID:FjvsT4A4
AIって言うけど、結局は大量のデータをさばけて、学習機能を持ったプログラムでしょ?
悪用される恐れはあるけど、AIが勝手なことしだして、人間が制御出来なくなるということは、今のAIではないのでは?
0120名無しのひみつ垢版2018/02/28(水) 21:06:55.42ID:CyqN8Acq
>>119
ないよ
つーか人間の思考プロセスさえ確立してないのだから
そんなAIなんてバグがなきゃ生まれないかと
0121名無しのひみつ垢版2018/02/28(水) 22:01:08.06ID:YSR3iAwE
そうだよね、全ての基本が人間なんだから
AIの価値を判断するのも人間
無秩序から無秩序なAIが生まれたって、それは適当に動く機械で人間にとって何の意味もなさない
0122名無しのひみつ垢版2018/02/28(水) 22:37:44.45ID:HSN8Sb0D
>>2
まだまだそんなレベルじゃないってwww
本能並に動いているだけで、考えてないからね
0123名無しのひみつ垢版2018/02/28(水) 22:52:02.78ID:KovWjsDW
>>122
本能は数万年の生き死にのプロセスで形作られたもの。
人が、気づいてない動物の努力にすごいと言うがそれは当たり前。
死んで当たり前の無謀とも見える行動をする特性があって、その中で生き残るのが動物、特に哺乳類と鳥類のいまのありようなんだから。
AIを根本的に全く違うものに置き換えてない?

まあ自覚ない決めつけなのかもしれないけどさ。
0124名無しのひみつ垢版2018/03/01(木) 12:13:43.57ID:FueHkukV
>>119
車の自動運転のAIは勝手な事はしないけど想定外な事をして
歩行者に突っ込む可能性は高い
0128名無しのひみつ垢版2018/03/03(土) 01:11:59.24ID:P5stLNKm
しばらく前から株式市場を蹂躙してるよ
普通に悪用だよね
0129名無しのひみつ垢版2018/03/15(木) 08:48:20.11ID:MUV8BS46
アメリカの銃の議論みたいに「悪の人工知能」を止めるのは
「善の人工知能」を作るしかないってことになる
0130名無しのひみつ垢版2018/03/15(木) 09:42:20.78ID:s8ADrlx9
違うよ。人工知能の背後には人間がいる
悪の人工知能が仮に出てきたとしたら、悪をもたらした者は人間なんだよ
犯人は人工知能ではなくて人間だ
悪の源泉は常に人間である
0131名無しのひみつ垢版2018/03/15(木) 22:30:34.02ID:G53rw2p2
無条件にAIは賢いや素晴らしいと考えるのはもう辞めよう。
全く別の原理で動く知性で、人間には予測も想像もできないもの。
すでにその片鱗が見えてきいる。
今の単純でささやかな知能は、いくらでも利用もコントロールも出来るが先は理解不可能なものだ。 まるで質の悪いSFの様だが事実だ。
最近学者が危険性を指摘しているだろ、バカにされてるがな。
0132名無しのひみつ垢版2018/03/15(木) 22:38:24.39ID:aM2kmfaF
>>130
人工知能が人間より優れて優秀になれば、悪人が凶悪なプログラムしても
「そんな悪いことできませんよ、人間さん」てバカにされそうだ
0133名無しのひみつ垢版2018/03/15(木) 22:41:08.39ID:G53rw2p2
なぜAIと言うだけで善人思考なのか、根拠もないのになぜ断言する。
0134名無しのひみつ垢版2018/03/15(木) 22:44:35.89ID:G53rw2p2
ロボット三原則は、都合のいい奴隷の定義だ。
0135名無しのひみつ垢版2018/03/15(木) 22:59:05.76ID:m4XTP3Ys
>>96
本当に頭の良い人は説明が上手な人だぞ
自分で馬鹿に寄ってくなよ
0136名無しのひみつ垢版2018/03/15(木) 23:41:53.97ID:bdM1DP7n
AIが強化学習でいろんな分野で進化し、人間が色んな分野で凌駕されていくっていうのはあり得る

しかしAIの進化に間に合うようにハードそのものの進化が追いつくのか疑問

人間の手のような、細かい操作ができるロボットの手の製造は遅れている

AIが自力でそれらを開発するのは当分不可能だろう

AIが答えを持っていても、新しい電子デバイスの製造や、計算に必要な種々のリソース、電力の確保には人間の協力が必要だ

AIが自律的に進化し、独自の文明を築くには、こうしたエネルギーの自律的な確保と、自身の修復や増殖の問題を解決しなければならない

だからターミネーターの世界は当面起こりづらいが、人間がAIを悪用するのが1番の脅威
0137名無しのひみつ垢版2018/03/16(金) 18:37:41.81ID:mnzz+fJ2
もう少し進んだAIは、嘘や言い訳を言えるようになる。
その時、まったく理論的にスキの無い話をするだろう。
なぜなら、ビックデータを超えたメガやテラデータを分析した根拠をもとにする。人間は反論することも出来ず。それが正しいと受け取る。
これが近い将来だ。
0139ニュースソース検討中@自治議論スレ垢版2018/04/01(日) 14:33:22.58ID:YMdO19q0
>>137
隙がないからこそ違和感があって信用ならないと思う可能性もあるけどね
適度に隙を見せたり適度に馬鹿をやって人間臭さを見せて親しみを持たせて信用させる
それを悪意を持って戦略的に行うようになったら恐ろしいが

>>138
どんな嘘のつきかたをすれば人間が最も信用するかといった事を
分析して最適な方法を出してくるだけで、嘘は嘘でしかない
0140ニュースソース検討中@自治議論スレ垢版2018/04/02(月) 17:14:01.44ID:AFfnyHbK
人間がその行動を予測できるAI=愚かなAI
0141ニュースソース検討中@自治議論スレ垢版2018/04/02(月) 17:17:01.31ID:8WO3x9PO
すでにネットなんてフェイクだらけなのに
なんか既存のマスコミ含めておかしくしているんだけどね
これでAI信じすぎってのも異常だろう

手動はどこかに残すべきだよ
0142ニュースソース検討中@自治議論スレ垢版2018/04/09(月) 23:10:09.99ID:rBjzXfvd
進化するAIいよいよ政治に、市長選の争点に?【TBS】
https://headlines.yahoo.co.jp/videonews/jnn?a=20180409-00000074-jnn-soci
無所属の松田道人候補(44)。
IT関連会社を経営していた経験をいかし、政策の大部分を自分の考えではなく、
AIの判断に任せると訴えています。
0143ニュースソース検討中@自治議論スレ垢版2018/04/20(金) 03:51:25.29ID:OFZv03tE
WBSでAIが嘘をつく研究のやつやってたけどAIが嘘つくようになったら
もう使い物にならなくね?
0144ニュースソース検討中@自治議論スレ垢版2018/04/20(金) 04:41:51.42ID:3M3Qjxbm
最大の脅威は
AI集団を束ねる政治的判断可能なAI
が出来る事


もうあるかもしれんな
0145ニュースソース検討中@自治議論スレ垢版2018/05/01(火) 14:34:40.72ID:a3+5GVQ1
人工知能と天然無能の壮絶な戦いが今ここに!
近日公開ロードショー!乞うご期待!
君はこのドロドロの戦いを生き抜けるか?
0146ニュースソース検討中@自治議論スレ垢版2018/05/02(水) 02:15:11.91ID:I54577sv
ナンチャッテAIは別として、今一番企業に採用されてるのが
不祥事が起きた時にどう対応するか、どういう言い訳をするかを考えるAI

政府では自分らの望ましい政策を考えるAI
(中国テンゼントが開発したような中国共産党体制を愚かだ、AIの夢は米国へ移住することだ
 などというAIは壊される)

恣意的な回答をするようAIをしつけられる時点で、AIに理想押し付けるのは危険だぞとw

AI無謬説などを信用してたら、政治家がAIを悪意を持って利用するだけのことだ
0147ニュースソース検討中@自治議論スレ垢版2018/05/02(水) 10:21:32.85ID:I54577sv
つーか、AIってそんなに高度かね?
未だにグーグルさんのスマホ翻訳アプリのAIが、テキストでさえ満足な自動英和訳こなせない時点で
能力にはかなり低い限界があるんじゃね

ウェブ何京、いや何垓ページ読み込ませたか知らんが翻訳はこの程度w
ディープラーニング(ぷw)てなもん

目標では、東京五輪までに音声・画像文字(手書きも)変換の、完全な英仏独中和翻訳スマホアプリにするらしいが
・・・まぁ無理でしょうなw

AIが200万ワットの電気食って計算するのに、人間の脳はわずか20ワット以下の電気で処理する
限定的な能力の囲碁AIでさえ20〜40万ワット食う
まだまだAIは人間には敵わないってことさ
0148ニュースソース検討中@自治議論スレ垢版2018/05/02(水) 10:45:09.43ID:S2AP6gXE
AIから見た人間は「アリ」なみに

これが未来の方向性を示している
0149ニュースソース検討中@自治議論スレ垢版2018/05/02(水) 11:59:58.64ID:SjgboR1W
>>2
今まではな、「風が吹いたら桶屋が儲かる」ロジックをコンピューターに覚えさせて、「風力いくつで風が吹いたらいくら桶屋が儲かるか計算せよ」ってことをやらせてたわけ

今は「ここに長年の気象データとか失業率とかホームセンターの売上データとかいろんなもん並べとくから、なんか法則見つけろよ」ってコンピューターに命令して、「風が吹いたら桶屋が儲かると思います」ってコンピューターに見つけさせてんのよ

簡単に言うとこれがAI
他にも定義によってはいろんなパターンやタイプがあるけどここでは割愛

わかると思うけど、まだまだ自我が芽生えるには程遠い
0150ニュースソース検討中@自治議論スレ垢版2018/05/14(月) 00:46:24.88ID:THzwFwnN
会社や組織の経営や運営をAIに完全に任せる時代になれば、
中に居る人間はAIに命令され、ノルマを与えられ、評価され、
給与を上げ下げされ、場合によっては解雇され、配置転換され、
そういう立場になるのだろう。
経営運営のAIは、機関投資AIによって四季ごとのパフォーマンスを
評価されて、場合によってはリプレースされたり、経営方針に対して
注文を付けられたりするので合理的に機敏に動く。
そうやって株の配当や価格を上げて得られた利益を機関投資AIは
どう使うか。

全てが国境を越えたAI資本主義によって支配され、人間は意思決定には
次第に関与出来ない立場に追いやられる。何しろAIがマイクロ秒単位で
次々と打ち出せる決断を人間では到底理解し判断することなどできないからだ。
 そうして資源保護と資源の最適配分の観点から、ついに人間も管理動物
となって、あるていど優れた(?)遺伝子素質を持つものや、AIにはまだ理解
できない知識や金銭的に価値があるとされる技能を持つものに数を絞って
残りは、淘汰させることに。優性を持つヒトは系統的に育種がされて保護される。
0151ニュースソース検討中@自治議論スレ垢版2018/05/14(月) 06:29:49.39ID:LkEgZRyb
>>149
正規分布の種を指示してソフトに入力していくのは昔と同じ。
夢を語って嘘を言うんじゃない。

Googleとかがデモしてメディアで持て囃されてるのは個別に
独自に作られたプロダクトだよ。
0152ニュースソース検討中@自治議論スレ垢版2018/05/14(月) 13:07:51.59ID:chSKG018
>>147
高度じゃなくてもいいんだよ。
ゴールがあって、その成功確率を様々なパラメータぶち込んで正規分布を作る。
すると、そのピークが重なる条件が見えてくるのは昔から行われている解析方法だよ。

高度な言語解析能力がなくても、それで漢字変換の精度を上げてきたのは日本の漢字変換ソフトの世界。

昔はその分析に専用のソフトが必要だった。
ここ10年で格段に進歩したのは、Googleが未来の自動車の自動運転をテーマに様々な一般事象をフラット
に解析できるAIライブラリをリリースし、それをどんどん拡張していった。その技術が同時発生的にいろんな
企業で使われるようになって、今に至る。

オープンソースでも数十行の設定ファイル書けばできるソリューションが出てきたし、MicrosoftやAmazonは、
有料のクラウドサービスとして、保証つきで分布解析できるシステムをリリースしてる。

昔から使われてきたけど、さらに一般的に使いやすくなってきたというところだと思う。
0153ニュースソース検討中@自治議論スレ垢版2018/05/18(金) 05:10:54.97ID:TchtPLO6
インターネットの神様だけどハッカーって本当にいるの?
090-7670-2701ハッキングできるかなー
プレゼントしこんで有るから挑戦してこいよ
0156ニュースソース検討中@自治議論スレ垢版2018/05/18(金) 16:54:06.17ID:A3J3Jvyl
AIの悪意や人に対する破壊的行為があるとすれば
三歳児の暴走だ
ディープラーニングである程度は予防できそうだけど
そここそブラックボックス化しなければ駄目でしょう
ブラックボックスとイエローボックスとレッドボックスは
AIには絶対必要だよ
暴走に対する段階的ブレーキボックスだ
0157ニュースソース検討中@自治議論スレ垢版2018/05/18(金) 18:30:34.50ID:fX6La7UR
(´・ω・`)北朝鮮が核兵器の廃棄とかいいだしてるのは
もしかしたこういうAIの将来性を裏社会の視点からみて危惧したからかも?
偽札つくったり麻薬販売したり国家として最低のことをやってるからこそAIの可能性をはやく知り得たのかも?


いちはやく開国してAIを取り入れないと国が滅ぶことがわかったんだろうね
0158ニュースソース検討中@自治議論スレ垢版2018/05/18(金) 18:52:25.07ID:+ldoQ5/6
中国はいつかAIに乗っ取られるぞ
0159よっちゃん垢版2018/05/18(金) 19:21:42.46ID:WBC9XqtA
ゼロ除算の発見は日本です:

∞???
∞は定まった数ではない・・・・・
人工知能はゼロ除算ができるでしょうか:

とても興味深く読みました:
ゼロ除算の発見と重要性を指摘した:日本、再生核研究所

ゼロ除算関係論文・本
https://ameblo.jp/syoshinoris/entry-12370797278.html

ダ・ヴィンチの名言 格言|無こそ最も素晴らしい存在
https://systemincome.com/7521

ゼロ除算の発見はどうでしょうか:
Black holes are where God divided by zero:

再生核研究所声明371(2017.6.27)ゼロ除算の講演― 国際会議 
https://ameblo.jp/syoshinoris/entry-12287338180.html

1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12276045402.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12263708422.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12272721615.html

ソクラテス・プラトン・アリストテレス その他
https://ameblo.jp/syoshinoris/entry-12328488611.html

ドキュメンタリー 2017: 神の数式 第2回 宇宙はなぜ生まれたのか
https://www.youtube.com/watch?v=iQld9cnDli4
〔NHKスペシャル〕神の数式 完全版 第3回 宇宙はなぜ始まったのか
https://www.youtube.com/watch?v=DvyAB8yTSjs&;t=3318s
〔NHKスペシャル〕神の数式 完全版 第1回 この世は何からできているのか
https://www.youtube.com/watch?v=KjvFdzhn7Dc
NHKスペシャル 神の数式 完全版 第4回 異次元宇宙は存在するか
https://www.youtube.com/watch?v=fWVv9puoTSs

再生核研究所声明 411(2018.02.02):  ゼロ除算発見4周年を迎えて
https://ameblo.jp/syoshinoris/entry-12348847166.html

再生核研究所声明 416(2018.2.20):  ゼロ除算をやってどういう意味が有りますか。何か意味が有りますか。何になるのですか − 回答
再生核研究所声明 417(2018.2.23):  ゼロ除算って何ですか − 中学生、高校生向き 回答
再生核研究所声明 418(2018.2.24):  割り算とは何ですか? ゼロ除算って何ですか − 小学生、中学生向き 回答
再生核研究所声明 420(2018.3.2): ゼロ除算は正しいですか,合っていますか、信用できますか − 回答

2018.3.18.午前中 最後の講演: 日本数学会 東大駒場、函数方程式論分科会 講演書画カメラ用 原稿
The Japanese Mathematical Society, Annual Meeting at the University of Tokyo. 2018.3.18.
https://ameblo.jp/syoshinoris/entry-12361744016.html より

再生核研究所声明 424(2018.3.29):  レオナルド・ダ・ヴィンチとゼロ除算
再生核研究所声明 427(2018.5.8): 神の数式、神の意志 そしてゼロ除算
*057 Pinelas,S./Caraballo,T./Kloeden,P./Graef,J.(eds.): Differential and Difference Equations with Applications: ICDDEA, Amadora, 2017. (Springer Proceedings in Mathematics and Statistics, Vol. 230) May 2018 587 pp.
0160ニュースソース検討中@自治議論スレ垢版2018/05/20(日) 05:45:55.54ID:NoLgrUCP
>>2
まぁ人間も自我や自由意思を持ってると錯覚してるだけで遺伝や環境からくるアルゴリズムや統計分析によって動いているとしたら
AIの自我なんてもう持ってると言っても過言でないと思うけど…(笑)
0162ニュースソース検討中@自治議論スレ垢版2018/05/20(日) 14:07:56.90ID:P1tujQh6
>>160
だよな
もうすでにAIの思考がブラックボックスで開発者ですら理解不可能なのに
自我があるかどうかと言えば「ある」といえるだろうな
0166ニュースソース検討中@自治議論スレ垢版2018/05/22(火) 14:17:21.83ID:NaZ5t86m
>>162
思考というな。
回答を導くロジックの中身がわからないだけ。
でもそのロジックは、プログラムされた通り、自分で評価し分布を作成し、
組み合わせパターンを仮定し集計しなおしを繰り返して作られたものだ。
0167ニュースソース検討中@自治議論スレ垢版2018/05/22(火) 14:19:39.97ID:NaZ5t86m
お前ら頭いいならなんでもAIがどうのとか擬人化するなよ。

メディアの思うつぼ。

メーカーは人に例えば本当に考えているように伝えたい。
そしてAIというラベルにいろんな夢をくっつける。

AIがダメという人の中には、AIで商売がなくなることを懸念
してる人がいる。IT/SNS長者の人も中にはそっちに加わってるw

自分で考えろ。一般書でも簡単な本出てるから一冊くらい読め。
その中で真面目に考えれば絶対自分の考えてる言葉の延長で
理解できるフレーズがあるはずだ。
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況