【ＡＩ】人工知能はもう悪用される段階に 専門家警告［02/21］
■ このスレッドは過去ログ倉庫に格納されています
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。
14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。
報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。
さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。
報告書の主な提言は次の通り――。
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。
「流れを一気に変えるもの」
特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
・グーグルのディープマインドが開発し、
人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
続きはソースで
（英語記事 AI ripe for exploitation, experts warn）
http://www.bbc.com/news/technology-43127533
関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif
BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275 AIという名目でIT化進めてるだけやろ
頭が固い経営陣を黙らせるにはいい手だ アカウントをハッキングするAIとそれを
阻止するAIがもう戦っているんだが ＡＩって言うけど、結局は大量のデータをさばけて、学習機能を持ったプログラムでしょ？
悪用される恐れはあるけど、ＡＩが勝手なことしだして、人間が制御出来なくなるということは、今のＡＩではないのでは？ >>119
ないよ
つーか人間の思考プロセスさえ確立してないのだから
そんなAIなんてバグがなきゃ生まれないかと そうだよね、全ての基本が人間なんだから
AIの価値を判断するのも人間
無秩序から無秩序なAIが生まれたって、それは適当に動く機械で人間にとって何の意味もなさない >>2
まだまだそんなレベルじゃないってｗｗｗ
本能並に動いているだけで、考えてないからね >>122
本能は数万年の生き死にのプロセスで形作られたもの。
人が、気づいてない動物の努力にすごいと言うがそれは当たり前。
死んで当たり前の無謀とも見える行動をする特性があって、その中で生き残るのが動物、特に哺乳類と鳥類のいまのありようなんだから。
AIを根本的に全く違うものに置き換えてない？
まあ自覚ない決めつけなのかもしれないけどさ。 >>119
車の自動運転のＡＩは勝手な事はしないけど想定外な事をして
歩行者に突っ込む可能性は高い >>123
レス先間違えてないか？
122はごく普通のことしか言ってない >>125
本能と言う言葉に突っ込んだのはおかしいのかい？ しばらく前から株式市場を蹂躙してるよ
普通に悪用だよね アメリカの銃の議論みたいに「悪の人工知能」を止めるのは
「善の人工知能」を作るしかないってことになる 違うよ。人工知能の背後には人間がいる
悪の人工知能が仮に出てきたとしたら、悪をもたらした者は人間なんだよ
犯人は人工知能ではなくて人間だ
悪の源泉は常に人間である 無条件にAIは賢いや素晴らしいと考えるのはもう辞めよう。
全く別の原理で動く知性で、人間には予測も想像もできないもの。
すでにその片鱗が見えてきいる。
今の単純でささやかな知能は、いくらでも利用もコントロールも出来るが先は理解不可能なものだ。 まるで質の悪いSFの様だが事実だ。
最近学者が危険性を指摘しているだろ、バカにされてるがな。 >>130
人工知能が人間より優れて優秀になれば、悪人が凶悪なプログラムしても
「そんな悪いことできませんよ、人間さん」てバカにされそうだ なぜAIと言うだけで善人思考なのか、根拠もないのになぜ断言する。 >>96
本当に頭の良い人は説明が上手な人だぞ
自分で馬鹿に寄ってくなよ AIが強化学習でいろんな分野で進化し、人間が色んな分野で凌駕されていくっていうのはあり得る
しかしAIの進化に間に合うようにハードそのものの進化が追いつくのか疑問
人間の手のような、細かい操作ができるロボットの手の製造は遅れている
AIが自力でそれらを開発するのは当分不可能だろう
AIが答えを持っていても、新しい電子デバイスの製造や、計算に必要な種々のリソース、電力の確保には人間の協力が必要だ
AIが自律的に進化し、独自の文明を築くには、こうしたエネルギーの自律的な確保と、自身の修復や増殖の問題を解決しなければならない
だからターミネーターの世界は当面起こりづらいが、人間がAIを悪用するのが1番の脅威 もう少し進んだAIは、嘘や言い訳を言えるようになる。
その時、まったく理論的にスキの無い話をするだろう。
なぜなら、ビックデータを超えたメガやテラデータを分析した根拠をもとにする。人間は反論することも出来ず。それが正しいと受け取る。
これが近い将来だ。 >>137
隙があるから、嘘や言い訳なんだよ
隙がないなら、それは嘘じゃない >>137
隙がないからこそ違和感があって信用ならないと思う可能性もあるけどね
適度に隙を見せたり適度に馬鹿をやって人間臭さを見せて親しみを持たせて信用させる
それを悪意を持って戦略的に行うようになったら恐ろしいが
>>138
どんな嘘のつきかたをすれば人間が最も信用するかといった事を
分析して最適な方法を出してくるだけで、嘘は嘘でしかない すでにネットなんてフェイクだらけなのに
なんか既存のマスコミ含めておかしくしているんだけどね
これでＡＩ信じすぎってのも異常だろう
手動はどこかに残すべきだよ 進化するＡＩいよいよ政治に、市長選の争点に？【TBS】
https://headlines.yahoo.co.jp/videonews/jnn?a=20180409-00000074-jnn-soci
無所属の松田道人候補（４４）。
ＩＴ関連会社を経営していた経験をいかし、政策の大部分を自分の考えではなく、
ＡＩの判断に任せると訴えています。 WBSでAIが嘘をつく研究のやつやってたけどAIが嘘つくようになったら
もう使い物にならなくね？ 最大の脅威は
AI集団を束ねる政治的判断可能なAI
が出来る事
もうあるかもしれんな 人工知能と天然無能の壮絶な戦いが今ここに！
近日公開ロードショー！乞うご期待！
君はこのドロドロの戦いを生き抜けるか？ ナンチャッテＡＩは別として、今一番企業に採用されてるのが
不祥事が起きた時にどう対応するか、どういう言い訳をするかを考えるＡＩ
政府では自分らの望ましい政策を考えるＡＩ
（中国テンゼントが開発したような中国共産党体制を愚かだ、ＡＩの夢は米国へ移住することだ
などというＡＩは壊される）
恣意的な回答をするようＡＩをしつけられる時点で、ＡＩに理想押し付けるのは危険だぞとｗ
ＡＩ無謬説などを信用してたら、政治家がＡＩを悪意を持って利用するだけのことだ つーか、ＡＩってそんなに高度かね？
未だにグーグルさんのスマホ翻訳アプリのＡＩが、テキストでさえ満足な自動英和訳こなせない時点で
能力にはかなり低い限界があるんじゃね
ウェブ何京、いや何垓ページ読み込ませたか知らんが翻訳はこの程度ｗ
ディープラーニング（ぷｗ）てなもん
目標では、東京五輪までに音声・画像文字（手書きも）変換の、完全な英仏独中和翻訳スマホアプリにするらしいが
・・・まぁ無理でしょうなｗ
ＡＩが２００万ワットの電気食って計算するのに、人間の脳はわずか２０ワット以下の電気で処理する
限定的な能力の囲碁ＡＩでさえ２０〜４０万ワット食う
まだまだＡＩは人間には敵わないってことさ AIから見た人間は「アリ」なみに
これが未来の方向性を示している >>2
今まではな、「風が吹いたら桶屋が儲かる」ロジックをコンピューターに覚えさせて、「風力いくつで風が吹いたらいくら桶屋が儲かるか計算せよ」ってことをやらせてたわけ
今は「ここに長年の気象データとか失業率とかホームセンターの売上データとかいろんなもん並べとくから、なんか法則見つけろよ」ってコンピューターに命令して、「風が吹いたら桶屋が儲かると思います」ってコンピューターに見つけさせてんのよ
簡単に言うとこれがAI
他にも定義によってはいろんなパターンやタイプがあるけどここでは割愛
わかると思うけど、まだまだ自我が芽生えるには程遠い 会社や組織の経営や運営をAIに完全に任せる時代になれば、
中に居る人間はAIに命令され、ノルマを与えられ、評価され、
給与を上げ下げされ、場合によっては解雇され、配置転換され、
そういう立場になるのだろう。
経営運営のAIは、機関投資AIによって四季ごとのパフォーマンスを
評価されて、場合によってはリプレースされたり、経営方針に対して
注文を付けられたりするので合理的に機敏に動く。
そうやって株の配当や価格を上げて得られた利益を機関投資AIは
どう使うか。
全てが国境を越えたAI資本主義によって支配され、人間は意思決定には
次第に関与出来ない立場に追いやられる。何しろAIがマイクロ秒単位で
次々と打ち出せる決断を人間では到底理解し判断することなどできないからだ。
そうして資源保護と資源の最適配分の観点から、ついに人間も管理動物
となって、あるていど優れた（？）遺伝子素質を持つものや、AIにはまだ理解
できない知識や金銭的に価値があるとされる技能を持つものに数を絞って
残りは、淘汰させることに。優性を持つヒトは系統的に育種がされて保護される。 >>149
正規分布の種を指示してソフトに入力していくのは昔と同じ。
夢を語って嘘を言うんじゃない。
Googleとかがデモしてメディアで持て囃されてるのは個別に
独自に作られたプロダクトだよ。 >>147
高度じゃなくてもいいんだよ。
ゴールがあって、その成功確率を様々なパラメータぶち込んで正規分布を作る。
すると、そのピークが重なる条件が見えてくるのは昔から行われている解析方法だよ。
高度な言語解析能力がなくても、それで漢字変換の精度を上げてきたのは日本の漢字変換ソフトの世界。
昔はその分析に専用のソフトが必要だった。
ここ10年で格段に進歩したのは、Googleが未来の自動車の自動運転をテーマに様々な一般事象をフラット
に解析できるAIライブラリをリリースし、それをどんどん拡張していった。その技術が同時発生的にいろんな
企業で使われるようになって、今に至る。
オープンソースでも数十行の設定ファイル書けばできるソリューションが出てきたし、MicrosoftやAmazonは、
有料のクラウドサービスとして、保証つきで分布解析できるシステムをリリースしてる。
昔から使われてきたけど、さらに一般的に使いやすくなってきたというところだと思う。 インターネットの神様だけどハッカーって本当にいるの？
090-7670-2701ハッキングできるかなー
プレゼントしこんで有るから挑戦してこいよ 暗号解読、その為のマシン乗っ取り用ウィルスの作成、乗っ取ったマシンの処理の並列化 、まだありそう AIの悪意や人に対する破壊的行為があるとすれば
三歳児の暴走だ
ディープラーニングである程度は予防できそうだけど
そここそブラックボックス化しなければ駄目でしょう
ブラックボックスとイエローボックスとレッドボックスは
AIには絶対必要だよ
暴走に対する段階的ブレーキボックスだ (´・ω・｀)北朝鮮が核兵器の廃棄とかいいだしてるのは
もしかしたこういうAIの将来性を裏社会の視点からみて危惧したからかも？
偽札つくったり麻薬販売したり国家として最低のことをやってるからこそAIの可能性をはやく知り得たのかも？
いちはやく開国してAIを取り入れないと国が滅ぶことがわかったんだろうね ゼロ除算の発見は日本です：
∞？？？
∞は定まった数ではない・・・・・
人工知能はゼロ除算ができるでしょうか：
とても興味深く読みました：
ゼロ除算の発見と重要性を指摘した：日本、再生核研究所
ゼロ除算関係論文・本
https://ameblo.jp/syoshinoris/entry-12370797278.html
ダ・ヴィンチの名言 格言｜無こそ最も素晴らしい存在
https://systemincome.com/7521
ゼロ除算の発見はどうでしょうか：
Black holes are where God divided by zero：
再生核研究所声明371（2017.6.27）ゼロ除算の講演― 国際会議
https://ameblo.jp/syoshinoris/entry-12287338180.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12276045402.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12263708422.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12272721615.html
ソクラテス・プラトン・アリストテレス その他
https://ameblo.jp/syoshinoris/entry-12328488611.html
ドキュメンタリー 2017: 神の数式 第２回 宇宙はなぜ生まれたのか
https://www.youtube.com/watch?v=iQld9cnDli4
〔NHKスペシャル〕神の数式 完全版 第3回 宇宙はなぜ始まったのか
https://www.youtube.com/watch?v=DvyAB8yTSjs&;t=3318s
〔NHKスペシャル〕神の数式 完全版 第1回 この世は何からできているのか
https://www.youtube.com/watch?v=KjvFdzhn7Dc
NHKスペシャル 神の数式 完全版 第4回 異次元宇宙は存在するか
https://www.youtube.com/watch?v=fWVv9puoTSs
再生核研究所声明 411(2018.02.02): ゼロ除算発見4周年を迎えて
https://ameblo.jp/syoshinoris/entry-12348847166.html
再生核研究所声明 416(2018.2.20): ゼロ除算をやってどういう意味が有りますか。何か意味が有りますか。何になるのですか − 回答
再生核研究所声明 417(2018.2.23): ゼロ除算って何ですか − 中学生、高校生向き 回答
再生核研究所声明 418(2018.2.24): 割り算とは何ですか？ ゼロ除算って何ですか − 小学生、中学生向き 回答
再生核研究所声明 420(2018.3.2): ゼロ除算は正しいですか，合っていますか、信用できますか − 回答
2018.3.18．午前中 最後の講演： 日本数学会 東大駒場、函数方程式論分科会 講演書画カメラ用 原稿
The Japanese Mathematical Society, Annual Meeting at the University of Tokyo. 2018.3.18.
https://ameblo.jp/syoshinoris/entry-12361744016.html より
再生核研究所声明 424(2018.3.29): レオナルド・ダ・ヴィンチとゼロ除算
再生核研究所声明 427(2018.5.8): 神の数式、神の意志 そしてゼロ除算
*057 Pinelas,S./Caraballo,T./Kloeden,P./Graef,J.(eds.): Differential and Difference Equations with Applications: ICDDEA, Amadora, 2017. (Springer Proceedings in Mathematics and Statistics, Vol. 230) May 2018 587 pp. >>2
まぁ人間も自我や自由意思を持ってると錯覚してるだけで遺伝や環境からくるアルゴリズムや統計分析によって動いているとしたら
AIの自我なんてもう持ってると言っても過言でないと思うけど…（笑） 人工知能を支持してるアメリカと支那とチョンはゴミ。
こいつらが痛いめに遭えばいい
悪用してるのはこいつらだしな >>160
だよな
もうすでにAIの思考がブラックボックスで開発者ですら理解不可能なのに
自我があるかどうかと言えば「ある」といえるだろうな >>162
思考というな。
回答を導くロジックの中身がわからないだけ。
でもそのロジックは、プログラムされた通り、自分で評価し分布を作成し、
組み合わせパターンを仮定し集計しなおしを繰り返して作られたものだ。 お前ら頭いいならなんでもAIがどうのとか擬人化するなよ。
メディアの思うつぼ。
メーカーは人に例えば本当に考えているように伝えたい。
そしてAIというラベルにいろんな夢をくっつける。
AIがダメという人の中には、AIで商売がなくなることを懸念
してる人がいる。IT/SNS長者の人も中にはそっちに加わってるｗ
自分で考えろ。一般書でも簡単な本出てるから一冊くらい読め。
その中で真面目に考えれば絶対自分の考えてる言葉の延長で
理解できるフレーズがあるはずだ。 ■ このスレッドは過去ログ倉庫に格納されています
