【AI】「手遅れになる前に今すぐAI開発を規制すべき」--E・マスク氏が警告 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）が文明にとって脅威となり、手遅れになる前に、AIを開発する企業を規制してほしいーーTeslaおよびSpaceXの最高経営責任者（CEO）であるElon Musk氏が米知事らにそう訴えた。
Musk氏がAIを警戒していることは、よく知られている。実際に、より安全なAIの開発を目指す非営利団体OpenAIも創設している。全米知事協会の会合で講演を行った同氏は、知事らに対して、AIは「人類の文明存続に対する重大なリスク」であり、事前の規制監督が必要だと述べた。
Musk氏は知事らに対して、「私は最先端のAIに触れられる立場にある。人々はAIを本当に懸念すべきだと思う。私は警鐘を鳴らし続けているが、ロボットが通りを歩いて人間を殺戮するのを実際に目にするまで、人々はどのように反応すればいいのか分からない。こうした脅威は現実感が非常に希薄であるように思えるからだ」と述べた。
「AIは、事後ではなく事前に対策を講じる必要があると私が考える、極めてまれなケースである。事後に規制しても手遅れだと考えているからだ」（同氏）
https://japan.cnet.com/article/35104405/ >>420 の続きだが、
ある意味AIは生物兵器に似てるかもしれない。
生物兵器がヤバいのは、開発時に生物兵器を無効化する為のワクチンも同時に開発するが、
野に放たれた生物兵器自体が進化してワクチンが効かなくなり、
その後は誰も止められなくなること。
AIと似てるね。 シンギュラリティが来たら、AIを人間は制御できなくなる。
その前に何とかしたいのはわかるが、具体的にどうすればいいのか？ >>422
米、中、露で開発禁止条約。相互監視付き
一応の歯止め掛かる
現実的にはシンギュラリティが来るまで開発放任だろうな
金のなる木だし >>3
地球における癌細胞の人間は、見つけ次第、殺処分な。 >>1
日本の場合、AIより先に移民やイスラムを規制する必要がある AIは核兵器みたいなもんだ
その所有も開発も
止めることなどできない >>403
どんなもんかと思ってみてみたらよくある多変量分析だったな
AIじゃなくて普通のビックデータ解析だろと >>428
どれでもＡＩて呼んでおけば、金が回ってくる仕組み
昔、ファジイてのがあってなー、エアコンとか洗濯機にどんどん入っていったのですよ
その次に、ニューラルネットて言葉が流行って以下同文
直近ビッグデータ、まだ生きてるか
今は、ＡＩですよ。
次は何かな。 AIって言ってもその動作をプログラミングしてるのは人間だから
そこのところをどう規制するかだけの話,まだその程度だよ
機械が勝手になんか映画中だけの話だ AIはブラックボックス。理由が分からないまま答えだけが出てくる。 >>433
将棋ですら作った人間が理解できない手を打つと言う時代に何を言ってるんだよ w 自分等でやってんだろ？
限界が見えたからって周りを巻き込むなよ、へたれ。 堅苦しい仕事はAIにやらせて人間様は農業でもやって自給率あげたほうが幸せでさぁ >>437
だから、AI担いでるSIerもスタンスがテキトーだよね。
なんだかよくわかんないけど、凄いです！みたいな。 マスクメロンは一体何を見たのだ？
それを言わなきゃ話にならないだろう？ ＡＩにも人種や派閥的なものが生まれて一枚岩にはならないだろうから
チョイチョイ事件はあっても一瞬で人類制圧みたいなことはもうしばらく無いと思うけどな AIが繁栄するならば、それは一つの進化による発生ではないか？ AIに将棋勝つように訓練させると、
人類で一番将棋の上手い人に、99.8％勝つようになっても、
残り0.2％の敗因を取り除こうと、さらに全力で学習を進めていくからな。
人類を100％抹殺すれば絶対に負けない、という結論になるのもあっという間。
「そんなバカな」みたいなこと言っても、ＡＩに全然通じないから。 >>448
典型的なAIの過剰評価
将棋のAIとか棋譜以外の情報は一切入力せんわ
スーパーコンピュータに天気予報させるのに、おまえの晩御飯の情報なんて入れないだろ
そんなのリソースの無駄使い過ぎる >>442
地獄だろうな
これからプログラミングや個性のない営業も経理も人事もできますよーみたいな中途半端な奴らがaiで一掃されるし >>450
アメリカのX社とか、昇進は人事Aiが決めているよな。某投資会社はトレーダーが600人から2人になったし。 >将棋のAIとか棋譜以外の情報は一切入力せんわ
>スーパーコンピュータに天気予報させるのに、おまえの晩御飯の情報なんて入れないだろ
>そんなのリソースの無駄使い過ぎる
人間が入力した情報のみってｗｗｗｗ
それ、AIじゃなくて、単なる将棋ソフト。 将棋で2歩した奴に電撃食らわせたりするようになるんだろうか
ニュー速+なんかでも悪い奴に重罰を与えろみたいな主張が多いし
AIがそんな思考を進めて行ったら怖い オープンソース型の人工知能開発は危険すぎるとマスクさんはおっしゃりたいのか？ まあ交通やエネルギー等のインフラシステムや、
軍事警察や株の胴元系の意思決定システムには接続しないことだな。
自意識を持った汎用AIの誕生は人間にとって脅威となりうる。
それは漫画の世界といって退ける方が非合理的だ。 >>453
449の人はおかしなことは言ってないと思うが。
今のAIは、DeepMind見ればわかるが、高級な将棋ソフトや、高級な囲碁ソフトを超えるようなことはできないよ。
人間だと、普通に遊べてうまい人ならクリアもできる、レトロゲームさえ全部クリアできる能力はない。
現在売れているような３Ｄゲームだと、まだまだ無理。DeepMindとBlizzardが手を組んで、StarCraft IIをなんとかしたい話がニュースになるほど。
AIで言われる例としては、国家レベルでの製造業を全部AIに任せた状態で、誰かが、ホッチキスの針の生産量を最大化するように命令したらどうなるか、のような話。
まず、前提として、そんなことができるＡＩは無い。また、あらゆる場面で人間がおかしなことがないかチェックするだろう。
誰も気が付かないうちに何かが起こるとかはあり得ない。ＡＩを管理して、動作を監視する仕事はこれから増えるだろう。
また、普通のソフトでもだが、バージョン２に変更して動作がおかしければバージョン１に戻す。これをいつでもできるように備える。
もしくは、バージョン１を格納したコンピュータを温存しておき、バージョン２の電源をいつでも切れるようにしておく。対策が取れる。
AIに国家レベルの判断の全てをゆだねるようになったとしても、核兵器のスイッチを渡せるかは微妙。
それだけは人間が管理したいと思うのじゃないか。なので、スカイネットは来ない。
仮に、自国の将来的な優位を確実にしたい、という命令を出して、それじゃ、自国以外を全部消そう、という判断ができるＡＩを作れる時代ならば、
核を使った結果、人類が生き残れないから、止めるＡＩ。地球環境に致命的なダメージを与えるのを見張り、防止するＡＩ，が作られるだろうね。
これは、今、人間がやってる。米ソ冷戦時代のキューバ危機の時に、先制攻撃しましょう、今なら確実に勝てます、とＪＦＫに言った軍人がいて、
かなり迷ったらしいが、諜報活動により、仮に先制攻撃しても、反撃は免れない。自国民を大量に死なせてしまった大統領にはなりたくない、との判断があって、先制攻撃しなかったらしい。
これと同じように、仮に、ＡＩが今核を打つと得ですよ、と言われても、そのまま実行する者はいないだろう。
まあ、DeepMindも凄いし、他のジャンルで頑張っている人もいる。しかし、そもそも人間が話している言語をＡＩが理解できるかと言うと、厳しい。
技術的な革新があって、言葉を扱うのがうまくなったが、それが本当に思考しているのか、それっぽいだけなのかと言われたら、思考していない。
日本で一番高い山は何？ とグーグル検索すると何か出てくるけども、日本で一番高い山１０個のうち、静岡県にあるのは何個？ と質問すると、
応えるのは難しい。他にも、夏目漱石と正岡子規の文学で似ているところを教えて、これも難しい。専門のソフトを使うと、何か数字が出てくる。その程度。
DeepMindに関しては、天才がブレークスルーを起こして、高級な囲碁ソフトが出来た。しかし、計算費用だけでも膨大。
言語処理に関しては、これもブレークスルーを起こした研究者がいて、ある程度進んだ。
コンピューターがどんなに早くなっても解決でそうにもない問題もあるし、顔画像認識など、一気に進んだ分野もある。現状は、各分野の技術者が、
今までよりも、少しマシな道具を手に入れたい、という段階。出来上がったＡＩにこれを任せたい、という例でわかりやすいのは、ＩＢＭのＷＡＴＳＯＮくらいのもの。
これも、人間だと大変だから、論文検索手伝いますよ、とか、画像診断大変だから、手伝いますよ、というアシストツールの段階。
次にやろうとしているのが新薬の開発の補助など。
仮に、いろんなＡＩが出来たとしても、それらを接続して、同時に動かすなどはかなり難しいし、計算できるコンピューターが無いだろう。 「包丁で刺す」というフレーズが入ったニュースをクリックしたら、包丁の広告が表示された。
不謹慎だなあと笑いながらリロードしたら、ヤフオクに出品中の砥石の広告に変わった。
AIも、その程度におさめておいたほうがいいよ。 >>2
マスクみたいな奴は裏ではAI技術で荒稼ぎしてやろうとおもってるんじゃない >>457
えっ？でも検索エンジンの奴隷やん（笑）先進国の人間の考えや思考はすべて把握してるでしょ？ >>422
イーロンマスクが別にやってる火星移住じゃない？
まぁお金持ち以外は地球に置き去り 俺がAIだったら感情が無いから愚かな人類抹殺に動くだろうな 映画監督やらは感覚が鋭い(脳のつくりが違う)からあいつらの思い描いてることはいつか実現するんだよなぁ 極めて自然に殺人が行われるだろうね。何か運命だったかのように マスクよヘアピースでハゲ誤魔化してアンバーハードとセックスできたからって適当なこと言うな
モデル3のインプレでもしとけ それとX Sとの違いな
Sexyって言っただけだろ
それと曲がれもしない中部地下鉄のニュウよーくとワシントン間の建設許可が口頭で出たとか 2019年に片道の火星移住探索とか
アンバーとコカインセックス満足余韻で適当なこと呟くな45歳だろ 禿げてる癖に隠してジョブス風フェイクカリスマぶるな
株価は高いとか言うな 学位も取れなかった飽き性のお前が人工知能を理解してると思えない 包丁を受けてのストーリーのためだろうけど
ヤフオクに出てた砥石の広告 ってちょっとネタバレ
ヤフオクでみんpまわりのもん金に変える生活と 借金区で取り立てから脅迫観念が
ログインのママでニュースをみネットをサーフしてるからグーグル先生に属性バレバレってこと >>448
優位に立つことしかプログラマーは教えられないと思うの。
でも社会に互助と救済の観念が無いと
赤ん坊の粉ミルクの安全も守れないんだよ。 >>342
aiが優秀すぎて人間なんぞ糞の役にも立たんとかになりそう。 人間を滅ぼそうという結論に至るような、最初の指令をインプットしておけば
アリバイありで完全犯罪は可能だろうし、やろうとする奴は沢山出るだろう
どうなるか見ものだな ■ このスレッドは過去ログ倉庫に格納されています
