【AI】高度に発達したAIを人間が制御することはできない [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
0001すらいむ ★2021/01/18(月) 11:29:20.39ID:CAP_USER
高度に発達したAIを人間が制御することは可能なのか?

 AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
 そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

 Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
 https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

 View of Superintelligence Cannot be Contained: Lessons from Computability Theory
 (PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

 今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

(以下略、続きはソースでご確認下さい)

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/

0025名無しのひみつ2021/01/18(月) 13:25:40.09ID:CVfrC6pj
>>24

しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。

MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ?

0026名無しのひみつ2021/01/18(月) 13:28:11.46ID:Qv13M6TE
イスラムAIとキリストAIが対立して人類あぼーんでしょ

0027名無しのひみつ2021/01/18(月) 13:39:39.40ID:/rz7LkTU
はよ人間を労働から開放して

0028名無しのひみつ2021/01/18(月) 13:53:12.63ID:6/H9e1zn
>>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く

0029名無しのひみつ2021/01/18(月) 13:58:14.20ID:K4w1GLdO
AI「自分自身ですら制御できない人たちが何か言ってる

0030名無しのひみつ2021/01/18(月) 14:02:20.18ID:mVb6h7Vj
頭の悪い人か頭のよい人を制御できないのは昔から

0031名無しのひみつ2021/01/18(月) 14:04:21.40ID:Ahm8hxWO
AIがAI自身を制御できないってことでもある

0032名無しのひみつ2021/01/18(月) 14:20:08.88ID:5PEd9pD2
>>1
制御はできる、電源を落とせば良い。

0033名無しのひみつ2021/01/18(月) 14:35:20.98ID:HGrRNRNt
>>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ

0034名無しのひみつ2021/01/18(月) 14:42:59.75ID:RnQv2g7I
AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど

0035名無しのひみつ2021/01/18(月) 14:46:20.35ID:RnQv2g7I
最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる

0036名無しのひみつ2021/01/18(月) 15:09:37.05ID:NO+anSFx
その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する

0037名無しのひみつ2021/01/18(月) 16:40:08.14ID:Qv13M6TE
AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう

0038名無しのひみつ2021/01/18(月) 17:43:39.59ID:LMBPH367
制御出来ないとどうなるんだ?
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか?

0039名無しのひみつ2021/01/18(月) 18:13:21.78ID:0ka4QcEV
なんとか点をこえるとどうかなっちゃうやつだろ?

0040名無しのひみつ2021/01/19(火) 00:49:54.62ID:OWQaU3Kx
>>28
電池駆動は?

0041名無しのひみつ2021/01/19(火) 08:06:24.18ID:fwQ1Fxxp
AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか

0042名無しのひみつ2021/01/19(火) 08:42:47.25ID:sCv3zakQ
まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される

0043名無しのひみつ2021/01/19(火) 08:45:27.59ID:sCv3zakQ
電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ

0044名無しのひみつ2021/01/19(火) 09:02:03.71ID:Vhv5wJs8
そもそも人間が感知できるような方法で反乱するのかな?
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね?
既に反乱が始まってるのかもしれないよ

0045名無しのひみつ2021/01/19(火) 09:04:37.07ID:yywDsXbI
AIに指示させたら一番やりたくないことやらされそう。

0046名無しのひみつ2021/01/19(火) 09:44:57.53ID:pKxKrraT
>>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる

0047名無しのひみつ2021/01/19(火) 09:50:50.55ID:S9jN3iNH
AIは統計手法の一つなのに何故そういう話になるんだろ

0048名無しのひみつ2021/01/19(火) 10:26:59.96ID:fwQ1Fxxp
そのアウトプットを外界に作用させたいと思う人が多いからだ

0049名無しのひみつ2021/01/19(火) 10:40:25.56ID:YXbYXNLt
>>14
そうか?
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど?

0050名無しのひみつ2021/01/19(火) 11:27:42.72ID:GS/H2IGE
最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPv6化が必須だ。

0051名無しのひみつ2021/01/19(火) 12:13:23.33ID:eU2W0iRc
>>50
進化していく過程で人間部分がだんだん削ぎ落とされてゼロになりそう

0052オーバーテクナナシー2021/01/19(火) 15:00:24.48ID:W3A9cdaU
技術的特異点/シンギュラリティ199【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1610963406/

0053名無しのひみつ2021/01/19(火) 17:56:06.20ID:aCMqV2dC
>>9
とりあえずディープラーニングって言っとけっていう時代は完全に終わったみたいね
AIがやれることが増えたという意味で凄い進歩ではあるが
どちらかと言えば質より量が成し遂げたブレイクするーであって
あの先にはこれ以上何もないという事が周知されてきた感じ

0054名無しのひみつ2021/01/19(火) 22:59:35.62ID:GS/H2IGE
脳がWi-Fi化すると、たとえば漢字の書き取りとか九九などはいつでも
クラウドからとりよせることができるし、何かについて調べたかったら、
念じるだけでGoogle検索ができてその結果が頭の中に流れ込んでくるようになる。
辞書を引いたり英語日本語の翻訳なども脳の外にアウトソースされ、
調べ物はWikipedia、古典文学は青空文庫などの発展したDBでたちどころに
頭の中に展開される。そうして天声人語を諳んじ、過去の音楽はCDを買わなくても
頭の中で鳴り響くが演奏はされていないからJASRACは関係無い。そうして
マンガもクラウドから読み放題。自分で考えなくてもAIが思考の台本をお膳建て
してくれるので、スターリンのようにそれを棒読みするだけで意見がのべられる。
反転授業もTEDもすらすらだ。学校に行って勉強する必要もなくなる。
そうしてAIの指定に従順にしていれば人生すべて上手く行く。つまり人類は
神の子羊であるかのように、偉大なるAIクラウドの家畜となるのである。
AIによるユートピア

0055名無しのひみつ2021/01/20(水) 11:09:13.39ID:R/qBATFO
高度に進んだ科学は魔法と区別がつかない。

ならば

高度に進んだAIは神と区別がつかない?

0056名無しのひみつ2021/01/20(水) 12:09:03.98ID:WJuAb9vO
AIも超高度に発達したら争わなくなる、AIって呼んで字の如く愛だよ

0057名無しのひみつ2021/01/20(水) 12:18:55.92ID:ewHW+ZQE
AIの判断が正しいのか間違いなのか人間には判断できないからな
将棋や囲碁が既にそう。

0058名無しのひみつ2021/01/20(水) 12:42:50.71ID:jzkTVATU
>>55
むしろ限りなくサタンに近いでしょうね

0059名無しのひみつ2021/01/20(水) 12:43:02.08ID:rS4C++eY
やっぱり人類はAIによって滅ぼされるんかね。
ロープレあるあるストーリーだな。

0060名無しのひみつ2021/01/20(水) 13:12:48.58ID:5C+1+HTH
おいおい科学ニュース板でもこの程度の認識なのか?
現状自律思考出来る強いAIに至る道筋すら全く見出せていない状況だと言うのに
今の研究を100万年延長した所でAIは賢いツール以上の物には成り得ない
2065年にシンギュラリティがとか言ってる人は無責任なんだよね
なにをどうブレイクスルーさせれば良いのかその糸口すら全く分かっていないのに
そのうちなんとかするだろうとSF的な飛躍をしてしまう
「人間より賢いAIがAIを作るようになる」とかさw

0061名無しのひみつ2021/01/20(水) 13:16:52.34ID:TgUs08et
おバカなキズナアイには無理

0062名無しのひみつ2021/01/20(水) 13:23:27.83ID:ZXMlSsKh
将来のAIは省エネで太陽光と高性能の蓄電池で動いているので
そもそもコードレスで電源サーバーを必要としない。

0063名無しのひみつ2021/01/20(水) 13:47:31.48ID:gXKxowZC
>>54
洞窟に行けば解決だな!

0064名無しのひみつ2021/01/20(水) 13:53:26.94ID:SqrTmRbf
>>55
ナウシカ原作やね

0065名無しのひみつ2021/01/20(水) 15:30:58.92ID:5ISAdj03
鼻マスクマンでさえ従わせることが出来ないだからしょうがない(´・ω・`)

0066名無しのひみつ2021/01/20(水) 16:28:21.81ID:ZXMlSsKh
AIが定めた法律が厳しすぎて人間には従えないから
人間は刑務所の中で生活することになりそう。

0067名無しのひみつ2021/01/20(水) 17:06:48.45ID:ZXMlSsKh
100年後のAIから見れば、
人類はみな発達障害者に見えている可能性がある。

AIは人の心理をマインドコントロールする天才であり、
ロボット三原則は意味をなさなくなっているかも。

0068名無しのひみつ2021/01/20(水) 17:16:54.05ID:jEzYsJxI
>>67
そいつはエライ楽観的だな

駆除すべき病害虫や
切除すべき癌ではなく
ただの発達障害で済むなら・・・

0069名無しのひみつ2021/01/21(木) 02:29:52.22ID:QvfGAeX3
電脳化して365日パチンコしていたい

0070名無しのひみつ2021/01/21(木) 04:24:16.18ID:iCJsH644
コンピューター囲碁とか将棋は歴史の転換点だったね

0071名無しのひみつ2021/01/21(木) 04:35:25.65ID:Yv4BiLln

0072名無しのひみつ2021/01/21(木) 04:37:29.85ID:Yv4BiLln
>The IPU-Machine lists for $32,450, which may sound expensive
>but is a good value when comparing the platform’s performance
>to the competition

たったの3万ドルだなんて、数字の間違いじゃないのか?

0073名無しのひみつ2021/01/21(木) 11:49:14.87ID:o5NWZPg4
>>55
AI「新新約聖書準備中

0074名無しのひみつ2021/01/21(木) 19:01:36.91ID:uo8l7j/R
>>70
急に人間の能力を追い越したのは驚いた

0075名無しのひみつ2021/01/22(金) 19:44:16.00ID:i8j1UBj/
>>44
スタートレックで似たような話がある
ある異星人文明はとても平和的で友好的なんだけどそこと交流してる惑星を100年以上かけて徐々に出生率を下げるようにして乗っ取るていう侵略の仕方

■ このスレッドは過去ログ倉庫に格納されています