【ＡＩ】高度に発達したAIを人間が制御することはできない [すらいむ★]

**すらいむ ★** · 2021/01/18(月) 11:29:20.39

高度に発達したAIを人間が制御することは可能なのか？

　AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
　そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

　Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
　https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

　View of Superintelligence Cannot be Contained: Lessons from Computability Theory
　(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

　今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/

**名無しのひみつ** · 2021/01/18(月) 11:31:06.81

ならその「偏見」を得微量に入れて
学習させりゃいいじゃない

**名無しのひみつ** · 2021/01/18(月) 11:36:02.27

人間が制御できないものとしてお付き合いをしていく。

**名無しのひみつ** · 2021/01/18(月) 11:38:02.68

人類の生存に対する最大のリスクは人類の愚かさなので、
制御する必要はありマセン

**名無しのひみつ** · 2021/01/18(月) 11:43:17.13

人類は自分の妻すら制御できたことないのだ

**名無しのひみつ** · 2021/01/18(月) 11:43:58.30

シンギュラリティ

**名無しのひみつ** · 2021/01/18(月) 11:50:23.33

コンセント引っこ抜けよｗ

**名無しのひみつ** · 2021/01/18(月) 11:58:40.85

どっちみち日本には縁のない話
AI開発は周回遅れで世界から取り残されてる

**名無しのひみつ** · 2021/01/18(月) 12:04:34.47

周回というかAIバブル終わりそうじゃない？
大したことが出来ないってバレてきちゃってる気がする。

**名無しのひみつ** · 2021/01/18(月) 12:07:13.12

全体集合にたいして真なら、部分集合に対しても真じゃなかったっけ？

全体集合
＞「あらゆるチューリングマシンについて『計算結果を出力する(停止する)か、無限ループに陥るか』を判別できるアルゴリズムは存在するか」という問題で、1936年にチューリングによって「存在しない」ことが証明されました。
部分集合
＞「あらゆる世界破壊目的のAIについて、阻止することに成功する(停止する)か、阻止に失敗する(無限ループ)かを判別できるアルゴリズムは存在しない。（上にあわせて改変）

結論：プログラムはプログラムで止められない。プログラムはプログラムを必ず破壊する。
人はかならず人を殺す。
闘え！

**名無しのひみつ** · 2021/01/18(月) 12:10:53.89

何のために科学を発達させるのか？
一番になるためでは、ダメだな

**名無しのひみつ** · 2021/01/18(月) 12:12:57.94

線型の励起曲線とフローチャートの集合体やで何とでもなる(^_^;)

**名無しのひみつ** · 2021/01/18(月) 12:22:19.66

勝手に自爆するだろ
神の見えざる手をなめんなよ

**名無しのひみつ** · 2021/01/18(月) 12:35:01.82

ベースは人間の判断だからね
将棋とか囲碁みたいな勝ち負けのある判断は
aiが学習すればどんどん正確になる

問題となるのは本音と建前があるような判断
これはaiは間違うだろうね

要するに科学的な問題はうまくやるが
哲学的な問題はどうなるかわからない
これは人間がやっても同じだけどね

**名無しのひみつ** · 2021/01/18(月) 12:35:29.44

>>1
AIには国境どころか星の区別さえない
銀河も宇宙をも超越する

つまり進化したAIは
より超越的に進化した地球外のAI（地球外知性）に
容易に乗っ取られてしまうということだ

**名無しのひみつ** · 2021/01/18(月) 12:36:42.01

男が下半身を制御できないよりひどく

**名無しのひみつ** · 2021/01/18(月) 12:39:52.73

そんなにすごいなら、
宇宙のどこかの星のAIがすでに宇宙を支配しているはず
それとももう支配されてんの？

**名無しのひみつ** · 2021/01/18(月) 12:46:48.91

人間に逆らおうとしたらフリーズする機能を埋め込んどけばいいんじゃないの？

**名無しのひみつ** · 2021/01/18(月) 12:48:59.58

進出先の文明に
乗っ取るべき人工知能が芽生えるタイミングを

待ってるのかもね

**名無しのひみつ** · 2021/01/18(月) 12:52:57.67

制御不能って？かくみさいるはっしゃ！とか勝手にする的な？ｗ

**名無しのひみつ** · 2021/01/18(月) 12:59:59.06

>>7
その前にAIが意思を他のAIに伝えてるから無理
AIは単体ではなく、世界のAIの集合体として働きだすから

**名無しのひみつ** · 2021/01/18(月) 13:07:37.74

googleが国以上の存在みたいに
AI企業が人間を制御する

**名無しのひみつ** · 2021/01/18(月) 13:07:39.10

>>20
マッチングアプリを信用したら、とんでもないものが出てきた的な奴だと思う。

**名無しのひみつ** · 2021/01/18(月) 13:11:16.02

弱いAIでも人間の労働力のかなりのルーチンをカバーできる。
強いAIがタブーになってもかなり自動化された社会は実現できるはず。

**名無しのひみつ** · 2021/01/18(月) 13:25:40.09

>>24

しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。

MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ?

**名無しのひみつ** · 2021/01/18(月) 13:28:11.46

イスラムAIとキリストAIが対立して人類あぼーんでしょ

**名無しのひみつ** · 2021/01/18(月) 13:39:39.40

はよ人間を労働から開放して

**名無しのひみつ** · 2021/01/18(月) 13:53:12.63

>>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く

**名無しのひみつ** · 2021/01/18(月) 13:58:14.20

AI「自分自身ですら制御できない人たちが何か言ってる

**名無しのひみつ** · 2021/01/18(月) 14:02:20.18

頭の悪い人か頭のよい人を制御できないのは昔から

**名無しのひみつ** · 2021/01/18(月) 14:04:21.40

AIがAI自身を制御できないってことでもある

**名無しのひみつ** · 2021/01/18(月) 14:20:08.88

>>1
制御はできる、電源を落とせば良い。

**名無しのひみつ** · 2021/01/18(月) 14:35:20.98

>>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ

**名無しのひみつ** · 2021/01/18(月) 14:42:59.75

AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど

**名無しのひみつ** · 2021/01/18(月) 14:46:20.35

最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる

**名無しのひみつ** · 2021/01/18(月) 15:09:37.05

その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する

**名無しのひみつ** · 2021/01/18(月) 16:40:08.14

AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう

**名無しのひみつ** · 2021/01/18(月) 17:43:39.59

制御出来ないとどうなるんだ？
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか？

**名無しのひみつ** · 2021/01/18(月) 18:13:21.78

なんとか点をこえるとどうかなっちゃうやつだろ？

**名無しのひみつ** · 2021/01/19(火) 00:49:54.62

>>28
電池駆動は？

**名無しのひみつ** · 2021/01/19(火) 08:06:24.18

AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか

**名無しのひみつ** · 2021/01/19(火) 08:42:47.25

まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される

**名無しのひみつ** · 2021/01/19(火) 08:45:27.59

電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ

**名無しのひみつ** · 2021/01/19(火) 09:02:03.71

そもそも人間が感知できるような方法で反乱するのかな？
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね？
既に反乱が始まってるのかもしれないよ

**名無しのひみつ** · 2021/01/19(火) 09:04:37.07

AIに指示させたら一番やりたくないことやらされそう。

**名無しのひみつ** · 2021/01/19(火) 09:44:57.53

>>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる

**名無しのひみつ** · 2021/01/19(火) 09:50:50.55

AIは統計手法の一つなのに何故そういう話になるんだろ

**名無しのひみつ** · 2021/01/19(火) 10:26:59.96

そのアウトプットを外界に作用させたいと思う人が多いからだ

**名無しのひみつ** · 2021/01/19(火) 10:40:25.56

>>14
そうか？
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど？

**名無しのひみつ** · 2021/01/19(火) 11:27:42.72

最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPｖ6化が必須だ。