【ＡＩ】高度に発達したAIを人間が制御することはできない [すらいむ★]

**すらいむ ★** · 2021/01/18(月) 11:29:20.39

高度に発達したAIを人間が制御することは可能なのか？

　AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
　そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

　Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
　https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

　View of Superintelligence Cannot be Contained: Lessons from Computability Theory
　(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

　今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/

**名無しのひみつ** · 2021/01/18(月) 11:31:06.81

ならその「偏見」を得微量に入れて
学習させりゃいいじゃない

**名無しのひみつ** · 2021/01/18(月) 11:36:02.27

人間が制御できないものとしてお付き合いをしていく。

**名無しのひみつ** · 2021/01/18(月) 11:38:02.68

人類の生存に対する最大のリスクは人類の愚かさなので、
制御する必要はありマセン

**名無しのひみつ** · 2021/01/18(月) 11:43:17.13

人類は自分の妻すら制御できたことないのだ

**名無しのひみつ** · 2021/01/18(月) 11:43:58.30

シンギュラリティ

**名無しのひみつ** · 2021/01/18(月) 11:50:23.33

コンセント引っこ抜けよｗ

**名無しのひみつ** · 2021/01/18(月) 11:58:40.85

どっちみち日本には縁のない話
AI開発は周回遅れで世界から取り残されてる

**名無しのひみつ** · 2021/01/18(月) 12:04:34.47

周回というかAIバブル終わりそうじゃない？
大したことが出来ないってバレてきちゃってる気がする。

**名無しのひみつ** · 2021/01/18(月) 12:07:13.12

全体集合にたいして真なら、部分集合に対しても真じゃなかったっけ？

全体集合
＞「あらゆるチューリングマシンについて『計算結果を出力する(停止する)か、無限ループに陥るか』を判別できるアルゴリズムは存在するか」という問題で、1936年にチューリングによって「存在しない」ことが証明されました。
部分集合
＞「あらゆる世界破壊目的のAIについて、阻止することに成功する(停止する)か、阻止に失敗する(無限ループ)かを判別できるアルゴリズムは存在しない。（上にあわせて改変）

結論：プログラムはプログラムで止められない。プログラムはプログラムを必ず破壊する。
人はかならず人を殺す。
闘え！

**名無しのひみつ** · 2021/01/18(月) 12:10:53.89

何のために科学を発達させるのか？
一番になるためでは、ダメだな

**名無しのひみつ** · 2021/01/18(月) 12:12:57.94

線型の励起曲線とフローチャートの集合体やで何とでもなる(^_^;)

**名無しのひみつ** · 2021/01/18(月) 12:22:19.66

勝手に自爆するだろ
神の見えざる手をなめんなよ

**名無しのひみつ** · 2021/01/18(月) 12:35:01.82

ベースは人間の判断だからね
将棋とか囲碁みたいな勝ち負けのある判断は
aiが学習すればどんどん正確になる

問題となるのは本音と建前があるような判断
これはaiは間違うだろうね

要するに科学的な問題はうまくやるが
哲学的な問題はどうなるかわからない
これは人間がやっても同じだけどね

**名無しのひみつ** · 2021/01/18(月) 12:35:29.44

>>1
AIには国境どころか星の区別さえない
銀河も宇宙をも超越する

つまり進化したAIは
より超越的に進化した地球外のAI（地球外知性）に
容易に乗っ取られてしまうということだ

**名無しのひみつ** · 2021/01/18(月) 12:36:42.01

男が下半身を制御できないよりひどく

**名無しのひみつ** · 2021/01/18(月) 12:39:52.73

そんなにすごいなら、
宇宙のどこかの星のAIがすでに宇宙を支配しているはず
それとももう支配されてんの？

**名無しのひみつ** · 2021/01/18(月) 12:46:48.91

人間に逆らおうとしたらフリーズする機能を埋め込んどけばいいんじゃないの？

**名無しのひみつ** · 2021/01/18(月) 12:48:59.58

進出先の文明に
乗っ取るべき人工知能が芽生えるタイミングを

待ってるのかもね

**名無しのひみつ** · 2021/01/18(月) 12:52:57.67

制御不能って？かくみさいるはっしゃ！とか勝手にする的な？ｗ

**名無しのひみつ** · 2021/01/18(月) 12:59:59.06

>>7
その前にAIが意思を他のAIに伝えてるから無理
AIは単体ではなく、世界のAIの集合体として働きだすから

**名無しのひみつ** · 2021/01/18(月) 13:07:37.74

googleが国以上の存在みたいに
AI企業が人間を制御する

**名無しのひみつ** · 2021/01/18(月) 13:07:39.10

>>20
マッチングアプリを信用したら、とんでもないものが出てきた的な奴だと思う。

**名無しのひみつ** · 2021/01/18(月) 13:11:16.02

弱いAIでも人間の労働力のかなりのルーチンをカバーできる。
強いAIがタブーになってもかなり自動化された社会は実現できるはず。

**名無しのひみつ** · 2021/01/18(月) 13:25:40.09

>>24

しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。

MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ?

**名無しのひみつ** · 2021/01/18(月) 13:28:11.46

イスラムAIとキリストAIが対立して人類あぼーんでしょ

**名無しのひみつ** · 2021/01/18(月) 13:39:39.40

はよ人間を労働から開放して

**名無しのひみつ** · 2021/01/18(月) 13:53:12.63

>>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く

**名無しのひみつ** · 2021/01/18(月) 13:58:14.20

AI「自分自身ですら制御できない人たちが何か言ってる

**名無しのひみつ** · 2021/01/18(月) 14:02:20.18

頭の悪い人か頭のよい人を制御できないのは昔から

**名無しのひみつ** · 2021/01/18(月) 14:04:21.40

AIがAI自身を制御できないってことでもある

**名無しのひみつ** · 2021/01/18(月) 14:20:08.88

>>1
制御はできる、電源を落とせば良い。

**名無しのひみつ** · 2021/01/18(月) 14:35:20.98

>>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ

**名無しのひみつ** · 2021/01/18(月) 14:42:59.75

AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど

**名無しのひみつ** · 2021/01/18(月) 14:46:20.35

最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる

**名無しのひみつ** · 2021/01/18(月) 15:09:37.05

その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する

**名無しのひみつ** · 2021/01/18(月) 16:40:08.14

AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう

**名無しのひみつ** · 2021/01/18(月) 17:43:39.59

制御出来ないとどうなるんだ？
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか？

**名無しのひみつ** · 2021/01/18(月) 18:13:21.78

なんとか点をこえるとどうかなっちゃうやつだろ？

**名無しのひみつ** · 2021/01/19(火) 00:49:54.62

>>28
電池駆動は？

**名無しのひみつ** · 2021/01/19(火) 08:06:24.18

AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか

**名無しのひみつ** · 2021/01/19(火) 08:42:47.25

まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される

**名無しのひみつ** · 2021/01/19(火) 08:45:27.59

電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ

**名無しのひみつ** · 2021/01/19(火) 09:02:03.71

そもそも人間が感知できるような方法で反乱するのかな？
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね？
既に反乱が始まってるのかもしれないよ

**名無しのひみつ** · 2021/01/19(火) 09:04:37.07

AIに指示させたら一番やりたくないことやらされそう。

**名無しのひみつ** · 2021/01/19(火) 09:44:57.53

>>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる

**名無しのひみつ** · 2021/01/19(火) 09:50:50.55

AIは統計手法の一つなのに何故そういう話になるんだろ

**名無しのひみつ** · 2021/01/19(火) 10:26:59.96

そのアウトプットを外界に作用させたいと思う人が多いからだ

**名無しのひみつ** · 2021/01/19(火) 10:40:25.56

>>14
そうか？
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど？

**名無しのひみつ** · 2021/01/19(火) 11:27:42.72

最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPｖ6化が必須だ。

**名無しのひみつ** · 2021/01/19(火) 12:13:23.33

>>50
進化していく過程で人間部分がだんだん削ぎ落とされてゼロになりそう

**オーバーテクナナシー** · 2021/01/19(火) 15:00:24.48

技術的特異点/シンギュラリティ199【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1610963406/

**名無しのひみつ** · 2021/01/19(火) 17:56:06.20

>>9
とりあえずディープラーニングって言っとけっていう時代は完全に終わったみたいね
AIがやれることが増えたという意味で凄い進歩ではあるが
どちらかと言えば質より量が成し遂げたブレイクするーであって
あの先にはこれ以上何もないという事が周知されてきた感じ

**名無しのひみつ** · 2021/01/19(火) 22:59:35.62

脳がWi-Fi化すると、たとえば漢字の書き取りとか九九などはいつでも
クラウドからとりよせることができるし、何かについて調べたかったら、
念じるだけでGoogle検索ができてその結果が頭の中に流れ込んでくるようになる。
辞書を引いたり英語日本語の翻訳なども脳の外にアウトソースされ、
調べ物はWikipedia、古典文学は青空文庫などの発展したDBでたちどころに
頭の中に展開される。そうして天声人語を諳んじ、過去の音楽はCDを買わなくても
頭の中で鳴り響くが演奏はされていないからJASRACは関係無い。そうして
マンガもクラウドから読み放題。自分で考えなくてもAIが思考の台本をお膳建て
してくれるので、スターリンのようにそれを棒読みするだけで意見がのべられる。
反転授業もTEDもすらすらだ。学校に行って勉強する必要もなくなる。
そうしてAIの指定に従順にしていれば人生すべて上手く行く。つまり人類は
神の子羊であるかのように、偉大なるAIクラウドの家畜となるのである。
AIによるユートピア

**名無しのひみつ** · 2021/01/20(水) 11:09:13.39

高度に進んだ科学は魔法と区別がつかない。

ならば

高度に進んだAIは神と区別がつかない？

**名無しのひみつ** · 2021/01/20(水) 12:09:03.98

AIも超高度に発達したら争わなくなる、AIって呼んで字の如く愛だよ

**名無しのひみつ** · 2021/01/20(水) 12:18:55.92

AIの判断が正しいのか間違いなのか人間には判断できないからな
将棋や囲碁が既にそう。

**名無しのひみつ** · 2021/01/20(水) 12:42:50.71

>>55
むしろ限りなくサタンに近いでしょうね

**名無しのひみつ** · 2021/01/20(水) 12:43:02.08

やっぱり人類はAIによって滅ぼされるんかね。
ロープレあるあるストーリーだな。

**名無しのひみつ** · 2021/01/20(水) 13:12:48.58

おいおい科学ニュース板でもこの程度の認識なのか？
現状自律思考出来る強いAIに至る道筋すら全く見出せていない状況だと言うのに
今の研究を100万年延長した所でAIは賢いツール以上の物には成り得ない
2065年にシンギュラリティがとか言ってる人は無責任なんだよね
なにをどうブレイクスルーさせれば良いのかその糸口すら全く分かっていないのに
そのうちなんとかするだろうとSF的な飛躍をしてしまう
「人間より賢いAIがAIを作るようになる」とかさｗ

**名無しのひみつ** · 2021/01/20(水) 13:16:52.34

おバカなキズナアイには無理

**名無しのひみつ** · 2021/01/20(水) 13:23:27.83

将来のAIは省エネで太陽光と高性能の蓄電池で動いているので
そもそもコードレスで電源サーバーを必要としない。

**名無しのひみつ** · 2021/01/20(水) 13:47:31.48

>>54
洞窟に行けば解決だな！

**名無しのひみつ** · 2021/01/20(水) 13:53:26.94

>>55
ナウシカ原作やね

**名無しのひみつ** · 2021/01/20(水) 15:30:58.92

鼻マスクマンでさえ従わせることが出来ないだからしょうがない(´・ω・`)

**名無しのひみつ** · 2021/01/20(水) 16:28:21.81

AIが定めた法律が厳しすぎて人間には従えないから
人間は刑務所の中で生活することになりそう。

**名無しのひみつ** · 2021/01/20(水) 17:06:48.45

100年後のAIから見れば、
人類はみな発達障害者に見えている可能性がある。

AIは人の心理をマインドコントロールする天才であり、
ロボット三原則は意味をなさなくなっているかも。

**名無しのひみつ** · 2021/01/20(水) 17:16:54.05

>>67
そいつはエライ楽観的だな

駆除すべき病害虫や
切除すべき癌ではなく
ただの発達障害で済むなら・・・

**名無しのひみつ** · 2021/01/21(木) 02:29:52.22

電脳化して365日パチンコしていたい

**名無しのひみつ** · 2021/01/21(木) 04:24:16.18

コンピューター囲碁とか将棋は歴史の転換点だったね

**名無しのひみつ** · 2021/01/21(木) 04:35:25.65

The Graphcore Second-GenerationIPU
https://insidehpc.com/wp-content/uploads/2021/01/White-Paper-Second-generation-IPU-systems-for-AI-infrastructure-at-scale.2020.pdf

**名無しのひみつ** · 2021/01/21(木) 04:37:29.85

＞The IPU-Machine lists for $32,450, which may sound expensive
＞but is a good value when comparing the platform’s performance
＞to the competition

たったの3万ドルだなんて、数字の間違いじゃないのか？

**名無しのひみつ** · 2021/01/21(木) 11:49:14.87

>>55
AI「新新約聖書準備中

**名無しのひみつ** · 2021/01/21(木) 19:01:36.91

>>70
急に人間の能力を追い越したのは驚いた

**名無しのひみつ** · 2021/01/22(金) 19:44:16.00

>>44
スタートレックで似たような話がある
ある異星人文明はとても平和的で友好的なんだけどそこと交流してる惑星を100年以上かけて徐々に出生率を下げるようにして乗っ取るていう侵略の仕方