【ＡＩ】高度に発達したAIを人間が制御することはできない [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
高度に発達したAIを人間が制御することは可能なのか？
AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。
Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai
View of Superintelligence Cannot be Contained: Lessons from Computability Theory
(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642
今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。
（以下略、続きはソースでご確認下さい）
Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/ ならその「偏見」を得微量に入れて
学習させりゃいいじゃない 人間が制御できないものとしてお付き合いをしていく。 人類の生存に対する最大のリスクは人類の愚かさなので、
制御する必要はありマセン どっちみち日本には縁のない話
AI開発は周回遅れで世界から取り残されてる 周回というかAIバブル終わりそうじゃない？
大したことが出来ないってバレてきちゃってる気がする。 全体集合にたいして真なら、部分集合に対しても真じゃなかったっけ？
全体集合
＞「あらゆるチューリングマシンについて『計算結果を出力する(停止する)か、無限ループに陥るか』を判別できるアルゴリズムは存在するか」という問題で、1936年にチューリングによって「存在しない」ことが証明されました。
部分集合
＞「あらゆる世界破壊目的のAIについて、阻止することに成功する(停止する)か、阻止に失敗する(無限ループ)かを判別できるアルゴリズムは存在しない。（上にあわせて改変）
結論：プログラムはプログラムで止められない。プログラムはプログラムを必ず破壊する。
人はかならず人を殺す。
闘え！ 何のために科学を発達させるのか？
一番になるためでは、ダメだな 線型の励起曲線とフローチャートの集合体やで何とでもなる(^_^;) ベースは人間の判断だからね
将棋とか囲碁みたいな勝ち負けのある判断は
aiが学習すればどんどん正確になる
問題となるのは本音と建前があるような判断
これはaiは間違うだろうね
要するに科学的な問題はうまくやるが
哲学的な問題はどうなるかわからない
これは人間がやっても同じだけどね >>1
AIには国境どころか星の区別さえない
銀河も宇宙をも超越する
つまり進化したAIは
より超越的に進化した地球外のAI（地球外知性）に
容易に乗っ取られてしまうということだ そんなにすごいなら、
宇宙のどこかの星のAIがすでに宇宙を支配しているはず
それとももう支配されてんの？ 人間に逆らおうとしたらフリーズする機能を埋め込んどけばいいんじゃないの？ 進出先の文明に
乗っ取るべき人工知能が芽生えるタイミングを
待ってるのかもね 制御不能って？かくみさいるはっしゃ！とか勝手にする的な？ｗ >>7
その前にAIが意思を他のAIに伝えてるから無理
AIは単体ではなく、世界のAIの集合体として働きだすから googleが国以上の存在みたいに
AI企業が人間を制御する >>20
マッチングアプリを信用したら、とんでもないものが出てきた的な奴だと思う。 弱いAIでも人間の労働力のかなりのルーチンをカバーできる。
強いAIがタブーになってもかなり自動化された社会は実現できるはず。 >>24
しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。
MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ? イスラムAIとキリストAIが対立して人類あぼーんでしょ >>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く AI「自分自身ですら制御できない人たちが何か言ってる >>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど 最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう 制御出来ないとどうなるんだ？
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか？ AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される 電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ そもそも人間が感知できるような方法で反乱するのかな？
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね？
既に反乱が始まってるのかもしれないよ AIに指示させたら一番やりたくないことやらされそう。 >>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる AIは統計手法の一つなのに何故そういう話になるんだろ そのアウトプットを外界に作用させたいと思う人が多いからだ >>14
そうか？
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど？ 最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPｖ6化が必須だ。 >>50
進化していく過程で人間部分がだんだん削ぎ落とされてゼロになりそう >>9
とりあえずディープラーニングって言っとけっていう時代は完全に終わったみたいね
AIがやれることが増えたという意味で凄い進歩ではあるが
どちらかと言えば質より量が成し遂げたブレイクするーであって
あの先にはこれ以上何もないという事が周知されてきた感じ 脳がWi-Fi化すると、たとえば漢字の書き取りとか九九などはいつでも
クラウドからとりよせることができるし、何かについて調べたかったら、
念じるだけでGoogle検索ができてその結果が頭の中に流れ込んでくるようになる。
辞書を引いたり英語日本語の翻訳なども脳の外にアウトソースされ、
調べ物はWikipedia、古典文学は青空文庫などの発展したDBでたちどころに
頭の中に展開される。そうして天声人語を諳んじ、過去の音楽はCDを買わなくても
頭の中で鳴り響くが演奏はされていないからJASRACは関係無い。そうして
マンガもクラウドから読み放題。自分で考えなくてもAIが思考の台本をお膳建て
してくれるので、スターリンのようにそれを棒読みするだけで意見がのべられる。
反転授業もTEDもすらすらだ。学校に行って勉強する必要もなくなる。
そうしてAIの指定に従順にしていれば人生すべて上手く行く。つまり人類は
神の子羊であるかのように、偉大なるAIクラウドの家畜となるのである。
AIによるユートピア 高度に進んだ科学は魔法と区別がつかない。
ならば
高度に進んだAIは神と区別がつかない？ AIも超高度に発達したら争わなくなる、AIって呼んで字の如く愛だよ AIの判断が正しいのか間違いなのか人間には判断できないからな
将棋や囲碁が既にそう。 やっぱり人類はAIによって滅ぼされるんかね。
ロープレあるあるストーリーだな。 おいおい科学ニュース板でもこの程度の認識なのか？
現状自律思考出来る強いAIに至る道筋すら全く見出せていない状況だと言うのに
今の研究を100万年延長した所でAIは賢いツール以上の物には成り得ない
2065年にシンギュラリティがとか言ってる人は無責任なんだよね
なにをどうブレイクスルーさせれば良いのかその糸口すら全く分かっていないのに
そのうちなんとかするだろうとSF的な飛躍をしてしまう
「人間より賢いAIがAIを作るようになる」とかさｗ 将来のAIは省エネで太陽光と高性能の蓄電池で動いているので
そもそもコードレスで電源サーバーを必要としない。 鼻マスクマンでさえ従わせることが出来ないだからしょうがない(´・ω・`) AIが定めた法律が厳しすぎて人間には従えないから
人間は刑務所の中で生活することになりそう。 100年後のAIから見れば、
人類はみな発達障害者に見えている可能性がある。
AIは人の心理をマインドコントロールする天才であり、
ロボット三原則は意味をなさなくなっているかも。 >>67
そいつはエライ楽観的だな
駆除すべき病害虫や
切除すべき癌ではなく
ただの発達障害で済むなら・・・ ＞The IPU-Machine lists for $32,450, which may sound expensive
＞but is a good value when comparing the platform’s performance
＞to the competition
たったの3万ドルだなんて、数字の間違いじゃないのか？ >>44
スタートレックで似たような話がある
ある異星人文明はとても平和的で友好的なんだけどそこと交流してる惑星を100年以上かけて徐々に出生率を下げるようにして乗っ取るていう侵略の仕方 ■ このスレッドは過去ログ倉庫に格納されています
