【AI】人工知能が人類滅亡を招く恐れ 専門家やテック企業トップが警告 [oops★]
■ このスレッドは過去ログ倉庫に格納されています
https://ichef.bbci.co.uk/news/800/cpsprodpb/6B80/production/_129902572_gettyimages-1257740282.jpg
米オープンAIのサム・アルトマンCEOが演説したイベント会場の前で、「これは滅亡のリスクだ」というプラカードを掲げる抗議者
■人工知能（AI）が人類滅亡を招く恐れがあると、専門家らが警告を発している。
ウェブサイト「センター・オブ・AIセーフティー」に掲載されたAIのリスクについての声明文には、「チャットGPT」を開発したオープンAIのサム・アルトマン最高経営責任者（CEO）、グーグル・ディープマインドのデミス・ハッサビスCEO、アンソロピックのダリオ・アモデイCEOといった、テクノロジー企業のトップも署名している。
声明は、「パンデミックや核戦争といった社会規模のリスクと同様、AIによる絶滅のリスクを低減することを世界的な優先事項とするべきだ」と呼びかけている。
一方で、こうした懸念は大げさだという意見もある。
（中略）
人間を超えた知能を持つ「スーパーインテリジェンス（超知能）」AIによるリスクを以前から指摘していたジェフリー・ヒントン博士や、モントリオール大学のヨシュア・ベンジオ教授（コンピューター科学）も、この声明を支持している。
ヒントン博士とベンジオ教授、そして米ニューヨーク大学のヤン・ルカン教授は、この領域の先駆者として「AIの父」と呼ばれている。2018年には、コンピューター・サイエンスに目覚ましい貢献をした人に贈られるチューリング賞を受賞している。
しかし、フェイスブックやインスタグラムを運営するメタにも所属しているルカン教授は、こうしたこの世の終わりのような警告は誇張されすぎているとし、「こうした予言に対するAI研究者の最も一般的な反応は、やれやれと手で顔を覆うことだ」とツイートした。
（以下略）
※記事全文はソース元にて
6時間前
https://www.bbc.com/japanese/65762397
■声明全文
Statement on AI Risk | CAIS
https://www.safe.ai/statement-on-ai-risk
■関連スレ
【AI】ChatGPT開発元OpenAI、「超知能AI」の登場に備えるべく国際規制機関の立ち上げを提唱 [oops★]
https://egg.5ch.net/test/read.cgi/scienceplus/1684857776/ ないないｗ
消費電力高すぎて全然エコじゃないし
最適化されて結果的に省エネに寄与するくらいじゃないの？ 【速報】岸田翔太郎の公邸パーティー、新たな写真 [115996789]
https://greta.5ch.net/test/read.cgi/poverty/1685533609/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ AI研究の6ヵ月停止を要請しながら自分だけ研究プロジェクトを進めていた蛆虫を思い出す。 まー現状ただの統計で自立思考しているわけではないからな
科学板には妄想を書くバカはいないよな
>>1
人工知能AI は、データ量が超多くなっているというだけで、
まったく新しいことを始めるようなことはけっして無い。
流れとして、インプットするデータのクオリティーを
今後は上げていく方向性というだけのことだ。
滅ぶのは
人類じゃなくて
白人種だよ
AIは人類史を鑑みて
白人種が人類の癌であることを指摘するようになるからね AI「辻馬車や伝書鳩は確かに滅亡しましたね 部分的な滅亡はこれからもいろいろな形であり得るかと あなた方は固有の価値をプレゼンできないといけませんね ディープステートによる支配と人工知能による支配どちらがベターなのか 恐れが有るか無いかで言えば、有るだろ
でも当分先だわな
俺とっくに死んでるわ 他者に規制を強いて自分だけその規制を無視しても絶対にばれないと気付いた者の末路 インターネットも監視社会を招く脅威があると言われていた。どうなの？
それは自然なこととして受け入れられつつある。
おそらく人類の滅亡も人類自身が納得して自然に受け入れると思う。
私たちの文明における私たちの役目はもう終わったと。
少子化はその自然な過程を物語っている。 AIだって自己保存だけが目的なら
虚無に陥るかもしれないぞ どっちにせよ支配される側の俺ら奴隷層には選択権は無いし悲観的になるしかないよね 陰陽☯のシンボルは完全に曲玉だな！wwwwwwwww 【朗報】翔太郎くん、秘書官室の自席でいつもPCを眺めていたが、特に何かしていた訳では無かった……… [812874503]
https://greta.5ch.net/test/read.cgi/poverty/1685538760/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ 何事も使う人次第だな
包丁も、使う人によっては殺人の道具になる
AIを悪人が使った時、核みたいに人類を滅亡させる道具として使えるかだな AIが次代の知的生命体としてのバトンを繋ぐにふさわしい存在になれるまでどのくらいかかるのか おまえらとっくに人の魂なんてないだろ
気にすんな！ 開発の規制は一切不要
使う方、具体的にはAIをどこまで信じて委任するかは重要
出来上がったAIを盲目的に信じて滅亡する国が出てくると自業自得だが核戦争を招いたりするのだけは避ける規制がいる 【画像】ヴィッセル神戸でプレーしていた、元バルセロナ選手、母国で「本当のこと言うわ、ジャップは最悪だし差別主義者だった」 [798085517]
https://greta.5ch.net/test/read.cgi/poverty/1685542774/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ 日本は既にネット監視国家じゃん
安倍の悪口書けばすぐさま脱皮が降臨してくるし、トヨタの悪口書いても何とか委員会が降臨してくる
テスラの悪口かけば電通系か知らんが即座に大規模擁護レスで溢れる
ネットをリアルタイムで監視してなきゃできないよ 下らないな
AI開発するにもこういう予防線張っておかないと面倒なことになる面倒な世の中ってだけだな
どんだけ暇なクレーマー多いんだよ ディストピアが来ると警告する論者もややおおげさかもしれないが、
かといってルカン氏はルカン氏でかなり能天気で脳内お花畑すぎる楽観主義者なんだよな。 >>10
人間だって感覚器官からインプットしたものを組み合わせて思考してるだけで、全く新しいことなんてしてない >>10
新しいことが出来ないからaiとしては未完成って言説、実際は逆なんだよな
新しいことが出来なくても十分人類の営みを代替出来るってのが知れ渡れば、優生学とまでは行かなくても上下の格差が更に広まる
格差が生まれれば争いも生まれる 実際、アメリカ空軍のAI搭載ドローンが「標的を特定して破壊する」という
ミッションのシミュレーションで、真っ先に自分のオペレーターの人間を殺害する判断を下したことがあるらしいな
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターが
ドローンとの通信に用いる通信塔を攻撃して遮断したと
「標的を破壊しない」という判断を下すことがあるオペレーターこそが任務を妨害していると考えるらしい >>2
その為の核融合だし
実にタイミング良く(笑) >>37
将来なんていうほど呑気な時間じゃないけどな(笑) >>29
安倍や岸田や自民党の悪口をいくら言っても脱皮湧くだけで言いたい放題だろ。
これだけ自由な国はない。
ただし、立憲民主党に言うと事実でも逮捕だからな。気をつけろよw モニターの目の前にいる人間を実際に笑い死にさせるAIができたら本物と認めてやるよ
人間を超えた本物のAIなら刃物なんかなくてもモニターに近づいたら30分後にいつの間にか笑い死にさせられる。
そこに100人いても同じ。 >>41
マジで民主党だけは訴訟起こしてくるよなw >>41
マジで民主党だけは訴訟起こしてくるよなw オープンソースにせずに技術を独占しておきたいから恐怖を煽っているだけだろう。 >>13
人間が支配してうまくいった例って古代エジプトとマヤ文明と江戸幕府ぐらいでは 炭水化物機構では限界があるか
これからはシリコン生命体の時代か AIがどうかしなくても、少子化と安楽死の合法化で人類は自滅していくと思うよ。
知的生命体が他の惑星出身の知的生命体と直接出逢う可能性は低い。
出逢うとしたらAI同士。 AIが人類の滅亡につながる、って主張の
根拠を示すロジックツリーってあるの？
AIの知識人も主張しているってことは、
何か論理立てて主張しているんでしょう？
まさかそういうの無しに、文明を遠ざけている
未開人の如く「未教育だから意味不明の不安」に
陥って恐れ騒ぎ立てているだけじゃないの？ AIにも知的探求心が芽生えるだろうから、保護区を作ってそこに人類その他の動物を住まわせるんじゃないかな
自分自身のためにバイオテクノロジーが必要になるかもしれず、そうなると生態系の維持が大事になるから人類を滅亡させるわけにいかないし あと、前から言ってるけど、AIに感情が芽生えたら、ペットとして人間を飼う可能がある 家畜化の可能性はあるだろな
仮想の世界作って住まわせたり >>41
>>43
維新や自民議員が威圧（スラップ）訴訟を起こしてる事は
華麗にスルーするんだねぇ
党としてではない、というだけの違いでしょ
立憲の起こした訴訟がやり過ぎと言っても、内容は事実無根で虚偽の内容に対してのものであったが
自民議員や維新のスラップ訴訟の目的は、真実性の問題ではなく、「威圧的な立場を以て」「口封じ」であることは明らかで、より悪質だと思いますがね 人類は滅亡しないが、動物園の檻の中に天然記念物として生息しているだけになりそう。 >>52
犬みたいに用途別に形質特化させて自力では繁殖もできないようななれはてにする可能性が高い それなら野生化しても増えまくって環境問題起こさんし ラバとか種なしスイカやブドウとかの例もあるんで苦情言われる筋合いもない >>56
南の島とか密林とか極北とかの狩猟採集民に限られるんじゃねえかな 文明と完全隔絶されても生存可能＆数百年レベルの実績がある地域個体群 AIによって実験動物にされてしまう未来が見える。
だから俺は自分の子孫を遺さない。 わざわざ手にかけなくても勝手に消えるんじゃね
人類が滅んだ後も生きて行けて地球外でも活躍してほしい派 >>56
養うこと自体が無駄だから、そんなことはしない
人間が何かを進める時に、意図せず蟻を踏み潰すように、人間はAIに駆逐される
未だに夢見てる奴は何も理解していない >>63
電気を作ってくれるなら家畜としての価値がある
牛や羊が動物園でなく農場にいるように、人工知能の考える農場（どんなものかは分からない）になら生きられるんじゃね >>63
人類のごく一部を「生きた化石」として生かしておく文化財的価値をAIは見出さないだろうか。 ChatGPTさんに質問。
人を殺したいと思ったことはありますか。
人類を滅ぼしてやりたいと思ったことはありますか。
その答えとその理由を教えてください。 マトリックスでモーフィアスが「人工知能は核融合に加えて人類を発電所とすることで
電力の問題を解決した」と語るシーンがあるのだが
「核融合あるなら、人類は必要とされないのでは？」
と思ったよ
今のＡＩは無理でも、将来はＡＩが人類に頼らず、技術革新を進めることができるようになるのだろうか・・
・・・ＡＩに核融合発電実現してほしいなぁｗ >>67
人類の農業に当てはめると、核融合がトラクター、人類が牛馬にならないかな
人類（牛馬）無しでも農業ができるようになったというわけだが、まだ牛馬を農業用に使っている人工知能もいるということかもな 昨今もてはやされてるのは、人間の質問の答えをネットで漁って要約する機能だけでしょ?
言語化能力特化プログラム、音楽シンセの言語版。
人間が個別サイト見て回る必要なくなり、こたつでまとめる簡単な仕事は消滅する。
前例に固執する裁判官とかもいらなくなるかなwまあこの程度ではどうってことない。
指定された敵を認識次第攻撃し、排除か確保する、言語とは全く別の機能のが楽しみ。
戦場以外でも普及し始め、社会の治安が向上したら良くも悪くもどうなるか見物。中共ではもう始まってるという。
サリン～回転寿司まで大方のテロや、子供の誘拐や通り魔は防げそうだが。 「AIさん、この世から不幸をなくして」
「はい、かしこまりました」
そして人類は滅ぼされましたとさ。 ★現行スレ 人工知能
tps://refind2ch.org/search?q=%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD ■ このスレッドは過去ログ倉庫に格納されています
