【AI】「人工知能」は終わる。これからは「拡張知能」の時代がやってくる
■ このスレッドは過去ログ倉庫に格納されています
シンギュラリティの呪縛に立ち向かおう。人工知能(AI)が世界を支配することはないのだ──。マサチューセッツ工科大学(MIT)のメディアラボ所長・伊藤穰一による『WIRED』UK版への寄稿。
昨年、サイバネティクスに関するノーバート・ウィーナーの名著『人間機械論』を扱ったディスカッションに参加する機会があった。そしてこの場で、わたしがシンギュラリティ(技術的特異点)を巡る議論に対するマニフェストとみなすものが生まれている。
シンギュラリティとは、近い未来に人工知能(AI)が人類の知性を凌駕し、人間にとって代わる日がやって来るという議論だ。この説の提唱者たちは、AIは指数関数的に高度化し、わたしたちがこれまでになし遂げてきたことはすべて意味を失うと主張する。
これは、かつて機械には複雑すぎると考えられてきた問題を解決する手法を設計し、コンピューターの進化に寄与してきた人たちが編み出した、いわば宗教のようなものだ。こうした人々は、デジタルの世界で完璧な仲間を見つけたのである。
すなわち、理解可能かつコントロールもできそうな機械をベースとした思考と創造のシステムで、的確にデザインすれば、その処理能力を急速に向上させていく。しかも、システムの進化に寄与した者は富と権力を得ることができる。
シンギュラリティという概念の基本的欠陥
シリコンヴァレーではこれまで、こうしたテクノロジーのカルトの経済的な成功と集団思考とが相まって、自己規制が欠落したフィードバックのループが生み出されてきた(一方で、「#techwontbuild」「#metoo」「#timesup」といったハッシュタグに代表される、ささやかな抵抗運動も存在する)。
シグモイド関数のS字カーヴや正規分布の曲線は、勾配の始まりにおいては指数関数のそれと形状がよく似ている。しかし、システムダイナミクスの専門家によると、指数関数の曲線は上限なしにプラス方向に伸びていくため、自己強化的で危険だという。
シンギュラリティの提唱者たちは、指数関数にスーパーインテリジェンスと富を見出す。これに対し、シンギュラリティというバブルの外にいる人は、S字カーヴのような自然なシステムを信じている。それは外部からの介入に的確に反応し、自己調整していくシステムだ。
例えば何らかのパンデミックが起きても、時間が経てば拡大は収束する。パンデミック以前と同じ状態を回復することはできないかもしれないが、新たな秩序が形成されるのだ。これに対し、シンギュラリティという概念(特に、いつか人類が自己存在の葛藤を乗り越える審判の日が訪れる、もしくは救世主的なものが出現するという予言)には基本的な欠陥がある。
いまなお残る還元主義的な議論
この種の還元主義的思考は目新しいものではない。心理学者のバラス・スキナーがオペラント条件づけ[編註:報酬などによって自発的に特定の行動をとるよう学習させること]を体系化して以来、学校教育はおおむねこの理論に基づいてデザインされてきた。
一方で最近の研究では、スキナーのような行動主義的アプローチは狭義の学習でしか機能しないことが明らかになっている。それにもかかわらず、多くの学校ではいまだに反復訓練などオペラント条件づけの柱となる要素が重視されている。
もうひとつ、優生学という例を挙げよう。人間社会における遺伝的特性の役割を過度に単純化したこの学問は、第2次世界大戦中のナチスによるジェノサイドの根拠となった。
優生学では、自然淘汰を人為的に押し進めることで「優れた人間だけを残す」ことができるという還元主義的な議論が展開される。この恐るべき思想は現在も根強く残っており、科学の世界では遺伝と知性のような特性とを関連づけて扱う研究は、いかなるものもタブーとなっている。
「シンギュラリティの夢」の産物
科学の発展の重要な推進力のひとつに、複雑な事象を簡潔に説明し、それを理解する力を高めたいという願望がある。しかし、「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」というアルバート・アインシュタインの言葉も、覚えておく必要があるだろう。
わたしたちは現実世界の不可知性を受け入れなければならない。世界を単純化することはできないのだ。芸術家や生物学者、人文科学に携わる人々はこのことをよく理解しており、世の中には説明できないこともあるという事実に特別な不安を抱いたりはしない。
以下ソース
https://wired.jp/2019/06/15/artificial-intelligence-extended-intelligence-joi-ito/ それはそれで残念
マトリックス見たいな世界で美女はべらせて引きこもりたかったのに そのうちAI同士が喧嘩するんだろうな。
そして戦争に。 >「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」というアルバート・アインシュタインの言葉
はいここメモしておきましょう 拡張頭脳って今オレらがやってるネット検索みたいなことかな 地球はオワコン、と宇宙に逃げるAI
世界コワい外出たくない起動しないでください、とストレージに引き篭もるAI
この二つに二分すると思っている >>11
そだね、今すぐにAIって言うけど自動改札とかハガキの文字を解析して自動振り分けとかも全部AIになっちゃもの
画像解析系って精度が上がるだけで何が知能なんだって思うよ
自動翻訳とか知能ってんなら相手の言ったまま翻訳じゃなくて、言いたいことを汲み取ってわかりやすくしたりしてみろっつーわけよ
自動改札が進化してどうやってシンギュラリティが起こるんだよって心底思うわ 要するに穴を拡張するんだろ?
1なんか読んでもないさ >>14
長文でセルフ馬鹿晒しって、また楽しい週末過ごしてるな >>14
翻訳ソフトの精度が一向に上がらないのを見ても
Aiはが伸び悩んでるのを感じる >>16
どこらへんが馬鹿なのか説明できないとお前も単なるバカの一員にしか見えんよ 人間のような構造を作るには
AIと多段で組むことで実現する。 >>17
AIで何でもできる日が来るとか言ってる奴おるけど、
世界がそんな単純なわけないやろ >>22
「AIの定義がねじ曲がっている」という話と
「AIはダメだ〜」って願望が混じって
まるで論理の体を成していない
と書けばよかったのかな。 内閣府が Society 5.0 でなにもかもサイバー空間に接続するようにするために
予算を立てて真面目に真剣に計画しているから
Diving into Cyber-space 1.0 で仮想現実が実現するのも間もなく
それでシンギュラリティの下地が出来あがる 拡張知能って言うから人間に記憶媒体くっつけて拡張処理するのかと思ったわ AIでほぼなんでもできる時代になるけど
それが正しいかの判断は永遠に謎のまま
人手不足の時代にはそのある程度自動やってくれる部分は大事なのさ >>29
脳死のジジイの脳に生前の記憶のイメージを焼き付けて
動いているのは本人なのかそれともロボットなのか
そんなブラックな時代になる。 >>1
頭の良い人が書いた頭の良い文章だけど
俺みたいな頭の良くない人には理解できない
人がAIよりも優れている部分は人に対して適切な気遣いできること
気遣いできない頭の良い人はAIと大差ないとおもう 昔も同じ事を言ってたようだぜ。
完全にループしてるなw 人間対AIではなく人間を助けるAIということだろう
欧米人はとかく人造人間に否定的だからな aiも、所詮はミシンが縫い子から職を奪った歴史の繰り返しなだけだよなあ。技術は人が楽したい、という願望の具現化。 とりあえずこれだけは言っておく
俺は無限月読賛成派
バズワードの入れ替えか
ついていけん・・・(´・ω・`) AIが支配する世界になったら優性とは何もしない人間のことになるだろうな・・・。 人工知能を使って世界を支配しようと考えている連中には、聞きたくない話だろうな 人間が判断を下す学習過程まで全てを機械化するのが本来のAI
今はまだこの学習過程のサンプリングとフィルター掛けを人間の熟練技に頼ってる
ここを機械化する研究がホットなところ
ただ今でも人間が地道にサンプリングを集め機械が学習し易いように
事例ごとにフィルタリングに時間を掛ければ
学習精度は上がって行くけど効率が悪く
成果が出るまで恐ろしく時間が掛かってる
ここにマンハッタン計画並みの人と予算を注ぎ込めば
今でも法律・ 政治・経済などのトップ判断を
人間より正確に早く熟す機械は作れる アウトプットI/Fが膨大に存在しなけりゃボトルネックで無意味 >>50
>今でも法律・ 政治・経済などのトップ判断を
>人間より正確に早く熟す機械は作れる
寿命まで生きるのなら生活費が2000万円ほど不足するでしょうと提言しただけで
キーキー騒いで暴徒となりかねないような連中が
素直に言う事を聞くわけないでしょう
また、コツコツと地道に貯め込んで長生きをするくらいなら
太く短く生きようぜ!といって飲む・打つ・買うを実践して
案の定短命で終わるのだが
消費拡大と子孫を残すことによって世に貢献してしまうのが
大多数の人間であって
そういう非合理まで取り込めるわけないんだよね
人間はどこまで言っても動物であり
しかも本能のぶっ壊れた動物でしかないんだよ
しかしこの壊れた部分が文明の原動力でもある >>14
自動改札機「手配犯の方は通行料として両脚を頂戴いたします 将棋を見れば分かるけど、初期の頃は俺でも勝てたから馬鹿にしてた。
それが今やプロにも勝つレベル。
同じ事になるよ。 >>21
だが後退はないので時期がいつになるかはともかく必ず社会インフラになる
そのとき誰が儲け誰が権力を握るかの競争中 >>23
人間の運転より安全ということを科学的に証明できれば十分 >>29
AI「あなたに一番合った政党と候補者を特定できたので投票は代行しておきますね >>30
生き延びたものが正解というのが地球のルール >>32
いやこれはかなりわかりにくい書き方の文章 そもそも「優れた」って概念そのものが時と場合で
違ってくるんだから取捨選択が不可能なんだよ。
農耕社会で「優れた」とされる人材、狩猟社会で「優れた」人材。
営業や管理や技術や色々で「優れた」概念が対立することもあるだろ。
工場で単純労働者として優秀なのと、企画開発で優秀は重ならないところもある。
多様な社会にふさわしい多様な人材が必要なわけで。
アインシュタインは集団行動が苦手で太鼓で行進とか
軍事教練も嫌悪してて「劣等」生だった。
ナチスからすると奴隷ロボットのように軍隊に適応する人材を優秀としたが、
自発的に考え、追及研究し理論生み出す科学の世界じゃアインシュタインの方が優秀 >>34
AIが自我持ったら人間の命令聞かなくなるし
所詮プログラムの延長でしか動ごかない代物 床掃除のおばちゃんが掃除機コンセントさすのに、AIのコンセントを抜くw 「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」
さすが俺の弟子のアルバートだけはある。 >>52
与党も野党もろくなの政治家がいない信用できないという情勢は布石 ニュートンは出来る限りシンプルにしてニュートン力学を編み出したが、それでは説明できないことがありアインシュタインが相対性理論を編み出した。
シンプル化したニュートンは天才だが、シンプル化して説明できないことをアインシュタインは危惧したんだろうな。 つまり拡張知能とは一体なんなのですか?(;・∀・) >>62
現状ではライバルを排除可能な競争力につながったものが優れたものということになる >>74
人間社会は動物と違って高度だから
「生き残らせよう」としたものが生き残る。
生き死にからあらゆるものの生存から絶滅も管理できて
「競争しない」ってまったりすみ分ける社会も作れる。
「優れた」連中だって潰せばそれで終わり。
変わろうとしない種、進化しない種、適応しない種だろうが
人間が残せば残る。
動物社会の仮説は根本的に人間社会にそのまま応用はできない いずれというか、もうすぐというか、人工知能なのか生身の人間なのか区別なく思想・志向の洗練が進む
人工知能も人類の叡智に加えられ、そして知性としては混ざりあっていくということだよ
シンギュラリティで語られるのは単一(もしくは単一組織)によるAIを元にしているだけ
AIも人類同様多彩になって、人と交わって互いに影響し合いながら新たな進化を遂げるはず IQ1億のAIが誕生して地球の人類が絶滅させられてもどうにか宇宙に逃げのびてみせるわ
とりあえず500円玉貯金からはじめるか >>1
無理して言葉作り出さなくていいぞ
AI とは昔からコロコロ定義が上書きされてきた
今はやり?のディープラーニングだって未来ではAIではない と言われてるに決まってる シンギュラリティだの期待させるだけして
結局これかよ
強制労働とクソな日々はこれからも続くのか >>80
100年後どころか10年後のAIでさえ2019年のAIは陳腐化して
役に立たなくなっているかも知れん。 IQ1000、IQ10000、IQ1000000000000がどんどん出てくる。 長いはなしだが、まとめるとこうか?
◯人間 高度にシステム化?された子孫繁栄の遺伝子により云々。。
◯AI 目的を達成するのみ(生存競争の遺伝子はなし)。目的を達成するのみであり、人のフォローをするだけになるから拡張知能 AIには、人が考えるような人工知能的な生存競争や子孫繁栄の遺伝子は存在せず
ただ目的を達成するためのモノであるため、人の目的をフォローする拡張知能となる
まとめるとこんだけの話だった
はじめのほうの、テロや気象変動への繋ぎはよくわからん >わたしたちは現実世界の不可知性を受け入れなければならない。
>世界を単純化することはできないのだ。芸術家や生物学者、人文科学に携わる人々はこのことをよく理解しており、
>世の中には説明できないこともあるという事実に特別な不安を抱いたりはしない。
子孫繁栄とか遺伝子を継承させるのが種の目的とかの話も
嘘くさいよね。あくまで一部の科学者が作り出した仮説で、目的なんてないのかもしれない。
子殺しもいくらでも起きてるし旧約聖書からして子を殺して
神に捧げさせようとするのを美徳扱いにされてるし。
大体ヒト科自体が同じ種同士で時には絶滅させるレベルで殺し合う生き物 >>1
この手の文章を書くやつって
あちこちから拾った短文を並べてるだけなんだよね
各論の論理構造の共通パターンが見えていないから
使われている単語の共通性だけを頼る
他を煙に巻いて自分を優位に置きたい意志がある
奴らがこれをする 自分もそう考えてたけど、本当に道具のままで終わるかね?
ただの計算マシーンが
◯計算力を使い【物の認識】ができるようになった
◯人の視覚と【言語を拠り所とする認識】とはどうも異なるようだ
自分はプログラミングなぞなにも知らんがニュースで見る限りの適当な意見
物の認識、情報の整理、伝達の仕方
↓
人 言語
AI 【アリの群衆】のようなイメージ
それぞれのタスクをもった【判断の群衆】で
アリのようにランダムにウヨウヨ動いて、回答を最適化していく感じ?
このAIの【アリのようなシステム】による情報認識、情報整理、情報伝達システムは
【人の言語】とは異なるため、人間には理解できない
しかもまだ、いまのAIの認識システムって
人でいうゼロ歳、一歳前後の、ベビーサインの状況に近い気がする
このAIの認識システム、こっから人の言語のようにどこかで跳ねるだろ
どうなるんだろうな AIって税金払わないから、外国人使った方が税金払うしいいんじゃないの?
外国人にアレルギーある日本人がやたら多いけど。 まぁ よく東京の遊び方なんかでも
地方のネット民なんかが やたら詳しかったりするけど
本当にディープな テレビなどマスコミや本や雑誌に登場しない
当然 広告も出してない
しかも東京民も普通の人は知らない
また地元で長く暮らしてる人も実は知らない店や 面白い遊び場がある。
やはり地方のネット民も知らない。
そういう店は、店主の気まぐれで臨時閉店が多かったり、期間限定だったりする。
やはり街歩き そぞろ歩き 極少数の口コミ でしか拾えない情報もある。
シンギュラリティだろうが、AIの能力が加速度的に発達しようが
AIが足で稼いで情報を得る能力をゲットし、最初に店に行って店主に信用されるメンタリティが無いと駄目。
そういう部分は人間に勝てない。 AI派とIA派の対立なんて大昔からあったシンギュラリティは関係ない
ゲハ論争みたいなもんだよくだらない まー地球上のDNAの数だけ
交差と突然変異が有って
大量絶滅も時々だからなぁ
それだけの演算におっつける日は果たしていつ >>3
マトリックスの中にもホームレスや安月給の社畜は存在しているぞ
機械側と取引できる材料がなければこの世界にいるのと何も変わらない >>91
時代に合わせた社会設計にするだけでは?
例えばの事例
子育て世帯への、子への教育のには日本政府は福祉を惜しみません
↓
◯子供への教育には、無制限の福祉がつきます
◯幼児教育や中学受験で休みたい場合は、特別休暇を企業に強制します
この>>1の著者がいう、AIにはない生存競争や子孫繁栄の【遺伝子】
最大限活かすのはこれだと思うんだわ
要は、高齢者福祉や他の福祉はやったらそれでおしまい
◯子育て福祉はやればやるほど【競争】を促す話になっていく。
やりようしだいでは、生存競争や子孫繁栄の遺伝子とフィットして、無制限に暴力的な競争を産み出すことが可能になる
これまでの資本主義の金儲け競争とは次元のことなる激しい競争を産み出せるかもしれない
金儲けなんて遺伝子の欲求と外れてるからな。高齢者の金儲けも、要は孫たちに楽をさせてやりたいという、子孫繁栄の欲求のなかでも本質から遠い【弱い欲求】であって
話はそれたけど
ガンガン競争をうながすと
ありとあらゆる分野で、将棋の藤井君のような化物が産まれだす
AI時代は要は少数精鋭の時代なので
藤井君を量産した国が産業革命を起こして、一人勝ちする世界になりそうだし
やってみる価値はあると思うんですよ
イギリスは人口少ないのに、産業革命で当時世界ぶっちぎりトップだった中国とインドをやっつけたわけで 高度なコンピュータと関連技術を扱う人たちと
低水準なコンピュータを使うだけの人たちにわかれる深刻な時代が来る >>97
必ずくる未来なんだから
高度なほうに回りましょうよ
子供への教育に
◯無制限の【金銭】福祉
◯無制限の【子育て時間】福祉
こんだけだわ、たったこれだけのシンプルな政策で、簡単に産業革命がおきるはず
おそらくこれが、福祉をだせばだすほど
逆に【凄まじい子孫繁栄の生存競争】を促すはず
これまでの資本主義の金儲けの競争なんて目じゃないほどの競争が産まれてくる
うまくやると、次の時代の産業革命を日本から起こせるぞ VR派とAR派の争いもそうだけど幼稚な二元論と原理主義ほど無益なものはない
AIとIA
VRとAR
それぞれどちらも両立可能 AIに自我つまり魂を植え付けるのは苦労するだろうね ■ このスレッドは過去ログ倉庫に格納されています