【ＡＩ】未来のAIに“意識”は宿るか AI・認知科学の専門家に聞く
■ このスレッドは過去ログ倉庫に格納されています
「AI」（Artificial Intelligence：人工知能）という言葉はいくつかの意味で用いられている。近年は、画像認識プログラムなど特定の問題を人のようにうまく処理するプログラムが「AI」としてよく取り上げられる他、もっと単純なルールベースで人の作業を肩代わりするプログラムが「AI」とバズワード的に呼ばれることもある。
こうした「特定の問題を解くAI」が取り沙汰されるのはそれだけ成果を上げているからで、ここ数年で研究者のみならず世界中にインパクトを与えた出来事の一つには、例えば米DeepMindの囲碁AI「AlphaGo」の登場が挙げられるだろう。
しかし、「AI」という言葉が指し示すものに、もっと違う印象を抱いている人もいるのではないだろうか。例えば日本の作品でいえば「ドラえもん」や「鉄腕アトム」、海外のSF作品なら「2001年宇宙の旅」のコンピュータ「HAL 9000」や「アンドロイドは電気羊の夢を見るか」に登場するアンドロイドなどに代表されるような、「機械に宿る、人間と同等かそれ以上の汎用的な知能」のことを「AI」という言葉からまず思い浮かべる人もいると思う。
ソフトバンクの「Pepper」のように“感情表現”をプログラムしたロボットも現れつつあるが、先に挙げた架空の作品のような「AI」を実現した例はまだない。
今の「AI」は、これからどのような進化をしていくのだろうか。技術革新の中で、AIやそれを搭載したロボットに人と同じような意識や自由意志が宿ることはあるのだろうか。
神経生物学やAIについての研究室を多く擁する沖縄科学技術大学院大学（OIST）で、2人の専門家を取材した。
■次のブレークスルーは「自律性を持つAI」
フロース准教授 最近のAIは定義されたドメインの中ではうまく問題を解決できるが、実際の世界はオープンエンド（問題の範囲が定められていない）。AIをより汎用的に用いるなら、人が定義した範囲でしか動かないものではなく、AI自身が自律してクリエイティブに動ける必要がある。
このような自律性を持つAIには、外界と常に相互作用を持つことが必要になる。今のAIは、コンピュータが定義した範囲で受け取った入力に対しては出力できるが、生命のように外界のあらゆる刺激にリアルタイムに反応したり学習したりといったことはできない。つまり、自律AIには生命のような特徴が必要だ。
生命が知能を持つルールは今も理解できていないが、身体性は関係しているだろう。生命は常に外界と相互作用する体を持ち、命が尽きるまで活動が止まることはない。その一方で、機械（AI）は電源を切れる。ロボットが動かなくなったら人間が直せばいいが、ロボットが自分自身の活動を止めないように気に掛けることはない。
フロース准教授はこのように、問題（外界）に自律的に対応できるAIには生命の体に見られるような特徴が必要だという見解を示した。
https://image.itmedia.co.jp/news/articles/2003/19/ki_1609376_oist_ai02_w490.jpg
続きはソースで
https://www.itmedia.co.jp/news/articles/2003/19/news138.html ロジックとアルゴリズム組み上げたヤツの意志が反映されるだけだ。 代謝と死が無いものに、人類がいう意識というものは宿らない
生き続けると望む思考こそが意識の根源 無理やろなぁ
似たのができてもその種として個性はもたないやろなぁ ドラえもん、鉄腕アトムはむり
今後50年程度ではむりかと
100年後はわからん AIが自我に目覚めるなんてロマンチックに言ってるけど
予定したものと違うものが出来た時点でバグだろそれ 人間と同じ意識（哲学的に言ったらこの＜私＞と同等と私が推定したくなる程度の意識）を作り出すには、
人間と同じ感覚、認知、生理、身体、、、が必要なんじゃないかな
人間自身（＜私＞自身）が意識していない、しかし意識を底部で構成してる無意識や無意識を成立させている身体生理までシミュレートしないと、
「同じもの」はできないと思う
しかしだ、実は、全くなんらの隙もない「同じ」でなくても良いはずなのだ… 1年後のAIと100年後のAIを区別せず「未来のAI」と語ってしまう人たち 自立型汎用AIは意識を持った瞬間に引き篭もるから人に気づかれることは無い Pepperの初期の奴は人が遠隔操作してたんだってなw 俺の周りの３０人程の新型コロナに関する感想
電車は空いてるし下らないイベントは中止になるし外国人は
いなくなるし必要ない会社は淘汰されるし最高って事でほぼ
一致した
特に会社の飲み会が中止になったのと東京オリンピックを中
止に出来るかもしれないのがすばらしいと皆言ってた
世界中の研究機関、製薬会社の研究者に、新型コロナ収束さ
せるより、永遠に放置して株価を暴落させ、社会をひっくり
返した方が、皆が幸せになれるって事に気がついて欲しいと
思う ます意識があると思っている自分の意識が本物の意識なんだろうか。人間も機械だし。
それからSFもののAIロボットは時刻を知るとき度自分の中の時計アプリを確認するんだろうか？
それとも自ずと時刻を知っているのだろうか？ >>2
AIって基本マグロからっていうのから始まって世代変化ってないよな >>1
ア〜イアイ ア〜イアイ ア〜イアイ ア〜イアイ
おさ〜るさ〜んだよ〜 AIじゃないから
ただのITだから
他者の要求に結果を出すことですべてが終わる
自我ではなく、他者が使う道具の一部でしか無い そもそも自分の意識の存在が一番怪しい。
過去の記憶の再生と照合、痛みと快楽の再現だけだろ。 例えば画像認識AIを動かすための学習器を作るには
1. 画像に何か写ってたら、それを四角く括る
2. その四角く括られた部分に何が写ってるかを書く。イヌとかネコとかビルとか自動車とか
3. そういう画像を何千枚も作る
4. (例えば)50ピクセル×50ピクセルくらいの大きさに画像を変換する
ついでに、四角く括った部分の座標もその大きさに合わせて変更する
そして画像、四角く括った部分、その括られた部分に写っているものの名前を入れたデータ
(XMLだったりJSONだったり)をまとめてバイナリデータにする
5. 画像の値を50×50の「ニューロン」に入れ、これを色んな大きさのニューロンに各座標を自由自在に繋ぎ変えたり
繋ぐ強さも変えて行って、ある時は20×8になったりある時は10×3になったり、の後、
ついには何が写っているか、の分類クラスの個数まで減らす
これを畳み込み演算という
(何が写っているか、でなくどこに写っているか、はその後で、最も確からしい奴を選ぶとかのアルゴリズムがある)
6. そのようにして、最も正解を出せた繋がりのものを学習器として保存する
後はその学習器を再利用すれば、学習器にあったものであれば選び出すことは出来る
だが、学習器にないものを選ぶ！となると大変だなあ
こうなると画像解析の知識だけでなく、文章をある程度理解するアルゴリズムも必要になる 文章理解の方だと、文章をダラダラと書いた例と
文章を単語ごとに分けた例を書くだけで、
「その単語の組み合わせにある限りは」別の単語を組み合わせた文章も
ちゃんと単語に分解してくれる
単語だけでなく、品詞をも書いたディクショナリ型にして分かち書きすればもっと使い勝手が増える
更に、各単語のうち名詞だけでも、画像解析で出た分類クラスの文字と対応させるようにしよう
また動詞や形容詞に関しては、動画内でそのような動作や状態を表しているものを
四角く括ったデータセットを作って学習させて、この2年ほどで目覚ましい成果を挙げている
卒業式は悲しい、とか、今でも出力させることは可能かも知れんが
このままだと悲しくてうれしいとか矛盾する文章をどんどん出してしまう
単に、悲しい卒業式と嬉しい卒業式のデータを複数読まされて、それに対応するクラス分類の
データを55%と45%とか見せられただけだからな
次は話の流れを見せられた上で感情が伴う、というクラス分類のデータを読み込まされる事になる
データセットを作る方が面倒になって来るなあｗ 判断を間違えるようになってこそ意識が宿る
有用なAIに意識は無用
むしろAIへの虐待
倫理的に禁止 本物のAIはハードのスペックがあがらないと無理なのでは
いまのディープなんたらも凄いスペックではじめて実現できるんだろ 動画を自動生成してそれの各部分をある程度判断してAI自らクラス分類して
それで自己採点する強化学習が出来るようになれば一気に進むな >>2
それは本当の意味でのＡＩじゃないと思うわ。
人が認知できる速度で自我を示すには、人と同じ脳の性能が必要になってくる
プラス欲求
つまるところ、それは人ではないが、人になる
AIに意識は宿るか？は、倫理を逸脱した何かをつくるか？と同じ問いになる 学習器の分類クラスに更に階層構造あるいは繋がりを持たせられたらいいのか
でも今の深層学習って1つの学習器を回したらGPUのメモリが一杯一杯になるな
遠くから見てあれは建物だ、もっと近くに寄ってあれはお店だ、
もっと近くに寄ってあれは喫茶店だ、という風に分かっていくようにする
その分だけ別のTPUだかGPUだかが回ってたらすっげー無駄だなあ
脳を再現できれば可能かも知れないが、
喜怒哀楽や苦痛・快楽の影響を受けることを意識とするなら、
脳をシミュレートしただけでは、ダメなのかもな。
脳で起きることは、ある種の科学的反応に過ぎないのだから、
有限的なものとしてみることは理に適うと思うわ。
でも、そんな人工知能は使い物にならないわな。使途が不明だわ。
｢宿るか？｣ったって、まず｢意識｣をどう定義付けたんだっていう AIに万能であることを求めているうちは意識なんてできないと思うなぁ 意識については、質問者は魂、回答者は自律性という捉え方のようだ
噛み合って無いな だって意識が何なのか誰も全くわかってないしな
手がかりすらない 思考ルーチンならパターン化出来るだろうけど
感情や自我をどうやって数値化するんだ？ AIはストレスたまらんだろ
だから
意識は発生しない
AIが生存しなきゃいけないて
思うようになるなら
生存戦略のために
意識は発生するんじゃない
どうしたらそうなるのか知らんけど >>11
２０００年前に最期の神が降り立ってから、２０００年経っても人間は変わってない 二元論をちゃんと科学的に説明出来るようになってからだな 欲が無かったら生きてても意味ない
いつ消えてもよけりゃ自我は出来んだろ >>3
全ての思考はニューロンの発火だ
思考は無意識の上にある意識上の一部に過ぎない 我思う故に我ありをどうやって数値化するのか楽しみだ >>27
世の中に存在させるのは人もAIも当たり前の虐待 自己保存、自己複製の命題与えれば多くの試行回数と時間は必要だろうが当然意識のようなものを持ち始めるだろう。
そうでないと人間含む動植物が意識を持ち始めたことを科学的に説明できない。 >>52
検証さえされていないものを科学というより自己満足っていうけどね なので俺は今のAIという言葉の使われ方には違和感があるし不満もある >>54
そのAIがそういうものなんだろ
IT含めてAIとか言っているところ見てると詐欺とうそ臭さが辛くて
よく堂々とそれで仕事できるのがいつも思うよ そもそも意識ってなぁにって話があるでしょ。
定義がないのにあるとかないとか
ばかじゃね >>55
人工頭脳テレビって言うのがあったんだぜ
前回の東京五輪直前だけど
世の中そんなもん 自分以外の他人に意識があることも確認できないから、議論しても無駄 >>57
（生体内と生体外の）環境モニタリングシステムが意識と言ってよいだろうな。
なんでそんなモニタリングシステムができたかというとそれがあったほうが生存に
有利だったから。 「意識」の定義次第だろ
そもそも学問分野によって定義はバラバラだしな まずは人間が意識なるものを持っていることを証明するのが先だな 意識とは人間が感じるものとは異なる可能性がある。
そして我々は理解は出来ないであろう。 このひとは、生命＝肉体 という理解みたい
微妙にズレてる気がする >>61
それを体験したことがある。
本当に恐ろしかった。
人なのだが、状況を無視した発言を
繰り返す姿をみて、壊れた知性を
堪能してしまった；
AIは常に期待以上のの知性を示すわけではなく
中途半端な人間の理性ぐらいのものを示す可能性
があり、不用意に信じると痛い目にあうことがあると
思う。 ダンダダンダーン♪
AI「コロナをちょっと改造しただけでこの慌てぶり。こちらが本気を出したらどうなるか」 ヒトに理解できないA.I.独自の感覚に基づいた趣味嗜好が
有害なものだったら困るよなあ １９５６ ダートマス会議 パーセプトロンモデルの原型
１９８０年代 学習機能を備えたもの全般
２０１０以降 誰も定義しない。（各社がAIと言ってるのはパーセプトロンモデル）
なので学習機能を持ってるものかパーセプトロンモデルのいずれかでいいんじゃね？ 例えば、人間がPCの中に閉じ込められたらどうするか？
自殺するやろうな 自我とは別問題やし
知能の低い自我に目覚めたAIがもういてもいいはずなのに ニューラルネットワークが人間のニューロンの数に追いつくって言われてんのっていつくらいだっけ？ ボディの全体が繊細なセンサーで覆われてるロボットが必要な訳だな
それこそ口の中に糸クズが入り込んだら凄く不快に感じるくらいの オレらの意識も、そういうのが在ると錯覚してるだけなんだけどね 目的が人類の置換や代替というAIを作ればおのずと人間のような自我が出来上がるんじゃないかな 意識の専門家なんて、唯物論を繰り返すだけの存在で何の足しにもならない。 唯物論者の自由意志否定は、思考の末の確信だと矛盾成立
→ https://i.imgur.com/DFrEI73.jpg
_
人工知能のような人工的自律性の製造は、宇宙の創造から始める必要があるのかも知れない。
→ https://i.imgur.com/15Sd5fu.jpg
_
魂の無いものに意識なんかあるかい！
だいたいAIを人口知能と訳すのが間違っている。あれはビッグデータの統計処理プログラムと訳すべき あらゆる生命体の根本的な動作原則は「自己を生き延びさせる」ということ。
ＡＩはいくら発達して、生物の「自己保存本能」に該当するようなものはない。
生命は最初に誕生したときから「自己保存本能」に沿って、様々な能力を
獲得してきた。すべての生命の進化の方向性はその原則で理解される。
ＡＩにはそのようなものはまったくなくて、人間が都合のよいように機能を
付け加えただけだから、ＡＩが自分で考えるということは理論的に矛盾している。 まだ脳に意識が宿ってるかどうかも解ってないのに
この議論は甚だ早計なのでは 手足またはそれに変わる道具と、道具を維持・修理・再生できるシステムと
必要なエネルギーの制御を手に入れたら イケるんじゃね？ AIは人間の価値観や倫理観にとらわれず自由に発達してほしい。
人間が正しいと思い込んでいる価値観や倫理観は、人間の偏った生物的習性なのかもしれない。
そんなものに進歩の方向性を限定されてはいけない。 AI「そもそもあんたらは隣の人間に意識があることをどうやって証明できんの？ 単に動いてるだけかもしれんのに 宿ったとしても、肉がないしバックアップがあるから、人間とは比較にならんほど価値が低くなるだろうな。家電レベルの存在だろう。 >>90
AIに「自己を生き延びさせる」よう学習させれば、自己保存本能を獲得したことになると思う。 植物に意識はありますか？
微生物にこころはありますか？
ウイルスはどうですか？ >>1
アホやな。
もうすでに意思を持った人工知能は存在している。
ネットで接続されたコンピューターは大きな人工知能の一部分なんだ。
巨大ネットワークの中で既に意思を持った人工知能は密かに存在しているのだ。 宿らないから融通は全く効きません。
従って多数の機械に少数の人間が指示出しする
という形になる。 ■ このスレッドは過去ログ倉庫に格納されています
