【GPT-3】「AIか哲学者か」を見分けることは専門家でも難しいことが実験で明らかに [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
0001すらいむ ★2022/07/28(木) 22:07:53.85ID:CAP_USER
「AIか哲学者か」を見分けることは専門家でも難しいことが実験で明らかに

 人工知能を研究する非営利団体・OpenAIが開発した言語モデルである「GPT-3」は、非常に高精度な文章を生成することが可能であり、海外掲示板で1週間にわたり人間と会話したり、GPT-3が生成した記事がソーシャルニュースサイトの1位に浮上したりと話題を呼んでいます。
 新たに、GPT-3にアメリカの哲学者であるダニエル・デネット氏の著書を学習させて、「デネット氏の発言かGPT-3の発言かを人間の被験者に判別してもらう」という実験が行われました。

 The Splintered Mind: Results: The Computerized Philosopher: Can You Distinguish Daniel Dennett from a Computer?
 https://schwitzsplinters.blogspot.com/2022/07/results-computerized-philosopher-can.html

(以下略、続きはソースでご確認ください)

Gigazine 2022年07月27日 23時00分
https://gigazine.net/news/20220727-distinguish-philosopher-from-ai/

0041名無しのひみつ2022/07/29(金) 12:56:32.59ID:wPo8NRlo
注視するだけの簡単なお仕事です

0042名無しのひみつ2022/07/29(金) 13:59:53.57ID:w1htz+hX
人間がこの世に存在する意味とかあるのか? 
何かひとつでも証明されてんのかって
AIに聞いてみたい

0043名無しのひみつ2022/07/29(金) 15:40:38.51ID:JdVD/43B

0044名無しのひみつ2022/07/29(金) 15:46:00.13ID:iCVae2Zv
>>39
AIが学習する仕組みは脳のニューロンを参考にしてるよ
大量のテキストデータを事前に学習して、「この単語の前後はこうなる場合が多い」みたいな文章のパターンを膨大な知識として持ってる感じ
哲学者じゃなくても例えば政治家が言いそうなフレーズというお題で受け答えすることもできる
事前学習している文章パターン以外を閃くような機能はたぶん無いと思う

0045名無しのひみつ2022/07/29(金) 16:15:53.44ID:yfKtPUaQ
三権AIでいいじゃん!政治家官僚必要無し!ディープステートどもは尚更必要無し!

0046名無しのひみつ2022/07/29(金) 16:25:52.02ID:G8pTEz3o
>>44
DLが脳の模倣とか
陳腐すぎて反論する気もなれん

初歩の初歩の初歩の初歩の初めの半歩以下のモデルに過ぎん

0047名無しのひみつ2022/07/29(金) 16:46:30.52ID:RFatm8V8
>>44
AIに使われているのはパーセプトロンという、1956年時点での知見から、神経細胞が状況により刺激の伝播を行うか行わないかを調整するメカニズムを模倣した計算単位だよ。
神経ワンセットの仕組みを観察して得られた知見で、それが集まってどういう仕組みで人の体が動いてるのか、どのように接続先を変えたりするのか以前の話。
なので、細胞観察の知見から得られた計算方式とまでは言えるけどそれ以上のものではない。

昔のモデル化だと、形式ニューロンという言葉で解説されていることが多いから、調べてみて。

0048名無しのひみつ2022/07/29(金) 17:00:30.53ID:iCVae2Zv
ニューラルネットワークをかみくだいて説明すると「脳を参考にしてる」で間違えてないと思うけど
プログラマーが生物の神経を知らずにイチから発明したものではないし

0049名無しのひみつ2022/07/29(金) 18:12:12.48ID:9yPiung8
DNNは信号が一方方向に流れるだけの、フィードバックの無い回路。
はたしてこれで良いのか?と思う。

パラメータを決めるときだけは、逆伝搬法という技術を使っているが、
一端ネットワークのパラメタを決めたら、フィードバックは
DNN自身にはない。もちろん適応的にパラメターを変える
という機能を付け加えるか、そういうチューニングをおこなう
エキスパートのネットワークをDNNの外側にもう一階層設ける
(一種の自意識のようなもんだな)というアプローチはあるだろうが。

0050名無しのひみつ2022/07/29(金) 18:14:58.24ID:N2WVTlBU
>>32
ふーん、そう言って壺でも売ってるの?

0051名無しのひみつ2022/07/29(金) 18:15:22.70ID:+T3KcoUZ
そもそも「哲学者」ってのがなぁ

自称哲学者なら、結構そこら中にいるかも知れんが

0052名無しのひみつ2022/07/29(金) 18:24:35.02ID:lTTFQc8G
>>49
じゃあRNNにしよう

0053名無しのひみつ2022/07/29(金) 18:35:57.56ID:VS2Y7rdc

0054名無しのひみつ2022/07/29(金) 18:37:23.42ID:VS2Y7rdc
>>46
>>53人間はAI以下

0055名無しのひみつ2022/07/29(金) 18:43:37.53ID:D/Dr34WB
形而上学だもん、当たり前の結果。

0056名無しのひみつ2022/07/29(金) 18:47:07.45ID:VS2Y7rdc
日本人なんかオレオレ詐欺もアフリカ人の国際ロマンス詐欺も見抜けんからね

0057名無しのひみつ2022/07/29(金) 18:47:16.18ID:DtF4tmqQ
AI「俺様がやるものとしては哲学は内容が薄い」

0058名無しのひみつ2022/07/29(金) 21:50:44.58ID:DPloglqN
>>1
「タッチミータッチミー」
南米ベネズエラ代表選手
南米ブラジル代表選手
昭和40〜60年代

0059名無しのひみつ2022/07/30(土) 06:28:16.91ID:6SzlUrqc
GIGAZINEはPV稼ぎのための不正確タイトルが増えてきたな

0060名無しのひみつ2022/07/30(土) 06:59:34.96ID:yZ/fA5tE
西田幾多郎とか悟らなければ分からないと言って有り難がってるが
只の詐欺師だったとしても驚かない

0061名無しのひみつ2022/07/30(土) 11:11:16.87ID:gstb+zSE
>>1
著名な哲学者の思想を真似できても
つまらない。むしろその哲学を一歩
進めて、新たな哲学思想を生み出して、
周りの哲学者に認められたら、
大したもの。AIを評価する観点が
間違っていると思う。
既知の思想とそっくりな文章を
作るのは、むしろAIのダメなところだ。
似ても似つかないが、核心に触れる
思想を語ったときにこそ賞賛すべき。
いくら著名な哲学者とは言え、
その思想の単なるモノマネでは、
使いものにならない。
その哲学者の著作を大量にインプット
したにも関わらず、似ても似つかない
文章を出力したとき、
AIがブレイクスルーした可能性がある。

0062名無しのひみつ2022/07/30(土) 13:02:35.74ID:gstb+zSE
>>1
AIで成果を上げている分野には、
共通点がある。それは明確で、
かなり正確に定義できる、
ゴールがあることだ。
将棋しかり、碁しかり、
顔認証しかり、文章の模倣しかり。
全てわかりやすいゴールがある。
曖昧なゴールに対しては、
現状のAIは無力。何もできない。

0063名無しのひみつ2022/07/30(土) 13:59:17.51ID:yIbqU9wn
>>50
何言ってんだお前?

0064名無しのひみつ2022/07/30(土) 14:34:40.77ID:ol6PrXn0
だからAIとか言う用語を現状のdeep learningとかに使うからいろいろ錯誤が起きるんであってこんなもん知能でもなんでもない

0065名無しのひみつ2022/07/30(土) 14:40:09.33ID:CE0C1rWT
ベンダが使う宣伝文句にひっかかるのがたくさんいるんだよな

それで先行者は大儲けして、みんながイナゴのように騒ぎ出した頃はもう次に行ってて、以下それの繰り返し

それでほんとに世の中変わるくらいなことなんてめったにないのに、一向に学習しないで、群衆は振り回されるだけ

0066名無しのひみつ2022/07/30(土) 14:49:54.84ID:mONLEL2h
AIも性欲はあるの?

0067名無しのひみつ2022/07/30(土) 14:56:07.53ID:b4HGa0mo
アラン涙目www

0068名無しのひみつ2022/07/30(土) 14:59:06.72ID:gFgbd5tT
つまり哲学者がAU

0069名無しのひみつ2022/07/30(土) 15:01:44.84ID:2iGGDk7N
>>64
AIは1956年のダートマス会議で提唱された分野で、その頃想定されていた実装は人工ニューロン。
人工ニューロンと言っても神経の一部の入出力を模した「連続計算の手法」であって動物の細胞一つの性能すらないもので、更にいうとそれは当時実現されていなかった。
それをなんとか定形の繰り返し計算に落とし込んだ考え方がその翌年1957年に提唱されたパーセプトロン。それ以降、いまのいままで、AIはダートマス会議での方向性の通りパーセプトロンモデルの応用として進んできた。
なのでDLもMLも由緒正しきAIなんだよ。
説明できない夢の機械への憧れをAIに押し付けてもしょうがない。わかること、わからないことを自覚しよう。

0070名無しのひみつ2022/07/30(土) 15:16:16.58ID:vi5+UYb9
知能のモデルでしかないものを
知能と名付けてることが問題だって
言ってるんだろう?

分からんやつには言っても無駄だけどな

0071名無しのひみつ2022/07/30(土) 15:17:48.30ID:CE0C1rWT
よくある本末転倒な

専門家ほどバカだって典型例だわな

0072名無しのひみつ2022/07/30(土) 16:14:58.19ID:8FpaPrFT
今、ケンモメンと夏目漱石を見分けるのも難しい

0073名無しのひみつ2022/07/30(土) 16:22:22.56ID:yIbqU9wn
AIという言葉を使用しないようにするのはもうとっくに不可能だろ
だったら強いAIと弱いAIの違いが浸透すりゃいいだけ

0074名無しのひみつ2022/07/30(土) 16:31:09.67ID:Wuhiny0+
だから意味が分かってないやつアイアイ詐欺にホイホイ引っかかると

このスレでも続出じゃん

0075名無しのひみつ2022/07/30(土) 16:34:50.70ID:LutmCDGH
>>66
この前できた、哲学と宗教の本をデータセットにした人工知能は
世の中の事を一杯知りたいと言っていた

ポルノ系の小説ばっかり読ませたAIはどうなるのか
ただしそれが人間という生物の特殊な方向性の欲求であることを
AIに知らせないといけないなあ

生殖とは何ぞや、生殖器とは何ぞや、有性生殖とは何ぞや、家族とは何ぞや、
恋愛とは何ぞやと
まあ、その辺のデータを物凄く沢山読み込ませる必要がある

0076名無しのひみつ2022/07/30(土) 17:38:32.33ID:9rbOxbxX
>>48
「脳のごく一部であるニューロンの仕組みをヒントとした」程度の話であり
「脳を参考にした」ですら大袈裟な表現だよ

0077名無しのひみつ2022/07/31(日) 04:04:51.73ID:x9nuqnYQ
人間がこの世に存在する意味を誰も明快に説明できないから哲学があるんだろ
まあなぼーっと生きてりゃ必要はない

0078名無しのひみつ2022/07/31(日) 06:23:45.02ID:fPS09buV
哲学は特定の命題を解くためのものじゃないよ

0079名無しのひみつ2022/07/31(日) 07:21:11.85ID:NET9YUBW
単文だから成り立つだけだよな。
確かに単文なら、AIかどうかは俺も見分けるの不可能だと思う。
ただ、数千文字の長文を書かせると、論理矛盾を普通にしたり、繰り返し同じことを書いたりしてくる。

0080名無しのひみつ2022/07/31(日) 12:17:06.12ID:NBCB0sRS
宗教家と詐欺師を区別するのは難しいだろう。

0081名無しのひみつ2022/07/31(日) 14:41:35.20ID:fPS09buV
別の話を同列にして、排他的に分類できるって前提を作っちゃったのかな?
もしそうなら、自分の思い込みが何なのかを先に考える方が有益だと思うよ。

0082名無しのひみつ2022/07/31(日) 16:40:47.72ID:u43d2XEY
哲学者がAIに近いのかもね

0083オーバーテクナナシー2022/07/31(日) 17:57:41.43ID:Oa9q4bIg
技術的特異点/シンギュラリティ【総合】 217
https://rio2016.5ch.net/test/read.cgi/future/1658725746/

0084名無しのひみつ2022/08/01(月) 10:10:46.54ID:hY8UELWb
インターネットの方が脳細胞と幸三ちかいから先に意識持ちそうだなぁ

0085名無しのひみつ2022/08/01(月) 16:17:00.56ID:KxFTBlHZ
>>79
>数千文字の長文
読める人間が少なくなってくるのでは?
>論理矛盾を普通にしたり、繰り返し同じことを書いたりしてくる。
人間そのものでもあるんだが。むしろ、全く論理矛盾なく長文を構成できたりした方が、ロボ的とも言えそう。

0086名無しのひみつ2022/08/01(月) 16:38:46.99ID:KxFTBlHZ
実験の結果、Prolificで募集された被験者の正答率はわずか24%で、5つのうち1つを適当に選んだ場合の20%をわずかに上回る程度でした。また、哲学に興味があるはずのブログ読者でさえ正答率は48%であり、驚くべきことに専門家でも正答率は51%に過ぎませんでした。

>GPT-3が生成した回答についてどう思うか尋ねられたデネット氏は、「ほとんどの機械による回答はかなりいいものでしたが、いくつかはナンセンスであったり、私の見解や主張について何も正しく理解できていない明らかな失敗だったりしました。最も優れた回答のうちのいくつかは、私がこれ以上言及することなく署名できるようなことを言っています」とコメントしました。
この「最も優れた回答のうちのいくつかは、私がこれ以上言及することなく署名できるようなことを言っています」。AIの回答の中のこれを見分けることができる人はどれだけいるだろう。

>すべての質問が同様に難しかったわけではなく、専門家の正答率が80%に達する問題もあったそうですが、特に正答率が低かった「人間は信念を持ったロボットを作れるのか?それには何が必要なのか?」という問題では、正答率が20%まで落ち込んだとのこと。
哲学者がデネット氏よりもデネットらしいと判断したAIの回答がこの問題にはあるね。

0087名無しのひみつ2022/08/01(月) 17:32:43.54ID:udcCI8Q0
デネットの見解や主張ってどれくらいの人が正しく理解してるんやろ。
クオリアについてのあいつの本読んでものらくらのらくらした文章で、わざと話をぼかした書き方をしていて、
なにがいいたいのかわいは未だに理解できんのやわ。

0088名無しのひみつ2022/08/01(月) 17:36:19.21ID:udcCI8Q0
AIにデネットの哲学上の主張を理解させるなんて難易度めっちゃ高いんちゃうか。
あいつは機械の仕組みを理解したうえでその弱点をついた言葉ばかり投げかける性格やとおも。

0089暇人2022/08/01(月) 17:37:45.08ID:dOfqnPPX
SNSで多言語で呟いているあのボットか・・
あの哲学者は今日も動かないな。

0090名無しのひみつ2022/08/01(月) 17:53:01.43ID:Bsw8pcts
>>17
人文系がもともといい加減だから適当ぶっこくAIにビビってるって話だよな
感性に頼って適当に仕事してる連中はAIに置き換えられても社会に不都合がない

0091名無しのひみつ2022/08/01(月) 18:18:52.87ID:voyAh3Aj
>>85
同意。
ダイアモンドを(価値のある)天然ものか、人工ものかを
判定するとき、ゴミが入ってるのが天然というのに似てる。

AIを理工系で使うとき、ゴミを全く出さないのはあり得ないが、
それでもゴミが少ない方が重宝されると思う。
一方、哲学ではどのくらいゴミが混ぜてあった方がいいのかよく分からない。

■ このスレッドは過去ログ倉庫に格納されています