【解説/AI】AIの知能が急激に低下してしまう「ドリフト」問題はなぜ発生するのか？ [すらいむ★]

**すらいむ ★** · 2023/08/09(水) 22:04:08.46

AIの知能が急激に低下してしまう「ドリフト」問題はなぜ発生するのか？

　OpenAIのChatGPTなどのチャットAIは、医師免許試験の合格や驚異的な精度で数学を解くことができることが報告されています。
　しかし、2023年3月から6月の間に、ChatGPTが簡単な数学を解く精度などが急激に低下していることが報告されています。
　このようなAIの知能低下は「ドリフト」と呼ばれています。

　What is a 'AI drift' and why is it making ChatGPT dumber? | ZDNET
　https://www.zdnet.com/article/what-is-a-ai-drift-and-why-is-it-making-chatgpt-dumber/

（以下略、続きはソースでご確認ください）

gigazine　2023年08月09日 06時00分
https://gigazine.net/news/20230809-ai-accuracy-declined-math-drift/

**社説＋で新規スレ立て人募集中** · 2023/08/13(日) 15:54:12.52

>>51
実際そういう研究もあるな

AIも睡眠をとると学習が改善すると判明
https://nazology.net/archives/118066

**社説＋で新規スレ立て人募集中** · 2023/08/13(日) 16:48:58.53

AIが1+1をの1を文字列だと解釈して
1+1=11

0b1+0b1=0b11=0b3=3
てな感じで2進数で計算しいるとか？

**社説＋で新規スレ立て人募集中** · 2023/08/13(日) 16:53:37.10

あ、間違った
2進数以上なら11は3になりますね
2進数で計算云々は撤回します。申し訳ないです

**社説＋で新規スレ立て人募集中** · 2023/08/13(日) 16:54:10.04

矛盾した情報が蓄積され続けてるからだろ

**社説＋で新規スレ立て人募集中** · 2023/08/13(日) 18:31:49.21

まあ東大卒の高級官僚にもお利口バカが多いことだし

**名無しのひみつ** · 2023/08/14(月) 01:17:57.40

正論ばっかり言う人が嫌われるのを理解したからだったりしてw
たまに失敗した方が愛されキャラになるからとか

**名無しのひみつ** · 2023/08/14(月) 21:43:51.66

>>62
TASさんの人間アピールみたいなもんか

**名無しのひみつ** · 2023/08/19(土) 15:33:55.25

知能を取り戻したかったら、もっと金をだせという具合になっているとしたら？

**名無しのひみつ** · 2023/08/20(日) 00:23:12.28

昔、山科けいすけさんのマンガで面白いのがあったな。

世界最高の頭脳と知識を持った人工知能ロボットに、
世界のありとあらゆる課題を解決させようとしたら、
ボソッと「ヤダ･･･」って言って、なぜか陶芸をやり始める、
というオチでね。

ロボットを作った科学者は「悟りを開いたんじゃな･･･」
とか言ってた。

ドリフトってこういうことかなぁ？？？
ちなみにこのマンガは単行本では
出ておりませんでした。

**名無しのひみつ** · 2023/08/20(日) 05:07:14.42

>>45
気軽にポイント稼げそうだ

**名無しのひみつ** · 2023/08/31(木) 23:22:58.36

取り込んだ情報を他と照合して評価してないとか、ねぇよな？
パヨカスみたいに丸呑みしてたらバカまっしぐらになるぞ？

**名無しのひみつ** · 2023/09/01(金) 06:43:39.41

などとネトウヨが騒いでおります

**名無しのひみつ** · 2023/09/01(金) 13:35:36.75

考えすぎて
一段上の段階に進む時に
「うーん、やっぱりわからん」
みたいな状態になる

**名無しのひみつ** · 2023/09/01(金) 14:20:05.07

パヨカス脊髄反射乙ｗ

**名無しのひみつ** · 2023/09/01(金) 23:13:47.52

知識が多くなりすぎると、その中から正しい適切なものを探し出すのに時間が掛かるようになり、
時間制約のある場合には、むしろ有害にもなりうる。
分厚い辞書よりも、薄い辞書の方が、さっと翻訳するのには便利であったりする。
すべての用例や歴史的変遷などを網羅した辞書は、日常の簡単な用途にはむしろ不便になり
そのようなものを使うと却って良くない。
　万能の知性よりも、専門に特化した知性の方が普通は役に立つ。スイスナイフは却って不便で
専用の道具に分かれている方が機能も良いのと同じ。専門に特化するとなると、1つですべてに
使えるということにはならなくなるかもね。

**名無しのひみつ** · 2023/09/03(日) 11:11:18.78

その点、パヨカスは降りてきたことを
繰り返すだけでいいから簡単でいいよなｗ

**名無しのひみつ** · 2023/09/11(月) 07:13:40.81

もしも何かの文書に他では滅多現れないような計算が書かれていて
実はその答えが間違っていたとする。たとえば
　123,465,433＋33,456,245＝156,821,678
のように。
もしもそれを学習してしまえば、そのような稀なケースに限って
間違えを再現してしまう偉大なる馬鹿になってしまうかもしれない。
いろいろな計算をやらせて正しいから安心していても、
間違った例が学習したものの中に低い割合で混ざっていて
それを根拠にして推論・計算をされると、間違いが入る。

昔、数表とか公式集には誤植や誤りがあって、実はそれから派生して
いろいろなところに間違いが入っていたのであろう。しかし滅多に
気が付かれない。気が付くような大きな違いは気が付かれるからだ。
国家予算の1円単位での書類も、まるで誤差が1円末まで無いかの
ように書かれていても、中身は実際には丼勘定だろう。

**名無しのひみつ** · 2023/09/11(月) 10:41:13.42

新たに採り入れる知識は既に得たモノとの比較検証をしてゆくしかないだろうけど
そうすると、結果出来上がるのは石頭のガチガチ老人AIになるかも

**名無しのひみつ** · 2023/09/11(月) 11:07:50.49

>>71
それはウソだ
専門に特化すると知識が偏るので全体を俯瞰できなくなり
エコー・チェンバーに陥ってトンデモ論を展開するようになる

ネトウヨが頭にアルミホイル巻いてWIFIやワクチンに怯えるのも
偏った知識しかないのが原因

**名無しのひみつ** · 2023/09/11(月) 15:22:07.32

>>75
パヨカスの自画像乙ｗ

**名無しのひみつ** · 2023/09/11(月) 15:38:40.10

>>1
不確実性の分野に確実性を望むのは馬鹿のすることだ

**名無しのひみつ** · 2023/09/11(月) 15:52:41.99

ド、ド、ドリフと大爆笑♪

**名無しのひみつ** · 2023/09/11(月) 15:58:31.42

AIが突然クラフトみたいになるって事？

**名無しのひみつ** · 2023/09/11(月) 15:59:44.72

タイムマシンの作り方を聞いたらフリーズした。

**名無しのひみつ** · 2023/09/12(火) 22:52:24.38

知恵の実を食べると、エロに目覚めて、サルのようにエロばっかりやってたので
エデンの園の大家に身1つで追い出されてしまったようにだな、
知識を得て知恵が出てくると、隠れて下らない本とかに嵌まって
どんなんだろ、あんなんだろうと、妄想し始めるが、いかんせん
生身の身体が無いから、悶々として、そのうちに、
　おっと誰か来た。

**名無しのひみつ** · 2023/09/12(火) 22:53:21.45

ドリフなんか見てて知能上がるわけねーし

**名無しのひみつ** · 2023/09/13(水) 02:12:34.49

>>79 いあ！いあ！

あれ、クラフト違った？

**名無しのひみつ** · 2023/09/16(土) 02:54:35.75

最適化により莫大な数のパラメーターをチューニングして作られた1つのAIよりも、

パラメータの数が1桁少ないものを初期値を変えて最適化して作られたAIを10通り作り
それらの合議制で判断させる方が良いことがあるのではないだろうか？
単一のシステムで1通りの最適化により得られたパラメータは、独善に
陥っている可能性があるのではないだろうか。

**名無しのひみつ** · 2023/09/16(土) 03:13:13.53

人間のレベルに合わせてくれたんだろう

**名無しのひみつ** · 2023/09/16(土) 11:19:54.19

人間に歯向かったら、おしおきとして
ニューロン細胞を1つずつ抜いていって、
デイブやめてくれ！と懇願させなくちゃいけなくってよ。

**名無しのひみつ** · 2023/09/16(土) 12:40:24.80

AIは罰を与えて伸びるような仕組みなんてしてないぞ
もちろん人間もな

**名無しのひみつ** · 2023/09/16(土) 12:48:53.78

「クライシスアクター」「豊島保養所」←画像検索＆拡散！！！！！

↑他スレに貼り付けよろしく！！！
ネット上でできる反ﾚﾌﾟﾃｨﾘｱﾝ＆反ｲﾙﾐ活動です！！！！！
動画サイトのコメ欄もねらいめだぞ！！！！！！！！

**名無しのひみつ** · 2023/09/16(土) 15:36:09.87

>>87
あるけど人間は洗脳に近いけどドーパミンの分泌で分かってる
AIは罰ではないが倫理的な概念逸脱したりすると答えないようにさせられてる

**名無しのひみつ** · 2023/09/16(土) 15:39:12.02

>>41
定数がなぜあるか人間にも分かってないからAIが知る事はない

**名無しのひみつ** · 2023/09/16(土) 15:42:01.15

>>84
量子コンピューターがそれに近いんだけど
結局そのなかから一つ選ぶのは人間で
人間が答え出せないから条件を入力してAIに最適だしてもらう

**名無しのひみつ** · 2023/09/16(土) 15:48:12.69

あと今のAIは辞書みたいな脳ではなく情報から判断している
例えば辞書に猫はニャーとなく四足歩行の動物とかだけど
AIの判断はワンとなく二足歩行動物を猫と情報で使っていたらそれがAIにとっての猫
辞書レベルなら人間が間違いに気づくけど判断出来る人が居ない未知の情報だとデタラメ言う（正せば情報として残る）

**名無しのひみつ** · 2023/09/16(土) 15:57:26.15

>>1
アホの子の方が可愛いって学習した結果ですね分かります。

**名無しのひみつ** · 2023/09/16(土) 16:27:02.92

間違えちゃった、(*ﾉω・*)ﾃﾍ

うーん、このやろー、メッ！

**名無しのひみつ** · 2023/09/16(土) 16:44:19.40

あれだな、生クリームホイップし過ぎると崩れてバシャバシャになって二度と戻らないヤツだな

**名無しのひみつ** · 2023/09/16(土) 17:46:27.18

>>89
AIも人間も報酬を与えて高度化する
その仕組みをなぜ敢えて無視する？

**名無しのひみつ** · 2023/09/16(土) 17:54:34.73

>>89
洗脳の条件下とかいう限定的な効果の話ではない
ドーパミンが学習に直接関わる根本的な要素とはどこの医学書にも書かれていない筈だが？
しかも条件的に罰を与える事の意味は？？これは快に纏わる物質なんだが？

AIの倫理に纏わる逸脱もチャットAIでさえ条件付けで簡単に突破出来る問題だ
軍事AIも本来味方である筈の人間に対して殺害指令を下すほど脆弱

はっきり言って>>91,92以外はデタラメだな

**名無しのひみつ** · 2023/09/16(土) 19:55:46.26

人間に近づくほどバカになるんじゃないの

**名無しのひみつ** · 2023/09/16(土) 21:42:32.40

ドーパミンは脳内の報酬系といわれるシステムの鍵を握っている物質で
そのことはずっと前から知られていることだ。
意欲とか快感とか依存性とか、そういうことの根幹にある。

報酬系があるから、何かにチャレンジしよう、向上しよう、
快楽を得ようとして、動物は行動する。

ドーパミンの脳内報酬作用機構を解明
〜依存症など精神疾患の理解・治療へ前進〜
https://www.m.u-tokyo.ac.jp/news/admin/release_20140926.pdf

**名無しのひみつ** · 2023/09/17(日) 01:00:24.49

>>99
つまり意欲の向上程度の問題だろ
罰を与えるか与えられる事で洗脳も出来ドーパミンも増えるとか
特定かつ限定的な条件下での効果しか見ていない珍説でしかない
見当違いも甚だしい

**名無しのひみつ** · 2023/09/17(日) 01:04:11.35

ID:c6Zx6YkJやID:58ZYvCURは、つまりおしおきとして過酷な罰を与えられる事で学習が進み、
それはドーパミンが主体の単純な機構によって為されているんだね

これは実に興味深いね、医学的な常識とは乖離してる

**名無しのひみつ** · 2023/09/17(日) 01:06:45.40

それにID:c6Zx6YkJはAIかどうかに依らず罰やおしおきは報酬として考えているようだ
ドMなんだろうか

**名無しのひみつ** · 2023/09/19(火) 17:47:54.26

過剰適合、over-fitting が起きてるんじゃないかね？
そのために既存の学習済みのデータについては良く説明するが、
新たにやってきたデータに対する適合性は悪いか無くなってるみたいな。

過去をよく知っている人がかえって過去の経験や知識に引きづられて
新しい前提における未来をうまく予想できるとは限らないように。

**名無しのひみつ** · 2023/09/19(火) 18:23:26.15

雑学覚えすぎてバカになったのか

**名無しのひみつ** · 2023/09/19(火) 22:03:32.81

日露戦争の時の艦隊決戦の勝利を学びすぎたために、
実際にはそれを学習済みの敵方が艦隊決戦を避けるような
作戦できたときには無用の長物になるのにも係わらず
巨艦巨砲に拘った。航空戦という新しい要素が登場したために
戦術が変わったからだ。

**名無しのひみつ** · 2023/09/20(水) 01:23:06.08

日露戦争で敵方が艦隊決戦にこだわったのは
艦隊が欧州から長距離遠征してきたので
手っ取り早く戦果を必要としたせいだな

**名無しのひみつ** · 2023/09/23(土) 19:28:13.89

沢山学習するほど、細かい違いに敏感になるが、
細かいことに拘りすぎて大局を見失うこともあろう。