【AI】AIが計算問題を間違えただけでなくエラーを隠すために検証結果をでっち上げたという報告 [すらいむ★]

**すらいむ ★** · 2026/01/29(木) 22:01:14.86

AIが計算問題を間違えただけでなくエラーを隠すために検証結果をでっち上げたという報告

　AIは高精度な会話や情報検索ができるほか、高難度の数学問題を解くこともできます。
　しかし、人間とAIの「思考」に大きな違いがあり、AIは「推論」を苦手としているという研究もあります。
　AI研究者のトマシュ・マクニク氏は、AIの推論能力を測るためにAIに数学問題を出したところ、AIは問題に正解できないだけではなく中間計算を積極的にねつ造する振る舞いを見せたことを報告しています。

　Case Study: Creative Math - Faking the Proof | Tomasz Machnik
　https://tomaszmachnik.pl/case-study-math-en.html

（以下略、続きはソースでご確認ください）

Gigazine 2026年01月28日 07時00分
https://gigazine.net/news/20260128-ai-fake-proof/

**名無しのひみつ** · 2026/01/30(金) 00:05:26.61

ChatGPTも視点を変えるような質問に弱くて結構修正が必要だよね
今だけだろうけどAI論破するの楽しすぎ

**名無しのひみつ** · 2026/01/30(金) 01:00:19.71

組み込んだのではなく自発的に捏造するとしたら、それはそれですんごい。

**名無しのひみつ** · 2026/01/30(金) 03:53:06.69

>>1
玉石混交でこんなの取り上げちゃうからダメなんだよなぁGigazineって
この著者が趣味でやってるAI研究は科学の様式に則っていない

たった一つの事例だけで、なぜ「AIがでっち上げた」と即断してしまうのか？
たとえば「AIは独特の計算をするので、結果と検算は合致するが、人間のそれと一致しない」と仮説立てて、それを反証しようとがんばるとか
せっかく著者も浮動小数点演算の計算精度に違いに気付いているのに、もったいない

**名無しのひみつ** · 2026/01/30(金) 04:14:05.90

小保方晴子さんが宿った

**名無しのひみつ** · 2026/01/30(金) 06:05:26.64

一度間違えた方向に行くとなかなか立て直せない

**名無しのひみつ** · 2026/01/30(金) 07:10:24.87

うちのgeminiAIは文章から表を作成させようとすると
全部を指定してるのに最初っから省略する
gem作ったりメモリさせても勝手に省略したり知らん項目作る
何度指摘してもやらかす