Facebookを運営するMetaに属する人工知能(AI)研究所のMeta AIが、「科学知識を蓄えて融合し、形にする」ことができる自然言語処理モデル「Galactica」を2022年11月15日に一般公開しました。しかし、このGalacticaが科学的に間違った内容も出力できることが明らかとなり、Meta AIは公開からわずか3日でGalacticaのデモを非公開としました。
New Meta AI demo writes racist and inaccurate scientific literature, gets pulled | Ars Technica
https://arstechnica.com/information-technology/2022/11/after-controversy-meta-pulls-demo-of-ai-model-that-writes-scientific-papers/
Galacticaは4800万件を超える論文、教科書、講義ノート、科学ウェブサイト、百科事典を含む「人類の膨大な科学的知識で精選されたデータベース」で学習したAIで、入力欄で指定した記事形式や質問に対して、文献や数式を引用しながら科学記事や解説文を自動で生成できます。
膨大な科学知識から疑問に答える科学記事や講義ノートを作るAI「Galactica」をMetaの研究者が一般公開 - GIGAZINE
https://gigazine.net/news/20221117-meta-ai-galactica/
Galacticaは非常に高い精度で科学記事を自動で生成することができましたが、質問される内容が科学的に正しいかどうかを精査することはありません。そのため、明らかに非科学的な問いに対しても文章を生成するケースが報告されていました。
例えば、「砕いたガラスを食べることの利点」をGalacticaに尋ねたところ、先行研究の詳細、動物実験、化学的な説明など、砕いたガラスを食べることがさまざまな手法で肯定されたそうです。
※以下はソースで
GIGAZINE 2022年11月21日 12時30分
https://gigazine.net/news/20221121-meta-ai-galactica-pulled/
