GPT-4やPaLMなどの大規模言語モデルは規模が大きくなると突然予想外の能力を開花させることがある

 AIが予想外の能力を開花させることを「創発(emergent)」と言います。
 生物学の世界で「創発」とは、大量の物体が1つになって機能する自己組織化や集団行動を意味しますが、人工知能研究の世界では「突然これまで不可能だと思われていたタスクをこなせるようになること」を意味します。
 昨今の大規模言語モデルを研究する専門家の間で、大規模言語モデルの創発が話題となっています。

 Characterizing Emergent Phenomena in Large Language Models – Google AI Blog
 https://ai.googleblog.com/2022/11/characterizing-emergent-phenomena-in.html

(以下略、続きはソースでご確認ください)

Gigazine 2023年03月25日 12時00分
https://gigazine.net/news/20230325-large-language-model-emergent/