「知識蒸留」がAIモデルをさらに小さく安価にする
規模が大きく高価なAIモデルの「知識のエッセンス」を抽出して学習させ、コンパクトなAIモデルつくるための基盤技術、それが「蒸留」だ。
中国の人工知能(AI)企業であるDeepSeekは、2025年のはじめにR1というチャットボットをリリースし、大きな注目を浴びた。
人々の関心を集めたのは、無名だった小さな企業が「このチャットボットの開発に要したコンピューター処理能力とコストはごくわずかだが、世界で最も有名なAI企業がつくるモデルに匹敵する性能をもつ」と発表したことだった。
その結果、欧米の多くのテック企業の株価が急落し、最先端AIモデルを動かすためのチップを販売するNVIDIAの株価は、株式市場史上最大の下落幅をたった1日で記録した。
注目には、いくらか非難の色合いもあった。
DeepSeekは「蒸留(distillation/ディスティレーション)」と呼ばれる技術を使い、OpenAIが所有するAIモデルo1から無断で知識を得たのではないか、と消息筋が主張したのだ。
報道の多くはその可能性を、AI業界を揺るがす衝撃的な出来事として扱い、DeepSeekがAI構築のために新しく、より効率的な手法を発見したと示唆した。
(以下略、続きはソースでご確認ください)
Wired 2026.01.21
https://wired.jp/article/how-distillation-makes-ai-models-smaller-and-cheaper/
【AI】「知識蒸留」がAIモデルをさらに小さく安価にする [すらいむ★]
1すらいむ ★
2026/01/22(木) 23:41:26.20ID:qbKpD4grレスを投稿する
ニュース
- 【速報】 中道改革連合、衆院選で「同性婚」の法制化提唱 ★2 [お断り★]
- 世界で最も収益性が高い「スポーツチーム」ベスト20、首位は営業利益996億円 [王子★]
- 「持たざる者はこれまで以上に虐げられる」…高市自民が総選挙圧勝で待ち受ける“恐怖のシナリオ” [ぐれ★]
- トランプ米大統領 「アメリカがいなければ、皆さんはドイツ語と日本語を話していただろう」 EU・ダボス会議で ★3 [お断り★]
- 新党「中道」が消費税減税時期「2026年の秋」明記…高騰する家賃対策や働き方改革で「定年廃止」「週休3日制」 衆院選公約発表 ★2 [ぐれ★]
- ソフトバンク、オープンAIに10兆円投資「全賭け」して「運命共同体」となる [お断り★]
- 東京杉並区、外人がカーチェイスの果てに逃亡
- 呪術廻戦の三輪霞ちゃんって可愛いよね
- 友達とかいるのって普通らしいな
- 女「おい!飲み行くぞ!」
- 参政党「高市さんを応援するなら参政党」のスローガンをtiktokで流しまくり躍進へ [469534301]
- TBS系列のテレビ局、自民・維新・参政を「つよくてこわい国」と偏向報道をしてウルトラ鬼炎上 そろそろ総務大臣が動いたら? [412920772]
