【AI】AIの小規模言語モデル（SLM）に研究者たちが送る熱視線 [すらいむ★]

**すらいむ ★** · 2025/06/02(月) 23:07:40.01

AIの小規模言語モデル（SLM）に研究者たちが送る熱視線
大規模なAIモデルは、より幅広いタスクに対応できる。だが、小規模なモデルは必要なリソースを削減でき、環境負荷を減らすことができる。それが研究者を惹きつけるツールとしての魅力だ。

　AIモデルのなかでも大規模言語モデル（LLM：large language model）はうまく機能する。
　なぜなら極めて規模が大きいだからだ。
　OpenAI、メタ・プラットフォームズ、そしてDeepSeekの提供する最新のAIモデルでは、数千億の「パラメーター（データ同士のつながり具合を決める調整つまみのようなもので、学習過程においてはそれらが微調整されていく）」が使われている。

　パラメーターが多いと、AIモデルはよりよくパターンや関係性を認識できるようになる。
　それによって、より強力でより正確になるというわけだ。

（以下略、続きはソースでご確認ください）

Wired 2025.06.02
https://wired.jp/article/why-researchers-are-turning-to-small-language-models/

**名無しのひみつ** · 2025/06/03(火) 03:55:15.09

>>1

フルスペックのモデルからスマフォでも動作するようにあることに特化して動作させるように改造しているのか

スマフォの性能がノートパソコンまで上がれば

現在使用しているAIの性能までは使用できるよ言うことなのか

**名無しのひみつ** · 2025/06/03(火) 03:57:41.93

スマフォ
ノートパソコン
デスクトップパソコン
ゲーミングパソコン

この順番でAIの性能が上がっていくのですね

**名無しのひみつ** · 2025/06/03(火) 03:59:28.64

スマフォで動作するAIの性能が上がれば上がるほど

ノートパソコンで使用したときの

AIの性能がフルスペックでしようできるのか

**名無しのひみつ** · 2025/06/03(火) 04:42:05.04

ワイヤード遅すぎる
MicrosoftのPhiとかもう一年以上前

そのあたりからモバイルで効率的に使えるLLMは当然あるべき方向で
しかもそれは一般ユーザーこそ利益を得ると
そこにアップルがApple インテリジェンスといってその方向加速か！と言われてたが逆にAppleの終焉か！と言われてしまってるが

そのdistillモデルは論理的にも実際にも
元の大規模モデルの賢さを引き継いでいる
いるからこそ小さいことでも一般ユーザーには大抵のことでは役にたつ
そういう二極化

いや読んでないけどね

**名無しのひみつ** · 2025/06/03(火) 04:44:51.11

スマホの方がパソコンより賢い時代なのになに言ってるの
ユーザーデバイス vs クラウドのSaaS
の2極化だよ

**名無しのひみつ** · 2025/06/03(火) 04:48:36.74

その現在のDistill理論こそ
去年のノーベル物理学賞の
ジェフリーヒントン

そのあと年末にDeepSeek R1登場して
年明けて日本でも一般メディアで
蒸留！ってさんざん解説いわれてたろ

**名無しのひみつ** · 2025/06/03(火) 06:37:23.18

https://huggingface.co/papers/2309.05463
Microsoft Phi-1.5は2023年9月

SLM自体が新しいことのように今ごろ話題にしてるのは日本がどんなに情報遅いかを示してる

**名無しのひみつ** · 2025/06/03(火) 07:11:54.27

なんのAIが使えるかがスマホ選択の基本になるって

今日のニュースはサムソンにパープレが連携するって話
まだ正式契約ではないがこれはアップルがChatGPTと連携してるのへの対抗でこれがスマホ選択のキーになってくよという話

**名無しのひみつ** · 2025/06/03(火) 07:42:56.12

小さいことの利点は省資源だということ
リソース食わない
効率的

**名無しのひみつ** · 2025/06/03(火) 09:55:36.55

>>10
だから
はやい！

**名無しのひみつ** · 2025/06/03(火) 12:26:50.32

検索用INDEXが大量に存在し、関連付け検索を高速にアクセスできるよう構築する
ＲＡＭ上で検索ＩＮＤＥＸを構築し、グーグルのアルゴリズム検索で回答を早く展開する

**名無しのひみつ** · 2025/06/03(火) 21:09:46.06

まあ、研究者はローカルで使いたいものもあろ

**名無しのひみつ** · 2025/06/04(水) 08:07:55.47

某自動車会社「器用貧乏と専門馬鹿なら専門馬鹿の方が有用な人材」