スマホやノート PC の中で動く、小さな言語モデルの発表が続いています。
Google の Gemma 4 にも、スマホやブラウザで動かす前提の 2B・4B 相当のモデルが用意されています。
こうしたモデルは SLM（Small Language Model、小規模言語モデル）と呼ばれ、巨大なモデルを指す LLM と対比して語られます。
NVIDIA の研究者たちは 2025 年 6 月の論文で、AI エージェントの未来は SLM にあるとまで主張しました。
小さなモデルが何を得意とし、どこで大きなモデルに届かないのかが分かると、「一番大きいモデルを選ぶ」以外の選び方が見えてきます。
SLMは手元の機械で動く大きさの言語モデル
SLM は、パラメータ数が比較的少ない言語モデルを指す呼び名です。
パラメータは学習で決まるモデル内部の数値で、数が多いほど一般に賢くなる一方、動かすための計算とメモリも増えます。
ただし、何億パラメータから下を SLM と呼ぶかという公式の線引きはありません。
先ほどの NVIDIA の論文 Small Language Models are the Future of Agentic AI は、使われ方に着目して SLM を定義しています。
一般的な消費者向けの機器に載り、1 人のユーザーがエージェントに出す要求に実用的な速さで応えられる言語モデル、というのが論文の作業定義です。
そのうえで、2025 年時点なら 100 億（10B）パラメータ未満のモデルの多くを SLM とみなしてよいと書いています。
呼び方は開発元によっても揺れます。
Microsoft は、自社の Phi-3 ファミリーを SLM として発表しました。
このファミリーには 38 億パラメータの Phi-3-mini だけでなく、140 億パラメータの Phi-3-medium も含まれています。
一方、国立情報学研究所は 2026 年 9 月 28 日に LLM-jp-4.1 を公開しました。
このシリーズでは、約 86 億パラメータのモデルも「大規模言語モデル」として扱われています。
同じくらいの大きさでも呼び名が変わるので、SLM かどうかは名前より「どこで動かし、何に使うか」で見たほうが実態に合うでしょう。
ここで挙げたモデルはどれも重みが公開されていて、手元の PC やスマホに置いて動かせます。
小さくても使える理由は学習データと用途の絞り込み
小さくても使えると言われる裏づけの一つが、ベンチマークの成績です。
Microsoft の Phi-3 の技術報告によると、Phi-3-mini は 38 億パラメータを 3.3 兆トークンのデータで学習させたモデルです。
成績は、幅広い分野の知識を問う MMLU で 69%、会話の質を測る MT-bench で 8.38 でした。
全体の性能は Mixtral 8x7B や GPT-3.5 に匹敵すると報告されています。
Microsoft は、この成績を支えたのは学習データの厳しい選び方だと説明しています。
学習には、ウェブ上の公開データを強く絞り込んだものと、大きなモデルに書かせた合成データを組み合わせました。
Microsoft の紹介記事には、その出発点になった子ども向けの物語の実験が載っています。
3〜4 歳児に分かる程度の基本的な単語（紹介記事では 3,000 語、元の論文では約 1,500 語）を使って、大きなモデルに短い物語を数百万本書かせたデータが「TinyStories」です。
これで約 1,000 万パラメータの極小モデルを学習させたところ、文法の整った物語を書けたそうです。
量をひたすら増やすより、小さなモデルが学びやすい質のデータをそろえるという発想が、Phi シリーズの土台になりました。
NVIDIA の論文が性能のよい SLM の例に挙げたものにも、推論モデル DeepSeek-R1 の出力を教材に学習した 1.5B〜8B の蒸留モデル群があります。
もう一つの理由は、使う側が仕事を絞り込めることにあります。
NVIDIA の論文は、AI エージェントの中の言語モデルがこなすのは、少数の決まった作業の繰り返しが多いと指摘しました。
ツールの呼び出し方や出力の形式が一つに決まっているなら、あらゆる形式に対応できる汎用性は要りません。
その形式だけを追加学習で覚えさせた SLM のほうが、たまに違う形式で答えてしまう汎用モデルより扱いやすい、というのが論文の主張です。
使いどころは手元で速く安く回す決まった仕事
Microsoft は Phi-3 の発表ブログで、SLM が特に向く場面を 3 つ挙げています。
- 端末の中やオフラインで動かす、計算資源の限られた環境
- 応答の速さが重要になる場面
- 比較的単純なタスクで、コストを抑えたい場面
端末の中で動かす例は、技術報告にも載っていました。
4 ビットに量子化した Phi-3-mini は、メモリ約 1.8GB に収まりました。
これを iPhone 14 に載せると、完全にオフラインのまま毎秒 12 トークンを超える速さで動いたそうです。
Gemma 4 のモデル概要でも、E2B と E4B はスマホやエッジ機器、ブラウザ向けと位置づけられています。
モバイル向けの実行に要るメモリの目安は E2B が約 1.1GB、E4B が約 2.5GB です（2026 年 9 月 30 日の確認時点）。
Microsoft は、データを自社の中に置いておきたい規制業種や、電波の届かない場所での利用も用途に挙げていました。
速さと安さが特に効いてくる場面の一つが、AI エージェントの内部です。
NVIDIA の論文は、7B の SLM を動かす費用は 70B〜175B の LLM より、待ち時間・消費電力・計算量のいずれでも 10〜30 倍安いとしています。
追加学習も数 GPU 時間で済むため、振る舞いの追加や修正を数週間ではなく一晩で回せるそうです。
論文はオープンソースの 3 つのエージェントも調べ、LLM への問い合わせのうち SLM で置き換えられそうな割合を見積もりました。
- MetaGPT: 約 60%
- Open Operator: 約 40%
- Cradle: 約 70%
ただし、すべてを SLM に置き換えようという話ではありません。
論文が勧めるのは、普段は SLM に任せ、幅広い推論や自由な会話が要るときだけ LLM を呼ぶという組み合わせ方です。
Microsoft も社内で、LLM を振り分け役にして、計算の少なくて済む問い合わせを SLM に回していると紹介していました。
質問ごとにモデルを選び分ける仕組みそのものは、LLM ルーティングの記事で扱っています。
落とし穴は知識の量と込み入った計画
小さいことの代償については、開発元や論文の著者自身も書いています。
一つ目は、覚えていられる知識の量です。
Phi-3 の技術報告は、Phi-3-mini には事実の知識をたくさん蓄えておく容量がないと認め、雑学クイズ形式の TriviaQA での低い成績を例に挙げました。
同じ報告は、この弱点は検索エンジンと組み合わせれば補えるという見方も添えています。
Microsoft が SLM の用途として挙げた例にも、長い文書の要点をまとめる、市場調査の報告書から傾向を抜き出すといった、手元の文書を扱う仕事が並んでいます。
二つ目は、込み入った計画を立てる仕事です。
Microsoft の担当者は、タスクを小さく分け、さらに分けて順に片づけるような仕事は当面は大きなモデルの領域だと話しています。
三つ目は、自分で動かす手間です。
NVIDIA の論文も反対意見として、LLM を 1 か所に集めて大量に動かすほうが規模の経済で安くなるという見方を紹介しました。
自前で SLM を動かせば、推論の基盤を用意して保守する人手の費用もかかります。
この点について論文は、まだ決着はついていないと認めていました。
もう一つ、モデル名の数字の読み方にも注意が要ります。
Gemma 4 E2B の「E」は実効パラメータ数を表し、実効 23 億に対して埋め込みの表を含めた総数は 51 億パラメータあります。
名前の数字だけでメモリを見積もると外れるので、モデルカードの総パラメータ数と、モデル概要のメモリの表を先に確かめてください。
最後に
SLM は手元の機器で動く大きさに抑えた言語モデルで、何億パラメータから下という決まった境界はありません。
小さくても使えるのは、学習データの質を上げたことと、エージェントの中の決まった仕事に用途を絞れることが大きな理由でした。
一方で、知識の量や込み入った計画は苦手なので、検索や LLM と組み合わせて弱点を補います。
手元で動かしてみるなら、重みのライセンスとメモリの見積もり方をまとめたオープンウェイトモデルの記事が次の一歩になるでしょう。
その仕事に足りる一番小さなモデルを探すという視点を持つと、SLM の出番が見えてきます。
以上です。
コメントを残す