ローカルLLMの基礎用語：120Bの「B」、パラメータ、MoE、文脈長、量子化、ライセンスを一度に整理する

前回の記事「ローカルLLMのモデル全体像（2026年11月版）」では、モデルの名前と数字を一気に並べました。読み返すと、前提となる言葉の説明がほとんどありませんでした。この記事はその補足です。経理・財務の皆さまが、情報システム部門やベンダーと話すときに困らない範囲で、基礎の言葉を整理します。

「120B」の B は billion。1,200億のこと

モデル名に付く「120B」「27B」「2.8T」は、そのモデルが持つパラメータの数です。B は billion（10億）、T は trillion（1兆）の頭文字です。120B なら1,200億個、2.8T なら2兆8,000億個のパラメータがある、という意味になります。

1B = 10億
billion: 1T = 1兆
trillion: 120B = 1,200億
よく出る例

数字が大きいほど「大きなモデル」ですが、大きいほど賢い、とは限りません。これは次の節で説明します。

パラメータとは何か：「網の目の細かさ」より「網の形の複雑さ」

パラメータは、モデルの内部にある「調整可能な数値」のことです。モデルは入力された言葉を大量の数値に変換し、掛け算と足し算を何層にも重ねて次の言葉を予測します。その計算に使う重み（係数）の一つひとつがパラメータで、学習によって値が決まります。

社内でこんな議論がありました。「パラメータが多いほど、網の目が細かくなるイメージで合っているか。少ないモデルは赤いリンゴも青リンゴも『リンゴ』としか認識しないが、多いモデルは色や品種、産地まで区別できるようになる、という理解でよいか」。この直感はかなり本質を捉えています。ただし、2点だけ補正が要ります。順に見ていきます。

1. リンゴの例で考える

赤いリンゴと青いリンゴ。どちらも「リンゴ」とだけ認識される — パラメータが増えると何が変わるか（概念図）

ふじ、王林、グラニースミスなど多数の品種のリンゴ — パラメータが増えると何が変わるか（概念図）

ここが1つ目の補正です。パラメータが増えることは、分類の項目が細かくなることと同じではありません。増えるのは「特徴や関係性をどれだけ複雑に表現できるか」という余地です。網の目が細かくなるというより、網の形を複雑にできるようになる、と考えると正確です。

2. パラメータは実際には何なのか

モデルの内部では、入力を表す数値に重みを掛けて足し合わせ、少し変形して次の層に渡す、という計算を繰り返しています。この重みと、足し合わせのときの調整値（バイアス）がパラメータです。70B のモデルなら、約700億個の調整可能な数値を持っている、という意味になります。

2つ目の補正はここにあります。1つのパラメータが「リンゴの赤さ」や「ふじという品種」に直接対応しているわけではありません。多数のパラメータが協調して、意味や特徴、関係性を分散して表現しています。だから大規模なモデルは、「リンゴ」を「アップルパイ」「果樹栽培」「青森県」「Apple社」「ニュートン」と、文脈に応じて違う意味のつながりで扱えます。単に細かく分類できることではなく、文脈によって異なる意味のネットワークを組み立て直せることが、従来の分類AIと LLM を分ける点です。

3. 「網」より「多次元の地図」

技術的には、LLM は言葉や文脈を多次元の座標で表現しています。リンゴを「色」と「甘味」の2軸で地図に置くイメージを、何百という軸に拡張したものです。パラメータが増えると、この地図の上で表現できる変換や関係がより複雑になります。

4. パラメータ数は知識量ではない

最後に、いちばん大切な補足です。パラメータ数は、モデルが表現・学習できる複雑さの「容量」を示す指標であって、知識量そのものではありません。

要素	主に決まるもの
パラメータ数	モデルが表現・学習できる複雑さの容量
学習データ	モデルが実際に学習する情報やパターン
学習方法・計算量	その容量をどれだけ有効に使えるか
アーキテクチャ（設計）	情報を処理する構造や効率。MoE もこの一種
推論時の計算	回答を作るときにどれだけ複雑な処理を行えるか

したがって、70B のモデルが 7B のモデルより必ず賢いわけではありません。学習データや方法の優れた小さなモデルが、大きなモデルを上回ることは珍しくありません。前回の記事で「精度は総合指数で位置を知り、最後は自社の業務で測る」と書いたのは、このためです。

MoE とアクティブパラメータ：全部を毎回使うわけではない

前回の表で「2.8T / 104B」のように2つの数字を並べたのは、MoE（Mixture of Experts）という方式のモデルだからです。

従来のモデルは Dense（密）と呼ばれ、入力のたびに全パラメータを使って計算します。MoE は、モデルの内部を多数の「専門家（Expert）」に分け、入力ごとに必要な専門家だけを選んで計算します。総パラメータは2.8兆あっても、1回の計算で実際に動くのは1,040億だけ、というのが「2.8T / 104B」の意味です。この「実際に動く分」をアクティブパラメータと呼びます。

Dense と MoE の違い

Dense（従来型）

入力のたびに全パラメータを使う
27B なら毎回270億個を計算
構造が単純で、品質が安定しやすい
大きくすると計算も比例して重くなる

MoE（Mixture of Experts）

内部を多数の『専門家』に分ける
入力ごとに一部の専門家だけを使う
総パラメータは大きく、計算は軽い
ただし全パラメータをメモリに載せる必要はある

実務で押さえるべき点は1つです。MoE は計算が軽いので応答が速い一方、使わない専門家も含めて全パラメータをメモリに置いておく必要があります。「速いが、メモリは総パラメータ分だけ要る」。次回のハードウェア編で効いてくる性質です。

文脈長：一度に読める文章の長さ

文脈長（コンテキスト長）は、モデルが一度に読み込んで扱える文章の長さで、トークンという単位で表します。トークンは言葉を細かく区切った単位で、日本語ではおおむね1トークンが1〜2文字に相当します。

前回の記事に出てきた「128K トークン」なら日本語で10〜20万文字程度、「100万トークン」なら有価証券報告書を数冊まとめて読める、という目安になります。経理・財務の用途では、契約書一式や決算資料をまとめて読ませる場面が多いので、文脈長は意外と効く指標です。ただし、長く読めることと、長い文章の細部を正確に扱えることは別で、文脈の後半になるほど精度が落ちるモデルもあります。

bit 圧縮（量子化）：モデルを小さくして載せる技術

モデルのパラメータは、通常1個あたり16bit（2バイト）の数値で保存されています。120B のモデルなら、そのままで約240GBのメモリが必要です。これを1個あたり8bitや4bitに丸めて保存し直すのが量子化（bit 圧縮）です。4bitにすれば必要なメモリは約4分の1、120B のモデルで約60GBになります。

120B モデルに必要なメモリの目安（パラメータ分のみ）

16bit（圧縮なし）
240GB
8bit
120GB
4bit
60GB

パラメータ数 × bit 数 ÷ 8 で概算。実際には文脈を保持する領域などが加わるため、1〜2割多く見込む。

精度への影響は、8bitならほぼ無視でき、4bitでもわずかな低下にとどまることが多い、というのが一般的な経験則です。私たちの検証環境でも、モデルはすべて4bitで動かしています。前回「4bitに圧縮しても数百GB」と書いたのは、2.8T のモデルを4bitにしても1.4TB前後になる、という計算です。

ライセンスの違い：Apache-2.0、MIT、修正MIT、独自

前回の表の「ライセンス」欄は、そのモデルを会社の業務や自社製品に使ってよいか、使うときに何を守るべきかを示しています。大きく4種類あります。

ライセンス	内容	実務上の注意
Apache-2.0	商用利用・改変・再配布が自由。著作権表示とライセンス文の同梱が必要。特許に関する条項を含む	もっとも扱いやすい。Qwen、Gemma 4、gpt-oss、Mistral の多くが採用
MIT	商用利用・改変・再配布が自由。著作権表示とライセンス文の同梱のみ	Apache-2.0 と同程度に扱いやすい。DeepSeek、GLM-5.3-Flash が採用
修正MIT	MIT をベースに、一定規模以上の事業者（月間利用者数や売上の条件）に表示義務などを追加	条件に該当しなければ MIT と同じ。該当の有無を確認
独自ライセンス	各社が定める条件。「Built with ○○」のような表示義務、特定用途（軍事など）の禁止、売上規模による審査など	利用規約を法務と読み、社内利用か製品組み込みかで条件を確認

もう1つ、言葉の違いを押さえておきます。前回の記事で使った「オープンウェイト」は、学習済みの重み（パラメータ）が公開されているという意味です。学習データや学習コードまで公開されている「オープンソース」とは区別されます。多くの公開モデルはオープンウェイトであってオープンソースではありません。契約や説明資料で「オープンソースのモデル」と書くと不正確になることがあるので、注意してください。

主要なモデル提供元のプロフィール

前回の表に出てきた提供元を、経理・財務の方がベンダーとの会話で困らない範囲で紹介します。

提供元	本拠	概要	主なモデル
OpenAI	米国	ChatGPT の開発元。2015年設立。主力モデルは非公開だが、2025年に gpt-oss を公開	GPT 系（非公開）、gpt-oss-120b／20b（公開）
Anthropic	米国	Claude の開発元。2021年設立。安全性研究を重視。重みは非公開	Claude 系（非公開）
Google DeepMind	米国	Google の AI 研究部門。Gemini（非公開）と Gemma（公開）の二本立て	Gemini 4（非公開）、Gemma 4（公開）
Meta	米国	Llama で公開モデルの流れを作った。2026年は Muse 系に移行	Muse Spark Open、Muse Glimmer（公開）
Mistral AI	フランス	2023年設立の欧州最大手。公開モデルを軸に企業向け展開	Mistral Large 4、Medium 3.5、Devstral 2
Alibaba（Qwen）	中国	Alibaba Cloud が開発。サイズ展開が広く、Apache-2.0 で公開	Qwen3.8、Qwen3.6、Qwen3.5
DeepSeek	中国	2023年設立。低コストでの学習手法で注目。MIT で公開	DeepSeek V4 Pro／Flash
Moonshot AI	中国	2023年設立。Kimi シリーズ。公開モデルの最上位を出している	Kimi K3.1 Pro、Kimi K2
Z.ai（旧智譜 AI）	中国	清華大学発。GLM シリーズ。エージェント・コーディングに強み	GLM-5.3、GLM-5.3-Flash
MiniMax、Tencent、Ant、Xiaomi、StepFun	中国	2026年に相次いで大型モデルを公開した各社	MiniMax M3、Hy4、Ling 3.1、MiMo-V2.6、Step 5
NVIDIA	米国	GPU メーカー。自社 GPU 向けに最適化した公開モデルも提供	Nemotron 3.5

中国勢の名前が多いのは、2026年の公開モデルの上位を中国の各社が占めているためです。利用を検討する際は、モデルの性能とは別に、提供元の国や利用規約、自社の調達ルールとの整合を確認してください。社内で動かすローカルLLMであればデータは外に出ませんが、モデルの入手元の信頼性は別の論点として残ります。

前回の記事に出てきたベンチマークの名前

最後に、前回のグラフで使った指標を一言ずつ。

Intelligence Index（Artificial Analysis）: 複数のベンチマークを合成した総合指数。モデル同士の位置関係を見るのに便利
GPQA Diamond: 大学院レベルの専門知識を問う選択式の問題集。「知識」の物差し
Terminal-Bench: コンピュータの端末を操作してタスクを完了できるかを測る。「AIエージェントとしての作業能力」の物差し
Humanity's Last Exam: 専門家が作った難問集。「深い推論」の物差しで、まだどのモデルも満点には遠い

まとめ

B は10億、T は1兆。パラメータは「分類の細かさ」ではなく「表現できる複雑さの容量」で、数が多いほど賢いとは限りません。MoE は総パラメータのうち一部だけを使うので速いが、メモリは総パラメータ分が要ります。文脈長は一度に読める長さ、量子化はメモリを数分の1にする圧縮、ライセンスは「業務や製品に使ってよいか」の条件です。これだけ押さえておけば、前回の表はそのまま読めるはずです。

まだ読んでいない方は、前回の記事「ローカルLLMのモデル全体像（2026年11月版）」へどうぞ。次回は、これらのモデルを動かすために必要なマシンの話です。用語で分かりにくいものがあれば、お問い合わせから教えてください。記事に反映します。