NPB-TC-002 · STABLE

パラメータ数が多いAIほど高性能?

見出しの落とし穴パラメータ数を、車の馬力のような単独の性能値として順位づける。
パラメータ数が多いAIほど高性能?で混同しやすい二つの範囲を分けて表した図
見出しの言葉と、実際に確認すべき範囲を分けて読むための図です。

30秒で持ち帰る

パラメータ数は、学習で調整する数値がいくつあるかを示します。規模は性能に関わりますが、学習したデータや構造、評価する課題も違うため、数だけで優劣は決まりません。

共有前に足す一行モデル規模を共有するときは、パラメータ数と性能を同義にしない。比較する課題と評価結果を一つ添える。
一文定義
モデルのパラメータは、学習によって調整され、入力から出力を計算する際に使われる数値です。
混同しない
モデル規模/特定課題の品質と効率
確認日
2026/10/24

BOUNDARY TABLE

見出しと実際の範囲を分ける

このカードで意味するものモデルのパラメータは、学習によって調整され、入力から出力を計算する際に使われる数値です。
同じものとして扱わないモデル規模/特定課題の品質と効率
共有する前に確認
  • 同じモデル系列・学習条件か
  • パラメータの総数か、一度の計算で使う数か
  • 品質・速度・メモリのどれを比べるか
3分で境界を理解する

定義、例、取り違えやすい理由、次のニュースで見る項目を順に確認します。

パラメータ数はモデルの一つの規模指標ですが、実務性能の順位そのものではありません。ミハルは用途に近い評価を一つだけ確認します。

先に答え:大きさは性能順位ではない

大きな道具箱に手を添え、広げた工具入れから工具を選ぶトジ
大きさだけでなく、何の仕事で確かめるかを考えるためのたとえです。

パラメータ数はモデル内部で学習される数値の個数です。大きなモデルは表現力を増やせる一方、学習データ、構造、最適化が違えば、少ないモデルが特定課題で上回ることがあります。

ハコは「○○B」という札を、性能棚ではなく構成情報の棚へ戻します。Bはbillion、10億を表す略記です。7Bなら70億、70Bなら700億のパラメータを指します。70Bは7Bの10倍の個数ですが、正答率や回答速度まで10倍になるわけではありません。

MoEは、全体の数と計算に使う数を分けて読む

密モデル(dense model)と呼ばれる構造では、MoEのように処理ごとに担当する部分を選び分けません。MoEはMixture of Experts、専門家混合の略で、複数の計算部分から使うものを選ぶ構造です。「専門家」は人間ではなく、モデルの一部分を指します。

このため、MoEではモデル全体の「総パラメータ数」と、計算に使う「活性パラメータ数」を区別します。文章を扱うモデルでは、トークンという文字や単語のまとまりに分けた単位ごとに、使う部分が選ばれます。一つの質問や回答全体で、ずっと同じ部分だけを使うという意味ではありません。

具体例として、Mistral AIが2023年12月に発表したMixtral 8x7Bは、総数46.7Bに対し、1トークンの処理に使う数を12.9Bと説明しています。これはそのモデルの公表値であり、すべてのMoEに共通する割合ではありません。

総数だけで必要な計算量や速さは決まりません。数値を保存する精度、入力・出力の長さ、使う機器によっても変わります。総数が大きいモデルほど必ず遅い、とまでは言えません。

見出しで起きる取り違え

同じパラメータ数でも、扱える言葉、一度に読める文章の長さ、画像を扱えるかどうかなどは異なります。「○倍大きいから○倍賢い」という比例関係は成り立たず、非公開値の推測も確定値として比べられません。

また、学習済み重みを入手できるかという話はモデル規模と別です。「オープンソースAIとオープンウェイト」ではライセンスと変更可能性を確認します。

同じ条件の性能を測る

比較では目的に合う評価、エラーの種類、遅延、必要メモリ、利用料金を見ます。規模は設計情報の一つとして記録し、性能は同じ入力と採点で測ります。

同じ系列の大小モデルなら規模の効果を比較しやすくなりますが、それでも、与えた指示、数値を保存する精度、外部ツールを使ったかどうかをそろえる必要があります。「AIベンチマーク1位なら実務でも一番?」の通り、試験条件を外した順位にはしません。

次のモデル発表には、評価した課題を一つ添える

ニュースを共有するなら、「パラメータ数が増えた」に続けて、どの課題でどのモデルと比べた結果なのかを一つ添えます。評価結果が見つからなければ、「規模の発表はあったが、性能差はまだ確認できない」で止めてかまいません。

詳しく読むときは、次の項目を確認します。

  1. 公表値か推定値か
  2. 密モデルかMoEか、総数か活性数か
  3. 学習データ・構造・計算量は同条件か
  4. どの課題で性能を測ったか
  5. 速度・メモリ・費用を含むか

覚え方: パラメータ数は規模の数字。性能は、何を解かせた結果かを見る。

ミハルの共有前メモ

人へ渡すなら、この一行を足す

モデル規模を共有するときは、パラメータ数と性能を同義にしない。比較する課題と評価結果を一つ添える。

SOURCE & REVIEW DATE

原典と確認日を確かめる

このカードは2026/10/24に確認しました。次回は2027/4/24を目安に見直します。

Mixtral of experts(2023年12月11日の開発元発表)Mistral AI · 2026/10/24確認

よくある確認

パラメータ数が2倍なら性能も2倍ですか?

比例しません。データ、構造、学習量、評価課題が違えば、規模の小さいモデルが特定用途で上回ることもあります。

MoEの総パラメータ数は密モデルと比較できますか?

総数だけでは不十分です。MoEでは、計算に使う部分を選ぶため、全体の数と一つのトークンの処理に使う数が異なります。比較表ではどちらの数かを確認し、性能は評価結果で比べます。

実用上はどの数字を見ますか?

まず、自分の用途に近い課題の評価結果と、その試験条件を見ます。実際に使うモデルを選ぶ場合は、回答の速さ、必要メモリ、費用も別に比較します。

次にひらく前提

AIベンチマーク1位なら、実務でも一番?

AIのハルシネーションは、単なる故障?