パラメータ数はモデルの一つの規模指標ですが、実務性能の順位そのものではありません。ミハルは用途に近い評価を一つだけ確認します。
先に答え:大きさは性能順位ではない
パラメータ数はモデル内部で学習される数値の個数です。大きなモデルは表現力を増やせる一方、学習データ、構造、最適化が違えば、少ないモデルが特定課題で上回ることがあります。
ハコは「○○B」という札を、性能棚ではなく構成情報の棚へ戻します。パラメータは学習で調整される値の数であり、正答率、速度、信頼性そのものではありません。
数字や制度の境界
専門家混合モデルでは総パラメータの一部だけを入力ごとに使うことがあります。量子化や蒸留では、保存容量や実行速度と元のパラメータ数の関係も単純ではありません。
架空例で、総数100BのMoEが一回の入力で10Bを使い、20Bの密モデルが全体を使うなら、「100対20」だけで計算量は決まりません。重みを何ビットで保存するか、入力長、生成量、ハードウェアでも遅延は変わります。
見出しで起きる取り違え
同じ数でも語彙、コンテキスト長、画像処理など構成が異なります。「○倍大きいから○倍賢い」という比例関係は成り立たず、非公開値の推測も確定値として比べられません。
また、学習済み重みを入手できるかという話はモデル規模と別です。「オープンソースAIとオープンウェイト」ではライセンスと変更可能性を確認します。
同じ条件の性能を測る
比較では目的に合う評価、エラーの種類、遅延、必要メモリ、利用料金を見ます。規模は設計情報の一つとして記録し、性能は同じ入力と採点で測ります。
同じ系列の大小モデルなら規模の効果を比較しやすくなりますが、それでもプロンプト、量子化、ツール利用をそろえます。「AIベンチマーク1位なら実務でも一番?」の通り、試験条件を外した順位にはしません。
次のモデル発表で見る五行
- 公表値か推定値か
- 密モデルかMoEか、総数か活性数か
- 学習データ・構造・計算量は同条件か
- どの課題で性能を測ったか
- 速度・メモリ・費用を含むか
覚え方: 規模は仕様欄、性能は試験欄。同じ行には並ばない。