Mistral Large 4のコンテキストウィンドウ：1Mの主張、実測524K、そしてその差が課金される理由

Mistralのモデルカードにはあることが書かれ、独立した測定では別のことが示されている。その差は見た目だけのものではない。カードには100万トークンのコンテキストウィンドウが記載されている。実際に実行できる構成を評価するArtificial Analysisは、524,288トークンを測定した。送信する入力のすべてのトークンが計量されるため、「どれだけのコンテキストがあるのか」という問いは、「1回のリクエストでどれだけ使ってよいのか」という問いでもある。

その2つの数値の差は2倍であり、100万入力トークンあたり1.36ドルを請求するモデルでは、これは丸め誤差ではありません。

数字が何を意味するのか、そしてそれぞれがどこから来ているのか

• 1,048,576トークン — Mistralが重みとともに配布する設定ファイルに記載されている値です。これはベンダーによって書かれた上限であり、モデルカードも「1M」として繰り返しています。

• 524,288トークン — Artificial Analysisがテストした構成で測定した値。上限の半分。

• その費用 — 100万あたり$1.36で、524Kを埋めると1リクエストあたり約$0.71かかります。1M全体を埋める場合は$1.43かかります。どちらも、出力が発生する前の単一呼び出しの入力側です。

ベンダーの公称値は嘘ではなく、実測値もバグではない。コンテキストウィンドウはアーキテクチャが持つ能力であり、特定のサービング構成が実際に受け付けられる範囲——KVキャッシュの予算、テンソル並列、バッチサイズを踏まえた範囲——はそれより小さく、その差はこの業界全体でごく普通のことだ。ただ、それが価格と同じ行に記されることはめったにない。

なぜこれが他の場所よりも重要なのか

このモデルならではの3つの理由。

1兆パラメータのMoEです。 1.05兆パラメータ、トークンあたり520億がアクティブ、加えて16億パラメータの視覚エンコーダー。このクラスのモデルで長いコンテキストを扱う場合、サービングにおける制約要因となるのはKVキャッシュであり、設定ファイルの意図ではありません。実測値こそが、誠実な計画に使うべき数値です。

料金はリクエスト単位ではなくトークン単位で決まります。 このカードでの長いコンテキストのリクエストは、送信する量に比例して増える明細項目です。あなたが買っているのは「1Mのウィンドウ」ではなくトークンであり、ウィンドウは1回の呼び出しでどれだけの量が届くかを決めるだけです。

重みは設定と一緒に提供されます。1,060.6 GB の bf16 をダウンロードしてcode>config.json/code> を読むと、1,048,576 が目に入り、それに合わせて計画を立てたくなります。vLLM のレシピでは、FP8 KV キャッシュを使用したテンソル並列度 8 が求められており、これはまさに、実際に提供されるウィンドウと設定上のウィンドウが一致しなくなる典型的な構成です。

自分の天井の高さを午後だけで測る方法

自分が上限だと思う量を超えるリクエストを送り、エラーを読んでください — 多くの場合、プロバイダーは黙って切り詰めるのではなく、トークン数に関するメッセージを返します。それにより、実際に使用しているホストで提供される上限が分かります。これが、予算に含めるべき唯一の数値です。

次に、その上限の80%でリクエストを送り、レイテンシを確認してください。1兆パラメータのモデルが長いコンテキストを読む場合、最初のトークンまでの時間はプロンプト長とともに増加します。524Kという数字はウィンドウであり、速度に関する約束ではありません。

最後に、結果として得られる上限を、平均値ではなく入力長の95パーセンタイルと比較してください。平均値は決して制約になりません。裾こそが、予算に入れていなかったチャンキングパイプラインが現れる場所です。

競合他社のウィンドウはどのように見えるか

• DeepSeek V4 Pro —1Mコンテキスト、384K出力、オフピーク時は入力$0.66、出力$1.98。

• Grok 4.7 —コンテキスト500K、出力450K、一律$2.00および$6.00。

• Qwen3-Max —262Kコンテキスト、65K出力、$0.36および$1.43。

• Mistral Large 4 —1Mと主張、実測524K、リスト価格は$1.36と$4.18。

その比較の中では、Mistralの実測ウィンドウは262Kと1Mという主張の間に位置する——上端よりも中央に近い。コンテキストが検討理由なら、比較表に入れるべきは実測値であり、それは見出しの数値を半減させる。

Mistral Large 4 は OrcaRouter のカタログにないため、当社が提供できるルートではありません。Mistral 自身の API およびサードパーティのホスト経由で呼び出すことは可能です。当社が基本的に提供しているのは、224 モデルを対象とする単一の OpenAI 互換エンドポイントで、プロバイダーの定価のままマークアップはありません。そこでは、ベンダーのウィンドウが実際にどのようなものであっても、そのウィンドウが請求の基準になります。