重みが公開され、8台のBlackwellに収まる：Mistral Large 4のデイゼロNVFP4リリースの舞台裏

過去1週間に公開されたあらゆるセルフホスティングガイドは、Mistral Large 4について同じ3つのことを伝えている。ライセンスファイルは404を返し、量子化済みチェックポイントは存在せず、あなたが書く設定は前のモデルから借りてきた投影にすぎない、と。2026年10月29日の朝の時点で、その3つはすべて間違っている。ライセンスはリポジトリにあり、そのサイズは2,632バイトで、チェックポイントファミリーは実在する：mistralai/Mistral-Large-4-1T-A52Bは、54個のFP8シャードと1,060.6 GBで構成され、さらに32個のシャードと610.1 GBのNVFP4版もあります。NVIDIAのday-zeroノート、つまりMistral AIチームを祝福し、Hugging FaceでのNVFP4サポートに同じ文で言及するノートは、この話の最短版にすぎない。役に立つ版はより長いものだ：公開されたレシピが実際に何を前提としているのか、誰も見ていない間に価格に何が起きたのか、そして火曜日のセルフホスティングに関する助言のうち、どれが今や積極的に誤解を招くものになっているのか。ダウンロード可能なものではなく、今日ルーティング可能なものを比較したいなら、OrcaRouterのモデルカタログは、当社が提供するすべてのモデル、そのコンテキストウィンドウ、トークンあたりの価格を一覧表示し、ルートごとにフェイルオーバーが設定されています。

日付から始めよう。なぜなら、そこが多くの報道が両方向に間違える部分だからだ。Mistral Large 4は2026年10月6日にAPIプレビューとして発表された——1.05兆パラメータのMixture-of-Expertsモデルで、トークンあたり490億パラメータが有効、埋め込み層と出力層を数えると520億、16億パラメータの視覚エンコーダーと100万トークンのコンテキストウィンドウを備え、価格は入力100万トークンあたり1.36ドル、出力100万トークンあたり4.18ドル。オープンウェイトは10月末までに提供すると約束されていた。それらは10月29日14:51 UTCに登場し、報道が固めていた10月27日という日付からおよそ2日後だった。このずれが重要であるのは、このモデルに関する多くの文章がそのずれの中で書かれたからだ。

今朝、Hub に実際に何があるの？

リポジトリのメタデータは告知文よりも情報量が多いので、ここに直接示します：

• メインのチェックポイント — mistralai/Mistral-Large-4-1T-A52B、54個のsafetensorsシャード、ディスク上1,060.6 GB、fp8タグ付き、リポジトリは2026年9月30日作成、重みの最終書き込みは10月29日14:51 UTC、ゲートなし。

• 量子化された兄弟モデル — mistralai/Mistral-Large-4-1T-A52B-NVFP4、32シャード、610.1 GB、リポジトリは2026年10月15日に作成され、本日14:11 UTCに更新 — 親リポジトリが完了する40分前。

• ライセンス — Mistral Ecosystem Open-Weight License。Mistral はこれを、収益のしきい値が付されていない修正 MIT ライセンスだと説明している。

• アーキテクチャは、params.json に基づく — 128個のエキスパート（トークンごとに4個がルーティングされ、さらに1個の共有エキスパート）、72層、隠れ次元6,144、最大1,540ピクセルの画像を受け入れる30層のビジョンタワー、そしてほとんどの層でのKV共有。

• 一致しない数字 — NVFP4 のモデルカードには 39 言語が記載されていますが、発表では 160+ と主張されています。モデルカードはトークンあたり 490 億の有効パラメータを数えていますが、API ドキュメントとベンダー自身の表では 520 億とされており、これは埋め込み層と出力層を加えた同じ数値です。Mistral の投稿では学習に 3,800 台の Grace Blackwell GPU を充てたとしていますが、複数のメディアはそれを 4,000 台に丸めました。これらはいずれも致命的ではなく、それぞれの不一致は、どの文書がどのチームによって書かれたかを教えてくれます。

610 GB という数字がリリースです。

1.05兆パラメータのモデルは、誰も気軽に語れるような方法ではダウンロードできない。FP8チェックポイントは1,060.6 GB——KVキャッシュ、アクティベーション、フラグメンテーションが一切存在しない状態でも、重みだけで1テラバイトを余裕で超える。8基のGPUを搭載したBlackwellノードなら、およそ400 GBを残して収まる。8基のH200では、ほとんど余裕なくぎりぎり収まる。NVFP4チェックポイントならそれが610.1 GBまで削減され、その節約は見栄えだけのものではない。ノード全体が重みで埋め尽くされるか、それともモデルが謳う100万トークンのコンテキストのための余地が残るか、その違いを生むのだ。

量子化スキームも「4ビット」より具体的だ。カードによれば、Mixture-of-Expertsの重みはNVFP4で、線形層はFP8のまま、さらにvLLMのレシピではMLA層にFP8 KVキャッシュを要求している。これは一律のダウンキャストではなく混合精度のサービングスタックであり、対象はBlackwellに特化している——名指しされているのはB200、B300、GB200、GB300だ。

購入を計画している人にとって、強調しておくべき結果が一つある。公式レシピは依然として8基のGPUを要求している。vLLMはtensor parallelism 8で、SGLangはtp-size 4で公開されている。ここでの量子化は、主にノード数を減らすための手段ではない。ノードに長いコンテキストを実際に提供できるだけのメモリを残すための手段であり、公開されているサービングパラメータがその証拠である。

レシピを、フラグごとに

このリリースが大半のオープンウェイト公開と違うのは、ベンダーがコミュニティに任せず、サービング手順を同梱した点です。公開されているとおり、vLLM の経路は次のとおりです。

• イメージ — vllm/vllm-openai:mistral-large-4

• 並列性 — --tensor-parallel-size 8

• キャッシュ — --kv-cache-dtype fp8_ds_mla、--gpu-memory-utilization 0.85 を使用

• パーサー — --tool-call-parser mistral、--reasoning-parser mistral、--enable-auto-tool-choice

• オプションの投機的実行 — --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}'

SGLang のパスは、二度読み返す価値があるほどいくつかの点で異なります：

• イメージ — lmsysorg/sglang:mistral-large-4、--tp-size 4 および --mem-fraction-static 0.85 を使用

• 投機 — --speculative-algorithm DSPARK、公開されているコマンドではデフォルトで有効

• サービング制限 — --max-running-requests 64、推論パーサーとツールパーサーの両方を auto に設定

フラグが教えてくれる、告知では分からない3つのこと

第一の点は、DSparkが別個のモデルではないということです。設定ファイルには、チェックポイント自体に埋め込まれた、小さな再帰ドラフトヘッド（マルコフランク512）を備えた3つのマルチトークン予測層が記述されています。投機的デコーディングは通常、大きなモデルの横で第二のより小さなモデルを実行し、そのメモリコストを払うことを意味します。ここではドラフトヘッドがすでに610 GBの中に含まれているため、投機的フラグは第二のデプロイではなく短い設定文字列になっています。

第二点は、アテンションスタックが圧縮の話だということです。構成には、32ヘッドに対するtop-k 2,048のスパースインデクサー、KV LoRAランク512、そして72層の大部分にわたるKV共有が含まれています。これはDeepSeek系モデルで標準となった種類のレイアウトです。1Mコンテキストが実現できるのは、アテンションメモリが積極的に共有され、KVキャッシュがFP8だからであって、モデルが費やせる1テラバイトのキャッシュを持っているからではありません。

3つ目は算数の話です。公開されているYaRNブロックは、512トークンのネイティブRoPEウィンドウを2,048倍に拡張し、掛け合わせるとちょうど1,048,576になります。これが宣伝されているコンテキスト長です。トレーニングスケジュールがどのようなものであっても、ダウンロードしているコンフィグは外挿によって100万トークンに到達します。90万トークンの文書をそれに与えて、モデルが以前にそのような形を見たことがあると仮定する前に、これは知っておく価値があります。

ガイドが書かれている間に、価格表が動きました。

Mistralのドキュメントでは、現在の料金を100万入力トークンあたり0.70ドル、100万キャッシュ済み入力トークンあたり0.07ドル、100万出力トークンあたり2.10ドルと記載している。10月6日の発表では、定価として1.36ドルと4.18ドルが示され、プレビュー割引はそのおよそ半額で適用されていた。2つの文書を併せて読むと、オープンウェイト版の公開は単にファイルを配布しただけではなく、恒久的な定価をプレビューが実質的に提供していた水準まで引き下げた。10月の発表に基づいて予算を組む人にとって、新しい料金表は書き留めた数字のおよそ半分だ。

独立系の評価は、値下げほど好ましくない。Artificial Analysisは現在のインテリジェンス・インデックス（10月27日に再構築されたv5シリーズ）で、Mistral Large 4を26と採点し、インデックスタスク1件を完了するのに2.06ドルかかると指摘し、出力トークン速度161.3トークン/秒、最初のトークンまで1.42秒と測定している。速度は確かに良好だ。161トークン/秒は比較対象群の中央値の2倍以上に当たる。タスクあたりのコストはそうではない。2.06ドルは同クラスの下位4分の1に位置する。長く推論するモデルは、料金表ではなくトークンにコストを費やすからだ。

Mistral自身の数字と、公表されなかったもう一つの数字

Mistralのリリース記事にあるベンチマークはすべてMistral自身のものであり、そのいずれかを引用する前にこの点を明言しておく価値がある。Terminal-Bench 4.0は41%と主張され、プレビューより13ポイント高く、記事によればオープンウェイトでのリードだ。FrontierCode 2.0は19.7%。AA Coding Agent Indexは48%で、GLM-5.3と実質的に互角と説明されている。BrowseCompは84.5%で、プレビュー版の教師ありチェックポイントの75%に対する数値だ。FinWorkBenchは73.3%で、Kimi K3の77.3%を下回る。さらに、悪意のあるサイバーリクエストに対する平均96.6%の拒否率があり、これがこのリリースが本当に中心に据えている数字だ。これらの一部は第三者製の評価ハーネス——CognitionのFrontierCode、Artificial AnalysisのCoding Agent Index、Surge Codeの人間の選好——に由来するが、Mistralがそれらを実行し、Mistralが報告したものだ。執筆時点で、いずれも公には再現されていない。

不足している数値こそ、セルフホストする人が最も必要とするものだ。それは同一評価における、FP8チェックポイントに対するNVFP4の品質だ。モデルカードは、量子化が「同程度の性能」でメモリ削減を提供するものとして提示しているが、それは主張であり、測定結果ではない。誰かが同一条件での実行結果を公開するまでは、誠実な見解としては、610 GBのチェックポイントは搭載できるもの、1,060.6 GBのチェックポイントは記録による裏付けがあるものだ。

Artificial Analysisが実施する同じベンチマークにベンダーの表を当てはめると、様相が変わる。AAの現在のMistral Large 4の行——ホスト型API、高推論エフォート——では、Terminal-Bench 4.0が25%で、リリース投稿の41%より16ポイント低く、FrontierCode 2.0は15%で、Mistralが示す19.7%と対照的だ。どちらもMistral自身が引用するハーネスである。ありそうな説明は設定だ。リリースの数値は特定の推論設定または特定の評価スライスに由来する可能性があり、AAは公開APIが返すものを測定している。受け入れられない説明は、ほとんどの報道が落ち着いたもの——両方の数値を、同じものを測定したかのように並べて掲載すること——だ。

誰がそれを提供できるかを決めるライセンス条項

ライセンスは一息で読めるほど短く、重要な条項はモデル・アズ・ア・サービスに関するものだ。モデルの重み上でホスト型サービスを運営するには、Mistral からの別途商用ライセンスが必要になる。しかし、モデル・アズ・ア・サービスの定義では、組み込み型のエンドユーザー製品と、別個に「他者がホストするモデルへの単なるリクエストの中継」が除外されている。この除外規定は一見したより狭い。自前の推論基盤を立ち上げて再販することは許さない一方で、ゲートウェイがライセンス取得者にならずに Mistral がホストする推論へリクエストを通過させることは許す。その解釈が紛争時に通用するかは、このブログではなく Mistral の弁護士が判断すべき問題だ。

ここで気まずい点が出てきます。OrcaRouterはMistral Large 4を掲載していません。当社の214モデルのカタログにはMistralエンドポイントが一切含まれていないため、このリリースに含まれるものは今日ここでは何もルーティングできず、そうでないと言う人はあなたに嘘を売り込んでいます。カタログが実際に備えているのは、こうしたロールアウトのもう半分です。ワークロードを1つのモデルに固定し、コード変更なしで切り替えられるルーティングDSL、エンドポイントが劣化した際の自動フェイルオーバー、そして0%マークアップのパススルー価格により、ベンダー自身の料金変更が先方に反映された当日に当社側にも反映されます。610 GBを取得して自前のvLLMボックスを立ち上げるチームは、最初の数週間はほぼ必ずその背後にホスト型ルートを残します。そして、それが当社が実際に運用できる部分です。

今夜は誰がダウンロードを開始すべきですか？

Blackwell GPUをすでに8台運用しているなら、あるいはホスト型エンドポイントでは満たせないデータ常駐ルールがあるなら、今朝その算段は変わり、しかもあなたに有利な形で変わった。重みは存在し、ライセンスも存在し、ベンダーは提案ではなくテスト済みのサービングコマンドを渡してくれた。まずNVFP4チェックポイントを取得しよう — 610.1 GBは許容できる一晩であり、vLLMイメージは固定されている。本番経路をそれに委ねる前に、ホストAPIに対して独自の評価を実行すること。量子化の主張は未検証であり、ベンダーのベンチマークはあくまでベンダーのものだからだ。

そのクラスのハードウェアを運用していなければ、このリリースにまだあなた向けのものは何もありません。トークンあたり490億のアクティブパラメータを持つ1Tモデルは、ラップトップへのダウンロードでも単一カードでの実験でもなく、FP8チェックポイントは1テラバイトです。あなたに届くべきニュースはファイル一覧ではなく価格のラインです。ホスト型APIは現在$0.70と$2.10から始まり、これは10月の発表で期待させられた額のおよそ半分で、GPUを1基も持たずに利用できる変化です。

未解決の問いこそが興味深い。610 GBに収まる1兆パラメータのモデルは、NVFP4がフロンティア規模のmixture-of-expertsをその形状を変えずに圧縮できることの証明だ。答えを変えずに圧縮できるかどうかは、今後2週間の独立した実行で決着がつくことであり、それを出荷した人々も含め、誰もまだ公表していない。