Nemotron 3.5 Super vs GPT-6 Astra：スキャンしたページにかかるコストはそれぞれいくらか

OpenAI GPT-6 Astra はスキャンした文書をトークン単位で課金する。NVIDIA Nemotron 3.5 Super は GPU 秒単位で課金する。この一文がこの比較のほぼすべてであり、どちらのベンダーも見出しには掲げないであろう一文だ。NVIDIA のモデル — 総パラメータ 1,200 億、トークンあたりのアクティブは 120 億、ハイブリッドな Mamba-2 と Transformer の Mixture of Experts に C-RADIO ビジョンエンコーダを組み合わせたもの — は、2026年10月15日に NVIDIA が NVIDIA Nemotron 3.5 Super VL という名称で発表し、Ollama では code>nemotron-3.5-super/code> として配布されたが、その重みは Hugging Face に 10月12日にアップロードされており、世に出た時点ですでに3日前のものだった。Astra は OpenAI のフラッグシップだ。コンテキストは 1,050,000 トークン、最大出力は 128,000 トークン、テキスト・画像・ファイルの入力に対応し、常時オンの推論を備え、定価は入力 100万トークンあたり 10ドル、出力 100万トークンあたり 50ドル。

その2つの価格帯は、入力で10倍、出力で25倍の隔たりがあり、それだけにこの興味深い問いは異例なほど鋭くなる。ドキュメント処理において、固定コストのオープンチェックポイントは、どのくらいの処理量で$10/$50の従量課金を上回るのか——そして、ドキュメントがテキストのページではなくピクセルのページになったとき、その答えは変わるのだろうか。

彼らは同じリクエストを巡って競合しているわけではない

まずはっきりさせておくべきことは、測定された能力においてこの2つのモデルは互角ではなく、どちらのベンダーも互角だとは主張していないということだ。

• サードパーティ指標 — Astraは、これらのモデルを採点するパネルにおいておよそ54.7に位置し、コーディング指数は76.9、エージェント指数は51.6で、いずれもAstra自身のカタログエントリに記録されています · NVIDIAのチェックポイントはおよそ26です。これは約28ポイントの差であり、どちらのベンダーによっても測定されたものではありません。

• コンテキスト — Astra は 1,050,000 トークン、出力上限は 128,000 トークン · NVIDIA のチェックポイントは 1,000,000 で、出力上限は一切公表されておらず、カード自体にもメモリとランタイム設定が実際に使用できる数値を左右するという注意書きがある。

• 推論サーフェス — Astra は、low から max まで設定可能なエフォートで常時オンの推論を実行し、Responses API を通じて完全な推論トレースを返し、構造化出力、シード、およびツールとしてのウェブ検索をサポートします · NVIDIA のチェックポイントには、チャットテンプレートで切り替えるオン/オフの思考モードと公開されたベンチマーク表がありますが、いかなる種類のホスト型サーフェスもありません。

• 入力モダリティ — Astra ではテキスト、画像、ファイル · NVIDIA チェックポイントではテキスト、画像、動画に対応。公開されているすべてのタグに 1.6 GiB のビジョンプロジェクタが含まれているため、画像パスは常に存在します。

• 価格 — 100万トークンあたり入力$10、出力$50、プロンプトトークンが272,000を超える場合はロングコンテキスト枠 · 価格なし。このモデルにはエンドポイントがないため。

• 得られるもの — APIキーとトレース · BF16ならH100 4基またはGB200 2基、デフォルトの82.3 GiB 4ビットタグなら96 GBカード1枚。OpenMDW-1.1のもとで、商用利用も可能です。

あのリストを読めば、結論は明白だ。その仕事にフロンティア推論が必要なら、Astra がそのモデルであり、比較はそこで終わる。このページを読む価値があるのは、その仕事がフロンティア推論を必要としない場合だ。なぜなら、そこでは視覚エンコーダを備えた1200億パラメータのチェックポイントが経済的に意味を持ち始めるからであり、それは現実のドキュメントパイプラインにおいて誰も認めたがらないほど大きな割合を占めている。

ページコストの計算を、実際の数値で行う

具体的な仕事を考えよう。スキャンした請求書のコーパスがあり、1日200ページ、各ページは手書きの参照番号を読めるほど高い解像度でレンダリングされる。エンコーダーが処理した後で、1ページあたり1,500画像トークンとしよう。さらに300トークンのプロンプトと150トークンの回答が加わる。つまり1ページあたり入力約1,950トークン、出力150トークン、コーパス全体では1日あたり入力390,000トークン、出力30,000トークンになる。

Astraの公表レートでは、入力が$3.90、出力が$1.50——1日あたり約$5.40、単一のGPUが一晩でこなせる仕事で月およそ$160だ。解像度を上げる、272,000プロンプトトークンを超えて長コンテキスト階層を発動させるページを追加する、あるいは最初のパスが間違っていたためにコーパスを2回実行する——そうすると、その数字は一方向にしか動かない。これが問題の構図だ。$10と$50では、ページ単位のワークフローにはページ単位の請求があり、その請求額は、まさに増えるもの——ページ数——に比例して増える。

NVIDIAのチェックポイントでは、同じジョブのコストは、230,000トークンが消費するGPUアワーの何分の一かにすぎず、1日200ページなら電気代に比べれば丸め誤差のようなものだ。請求額の実体はカード代であり、カード代は200ページを処理しても20,000ページを処理しても同じだ。

ハードウェアを買いに走る前に、3つの注意点がある。1つ目は、低ボリュームではこれが当てはまらなくなるということだ — 96 GBのカードとそれを動かす電力は、ほとんどのチームがトークンに費やす額より月々高くつき、1日200ページならおそらく損をする。2つ目は、ほとんどの人が実際に動かすであろうNVIDIAの量子化、q4_K_Mには、どこにも公表された評価がないということだ。NVIDIAのカード上の数値はすべてBF16かNVFP4なので、あなたが導入するバージョンの精度は不明だ。3つ目は、Astraの出力は測定可能なほど優れており、参照番号の読み間違いが実際のコストになるようなコーパスでは、より高い精度がどんな価格差も圧倒しうるということだ。

Astraが単に優れているだけでなく、構造的に優れている点

Astraを、より安価な選択肢に対する高価な代替品として位置づけるのは不誠実だろう。いくつかの軸では、それは別クラスの製品であり、その違いはスコアの問題ではない。

Astra は Responses API を通じて完全な推論トレースを返します。意思決定を正当化しなければならないパイプライン — 保険金請求の査定、コンプライアンス確認、医療コーディング処理 — にとって、監査可能なトレースは機能ではなく、要件そのものです。NVIDIA チェックポイントには、チャットテンプレートでオン/オフを切り替えられる思考モードがありますが、ホストされたトレースサーフェスはまったくありません。つまり、監査レイヤーは自分で構築する必要があります。

Astraはスキーマとシードを用いた構造化出力をサポートしています。出力がレコードレイアウトに準拠しなければならない文書抽出パイプラインでは、スキーマに制約できるモデルのほうが、検証してリトライするモデルよりも統合コストが低く、リトライのコストは問題が顕在化するまで見えません。

また、Astra のツールサーフェスはファーストパーティ製品です。関数呼び出し、response_format、seed、そしてツールとしてのウェブ検索を備えています。NVIDIA チェックポイントのデプロイレシピは、自らが書いたわけではないツール呼び出しパーサーを再利用しています。ベンダー自身の vLLM レシピでは、ツール呼び出しパーサーとして code>qwen3_coder/code> を、推論パーサーとして code>nemotron_v3/code> を指定しています。これは理にかなったエンジニアリング上の選択ですが、同時に、ツール呼び出しサーフェスがこのモデル向けに設計されたものではなく借用されたものであることを意味しており、信頼する前にテストが必要になります。

vLLMのレシピは、ベンダーがレプリカに処理を期待する内容も示している：テンソル並列度4、GPUメモリ使用率0.85、最大32の同時シーケンス、プロンプトごとに画像1枚と動画1本、動画プルーニング0.5、そして組み込みのMTPヘッドによる投機的デコーディングで投機トークン3つ。32の同時シーケンスは、4基のGPUノードにおける上限だ。Astraの上限はレート制限だ。

NVIDIAのデフォルトに潜む罠、そしてそれがドキュメントで最初に現れる理由

これは最初の実験が成功するかどうかを左右する細部であり、ベンダーの投稿ではなく実行時レジストリを読まなければ見えてこない。

このカードは2つのサンプリング構成を指定しています。テキスト処理には temperature 1.0 と top_p 0.95、ビジョンには temperature 0.6 と top_p 0.95 です。Ollama マニフェストで出荷されるデフォルトはテキスト用の組み合わせ — code>{"temperature": 1.0, "top_p": 0.95}/code> と code>draft_num_predict: 3/code> です。つまり、ほとんどの人がこのビジョンモデルに触れるときの構成は、その半分、すなわちビジョンではない方に合わせて調整されているということです。最初にこれをスキャンした請求書に向けて、その結果が緩いあるいはハルシネーションだったとしても、最初に変えるべきはサンプリング設定です — チェックポイントについて何か結論を出す前に。

デプロイ前に知っておくべきレジストリの詳細がもう2つあります。公開されている9つのタグのうち4つ — code>:latest/code>、code>:120b/code>、code>:120b-a12b/code>、code>:120b-a12b-q4_K_M/code> — は同じq4_K_Mレイヤーを指すため、パラメータ数全体にちなんで名付けられたタグが、実際に受け取るファイルではありません。さらに、バージョンゲートは助言ではなく強制されます。設定はcode>requires: 0.40.5/code>を宣言しているため、古いランタイムではpullはまったく機能しません。

それを、この比較の反対側にある故障モード、つまりエンドポイントの変更と比べてみてください。Astra はホスト型サービスであり、その挙動は変更されうる。どちらのリスクも、そのモデルを避ける理由にはならない。これらは異なるリスクであり、それぞれ異なる緩和策が求められる — 一方には設定変更、他方にはフォールバック経路。

両方にとって同じであるルーティングの回答

Astraは当社のキーで利用できます。OrcaRouterは、プロバイダーの定価をトークン単位のマークアップなしでそのまま適用してルーティングします — 100万トークンあたり$10と$50で、ロングコンテキスト階層はOpenAIの価格設定とまったく同じ価格です。お客様の次回更新時ではなく、当社側では当日から利用可能です。Astraがあなたのドキュメントワークロードを処理できるかどうかが問題なら、必要なのは1つのキーだけで調達も不要で、その答えは数ドル分のトークンで得られます。

NVIDIAのチェックポイントは当社のキーには含まれていません。当社は200件を少し超えるモデルをルーティングしていますが、その中にNVIDIA Nemotronの項目はないため、この記事はここで呼び出せるという主張ではありません。そのチェックポイントが必要な場合は、NVIDIA自身のビルドおよび配布チャネルとローカルでのプルがその手段です。

この判断でプラットフォームが本当に果たすべき役割は、順序立てて進めることだ。まずコーパスをAstraに対して実行し、二つのことを測る。ページ当たりのコストと、ページ当たりのエラー率だ。この二つの数字が揃ってすべてを決める。エラー率が低く処理量も少なければ、永遠に従量課金のままでよい——ハードウェアでそれを打ち負かすことは決してできない。エラー率が低く処理量が多ければ、ありふれたページを自前のカードに移し、難しいページは従量課金に残すという、正当化できる根拠が手に入る。エラー率が高ければ、NVIDIA側の価格優位性がどれほどあっても役に立たない。読み誤った請求書の計算は、トークンの話ではないからだ。

そして、どちらの方法を取るにしても、新しいモデルはフォールバックの背後にルーティングしてください。重みが四日前のチェックポイントには、四日分の運用履歴があります。それに対する最も安価な保険は、同じ呼び出しで二つ目のモデルを使うことです。Astra は、四日前のオープンモデルの背後に置いておくものとしては妥当です。また、このページの読者の大半が、置き換える必要はないと結論づけるであろうモデルでもあります。