Nemotron 3.5 Bolt 74B vs Qwen3.8-Max：ボード上で最大の差

Nemotron 3.5 Bolt ファミリーのどの対決にも差がある。この組み合わせはその差が最も大きい。NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBは Artificial Analysis Intelligence Index で 21.4 を記録している。Qwen3.8-Maxは、Alibaba のフラッグシップであり、この一連の比較で最高スコアのモデルだが、同じく独立して実施されているこのベンチマークで 45.4 を記録している。その差は 24 ポイントで、小さいほうのモデルのインデックススコア全体を上回っており、24GB のローカルエージェントがフロンティアの代役になり得るかと問う人にとって、これが正直な出発点となる。

それはできない。この2つが記事に値するのは、両モデルがまったく異なる行で勝っているという点と、{{1}}N{{/1}}VIDIA自身のベンチマーク表がBoltを、これとは別の{{2}}Q{{/2}}wenモデルと比較しているという点だ。

マルチモーダルであること以外に共通点がまったくない2つのモデル

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBは、740億パラメータの視覚言語モデルを2ビットのチェックポイントに圧縮し、24ギガバイトのメモリに収まるようにしたものだ。その重みは2026年10月7日にHugging Faceで公開された。NVIDIAは10月15日のローンチ投稿でその名を公表した。これはローカルでのエージェント作業——ツール呼び出し、Webブラウジング、ターミナル使用、画面の読み取り——向けに作られており、サービスではなくダウンロードとして販売され、公開された従量課金価格はどこにもない。

Qwen3.8-Maxは逆の構築です。Alibabaの最上位モデルはスパースなMixture-of-Expertsであり、同社はリリース時期における最強のクローズドモデルに真っ向から対抗するものとして位置づけ、3つのワイヤフォーマット — OpenAI互換のサーフェス、Anthropic互換のサーフェス、そしてAlibaba独自のDashScope — を通じて、北京、シンガポール、東京、フランクフルト、バージニアの各リージョンで提供しています。ホスト型モデルは2026年8月3日に、画像および動画入力、100万トークンのコンテキスト、思考トグルを備えてローンチしました。9月2日のスナップショットが、現在リーダーボードでスコア評価されているバージョンです。同じファミリーのオープンウェイトの兄弟モデルであるQwen3.8-2.4T-A95Bは別のリリースであり、ここで測定されているモデルではありません。

一方はファイルであり、一方はサービスである。それでもこの比較には意味がある。なぜなら、サービスは価格を公表しているがファイルはそうではなく、両者の違いこそが、ローカルデプロイが実際に買っているものだからだ。

• インテリジェンス指数 — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB: 21.4。Qwen3.8-Max: 45.4。どちらも Artificial Analysis による独自測定。

• コンテキスト — N​VIDIAチェックポイントは262,144トークン、Qwen3.8-Maxは約983,000トークン、A​libaba側の最大出力は131,072トークン。

• パラメータ — Boltは合計74B、アクティブ9B。Alibabaのフラッグシップ層は、まったく別次元のスパースなエキスパート混合であり、オープンウェイト形式ではトークンあたり約95Bのパラメータをアクティブ化する。

• 入力 — テキスト、画像、動画を入力とし、どちらもテキストを出力する。両者が本当に似ているのは、この一点だけである。

• 価格 — Qwen3.8-Max：入力トークン100万あたり2.00ドル、出力トークン100万あたり6.00ドル、キャッシュ済み入力は0.25ドル。Bolt：なし。購入用のエンドポイントが存在しないため。

• Intelligence Index タスクあたりのコスト — Qwen3.8-Max で 5.41 ドル（実測）。Bolt については同じ理由で数値なし。

• 速度 — Qwen3.8-Max: 毎秒39.8出力トークン、最初のトークンまで3.06秒、応答あたりの推論時間の中央値は50.3秒、いずれも独立して測定。Bolt: 独立したスループット測定は存在しない。

24個の点の出所となる行

Artificial Analysisは両方を実行した。複合スコアよりも行ごとの詳細を読むほうが有用である。なぜなら複合スコアは、どちらのモデルも一様に優れているわけではないという事実を覆い隠してしまうからだ。

• Terminal-Bench 2.1 — Qwen3.8-Max は独立測定で 88.8 パーセント。Bolt にはこのベンチマークにおける独立したエントリはなく、NVIDIA はモデルカードで 50.98 を報告している。

• GPQA Diamond — Qwen3.8-Max は独立して92.8パーセント。Boltの86.43はN​VIDIA自身の数値であり、パネルにはそれに関する独自の数値はない。

• Humanity's Last Exam、ツールなし — Qwen3.8-Max は43.1パーセント、Bolt は24.7パーセント、いずれも独立に測定。

・長文脈検索（AA-LCR） — 80.3パーセント対69.7パーセント、いずれも実測。

・科学技術コーディング（SciCode）— 52.1パーセント対39.7パーセント、いずれも実測値。

• マルチモーダル推論（MMMU-Pro） — Qwen3.8-Max は82.8パーセント、独立に測定。Boltには独立したエントリーがなく、これは「見えること」を主な売りにしているモデルにとって注目すべき欠落である。

• 職業別成果物（GDPval-AA）— Qwen3.8-Max は 0.583、Bolt の 0.240 に対して正規化、いずれも実測値。

• エージェント型およびIT運用 — Qwen3.8-MaxはAPEX-Agentsで42.4パーセント、ITBench-SREで40.3パーセント、アナリストエージェント評価で45.0パーセントを記録。Boltはこれら3つの列のいずれにおいても独立したスコアを持たない。

• 非ハルシネーション（AA-Omniscience）— Qwen3.8-Maxは71.2％で、Boltの56.3％に対して、精度は31.7％で17.1％に対して。圧縮モデルがキャリブレーション行を制するBolt対Ultraの比較とは異なり、ここではフラッグシップが両方を取る。

• インデックスタスクあたりのコスト — Qwen3.8-Max で $5.41。これは、このモデルをめぐる一連の比較の中で、タスクあたりのコストが最も高い数値であり、24ポイントの劣勢にあってもローカルという選択肢を魅力的にしているのはこの数字です。

1タスクあたり$5.41で得られるもの、そして代わりに24GBで得られるもの

Qwen3.8-Maxの経済性は、フロンティアモデルとしては異例です。トークンあたりの価格は入力2.00ドル、出力6.00ドルと中程度ですが、このモデルは長時間考え込むためです。パネルの実行における推論時間の中央値は50.3秒で、エンドツーエンドの応答時間は平均65.9秒です。モデルが内部で1分間の熟考を要するタスクは大量の出力トークンを生成し、それを露呈させるのがインデックスタスクあたりのコストという指標です。これはモデルへの批判ではありません——深い推論こそが製品なのです——が、このティアでは大量のエージェントループが急速に高コストになる理由はここにあります。

まさにそれこそが、Bolt が想定して作られたワークロードです。ローカルのチェックポイントには、トークン単位の課金メーターが一切ありません。ツール呼び出しの限界費用は電気代であり、固定費は GPU です。常時稼働のエージェントが、画面を読む、エンドポイントを呼び出す、ファイルを編集するといった数千の小さな手順をこなす場合、比較対象は 21.4 対 45.4 ではなく、定数 対 増え続ける請求額です。NVIDIA 自身の説明では、Bolt は日常的なエージェントタスクをクラウドにワークロードを送ることなくローカルで実行できるようにするために存在し、まさにそうしたタスクで WebArena vision は 50.86、BrowseComp は 66.75 を報告しています。

落とし穴は、固定費は現実にかかる一方で、レイテンシは不明だという点にある。N​VIDIAのリファレンス提供レシピは多段階だ。固定されたvLLMナイトリービルド、b12xカーネルパッケージ、別途ダウンロードする推論パーサープラグイン、明示的なMambaおよびアテンションバックエンド、そしてLiLiCorrドラフターを使い7つのドラフトトークンを伴う投機的デコーディング設定である。スループットはN​VIDIAが、ラップトップクラスのマシン上のAIPerf SPEED-Bench-Codingで毎秒83.99トークンと公表している——ベンダーのベンチマークにおけるベンダー数値であり、それと照合できる独立した実行はない。

NVIDIAが選んだベースライン

もう一つ注目に値することがあり、それは技術的な話ではなく読み方の教訓です。Boltのモデルカードにあるベンチマーク表には、比較対象としてQwenモデルが含まれています――そしてそれはQwen3.6-35B-A3Bであり、このページで測定されているフラッグシップよりはるかに小さいモデルです。NVIDIAの表では、Boltがそのモデルに対してTerminal-Bench 2.1、GPQA Diamond、BrowseComp、GDPVal、Tau3 Banking、SciCode、AA-LCR、MCP-Atlasで勝っている一方、AA-Omniscience accuracy、AA-Omniscience non-hallucination、PinchBenchでは負けています。

それらの比較はおそらく正しいだろう。しかし、表から「BoltがQwenを上回る」と読み取る読者は、74Bのエッジモデルと35BのdenseクラスMoEを比較しているのであって、Alibabaのフロンティア層と比較しているのではない。Qwen3.8-Maxに対しては、独立した記録はほぼすべての共通する行で逆の方向を示しており、最も難しいベンチマークでは差は縮まるどころか広がる。ベンダーが自社のベースラインを選ぶとき、誠実な行動は、そのベースラインが何であるかを確認することだ。

どうやって決めるか

正確さが制約条件となる場合は、Qwen3.8-Max を選んでください。タスクが多段階分析、難度の高いマルチモーダル推論、現実の結果を伴うエージェント的作業、または 24 ポイント先行するベンチマークで測定されるものであるなら、ローカルオプションは候補になりません。また、100 万トークンあたり $2.00 と $6.00 という価格は、贅沢品としてではなくインフラとして設定されています。さらに、ワークフローが構造化出力、ネイティブなツール呼び出し、100 万トークンのコンテキストを 1 回の呼び出しで必要とする場合にも選ぶべきモデルであり、これらはすべて A​libaba がサポート対象として文書化しています。

制約が「作業が行われる場所」にあるときは、Bolt を選んでください。プライバシー、オフライン動作、ネットワークに依存しないレイテンシ、そして存在しない呼び出しごとのコストは4つの別個の論拠であり、それぞれが単独でも一部のチームにとっては十分です。このモデルは手順は得意ですが想起は苦手です。前者に使ってください。

ホスト型の半分については、Qwen3.8-Max は OrcaRouter 経由で次として利用できます qwen/qwen3.8-max/ 他の200以上 のモデルと同じキーで、Alibaba のプロバイダー定価のまま、マークアップは一切上乗せされません — つまり、ベンダーの価格改定は請求サイクルの終わりではなく、その日のうちにこちらの側へ反映されるということです。これは安価なティアよりもこのティアでこそ重要な点です。インデックスタスクあたり5.41ドルという数字は、財務チームが毎月見直したくなるものだからです。ルーティングが意思決定の形を変えるのは、ボリュームの問題においてです。ワークロードが90パーセントの小さな手順的ステップと10パーセントの難度の高い推論で構成されているなら、その10パーセントをこちらへ送り、残りはローカルに留められます。プロバイダー間の自動フェイルオーバーにより、ホスト型ティアは停止ではなく再試行へと縮退します。

当社はN​VIDIAモデルをホストしておらず、Boltエンドポイントもありません——N​emotronファミリーは当社のカタログに含まれておらず、この比較のローカル側の部分は、どのルーティング層も関与しないハードウェアの問題です。

未解決の番号

誰も公表していないのは、この比較を完全なものにする測定である。すなわち、個人が購入できるマシン上で、バッチサイズ1で24GBチェックポイントに対して独立に実行されたレイテンシとスループットの計測だ。2ビットの74Bチェックポイントが実用的な速度でインタラクティブなエージェントステップを実行できると判明すれば、24ポイントの差は迂回できる差になる — 手順はローカルで、推論はホストで。そうでなければ、ローカルの選択肢はバッチツールであり、比較は価格に帰着する。いずれにせよ、答えはあと1件の公表で得られ、このモデルを軸にデプロイを計画する前に探すべきものだ。

このような比較は、失敗モードが表面化する場でもあります。このクラスのモデルの背後にある、記録されたAIインシデントやエージェントの障害は、OrcaRouter AI Incident Archiveにまとめられており、各エントリには独自の情報源、重大度、信頼度グレード、異議フラグが付いています。