Nanbeige4.3-33B 対 Nemotron 3.5 Lightning 30B A3B：教師 対 実行者

NVIDIA Nemotron 3.5 Lightning 30B A3Bは毎秒294.9出力トークンで動作する。Nanbeige4.3-33Bには公開された速度が一切ない。誰もそれを提供していないからだ。この2つの事実は、どのベンチマークの行よりもこの対戦について多くを語っている。一方のモデルは、料金表と単一GPUでのデプロイを想定した説明を備えた、スループット重視で設計された製品であり、もう一方は、モデルカードだけを伴って2026年10月24日にHugging Faceに登場した、推論プロバイダーのない330億パラメータのdenseチェックポイントである。どちらも「30Bクラス」だ。しかし、同じ種類の存在ではない。

比較する価値がある。なぜなら、どちらも同じ購買者層——フロンティアモデルの請求額なしで多くの小さなステップを実行する必要がある、長時間稼働するエージェントを構築する人——に売り込まれているからだ。{{1}}NVIDIAの答えは、トークンあたりの計算量を減らすことだ。Nanbeigeの答えは、より大きく高密度なモデルを、エージェント作業に十分な性能にして、1つあれば済むようにすることだ。{{/1}}これらは正反対の賭けであり、それぞれの根拠は種類が大きく異なる。

アクティブパラメータ36億——それがこの主張のすべてだ

{{1}}Nemotron 3.5 Lightning 30B A3B{{/1}}はハイブリッドな混合エキスパートモデルです。総パラメータ数は{{2}}316億{{/2}}、トークンあたりのアクティブパラメータ数は{{3}}36億{{/3}}で、{{4}}52層{{/4}}に分散しています。内訳は{{5}}Mamba-2が23層{{/5}}、{{6}}MoEが23層{{/6}}、{{7}}アテンションが6層{{/7}}です。{{8}}128個のエキスパート{{/8}}にルーティングし、そのうち{{9}}6個{{/9}}に加えて共有エキスパートをアクティブ化します。このアーキテクチャにより、マネージドエンドポイント上で毎秒約{{10}}295トークン{{/10}}を持続でき、一方で密な30Bクラスのモデルは通常{{11}}40～80{{/11}}の範囲に収まります。

Nanbeige4.3-33Bはdenseモデルです。331億のパラメータすべてがトークンごとに動作します。ルーティングも、エキスパートのスパース性も、Mamba層もありません。これは意図的な選択であり、明確な結果を伴います。各トークンのコストはLightningのアクティブ計算量のおよそ9倍に達し、モデルは何かを生成する前にBF16で約66GB、4ビットなら約20GBの重みを常駐させる必要があります。

どちらの設計も抽象論では優れているとは言えない。密なモデルは微調整が簡単で品質が予測しやすい傾向があり、疎なモデルは同じ公称サイズで提供するのが安く速い傾向がある。問題は、あなたのワークロードにどの特性が不足しているかだ。

各モデルが何をするために作られたか

NVIDIAはLightningを、常時稼働するエージェントの実行レイヤーとして位置づけている。すなわち、より大きなシステムから計画を受け取り、ツール呼び出し、ファイル編集、ブラウザ操作の各ステップを低コストで着実にこなすモデルだ。Nemotron 3 Ultraから蒸留され、事前学習に組み込まれたマルチトークン予測による投機的デコーディングと、別個のドラフトモデルを備え、チャット向けではなくハーネス向けに調整されている。公開されているベンチマーク群はそれを反映しており、PinchBench 85.4～86、BrowseComp 36.8～36.97、SWE-bench Verified 51.56～52.8、Terminal-Bench 2.1は約23.5～24.6となっている。

Nanbeige4.3-33Bは教師として位置づけられている。カードにもそう明記されている。これは4.3シリーズのフラッグシップであり、未リリースのNanbeige4.3-3Bのような小型モデルへの蒸留を目的としている。そのベンチマークセットも相応に広範で、エージェント型コーディング、エージェント型cowork、推論をカバーする20行から成り、推奨設定は自分で実行するモデルのそれ、すなわちテンソル並列サイズ4、XMLツール呼び出し、マルチターンのツール使用におけるpreserve_thinking=trueである。

一方は他者のシステム内のコンポーネントです。もう一方はファミリーのソースモデルです。この捉え方が、以下のほぼすべての違いを説明します。

彼らが共有する唯一のベンチマークは差し引くことができない

両方のカードがTerminal-Bench 2.1を報告している。Nanbeigeは80.9を主張している。NVIDIAが公開しているLightningの範囲はおよそ23.5～24.6だ。表面的にはそれは56ポイントの差であり、引用されるのはこの数字になる。

そうではないはずだ。Terminal-Benchはエージェントのスキャフォールド内でモデルを測定するものであり、両ベンダーは同じスキャフォールドについて説明していない。Nanbeigeのカードには、Terminal-Bench 2.1の実行でTerminus 2を使用し、モデルは共有ハーネスと共有推論パラメータの下、最高の思考努力で評価されたと記載されている。NVIDIAの数値は同社独自の内部ハーネスから得られたもので、同社自身がサードパーティの結果とは異なる可能性があると指摘している。有利なループを与えられた稠密33Bモデルと、標準的なループを与えられた3.6Bアクティブモデルでは、どちらも誤って伝えられていなくても数十ポイントの差が出ることがある。

正直な読み方は数値的ではなく方向的だ。Nanbeige はエージェント型ターミナル性能が大幅に高いと主張しているが、その主張は双方とも未検証である。同じ注意は GPQA Diamond（Nanbeige 89.5、Lightning 74.3–75.6）にも AA-LCR（Nanbeige 84.0、Lightning 52.0–60.3）にも当てはまる。これらの差は十分に大きく、その差の一部はハーネスではなく実際の能力である可能性が高い。しかし、その文の中で「おそらく」が果たしている役割は大きく、第三者がこの比較を実行したことはない。

曖昧でないのは独立したカバレッジだ。Artificial AnalysisはNemotron 3.5 LightningをそのIntelligence Indexで13と評価している。Nanbeige4.3-33Bの項目はない。一方のモデルにはセカンドオピニオンがあり、もう一方にはモデルカードがある。その非対称性は情報であり、より声高な表を掲げるベンダーに不利に働く。

仕様上は1Mコンテキスト、実際には256K

Artificial AnalysisはLightningのコンテキストウィンドウを100万トークンと記載しています。一方、NVIDIA自身のドキュメントはより控えめで、単一のH100上での実用的な上限は262,144トークンとしています。どちらの数字も真であり得ます。アーキテクチャはより長いウィンドウをサポートしているものの、実際に実行する可能性が高いハードウェアではそれを快適に保持できない、ということです。

Nanbeige4.3-33B の 524,288 トークンは密モデルにおける学習済みウィンドウであり、KV キャッシュのメモリコストはそれに比例して増大します。カードの vLLM および SGLang のレシピでは、GPU メモリ使用率 0.8 とテンソル並列サイズ 4 を使用しており、これは想定されるデプロイが単一カードではないことを示しています。

エージェント作業では、実用上の違いは最大値よりも、長時間の実行で何が生き残るかにある。LightningのハイブリッドMamba層は、長い系列にわたって状態を低コストに保つように設計されているが、Nanbeigeの密なアテンションはそうではない。NVIDIAも長コンテキスト推論スコアであるAA-LCRを52.0～60.3として公表しており、Nanbeigeは同じベンチマークで84.0を公表している。両方の表を信じるなら、Nanbeigeの長コンテキスト推論ははるかに強い。独立して実施されたものだけを信じるなら、検証できるのはLightningのものだけだ。

高密度な33Bモデルをホスティングするための算術

ここからは、比較の焦点が品質ではなく活用に移ります。

Lightningはマネージドエンドポイントで、入力100万トークンあたり$0.06、出力100万トークンあたり$0.20と記載されています。Nanbeigeには料金表がありません。どのプロバイダーもデプロイしていないためで、カードにもそのことが明記されています。利用するにはGPUをレンタルまたは購入し、4-wayテンソルパラレルのレシピに従う必要があります。

純粋に算術上の仮定として、H100クラスのGPU 4基が1基あたり毎時2ドル、ノード全体で毎時8ドルかかるとします。Lightningの出力価格に対して損益分岐させるには、そのノードは毎時4,000万出力トークンを生成する必要があり、これは持続換算で毎秒約11,100トークンです。4基のGPU上の密な33Bモデルでは、それは実現しません。GPUコストが10分の1であっても、損益分岐のスループットは持続換算で毎秒1,000トークンを超え、これは副次的な実験ではなく本格的なサービング運用です。

結論は、Nanbeigeが高価だということではない。密な33Bモデルのセルフホストが、100万トークンあたり0.20ドルの実行環境に勝るのは、稼働率が非常に高く、非常に安定している場合だけだ——あるいは、その作業を自社インフラの外に出せない場合であり、その場合の比較はそもそも価格の話ではなかった。バースト的または低ボリュームでは、マネージドなスパースモデルが、品質の議論に入る前にコストで大差をつけて勝つ。

ルーターが2モデルシステムのどこに適合するか

NVIDIAが売り込んでいるアーキテクチャ——フロンティアのプランナーと安価なエグゼキューター——は、結局のところほとんどのエージェントチームが行き着くアーキテクチャでもあります。そしてこれは、ルーティングレイヤーがまさに想定して作られる形でもあります：当社のルーティングDSLは複数のモデルを単一の呼び出しに組み合わせるため、プランナーとエグゼキューターを1つのエンドポイントの背後に配置でき、自動フェイルオーバーにより、苦戦するエグゼキューターが停止したエージェントに変わってしまうのを防げます。

当社では本日時点でNemotron 3.5 Lightning 30B A3BやNanbeige4.3-33Bを取り扱っていません。したがって、これはどちらかの可用性を売り込む話ではありません。これは統合コストがどこに発生するかについての注意書きです。Nanbeigeをプランナーとしてセルフホストし、ホスト型モデルをエグゼキューターとして呼び出すなら、その分担はアプリケーションにハードコードするのではなく、ルーティングルールとして表現する価値があります。なぜなら、各スロットに欲しいモデルは四半期が終わる前に変わるからです。

レイテンシ予算はリーダーボードよりも多くのことを左右する

• 単一のエージェントステップを1秒未満で返す必要があるなら：Lightning。毎秒295トークンなら、300トークンの回答は約1秒で返ります。自前のハードウェア上の高密度33Bではそれは実現できず、Nanbeigeにはベンチマーク比較できるホステッドオプションがありません。

• ワークフローの先頭で長い推論パスを実行するステップの場合：GPQA、AA-LCR、およびエージェント関連の行についてNanbeigeが主張するマージンは、それを支持する — ただし上記のハーネスに関する注意点が付く。

• 作品が中国語の場合：Nanbeige。Lightningの公開言語は英語、スペイン語、フランス語、ドイツ語、イタリア語、日本語です。

• 作品が欧州多言語の場合：Lightning。Nanbeige は英語と中国語のみを記載しています。

・GPUがなく、GPUを使う気もないなら：文句なしでLightning。

• データをネットワークの外に出せない場合：Nanbeige、そしてコスト比較はトークン価格ではなくインフラの判断になります。

未解決の問題

Nanbeige4.3-33Bは公開からまだ2日で、提供体制の実績もない。このことが本記事の時点を示す事実だ。もしプロバイダーがこれを採用すれば——そして、現時点ではどこも採用していないというモデルカードの主張こそ注目すべき点だが——この比較のコスト面は一変する。競争力のあるトークン単価でホストされた高密度33Bが利用できれば、品質重視の作業でより小規模なスパース実行器を使うという議論全体を覆すからだ。

それまでは、正当化できる立場は狭い。Nemotron 3.5 Lightning 30B A3B は、今日デプロイでき、価格が公表されており、独立したスコアがあり、トークンあたりの計算量が約9分の1のモデルだ。Nanbeige4.3-33B は、紙の上ではより高性能に思えるモデルで、512K のネイティブウィンドウと、誰も再現していない自己申告のエージェント数値を備えている。エージェントがレイテンシとコストに縛られているなら、選択はすでに下されている。品質に縛られていて、ハードウェアを自前で持っているなら、その選択肢は試す価値がある — そしてそのテストはまだ実行されていない。