見出しが「Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B」、サブタイトルが「アダプターの切り替えはエキスパートの切り替えではない — そしてトークンあたりの計算量を削減するのはそのうちの一方だけ」の生成されたタイトルカード。2枚の角丸カードには「Granite Switch 4.1 30B / denseベース + 2アダプター」「Nemotron 3.5 Lightning / 30B MoE、3Bアクティブ」と記されている。フッターには「Switch weights 2026年10月14日、Nemotron Lightning 公開 2026年8月11日」と記載され、OrcaRouterのロゴがアートワーク下の白い帯に合成されている。
Guides & Insights

Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B:それぞれの名称における「Switch」の意味

著者

Rowan Sterling

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

これらのモデルはどちらも30B程度で、どちらも名前にルーティングと聞こえる単語が入っているのに、その単語でまったく異なることをしている。Granite Switch 4.1 30B — 2026年10月14日からHubでウェイト公開 — が切り替えるのはアダプターだ。1つの密なベースモデルと2つのアクティブ化されたLoRAアタッチメントで、すべてのトークンがネットワーク全体を走らせる。Nemotron 3.5 Lightning 30B A3Bは、NVIDIAが2026年8月11日に公開したもので、切り替えるのはエキスパートだ。Mamba-2とMoEを組み合わせたハイブリッドスタックで、300億パラメータのうちトークンごとに発火するのは約30億にすぎない。この2つを互いにベンチマークした人は誰もおらず、本稿もそうであるふりをするつもりはない。本当に役立つ比較は、それぞれの設計がトークンあたりどれだけのコストを要求し、何を返してくるかである。

この区別を正しく理解することは揚げ足取りではない。なぜなら、その名前はまさに誤った推論を誘うからだ。Granite Switch の「Switch」は、入力内の制御トークンを読み取り、各デコーダ層に対して、そのトークン範囲に適用すべき LoRA 重みを指示する軽量なスイッチ層を指す。これは Mixture-of-Experts ルーティングではなく、トークンあたりの計算量を 1 FLOP たりとも削減しない。NVIDIA の名称における「A3B」はその反対で、推論時にモデルのどれだけ少ない部分が実行されるかについての明示的な主張である。

スコアボード、次元ごとに

• パラメータ — Granite Switch 4.1 30B は、28,865,728,512 のベースに対して 29,989,814,272 を構成します(+3.89%)。Nemotron 3.5 Lightning 30B A3B は合計 30B で、トークンあたり約 3B がアクティブです。

• アーキテクチャ — 密なデコーダ専用トランスフォーマーに2つの有効化されたLoRAアダプタを加えたもの 対 インターリーブされたMamba-2、MoE、アテンションのハイブリッド。

• トークンあたりの計算量 — フルのdense 30Bフォワードパスに対し、アクティブパラメータではそのおよそ10分の1。これこそがA3Bサフィックスの要点です。

• コンテキスト — Switchチェックポイントでは131,072トークン、Nemotron Lightningでは最大1M、NVIDIAは単一のH100における実用的な数値として256Kを明記しています。

• 推論モード — Switchチャットテンプレートにはなく、設定可能な enable_thinking トグル(Nemotronの)。

• 音声入力 — Switchモデルには470Mの音声エンコーダを内蔵。NVIDIA側には搭載されていません。

• ライセンス — Apache-2.0 と OpenMDW-1.1。これらは同じ文書ではなく、下流の条件も異なります。実際に適用される方をお読みください。

• ハードウェア — Switchカードには、TransformersとvLLMが狭いバージョン範囲内で記載されています。NVIDIAはNemotron Lightningを単一のH100またはA100 80GBで文書化しており、NVFP4ビルドはデプロイを目的としています。

A generated scoreboard card titled 'Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B — the scoreboard' with two columns sharing six rows. Left column 'Granite Switch 4.1 30B': architecture dense base plus two activated-LoRA adapters, active parameters 30B dense, compute per token full dense forward pass, context 131K, reasoning mode none, audio input yes. Right column 'Nemotron 3.5 Lightning 30B A3B': architecture Mamba-2, MoE and attention hybrid, active parameters about 3B per token, compute per token roughly a tenth of total, context up to 1M, reasoning mode via a chat-template toggle, audio input no. The footer reads 'Switch structure from its published BUILD.md; Nemotron figures vendor-reported, not independently checked.' The OrcaRouter logo is composited in the white strip below the artwork.

Granite Switchチェックポイントが実際にもたらすもの

構成そのものが製品です。Granite Switch 4.1 30Bは Granite 4.1 30B を凍結し、2つのアダプターを接続します — rank-16 の guardian-coreアテンション射影に対する安全分類器と、rank-64 の decisionアダプターを7つすべての射影に適用し、さらに音声エンコーダーも加えます。アダプターの選択は、adapter_nameを渡すときにチャットテンプレートを通じて行われます。つまり、これはリクエストパラメーターであり、2つ目のサービスではありません。

それで得られるのは能力密度だ。安全性判定、較正された選択肢分布、トランスクリプトを1つのプロセスから、どうせ読み込むことになるベースに追加で12億パラメータを載せるだけで手に入る。6か月前、同じプロジェクトは12個のアダプターを11.68%の追加負担で載せたプレビューチェックポイントを出荷した。完成版はそれを2個、3.89%に削減した。これはIBMが網羅性と引き換えに明瞭さを取ったということだ。残り10個のアダプターもまだ存在しており、composerは任意のサブセットでチェックポイントを構築してくれる。

コストは、まさに予想される場所にあります。アダプタ機構がベースモデルを速くするものは何もありません。ベースモデルは密で手を加えられていないままで、すべてのトークンが依然としてネットワーク全体を実行するからです。音声パスは英語のみで、小文字、句読点なし、そしてIBM自身の言葉によれば、共同でトレーニングされておらず言語モデルとは切り離されているため、誤認識はモデルが答える質問を静かに変えてしまいます。そしてチェックポイントは1つの精度のみで提供され、公式の量子化ビルドは存在しません。一方、NVIDIAのモデルは、展開に推奨されるNVFP4バリアントが8月初旬からHubに置かれています。

Nemotronの数字が実際に測っているもの

NVIDIAのNemotron 3.5 Lightning 30B A3B向けベンチマーク表は、IBMのSwitchモデル向けのものより充実しており、そこに付された脚注は一読の価値がある。数値——MMLU-Pro 81.94、GPQA Diamond 75.44、SWE-bench Verified 51.56、Terminal-Bench 2.1 24.58、PinchBench 85.37、長文コンテキストにおけるAA-LCR 52.00——は、NVIDIA自身の一貫したハーネスで測定されたものだと説明されており、他社が自己申告する数値とは異なる可能性があるという但し書きが付いている。これは、ほとんどのモデルカードが示せるよりも誠実な枠組みであり、それでもなお、これらはベンダー申告値のままである。NVIDIAはレシピをNeMo Gymで公開したので、実行を他者が再現することは可能だが、それは他者がそれらを再現済みであることと同じではない。

より興味深い主張は、精度ではなく速度に関するものだ。アクティブパラメータが3Bの30Bモデルは、ほとんどのエージェント的作業ではトークンごとにネットワーク全体を発火させる必要はないという賭けであり、NVIDIAはこれと併せて投機的デコーディング——マルチトークン予測ヘッドに加え、DFlashとDSparkというドラフター——を投入し、スループットをさらに押し上げた。また、Lightningを、難しい質問をするモデルとしてではなく、より大きなプランナーの下にある実行レイヤーとして位置づけている。その位置づけはNVIDIAによるものであり、ベンチマーク表にとっても正しいレンズだ。請求額に表れるのは、トークンレベルの効率である。

A screenshot of the NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 model card on Hugging Face, showing an OpenMDW-1.1 licence, a model summary stating 30B total and 3B active parameters, a hybrid Mamba-2, MoE and attention architecture, a context length of up to 1M tokens with 256K used on a single H100 80GB deployment, configurable thinking mode via the chat template, DSpark speculative decoding, and a release date of August 11, 2026.

この2つのスコアボードを一緒に並べる際の落とし穴

Switchモデルの看板能力について公表されている数字は1つだけだ——意思決定指数、エディションv0.3、1,068行の公開ファストサブセット、総合50.1、内訳は知識32.4、言語58.6、検索49.8、ツール76.5、芸術26.4——そしてNemotron Lightningには完全なベンチマーク表がある。50.1を81.94や51.56の隣に並べるのは、最も純粋な意味でのカテゴリー錯誤であろう。

Decision Indexdecision adapterこれはベースモデルのチャットや推論の品質を測る尺度ではなく、ベースモデルはアダプタによって一切変更されていない。Nemotron の表は、モデル全体を知識、推論、コーディング、長いコンテキストについて採点している。軸が異なり、ハーネスが異なり、作者も異なり、両者の間に共有されたベンチマークは存在しない。どちらもベンダーによる報告である。一方が他方と比較できるものではなく、この2つに対して正直にできる唯一のことは、引き算をしないことである。

あなたが正当にできるのは、それぞれの形を読むことだ。Decision IndexのToolsにおける76.5対Artsの26.4は、アダプターをツール選択の意思決定に向ける価値があり、独自の評価なしにオープンドメイン分類で信頼すべきではないことを示している。NemotronのSWE-bench Verifiedでの51.56は、同じ表内の最高70.12と比べて、Nemotronが自身の比較セットの中で最強のコーディングエージェントではないことを教えてくれる——NVIDIAが競合他社のより高い数値を自社の表に載せたことは、少なくとも尊重に値するシグナルだ。

どちらが、何のために?

あなたの問題が、数千の短いツール判断を実行する長いエージェントループであるなら、パラメータの経済性は一つの方向を指し示す。単一GPU上の3BアクティブMoEは、その作業をデンス30Bのトークンあたりコストの何分の一かでこなすだろう。そしてSwitchモデルにはその差を埋める仕組みがない。その「スイッチ」は決して計算量を減らさないからだ。1Mコンテキストと推論トグルを加えれば、NVIDIAのモデルはまさにそのワークロード向けに作られている。

あなたの問題が、ユーザーに応答し、校正済みのルーティング判断を出力し、ユーザーの発言を文字起こししなければならない単一のプロセスであるなら、算術は反転する。Nemotron 3.5 Lightning には決定ヘッドも音声経路も一切なく、チャットモデルに「1文字で答えてください」と促しても、それは校正済みの分布ではない。Granite Switch 4.1 30B は、ベースモデルより4%未満の重み増加で、1つのチェックポイントからその3つすべてを提供する。そしてそれは、より良いモデルを選ぶことでは買えない能力なのだ。

正直に言えば、第三のケースが最もよくあるものです。つまり、これらの間でどちらかを選んでいるわけではありません。どちらもセルフホスト用の成果物であり、ホスト型エンドポイントではなく Apache-2.0 または OpenMDW-1.1 で提供され、どちらも独立した評価を受けていません。Granite Switch 4.1 30B は公開から2日しか経っておらず、公表されている数値は1つだけです。Nemotron 3.5 Lightning は2か月経っており、ベンダーによる表と公開されたレシピがあります。それでは移行計画を立てるには不十分です。

移行せずに本当の答えを得る

どちらのモデルも現時点でOrcaRouterのカタログにはないため、どちらも自前のハードウェアとベンダー自身のリリースチャネルを使うことを意味します — SwitchチェックポイントならIBMのチャネル、LightningならNVIDIAのチャネルです。そうでないと言うのは、エンドポイントをでっち上げることにほかなりません。

このプラットフォームがその価値を発揮するのは、候補を安価に試せるべきだという点にある。1つのキーで200以上のモデルをカバーし、自動フェイルオーバーに対応し、プロバイダーの定価を0%のマークアップでそのまま通すため、どちらかのモデルへのホスト型ルートが現れたとき、すでに本番稼働中のモデルの隣にそれを置くのは、調達サイクルではなく設定変更で済む。紙の上ではどちらも妥当に見え、それぞれのベンダー以外の誰も測定したことのない2つの30Bオープンウェイトモデルを前にして、重要な判断はどちらのカードを信じるかではない。どれだけ安く見極められるかだ。

A screenshot of the OrcaRouter models catalogue page, headed '210 models · 16 providers · one API key, one bill', showing the modality, context-length, input-price, status, access-tier and series filters down the left side, a list of model cards with their model IDs and capability tags on the right, the 'How to call any model' snippet, and the credit-purchase panel. No Granite, Nemotron or Switch entry appears in the catalogue.

結論から言うと

Granite Switch 4.1 30B と Nemotron 3.5 Lightning 30B A3B は、パラメータ数こそ同じですが、それ以外に共通するものはほとんどありません。一方は切り替え可能なアダプターを備えた dense ベースで、トークンあたり完全な dense 計算のまま、プロセスごとに 3 つのジョブを提供します。もう一方は、各トークンのコストを可能な限り小さくし、単一 GPU 上で長いループを回すために作られた sparse ハイブリッドです。ベンチマーク表ではなく、ワークロードの形で選んでください。そして、これから一つだけ持ち帰るなら、名前に込められた訂正を持ち帰ってください。アダプター切り替えで手に入るのは能力、エキスパート・スパース性で手に入るのはスループットであり、ここにあるどのモデルもその両方は手に入りません。