Granite Switch 4.1 8B vs Granite 4.2 3B：同じラボ、2つの異なる賭け

まず知っておくべきことは、Granite Switch 4.1 8BとGranite 4.2 3Bは、本当の意味でのライバルではないということだ。両者は異なる問いに対する2つの答えであり、たまたま同じラボ、同じライセンス、同じバージョン番号を共有しているにすぎない。これを一対一の対決ととらえて勝者を選ぼうとするのが、1週間を無駄にする最速の方法だ。IBMは2026年8月25日、Granite 4.2 3Bを小型推論モデルとしてリリースした。3つの思考モード、ツール呼び出し、512Kまで拡張可能な128Kコンテキストを備えている。IBMは2026年10月14日、Granite Switch 4.1 8Bをコンポジションとしてリリースした。凍結された8Bテキストモデルに、2つの切り替え可能なアダプターと音声エンコーダーをぶら下げた構成だ。一方はより深く考えるために作られ、もう一方は1つのチェックポイントからより多くの仕事をこなすために作られている。

二つ目に知っておくべきことはより微妙で、この組み合わせがそもそも一本の記事にする価値がある理由でもある。Granite Switch ラインは4.1世代の重みを基盤として構築されているが、IBMの従来ラインはすでに4.2へと移行している。Granite Switch 4.1 8Bのビルドマニフェストを読めば、ベースはibm-granite/granite-4.1-8bだ。Granite 4.2 3Bのモデルカードを読めば、ibm-granite/granite-4.1-3b-baseからのポストトレーニングであることが分かる。両ラインは同じ世代の事前学習済み重みの上に立ちながら、それに対して正反対のことをしている。4.2は推論に向けてより強くポストトレーニングし、Switchは横方向に組み合わせて広さを取る。どちらが他方を置き換えたわけでもなく、だからこそ「どちらが新しいか」という反射的な判断が、ここでは間違った答えを導くのだ。

それぞれが実際に何なのか

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8Bは推論モデルではなく、そうなることを目指してもいません。そのベースはGranite 4.1 8B——40層、隠れサイズ4,096、8個のKVヘッドに対する32個のクエリヘッド、131,072トークンのウィンドウ——を凍結し、その上に2つのアクティベート済みLoRAアダプタを重ねたものです。guardian-coreはアテンション射影に対するランク16で、有害性、ジェイルブレイク、猥褻な表現、暴力、性的コンテンツ、社会的バイアス、非倫理的行動を検出するために存在します。decisionは7つすべての射影に対するランク64で、1回のフォワードパスでラベル付きの選択肢に対する較正済みの確率分布を返すために存在します。文字起こし用に、4億7,000万パラメータのConformerエンコーダであるGranite Speech 5.0 TurboCTCを追加します。構成後の合計：ベースの8,380,551,168に対して8,776,400,896パラメータ——4.72%の増加です。

実際に異なる次元

• サイズ — Granite Switch 4.1 8B の 8.78B に対して、Granite 4.2 3B は約 3B です。重みはほぼ3倍で、単一GPU上では余裕があるか厳しいかの違いになります。

• コンテキスト — ネイティブ128Kに対して131,072トークン、512Kへの拡張パスあり。ベースでは僅差だが、長コンテキスト領域が必要なら僅差とは言えない。

• 推論 — それら3つに対しては思考モードがまったくない。Granite Switch 4.1 8B は回答する。Granite 4.2 3B は任意で先に推論する。

• 構造化出力 — ラベル付きの選択肢に対する校正済みソフトマックスを、プロンプトで与えられた回答と突き合わせたもの。このうち、閾値を設定できる数値が得られるのは一方だけです。

• モダリティ — テキスト＋音声入力、テキスト出力、テキストのみとの比較。

• アダプター構成 — 2つの切り替え可能なaLoRAと、単一のモノリシックチェックポイントに対する公開コンポーザー。

• リリース — 2026年10月14日 対 2026年8月25日、7週間の間隔、いずれも Apache-2.0。

Granite 4.2 3B が明らかな選択となる場面

答える前に考える必要があるもの、そして小さく実行する必要があるもの。制御されたトークン数で推論する3Bモデルは、まったく推論しない8Bモデルとは別のツールであり、数学、多段階の論理、コードにおいては、思考モードは出力を飾っているのではなく、実際に仕事をしている。低労力モードは過小評価されている部分だ。それは「完全に推論する」と「推論しない」の中間設定を与えてくれる。クエリが単純だが些細ではなく、トークン単位で課金されているときには、まさにそれが欲しいものだ。

512K拡張は、同じ理由から別の方向で重要です。長文ドキュメントの作業——リポジトリ規模のコード、数百ページに及ぶ入力——では、131Kウィンドウがチャンキング戦略を必要とし始める場面であり、Granite Switch 4.1 8B は、その131,072を超える拡張パスを文書化していません。

フットプリントは3つ目の論点であり、決して小さなものではない。30億パラメータはラップトップクラスのモデルだ。8.78Bチェックポイントがそもそも選択肢にならない場所でも、Granite 4.2 3Bは実行できる。それは好みの問題ではなく、能力の違いだ。

Granite Switch 4.1 8B が明らかな選択肢となる場面

必要な出力が段落ではなく確率であるとき。推論モデルに選択肢 B を選ぶようプロンプトを与えれば、その文字を返してくれる。しかしプロンプトは確率ではない。文字をしきい値処理することはできず、文字を較正済みスコアとしてターンをまたいで比較することもできず、信頼値として記録することもできない。decisionアダプタはラベルトークン上のソフトマックスを直接返す — 文書化された呼び出しは、まさにそれらの id の logprobs を vLLM に要求して指数化し、A: 0.982、B: 0.0035、C: 0.014 といった形の出力を生成する。これはルーティングのためのプリミティブであり、答えではない。

安全チェックがポリシーではなくコンポーネントである必要があるとき。guardian-coreを渡すと、チャットテンプレートが挿入する制御トークンによって有効化され、同じチェックポイントを利用します。adapter_name入力をスクリーニングするために2つ目のモデルを立ち上げるのではありません。分類器は、すでに読み込んだモデルの1つのモードです。

2つではなく1つのエンドポイントを使いたい場合、特にその2つのうちの一方が音声である場合に。文字起こしはチャットや意思決定とエンドポイントを共有するため、通常のチャット補完でinput_audioコンテンツパートを付けるだけで済みます。Granite 4.2 3Bには音声パスがありません。

そして、独自のバリアントを組み立てたくなったとき。コンポーザーは公開されており、アダプターカタログはオープンで、このチェックポイントのビルドマニフェストは重みの隣にチェックインされている——つまり、ランク、ターゲットモジュール、制御トークンIDはすべて推測ではなく読み取り可能だ。

双方の正直な注意点

Granite Switch 4.1 8Bには、独立した評価が一切存在しない。公表されているスコアは1つだけで、Decision Index、edition v0.3 public fast subsetにおける総合42.9——Knowledge 29.1、Language 48.9、Retrieval 49.8、Tools 59.8、Arts 18.0——であり、その実行はIBM自身によるもので、IBMのモデルカードに掲載されたが、誰にも再現されていない。サードパーティのリーダーボードへの登録はない。このモデルはHubに公開されて2日で、ダウンロード数は数十回にとどまる。

その音声経路は見出しが示唆するよりも狭く、IBM自身もそう認めている。エンコーダーは英語専用で、書き起こしは小文字かつ句読点なしで出力され、エンコーダーと言語モデルは共同で学習されていない — 両者を結びつける学習済みの射影が存在しないため、誤った書き起こしがモデルの応答対象を静かに変えてしまう可能性がある。一方、Granite 4.2 3B は2日ではなく7週間前のものだが、その評価数値もIBMによるものであり、512Kコンテキストはネイティブのウィンドウではなく拡張のための経路である。

これらのモデルはどちらも、独立したスコアボードエントリを持っていません。これは現時点における Granite 4.x ライン全体の性質であり、どちらのチェックポイントに対する批判ではありません。

2つのスタックを動かさずに両方を動かす

この組み合わせについての有益な観察は、2つのモデルが同じリクエストを奪い合わないということです。したがって現実的なデプロイは両方を順番に使う形になります。難しい部分が推論である場面ではGranite 4.2 3Bを思考モードで、難しい部分が意思決定のスコアリングやボイスメモの文字起こしである場面ではGranite Switch 4.1 8Bを。これは2コンテナ構成であり、ルーティング層が役立つところとそうでないところを正確に押さえておく価値があります。今日、OrcaRouterのカタログにはどの世代のGraniteモデルも入っていないため、これら2つのチェックポイントへのホスト型ルートは存在しません。Granite Switch 4.1 8BとGranite 4.2 3BはいずれもHugging FaceからのダウンロードとvLLMコンテナです。プラットフォームが変えるのは、その上の層です。200以上のモデルが1つのキーの背後にあり、プロバイダーの定価は0%のマークアップでパススルーされ、そのためベンダーの値下げは次のカタログ更新時ではなく当日に反映されます。そして自動フェイルオーバーにより、単に試しているだけのモデルでも単一障害点になることなく本番経路に置けます。どちらかのGraniteがホスト型エンドポイントに登場する前にこれを整えておく意義は、その時点での比較が1回の移行ではなく1つのモデル文字列で済むことです。

で、どれ

ワークロードが推論の場合、マシンが小さい場合、または入力が131Kトークンより長い場合は、Granite 4.2 3Bを選びましょう。ワークロードに較正済みの決定確率、インラインの安全スクリーニング、またはチャットと同じエンドポイントでの音声が必要な場合は、Granite Switch 4.1 8Bを選びましょう。GPUがあるなら両方を選びましょう。というのも、両者の重なりは、共有された「Granite 4.x」というラベルが思わせるよりもずっと小さいからです。そして、IBMがIBMのカードで実行したベンチマークの数値を根拠にどちらかを選ぶのはやめましょう。それが両者についての公開エビデンスのすべてなのですから。