記事用に生成されたタイトルカード。見出しは「Granite Switch 4.1 8B vs Gemma 4 12B」、サブタイトルは「小さな専門家を凍結したベース上に組み合わせるか、あらゆるモダリティにまたがる単一の統合モデルを訓練するか」。角丸のカードが2枚あり、1枚は Granite Switch 4.1 8B / 合成アダプター、もう1枚は Gemma 4 12B / 単一の統合モデルと書かれている。フッターには「Apache-2.0 は両方とも。どちらにも独立した評価はない。」とある。OrcaRouter のロゴはアートワーク下の白い帯に合成されている。
Guides & Insights

Granite Switch 4.1 8B vs Gemma 4 12B:専門家の組み合わせか、それとも単一の統合モデルか?

著者

Alistair Wren

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

会話を保持し、スクリーンショットを読み取り、ボイスメモを文字起こしできるモデルの作り方を2つのラボに尋ねると、正反対の答えが返ってくる。Granite Switch 4.1 8Bは、IBMが2026年10月14日にリリースしたもので、凍結された8Bのテキストモデルを維持しつつ、そこに切り替え可能な小型アダプタをぶら下げる構成だ。これにより、安全性チェッカー、意思決定エンジン、音声認識器はすべて、単一の共有バックボーン上に後付けされたものになる。Gemma 4 12Bは、Googleが2026年5月23日に公開したもので、逆のアプローチを取る。すなわち、テキスト・画像・音声にわたって最初から学習された119.5億パラメータの単一モデルであり、組み込むべき別個のエンコーダは存在しない。どちらもApache-2.0で、どちらも単一のGPUで動作するが、その内部のほとんどすべてにおいて両者は相容れない。

詳細に入る前に実用的な結論を言えば、Gemma 4 12B は、見る必要があるあらゆるものにとって成熟した選択肢です。なぜなら、公開から5か月が経ち、真に大規模なインストール基盤を持ち、そのマルチモーダル経路は継ぎ接ぎではなく学習によって構築されているからです。Granite Switch 4.1 8B は、判断する必要があるあらゆるもの、または3つではなく1つのエンドポイントを動かす必要があるものにとって興味深い選択肢です。ただし、登場から2日しか経っておらず、独立した評価はゼロです。これらは競合する判定ではなく、異なる問いへの答えです。そして本稿の残りは、あなたが実際に抱えている問いがどちらなのかを見極めるための詳細です。

アーキテクチャ上の分割を率直に述べると

Granite Switch 4.1 8B は複合構成です。ベースは Granite 4.1 8B — 40 層、隠れサイズ 4,096、32 個のクエリヘッドと 8 個の KV ヘッド、131,072 トークンのウィンドウ、2 つのアダプタがちょうど 3 つの予約 ID 分だけ拡張する 100,352 トークンの語彙です。その上に 2 つの活性化 LoRA アダプタ、guardian-core はアテンション射影上でランク 16、decision はそれら 7 つすべてでランク 64、さらに音声入力用の 470M パラメータ非自己回帰 conformer エンコーダ Granite Speech 5.0 TurboCTC が載っています。合計: ベースの 8,380,551,168 に対して 8,776,400,896 パラメータ — 2 つのアダプタと音声モデルによる 4.72% の増加です。

Gemma 4 12Bは単一のスタックです。設定ではこれをgemma4_unifiedと呼んでおり、その名前は文字通りの意味です。画像、音声、動画はそれぞれ、262,144トークンの単一語彙の中に独自のトークンIDを持ち、モデルカードはこのアーキテクチャをエンコーダーフリーと説明しています。つまり、言語モデルへ射影を供給する別個のビジョンタワーや音声タワーは存在しません。1,024トークンウィンドウのスライディングウィンドウ局所アテンションと完全なグローバルアテンションを交互に織り交ぜ、位置にはp-RoPEを使用し、256Kコンテキストまで伸長します。Graniteと同様、Apache-2.0です。

• パラメータ — Granite Switch 4.1 8B:8.78B(合成構成、ベース8.38B)。Gemma 4 12B:11.95B。

• コンテキスト — 131,072トークン 対 256,000トークン。

• 語彙 — 100,355 対 262,144、Gemma のものは画像、音声、動画トークン用に確保されています。

• モダリティ: — テキストと音声 対 テキスト、画像、音声、動画。

• モダリティ出力 — テキストのみ vs テキストのみ。

• 専用ヘッド — キャリブレーション済みの意思決定分布と安全性分類器を使う場合と、使わない場合。Gemmaは回答するのであって、選択肢のラベルを採点するのではない。

• ライセンス — 両方とも Apache-2.0。

Gemma 4 12Bが圧勝する場面

ビジョンは互角ではない。Gemma 4 12B は画像をネイティブに読み取るのに対し、Granite Switch 4.1 8B には画像経路がまったくない。パイプラインがスクリーンショット、PDF、チャート、UI キャプチャを取り込むなら、そこで比較は終わりだ — チェックポイントが受け付けないモダリティを、アダプターのどんな巧妙さでも代替することはできない。

実績は2つ目の基準だ。Gemma 4 12Bは2026年5月23日からHubにあり、そのinstruct版の兄弟モデルは160万ダウンロードを突破しており、ベースチェックポイントだけで79,000を超えている。どちらの数字も利用実績ではなくHubのダウンロード数なので、実際の導入状況を過大に示しているが、方向性は明白だ。すでにその失敗モードに遭遇し、それについて書いた人々が多数いるということだ。Granite Switch 4.1 8Bは、執筆時点では公開から2日で、ダウンロード数は数十件、いいねもわずかだ。5か月分の公開バグレポートは金では買えない資産であり、今四半期にGemmaを本番運用の道に乗せるための、唯一にして最強の論拠である。

コンテキスト長は3つ目で、地味な項目だ。長い文書を入力しているとき、256K対131,072はマーケティング上の違いではない。どちらのモデルも典型的なチャット作業では回避策を必要としないが、リポジトリ規模のコンテキストをシャーディングなしで扱えるのは一方だけだ。

A screenshot of the Google Gemma 4 12B model card on Hugging Face, showing the model name gemma-4-12B with 2K likes, the Any-to-Any pipeline tag, the gemma4_unified architecture tag, Apache 2.0 licensing, a 12B parameter and BF16 model size, a last-month download count of 79,565, and summary text describing native audio and vision understanding without separate encoders, a context window of up to 256K tokens and support for over 140 languages, with five model sizes listed as E2B, E4B, 12B, 26B A4B and 31B.

Granite Switch 4.1 8Bが完全に勝利する場面

決定アダプターは、他のモデルには単純に備わっていない機能です。状態と、ラベル付きの選択肢を持つ質問を与えると、単一のフォワードパスでそれらのラベルに対する較正されたソフトマックスを返します — ドキュメントに記載された呼び出しは、vLLM に正確にラベルトークン ID の対数確率を要求し、それらを指数化して、A: 0.982, B: 0.0035, C: 0.014 の形の出力を生成します。汎用モデルは、ラベルを選ぶようにプロンプトできますが、プロンプトはトークンを生成するのであって、しきい値を設定したり、ターンをまたいで比較したり、較正されたスコアとして記録したりできる分布を生成するわけではありません。ルーティングロジック、トリアージ、エスカレーションしきい値、および回答ではなく信頼値が必要なあらゆるものにとって、それは別のクラスの出力です。

単一エンドポイントへの統合が2つ目です。音声文字起こしは、チャットや意思決定と同じエンドポイントで実行されます。通常のチャット補完でinput_audioコンテンツパートを送信すると、470Mエンコーダーがそれを文字起こししてから、そのテキストをコンテキストに接合します。2台目のサーバーも、オーケストレーション層も、別途のASR請求もありません。Gemma 4 12Bも音声を扱えるため、これは機能の欠落ではありません — デプロイ形態の違いであり、LLMと並行して別の音声サービスを実行しようとしていた場合にのみ重要になります。

フットプリントは3番目です。8.78B対11.95Bは、保持すべき重みがおよそ4分の1少なく、shared-KV-cache設計により、各アダプタがそれぞれ独自のアテンション状態を抱え込むことはありません。IBMは、合成モデルがベース単体とほぼ同じVRAMを消費すると主張しています。その具体的な主張は再現されていませんが、その背後にある4.72%のパラメータ差分はビルドマニフェストに基づく事実です。

まだ事実になっていないGranite側の2つの主張

公開されているDecision Indexの数値はdecisionアダプターについて、edition-v0.3の公開ファストサブセット1,068行で総合42.9、領域別スコアはKnowledge 29.1、Language 48.9、Retrieval 49.8、Tools 59.8、Arts 18.0です。この評価を実施したのはIBMであり、公開したのもIBMです。他の誰もこれを再現しておらず、Granite Switchに関するサードパーティのリーダーボード登録は一切ありません。その形にも注目してください。Toolsの59.8がArtsの18.0の隣に並ぶのは、汎用的な能力スコアではなく専門特化型のプロファイルであり、さらにカードには、アダプターが訓練されていない領域では、選択肢の確率を認定された分類としてではなく事前分布として扱うべきだと明記されています。

2つ目は音声パスであり、これが最も過大に読み込まれやすい主張だ。エンコーダーは英語専用で、その出力は小文字で句読点もなく、そして——IBM自身がモデルカードで述べているとおり——音声エンコーダーとLLMは共同で学習されておらず、両者を結びつける学習済みの射影も存在しない。Gemma 4 12Bの音声パスはモデルの一部として学習された。これが本当の違いであり、エンドポイント統合に関するあれこれの話を経ても揺るがない。一方のシステムには音と意味の間に学習済みの結合があり、もう一方では、それを読み取る側とうまく機能するよう最適化されたことなど一度もないコンポーネントによって、文字起こしがプロンプトに継ぎ合わされているのだ。

A generated comparison scoreboard card titled 'Granite Switch 4.1 8B vs Gemma 4 12B — the scoreboard' with two columns of six matching rows: Parameters 8.78B vs 11.95B, Context 131K vs 256K, Vision no vs native, Video no vs native, Decision scores yes, calibrated vs prompt-only, and Independent evals none vs five months of use. The footer reads 'Granite Switch figures from the published build manifest; Gemma 4 12B figures from Google's model card.' The OrcaRouter logo is composited in the white strip below the artwork.

それらを並行して実行する

どちらのチェックポイントもダウンロード可能で、どちらも Apache-2.0 であり、正直に言えば、両者を同じ土俵で競わせるのではなく、それぞれ別の役割に置くべきものだ。Gemma 4 12B は、入力にピクセルが含まれるときに手を伸ばすものだ。Granite Switch 4.1 8B は、出力を確率にする必要があるとき、あるいは 1 つのエンドポイントでチャット、意思決定、文字起こしをこなし、文字起こしの部分が訓練された経路ではなく継ぎ合わせであることを受け入れられる場合に手を伸ばすものだ。

両者をベンチマークするなら、スタックを組み替えることなく行いましょう。OrcaRouter は 200 以上のモデルを、自動フェイルオーバーを備えた 1 つの API キーの背後に公開しておりそしてプロバイダーの定価を 0% のマークアップでそのまま通しており、そのためプロバイダー側での価格変更は、次のカタログ更新時ではなくその日のうちにここへ反映されます。img src="4.png" alt="OrcaRouter のモデルページのスクリーンショット。対象は Gemma 4 26B A4Bで、このモデルには Vision、Tools、JSON、Reasoning のタグが付いており、262K トークンのコンテキスト、テキスト・画像・動画の入力、Google のリリース日 2026-04-03、100 万トークンあたり入力 $0.06/出力 $0.33 の価格、p50 の初回トークン到達時間 2.74 秒、そして Gemma 4 26B A4B IT を、トークンあたり 3.8B が活性化する合計 25.2B パラメータの指示チューニング済み mixture-of-experts モデルとして説明する紹介文が表示されています。" /> これら 2 つのチェックポイントは現時点で当社のカタログにはありませんし、そうでないふりをするつもりもありません — Granite Switch は Hugging Face からのダウンロードと vLLM コンテナであり、Gemma 4 12B も同じです。候補を 1 つのキーの背後に置く意義は、実際に利用可能になったとき、既存のモデルとの比較を自社のトラフィックで行うコストが、移行ではなくモデル文字列 1 つで済むという点にあります。当社が実際に提供しているモデルの中から、たとえば Gemma 4 26B A4Bを橋渡しとして検討してみてください。評価しているモデルと同じファミリーのモデルが、ホスト型エンドポイント上で、今日から使えます。

A screenshot of the OrcaRouter model page for Gemma 4 26B A4B, showing the model tagged Vision, Tools, JSON and Reasoning with a 262K-token context, text, image and video input, a Google release date of 2026-04-03, a per-million-token price of $0.06 input and $0.33 output, a p50 time-to-first-token of 2.74 seconds, and introductory copy describing Gemma 4 26B A4B IT as an instruction-tuned mixture-of-experts model with 25.2B total parameters of which 3.8B activate per token.

どれを、誰のために

ワークロードにピクセルが含まれるなら、256Kコンテキストが不可欠なら、あるいは今四半期に出荷する予定で、本番までの間に他人の5か月分の失敗を挟み込んでおきたいなら、Gemma 4 12B を選べ。答えではなく、ラベル付き選択肢全体にわたるキャリブレーション済み分布が必要なら、チャット、意思決定、音声を1つのエンドポイントにまとめることでアーキテクチャからサービスを1つ削れるなら、あるいはビルドマニフェストを読んで独自のバリアントを組み立てたいタイプのチームなら、Granite Switch 4.1 8B を選べ——コンポーザーは公開されており、アダプターカタログもオープンだ。

Granite Switch 4.1 8B を視覚用に採用してはいけない。そんな能力は一切ない。また、自分で実行していないベンチマークの数値に基づいて、どちらも採用してはいけない。この比較で唯一の判断スコアはベンダーが報告したもので、それを裏付ける第二の意見が存在しないからだ。これはモデルについての話ではなく、証拠の状態についての話である。