Granite Switch 4.1 8B vs Qwen3-8B：相手に後継機がいないとどうなるか

まず命名の問題から始めましょう。これが、この記事が正直に何であり得るかを変えるからです。Alibabaの最新Qwen世代で8Bモデルを探しても見つかりません。Qwen3.8シリーズ — Qwen3.8-27B、Qwen3.8-Max、Flashバリアント群、巨大な2.4T-A95B mixture-of-experts — には、8Bのdenseメンバーが単純に含まれていません。Qwenファミリーにおける8Bの枠は、依然としてQwen3-8Bが占めています。2025年4月27日リリース：82億パラメータ、thinkingとnon-thinkingを1つのモデルにハイブリッド搭載、100以上の言語と方言、32,768トークンのネイティブコンテキスト（YaRNで131,072まで拡張可能）。このモデルは16か月前のものでありながら、今なお現存する中で最もダウンロードされているオープンウェイトのチェックポイントの一つです。それが現職であり、この対決が書く価値があるのは、Granite Switch 4.1 8B — IBMによる2026年10月14日のcomposedチェックポイント — が、後継モデルでそれを置き換えようとしているわけではないからです。同じパラメータクラスにおける異なる形のモデルを提案しています。すなわち、凍結された8Bテキストモデルに2つの切り替え可能なアダプタと音声エンコーダをぶら下げ、推論によって1つの仕事をこなすのではなく、切り替えによって3つの仕事をこなすものです。誰もQwen3-8Bを置き換えてはいませんし、より良い問いは、誰かが置き換える必要があるのかどうかです。

それに対抗するのがGranite Switch 4.1 8B、IBMが2026年10月14日に公開した合成チェックポイントだ——8,380,551,168パラメータで凍結されたGranite 4.1 8Bが、切り替え可能な活性化LoRAアダプタ2つと470Mの音声エンコーダを備え、合成合計は8,776,400,896、4.72%増。同じパラメータクラスでありながら、モデルとは何かという発想はまったく異なる。Qwen3-8Bは、あらゆることを推論によってこなす単一の密なスタックだ。Granite Switch 4.1 8Bは、推論によっては何も行わず、切り替えによって3つのことを行うスタックである。

8Bのスロットは空いており、それこそが本当の話だ

この比較において、その不在をギャップとして扱うのではなく、立ち止まって考える価値がある。アリババはQwen3.8世代を、27Bの密なモデル、Max、Flashのバリアント、そして2.4兆パラメータのMixture-of-Expertsとともに出荷し、前世代をシングルGPU展開のデフォルトの選択肢にしたサイズクラスをスキップした。1枚のカードに収まり、安価にファインチューニングできるという理由でQwen3-8Bを選んだすべてのチームは、今やメモリ要件を2倍にするか、サービングの問題を完全に変えるかのどちらかである後継ラインナップを目の当たりにしている。

それがこの記事が実際に扱っている決定だ。誰も Qwen3-8B と Granite Switch 4.1 8B を品質で選び比べているわけではない——16か月前からある現行モデルと、独立した評価がまだない2日前の挑戦者を比べるのは、品質の比較ではなく知識の比較だ。問題は、あなたの主力モデルに同サイズの後継がないときどうするかであり、候補となる答えは「主力モデルを維持する」と「形を変える」の2つだ。

Qwen3-8B：16か月の本番運用がもたらすもの

Qwen3-8B は、36層、隠れサイズ4,096、32のクエリヘッド対8のKVヘッドによるグループ化クエリ注意、中間サイズ12,288、RoPE theta 1e6、非共有埋め込み、および151,936トークンの語彙を持つ密な因果トランスフォーマーです。パラメータ数はおよそ82億で、うち約69.5億が非埋め込みです。thinking の切り替えはパラメータ — enable_thinking — であり、生成設定はモードによって異なり、カードでは thinking モードでの貪欲法によるデコードがループを引き起こすため明示的に警告されています。

新しいチェックポイントには決して主張できないもの、それは他者の本番トラフィック16か月分。誰かがすでに遭遇し、記事に書き残した障害モード。重要なすべてのサービングフレームワーク向けの量子化、ファインチューニング、LoRAレシピ、デプロイガイド。1000万近いHubダウンロードと2000以上のいいね、その背後にはinstructの系譜がある。モデルがそれほど長く公開されていれば、それを取り巻くエコシステムは能力の紛れもない一部であり、どんなリリース日もそこへ後から遡って当てはめることはできない。

Granite Switch 4.1 8B：新しい形がもたらすもの

IBMのチェックポイントはモデルではなくコンポジションであり、その各部分は重みの隣にチェックインされたビルドマニフェストに文書化されています。ベース：Granite 4.1 8B、40層、隠れサイズ4,096、8個のKVヘッドに対する32個のクエリヘッド、131,072トークンウィンドウ、100,352トークン語彙。アダプター：guardian-core、ランク16、アルファ64、アテンション射影（k_proj、o_proj、q_proj、v_proj）上で、有害性、ジェイルブレイク、冒涜、暴力、性的コンテンツ、社会的バイアス、非倫理的行動を検出。およびdecision、ランク64、アルファ128、MLPを含む7つすべての射影上で、単一のフォワードパスでラベル付き選択肢トークンに対する較正済みソフトマックスを返します。エンコーダ：Granite Speech 5.0 TurboCTC、4億7,000万パラメータ、非自己回帰コンフォーマーCTC、英語。ライセンス：Apache-2.0、Qwen3-8Bと同じ。

Qwen3-8B に相当するものがない機能は、決定アダプターです。状態と、ラベル付きの選択肢を含む質問を渡すと、答えではなく分布を返します — ドキュメントに記載された呼び出しは、vLLM に、ラベル・トークン ID そのもののログ確率を、次のパラメータ経由で要求します:logprob_token_ids。それを指数変換し、A: 0.982、B: 0.0035、C: 0.014 のような形の出力を生成します。Qwen3-8B にラベルを選ぶようプロンプトすれば、そつなくやってのけ、文字が返ってきます。文字は、較正されたスコアとしてしきい値処理したり、ターンをまたいで平均したり、信頼度の値として記録したりすることはできません。それが違いであり、規模では埋まらない違いです。

コンポジションによって得られる2つ目のものは算術だ。各アダプターは独自のキー/バリューキャッシュを維持するのではなく、ベースモデルのキー/バリューキャッシュを共有する。そのため、アダプターなしから2つ＋音声エンコーダーに移行しても、能力ごとに新しいアテンション状態を必要とするのではなく、パラメータ増は4.72%で済む。IBMのローンチ記事は、構成済みモデルがベース単体とほぼ同じVRAMを消費すると主張している。その具体的な主張は再現されていないが、それが依拠するパラメータ差分はマニフェストにまさに記載されている。だからこそ、そのローンチ記事は、30Bの構成済みGranite Switchと27Bの意思決定モデルとの競争を、メモリ上のペナルティではなく速度上の優位として説明できる。

• パラメータ — 合成8.78B（ベース8.38B）対 8.2B。

• レイヤー — 40 対 36。

• コンテキスト — ネイティブ131,072 対 ネイティブ32,768、YaRN使用時131,072。

• 語彙 — 100,355 対 151,936。

• 言語 — 名称が付いた12言語（英語、ドイツ語、スペイン語、フランス語、日本語、ポルトガル語、アラビア語、チェコ語、イタリア語、韓国語、オランダ語、中国語）対100以上。

• 推論 — なし 対 ハイブリッド（思考と非思考を1つのチェックポイントに統合）。

• 構造化出力 — ラベルトークンに対する較正済みソフトマックスとプロンプトによる選択の比較。

• 音声入力 — 470MのASRエンコーダを内蔵 vs なし。

• エコシステム — 登場からわずか2日、目立った量子化やファインチューニングもない。一方で、コミュニティは16か月にわたり取り組んできた。

Qwen3-8Bが依然として優位な点

言語、決定的に。12の名前付き言語対100以上は、グローバルな観客に向けて出荷する誰にとっても丸め誤差などではなく、移行テストが真っ先に引っかかる点だ。語彙も同じ話を語っている。151,936トークン対100,355、Graniteの3つの予約アダプターIDがそれを100,355に丸めている。100の言語にわたって訓練されたモデルは、100の言語にわたって訓練されている。

ネイティブコンテキストは後者です。初期状態で131,072トークンで、YaRN拡張パスを使った場合の32,768トークンとは対照的です。Granite Switch 4.1 8Bはたまたま同じ131Kに到達しますが、それはネイティブに到達するものであり、YaRN拡張にはネイティブウィンドウにはないロングコンテキスト動作上のコストが伴います。

三つ目は、現実の移行の大半を決める要因だ。何も壊れていない。書き直すべき統合はなく、変更すべきサービングスタックもなく、学び直すべき挙動もない。あらゆる障害モードは他の誰かによってすでに把握されており、すでに持っているかもしれないファインチューンはあなたのものだ。挑戦者は、それを手放す価値があると言えるほど、意味のある形で優れていなければならない。そして、登場から2日しか経っておらず、独立した評価もない Granite Switch 4.1 8B は、そうであることを立証していない。

Granite Switch 4.1 8B が優位な点

意思決定スコアリング、およびそれに伴う運用上の形態。アプリケーションがラベル付きの選択肢に対する信頼度の値 — チケットのルーティング、エスカレーション閾値のスコアリング、数値が付随するツールの選択 — を必要とするなら、それは Qwen3-8B が提供しないプリミティブであり、プロンプティングで作り出せるものでもない。このアダプターについて公表されている数値は、Decision Index、エディション v0.3 の公開ファストサブセット 1,068 行のもので、総合 42.9、Knowledge 29.1、Language 48.9、Retrieval 49.8、Tools 59.8、Arts 18.0 である。IBM が実行し、IBM が公表し、誰も再現しておらず、カード自体にも、確率は、このアダプターが訓練されていないドメインにおける認定済み分類ではなく事前確率であると書かれている。

エンドポイント統合が2つ目です。チャット、意思決定、文字起こしを1つのエンドポイントで行い、文字起こしは2つ目のサービスではなく通常の input_audio コンテンツパートによってトリガーされます。IBMのカードに記載されている注意事項が当てはまり、その趣旨を忠実に繰り返す価値があります。英語のみ、出力は小文字で句読点なし、そして音声エンコーダーとLLMは 共同でトレーニングされていないため、誤った文字起こしがモデルの応答対象を気づかないうちに変えてしまう可能性があります。

そして3つ目がコンポーザビリティです。コンポーザーは公開されており、アダプターカタログもオープンで、IBMが選んだ2つのアダプターを受け入れるのではなく、独自のバリアントを構築できます。

8Bスロットが空いている間に何をすべきか

生産的な一手は、移行することではない。Granite Switch 4.1 8B を、Qwen3-8B がうまく扱えない特定のリクエスト — 信頼度値で終わるもの、あるいは音声として届くもの — の候補として扱い、それ以外はすべて現状のままにしておくことだ。それは書き換えではなく、ルーティングの問題である。意思決定型の呼び出しは一方へ、対話トラフィックはもう一方へ送り、新しい形が実際にあなたのトラフィックで通用するかどうかを確かめる間も、フォールバック経路はそのまま保っておく。

ここがOrcaRouterの占める層であり、それが何を意味するのかは正確に述べておく価値があります。Qwen3-8Bは現在当社のカタログにはなく、Granite Switch 4.1 8Bも同様です。したがって当社は、そのどちらかを入手する手段ではありません。Qwen3-8BはHugging Faceからのダウンロードであり、Granite Switch 4.1 8BはHugging FaceからのダウンロードにvLLMコンテナを加えたものです。当プラットフォームが担うのはその周辺作業です。200以上のホスト型モデルにまたがる単一のAPIキー、候補を単一障害点にすることなく本番経路に配置できる自動フェイルオーバー、複数のモデルを1回の呼び出しに組み合わせるためのルーティングDSL、そしてプロバイダーの表示価格を0%のマークアップでそのまま提供することで、ベンダーの値下げが次回の更新時ではなく当日に反映されます。この比較を検討しつつ、現行世代のQwenがホスト型エンドポイントでどのようなものか見てみたい場合は、Qwen3.8-27Bがカタログにあり、この比較における既存モデルと同じファミリーです。

結論から言うと

Qwen3-8Bをデフォルトのままにしておく。16か月の本番運用、100以上の言語、151,936トークンの語彙は、誕生から2日しか経っていないチェックポイントがアーキテクチャだけで覆せるような優位性ではない。そして、Alibabaが8Bの後継を出さなかったからといって、Granite Switch 4.1 8Bがその後継になるわけではない。それは、たまたま同じメモリクラスに収まる別のツールになるだけだ。採用するなら狭く具体的に：ラベル付き選択肢に対する較正済み分布が必要なリクエスト、インラインの安全性スクリーニング、そしてチャットと同じエンドポイントでの音声向けに。42.9を信じる前に、自分のラベルセットでテストすること。その数字はIBMのものであり、IBMだけのものだからだ。この対決で興味深いのは、一方のモデルが他方に勝つことではない。8Bの枠が空いたままで、次にそこを埋めるモデルは密な8Bとは限らない、ということだ。