Granite Switch 4.1 8B 対 LFM2.5 2.6B Base：ここに本当の選択肢はあるのか？

これはこのセットの中で最もフェアな勝負に見えない組み合わせだ。だからこそ、そうでないふりをするのではなく、すぐに扱ってしまおう。Granite Switch 4.1 8Bは、IBMが2026年10月14日に公開した87.8億パラメータの合成チェックポイントだ。凍結されたGranite 4.1 8Bに、2つの切り替え可能なアダプタと音声エンコーダを組み合わせ、1つのエンドポイントからチャット、意思決定スコアリング、文字起こしを行う。LFM2.5 2.6B Baseは、Liquid AIが2026年8月1日に公開した26.9億パラメータの事前学習済みテキストモデルで、オンデバイス配備向けに専用設計されている。そして重要なことに、そのモデルカード自体が、これはベースチェックポイントであり「大規模なファインチューニングを必要とするタスクにのみ推奨される」と述べている。一方をもう一方の代わりにできるかのように比較するのはカテゴリーエラーだ。比較すれば、より有用なことが分かる。それぞれの境界が実際どこにあるのか、そしてなぜほとんど誰もこの2つの間で選ぶことにならないのか、ということだ。

つまり、これは単なる性能くらべではない。実際にあなたが下すことになる判断——エッジのターゲットとサーバーのターゲットがあり、どのモデルをどこに配置するかを見極めようとしている、まさにその判断の地図だ。

それぞれの用途

LFM2.5 2.6B Baseはハイブリッドアーキテクチャであり、そのハイブリッドであること自体が要点だ。30層のうち22層が二重ゲート付きショート畳み込みブロック、8層がグループ化クエリ注意（グループドクエリ・アテンション）である。つまりスタックの大半はアテンションではなく畳み込みで、これが小型ハードウェア上でのメモリ使用量とトークンあたりのコストを抑えている。隠れ次元2,048、クエリヘッド32対KVヘッド8、コンテキスト長131,072トークン、語彙サイズ128,000トークン、事前学習予算は34兆トークン。16言語が挙げられている。英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語である。Liquidはこのファミリーをオンデバイス展開向けに作られたものと説明しており、姉妹モデルであるinstructモデルをネイティブチェックポイントとともにGGUF、ONNX、MLX形式で提供している。

Granite Switch 4.1 8Bは、正反対の問題に適用された正反対の本能だ。モデルを縮小するのではなく、やや大きめのテキストバックボーンを維持し、能力を横方向に追加する。ベースはGranite 4.1 8B：40層、隠れ次元4,096、8個のKVヘッドに対する32個のクエリヘッド、131,072トークンのウィンドウ、100,352トークンの語彙。その上に載るのがguardian-core——アテンション射影に適用されたランク16のアクティベート済みLoRAアダプタで、有害性、ジェイルブレイク、冒とく、暴力、性的コンテンツ、社会的バイアス、非倫理的行動を検出する——、decision——7つすべての射影に適用されたランク64のアダプタで、単一のフォワードパスでラベル付きオプショントークンに対するキャリブレーション済みソフトマックスを返す——、そしてGranite Speech 5.0 TurboCTC——文字起こし用の4億7,000万パラメータの非自己回帰コンフォーマエンコーダだ。合成後の総計は8,776,400,896パラメータで、ベースの8,380,551,168に対して4.72%の増加となる。

それを決める次元：instruct 対 base

これら2つのチェックポイントの間で最も大きな違いは、サイズやアーキテクチャではない。一方は完成したモデルであり、もう一方は原材料だという点だ。

Granite Switch 4.1 8B は、すぐに呼び出せる状態で提供されます。アダプターは組み込み済みで、制御トークンはチャットテンプレートを通じて配線され、決定アダプターの呼び出しレシピは動作するコード付きで文書化されており、カードには必要な Transformers と vLLM の正確なバージョンが記載されています。ダウンロードして実行すれば、3つのジョブをこなします。

LFM2.5 2.6B Base は、設計上そのいずれも行いません。Liquid 自身の指針では、このチェックポイントは「言語特化型（例：日本語）やドメイン特化型（例：医療）のアシスタント、独自データでの学習、あるいは新規なポストトレーニング手法の実験」のためのものであり、すぐにそのまま質問に答えてくれるモデルが欲しいのであれば、モデルカードはポストトレーニング済みの兄弟モデルを指し示しています。ベースチェックポイントには、比較すべき指示追従の挙動も、アラインメントも、チャットテンプレートの規律もありません。両者を同じ評価に載せれば、Granite モデルのほうが劇的に優れて見えるでしょうが、その理由はどちらがより優れたモデルかとは何の関係もありません。一方はポストトレーニング済みで、もう一方はそうではないからです。

• パラメータ — 合成 8.78B 対 2.69B。

• レイヤー — 40の密なTransformerブロック vs 30のハイブリッド（22の二重ゲート付きショート畳み込み + 8のGQA）。

• コンテキスト — 131,072トークン 対 131,072トークン。完全に互角というのは珍しく、特筆に値します。

• 語彙 — 100,355（アダプター用に予約された3つのID）対 128,000。

• モダリティ — テキストと音声を入力し、テキストを出力 vs テキストのみ

• チェックポイントの種類 — 統合済み・事後学習済み・すぐに呼び出し可能 対 ファインチューニング用の事前学習済みベース

• ライセンス — Apache-2.0 と LFM 1.0 ライセンスであり、これはApache ではありません。この違いは商業上重要であり、見落としがちです。

• 公開されているエビデンス — ベンダーが独自に実施した Decision Index が総合 42.9 で 1 件のみ、独立した評価はなく、ベースチェックポイントについては比較可能な公開ベンチマークが存在しない。

2.69Bで手に入る、8.78Bでは手に入らないもの

ポータビリティ、そしてそれは決して小さな利点ではない。30層のうち22層が短い畳み込みで構成された2.69Bモデルは、デバイス上——ノートPC、スマートフォン級のSoC、組み込みボックス——で動作するように設計されており、Liquidはまさにそのために量子化されたGGUF、ONNX、MLXの各バリアントを提供している。470Mの音声エンコーダーを備えた8.78Bの複合チェックポイントは、サーバーサイドの成果物だ。それはGPU上で、コンテナ内で、エンドポイントの背後で動作する。

つまり、両者のデプロイ形態は重ならない。一方はリクエストがデバイスから出られない場合のもので、もう一方は出られる場合のものだ。制約が「ネットワークなし」であれば、比較は始まる前に終わっており、どのような構成を重ねてもそれは変わらない。さらにライセンスの点を加えると — Apache-2.0 ではなく LFM 1.0 — 、2.6Bチェックポイントは、自分のデータで自分のモデルを微調整し、製品として出荷するつもりなら選ぶものになり、Granite Switch は、寛容なライセンスの下で今日3つの能力を求めるなら選ぶものだ。

2.69Bでは実現できないことを、コンポジションは何をもたらしてくれるのか

1つのエンドポイントから3つのジョブ、そして答えの代わりに確率。

決定アダプタは、もう一方の側に対応するものが存在しない部分である。状態とラベル付きの選択肢を持つ質問が与えられると、1回のフォワードパスでそれらのラベルに対する較正済みのソフトマックスを返す — ドキュメント化された呼び出しでは、vLLMに対してlogprob_token_idsを介して正確にラベルトークンIDのlogprobsを要求し、それらを指数化することで、A: 0.982、B: 0.0035、C: 0.014のような形の出力が得られる。プロンプトはトークンを与えるが、これは閾値処理や平均、対数化ができる数値を与える。これに基づいて構築する前に知っておく価値のある、ドキュメント化された注意点も存在する。vLLMはlogprob_token_idsを1リクエストあたり128個のIDに制限しているため、128を超える選択肢を持つ質問では、そのラベルIDを128個ずつのグループに分割し、各グループに対して同一プロンプトのリクエストを1回ずつ行い、結果を連結して、ラベル集合全体に対して単一のソフトマックスを適用する必要がある。返されるlogprobsは語彙全体に及ぶため、各ラベルの値はどのグループが要求したかとは無関係であり、したがって分割された結果は上限なしの呼び出しと数学的に同一である。

同じエンドポイント上での音声が2つ目だ。通常のチャット補完でinput_audioコンテンツパートを送信すると、470Mのエンコーダーがそれを文字起こしし、その書き起こしをコンテキストに接合する。IBMの注意点は具体的で、繰り返す価値がある。英語のみ、出力は小文字で句読点なし、そしてエンコーダーと言語モデルは共同で訓練されていない——両者を結びつける訓練済みの射影が存在しないため、誤った文字起こしはモデルが何に応答するかを気づかぬうちに変えてしまう可能性がある。音声パスをまったく持たないエッジモデルは、問題がないのではなく、別の問題を抱えている。

そして3つ目は安全性アダプターです。同じチェックポイントに乗る有害性およびジェイルブレイク分類器で、adapter_nameを渡したときにチャットテンプレートが挿入する制御トークンによって有効化され、デプロイしてコストを払う2つ目のモデルではありません。

答えが「両方」である場合、ルーターはどこに収まるのか

この比較の現実的な結末は、両モデルが同じ製品内に収まることだ。LFM2.5 2.6B Base はファインチューニングされ、デバイス上で、外部に出せないものを処理する。Granite Switch 4.1 8B はセルフホストされ、判断と文字起こしをサーバー側で処理する。これは2層アーキテクチャであり、そこから生じる運用上の問いは、継ぎ目で何が起きるかだ——デバイス上のモデルが失敗する、サーバーが飽和する、別の何かにフォールスルーする必要があるリクエスト。どちらのチェックポイントも今日の OrcaRouter カタログにはないので、私たちはどちらかを入手する手段ではない。私たちが関連してくるのは、それらの背後にあるフォールバックチェーンにおいてだ。1つのAPIキーで200以上のホスト型モデルをカバーし、自動フェイルオーバーを提供、ルーティングDSLを使えば、ファンアウトを手作業で組む代わりに複数のモデルを1回の呼び出しにまとめられ、プロバイダーの定価は0%のマークアップでそのまま渡されるため、ベンダーの値下げは当日に反映される。img src="4.png" alt="OrcaRouter のモデルカタログのスクリーンショット。見出しは「210モデル、16プロバイダー、1つのAPIキー、1つの請求書」で、モダリティのファセットには173のテキスト、12の画像、5の埋め込み、10の動画、10のTTSモデルが表示され、入力モダリティ、コンテキスト長、入力価格、ステータス、アクセス階層、シリーズ、対応パラメーターのフィルターサイドバーがあり、モデルカードのリストは新しい順で、OrcaCyber Zero 1.5、OpenAI GPT-6.1 Sol、Anthropic Claude Sonnet 5.5 から始まり、100万トークンあたりの入力・出力料金が示されている。" /> それは2層設計を壊れやすくするのではなく生き残れるものにする層であり、エッジ層が現場で失敗し始める前に導入しておく価値がある。

評決、といっても大したものではないが

ファインチューニングする予定なら、推論をデバイス上で行う必要があるなら、あるいは2.69Bのフットプリントが厳格な制約なら、LFM2.5 2.6B Baseを選んでください。較正済みの意思決定分布、インラインの安全性分類器、またはチャットと同じエンドポイントからの文字起こしが必要で、GPUバックエンドのコンテナが許容できるなら、Granite Switch 4.1 8Bを選んでください。これら2つのユースケースが重なる部分はほぼゼロです。だからこそ、「どちらが勝つのか」に対する正直な答えは、その問いの立て方自体が間違っているということであり、より有用な持ち帰りは、2.69Bのベースチェックポイントと8.78Bの複合instructモデルは、1本の品質線上の2点ではないということです。それらは、たまたまパラメータ数が隣り合っている2つの異なる製品なのです。