Gemma 4 12B：Googleのエンコーダー不要12Bモデルの内部

Gemma 4 12Bは、DeepMindによるGemma 4ファミリーの中規模モデルです。テキスト、画像、音声、動画フレームを読み取り、テキストを書き出す、密な119.5億パラメータのオープンウェイトモデルであり、その決定的なエンジニアリング上の選択は、マルチモーダルエンコーダを一切搭載していないことです。エッジ向けのGemma 4 E4Bと、より大規模でスパースなGemma 4 26B A4Bの間に位置します。ローンチノートはその役割を、エージェント的なマルチモーダル作業をラップトップに持ち込むことだと位置づけています——推論、ツール使用、コーディング、そして文書や画面の理解を、従量制の接続越しではなく、目の前のマシン上で実行することです。またこれは、私たちのサイト上でこのファミリーのライブフットプリント全体を担うサイズでもあります。これについて書かれた比較ページが3つあり、そしてこのページができるまで、モデル自体についてのページは存在しませんでした。

その逆転は最初に名付けておく価値がある。なぜなら、それが以下のすべての形を説明するからだ。読者はGemma 4 12Bに、旗艦機に到達するようには到達しない。彼らは横から、通常は対戦ページからやって来る。多くの場合、本当の問いはGemma 4 のどのサイズかであり、ダウンロードに時間を費やす前に、比較の左側が実際に何なのかを知りたいのだ。この名前について我々が計測する検索は圧倒的に比較目的であり、単独の用語だけでは薄い。したがって、これは参照ページである：12Bとは何か、そのモデルカードが述べていること、実行に何が必要か、そのライセンスが何を許可するか、そして既存の3つの比較のうちどれが、あなたが持ってきた問いをすでに解決するかである。

これはローンチ記事ではなく、そのように読まれるべきものでもない。 Gemma 4 12Bは2026年6月3日——本ページの132日前——にリリースされ、公開前の7日間にこのモデルに関する変更は一切なかった。この日付はベンダー自身のリリースノートに由来するもので、ここではモデルを時間軸に位置づけるために用いており、発表するためではない。

12Bとは何か、そして26B A4Bとどこが異なるのか

Gemma 4ファミリーには5つのサイズがあり、それらは一本の線上に並ぶ5つの点ではない。モデルカードにはE2B、E4B、12B Unified、26B A4B、そして31Bとして記載されており、これらは2つのアーキテクチャに分かれている。3つのdenseモデルと1つのmixture-of-expertsで、Eサイズはper-layer embeddingsを用いて、デバイス上で実際に動作する部分を縮小している。

Gemma 4 12Bはデンスモデルです。モデルカードには、48層にわたる合計119.5億パラメータ、1,024トークンのスライディングウィンドウ、256Kトークンのコンテキストが記載されています。一方、Gemma 4 26B A4BはこのファミリーのMixture-of-Expertsです。合計252億パラメータを持ちながら、トークンあたりのアクティブパラメータはわずか38億で、30層にわたり128個中8個のアクティブエキスパートと1個の共有エキスパートが配置されています。この「A」こそが名前の核心です。このモデルは260億分の重みを保持しつつ、各フォワードパスでそのうち約40億分しか計算しません。そのためモデルカードでは、はるかに多くの知識を保持しながら、4Bモデルとほぼ同じ速度で動作すると説明されています。

つまり、正直に一行で区別するならこうだ。26B A4Bは、レイテンシあたりの能力を最大限に引き出したいときに選ぶサイズで、それを載せるワークステーションかサーバーがあることが前提になる。12Bは、マシンがラップトップで、メモリの予算が16GBのときに選ぶサイズだ。ローンチノートは12BをE4Bと26B A4Bの橋渡しとして位置づけており、スペックシートもそれを裏づけている。

より興味深い違いはアーキテクチャ上のものであり、それが 12B が単に「Dense」ではなく「Unified」とラベル付けされている理由です。ファミリー内の他のすべてのマルチモーダルモデルは、画像と音声を専用のエンコーダー経由で処理してから、その結果を言語モデルに渡します — カードには、E サイズで約 150M の視覚エンコーダーと約 300M の音声エンコーダー、そして 31B と 26B A4B の両方で約 550M の視覚エンコーダーが記載されています。12B にはどちらもありません。12B の視覚および音声エンコーダーパラメーターの列は、どちらの場合もダッシュと記載されています。

それらに取って代わったものは小さい。ローンチ記事では、視覚は軽量な埋め込みモジュール——単一の行列積に位置埋め込みと正規化を加えたもの——として説明され、音声はエンコーダを完全に取り除き、生の信号をテキストトークンと同じ次元空間に射影するものとして説明されている。生の画像パッチと音声波形は、単一のデコーダのみのトランスフォーマーに直接入る。謳われている利点は、マルチモーダル遅延が低くなることと、エンコーダごとに1つずつではなく単一のアダプタで、モダリティをまたいで全体を1回のパスでファインチューニングできることである。

それが、12B がネイティブ音声入力を備えた初の中型 Gemma である理由でもあります。カードには、「テキスト、画像、音声」が E2B、E4B、12B のモダリティ行としてあり、31B と 26B A4B には「テキスト、画像」のみが記載されています。

モデルカードに記載されている仕様

このセクションの内容はすべて、ai.google.dev にある Gemma 4 モデルカードからのもので、同カードは 12B 単体ではなくファミリー全体を対象としています。カードに記載がない箇所は、補完するのではなくその旨を注記しています。

• コンテキスト長 — 12Bでは256Kトークン。カードはその分割を明示的に記している：小規模モデル（E2B、E4B）は128K、中規模モデル（12B、26B A4B、31B）は256K。

• モダリティ — テキスト、画像、音声の入力、テキスト出力。このカードでは、動画をフレームシーケンスとして処理されるファミリー機能として挙げ、画像入力については全サイズにわたる可変アスペクト比と解像度について説明しています。

• 総パラメータ数 — 11.95B、密（dense）、48層。このカードには、アクティブ化するエキスパートが存在しないため、アクティブパラメータの数値は示されていません。

• スライディングウィンドウ — 1,024トークン、E-sizesが使用する512の2倍。

• 語彙 — 262K、5つのサイズすべてで共有。

• アテンション — 局所的なスライディングウィンドウアテンションと完全なグローバルアテンションを交互に組み合わせるハイブリッドで、最終層は常にグローバル。グローバル層は統合されたキーと値、および比例RoPEを使用して、長いコンテキストでのメモリを抑える。

• 言語 — 140以上の言語で事前学習済みで、製品情報では35以上の言語をすぐにそのままサポートすると謳われています。

突き合わせておく価値のある2つの数字がある。食い違いに見えるが、実際はそうではない。モデルカードには256Kトークンとあり、Gemma 4 12BのArtificial Analysisのモデルページには262kとある。これは同じ数値を2通りに書いたもので——262,144トークンは256K——、すぐ近くにあるモデルカードの語彙数262Kという数字が、この2つを一見矛盾して見せているのだ。

ベンチマークについて言えば、このカードはインストラクション・チューニング済みチェックポイントのファミリーテーブルを掲載しており、これらはベンダーが報告した数値であって、独立したものではない。Gemma 4 12Bについて、カードには MMLU Pro で77.2%、GPQA Diamond で78.8%、ツールなしの AIME 2026 で77.5%、LiveCodeBench v6 で72.0%、Codeforces ELO 1659、MMMU Pro で69.1%、8ニードルの128Kにおける MRCR v2 で43.4% が記載されている。同じ表ではGemma 4 26B A4Bを MMLU Pro 82.6%、AIME 88.3%、LiveCodeBench 77.1%、MRCR 44.1% としている。ほとんどの行で上回っており、これはより大きなモデルに期待されるとおりだが、いくつかの項目では差が十分に小さく、サイズの差だけがすべてではない。

Artificial Analysisによる独立した評価は、ひとつの見出しに集約される：Intelligence Indexスコアは14、比較クラス内の141モデル中20位、測定された出力速度は毎秒110.9トークン、そして混合コストは入力100万トークンあたり0.10ドル、出力100万トークンあたり0.30ドルである。これらのコスト数値は、オープンウェイトを提供するサードパーティプラットフォーム全体の中央値であり、ベンダーの定価ではない — この点は正確に述べておく価値がある。なぜなら、ベンダーはモデルカード上で12Bのトークンあたりの価格を一切公開していないからである。

運用する：実際に必要なもの

ローンチ記事は見出しの要件を直接示している。12Bは「わずか16GBのVRAMまたはユニファイドメモリでローカルに実行できるほど小さい」。それ向けに公開された量子化サイズが、それを具体的に裏付けている。

• フル精度 — Hugging Face 上の instruction-tuned チェックポイントは、単一の 23.92 GB safetensors ファイルです。bfloat16 では、これが KV キャッシュを除いた生の重みフットプリントなので、16GB マシンでは保持できず、24GB カードでもぎりぎりです。

• ベンダー自身による量子化済みビルド — というのも、12B は事後的な量子化ツールだけでなく、量子化を考慮したトレーニングを経て出荷されたからです。ベンダーは、重みが約6.98 GB、さらに0.18 GBのマルチモーダル射影ファイルを含むQAT GGUFと、10.26 GBのQAT compressed-tensorsビルド（w4a16）を公開しています。また、再量子化する前にファインチューニングするためのベースとして特別に公開された、量子化されていないQATチェックポイントもあります。

• コミュニティ GGUF — 広くミラー配布されている Unsloth ビルドは、最もアグレッシブな 2 ビットで約 4.2 GB から、IQ4_XS で 6.38 GB、Q4_K_M で 7.12 GB、Q5_K_M で 8.41 GB、Q8_0 で 12.67 GB までとなります。LM Studio ミラーは Q4_K_M を 7.38 GB、Q6_K を 9.79 GB、Q8_0 を 12.67 GB で公開しており、いずれも同じ 0.18 GB のプロジェクションファイルが付属します。

• MLX — Appleシリコン向けの8ビット量子化ビルドは、3つのファイルにまたがって約12.7 GBになります。コーディング向けファインチューニングの4ビットコミュニティビルドは、6.7 GB近くになります。

まとめて読むと、これが「これは収まるのか」に対する実用的な答えです。4ビット版のGemma 4 12Bは約7GBで、ベンダーの主張どおり、16GBのノートPCを動かせるバージョンです。モデルを量子化なしで使いたいなら、目標は24GB以上のカードです。さらに、フルの256Kコンテキストを使いたいなら、重みのフットプリントに加えてキャッシュ用の余裕も必要です。

情報源が与えてくれない2つのこと、そしてこのページが作り出さない2つのこと。ベンダーがローカル推論について公表したスループット値は存在しない——Artificial Analysis による毎秒110.9トークンは、サードパーティのインフラストラクチャ上でのホスト型測定であり、numa の数値ではなく、両者は置き換え可能なものではない。また、量子化ごとに公表された最小 RAM 表も存在しない。上記のサイズはファイルサイズであり、それは下限であって、要件ではない。

モデルカードが実際に記録しているのは、単一の推奨ランタイムではなく、それを取り巻くツールチェーンだ。推論とファインチューニングには Hugging Face Transformers、llama.cpp、MLX、SGLang、vLLM、Unsloth が挙げられ、パッケージ化されたローカル経路として LM Studio、Ollama、LiteRT-LM、そして重みは Hugging Face と Kaggle にある。12B にはマルチトークン予測のドラフターも同梱され、別個のアシスタントチェックポイントとして公開されている——メモリと引き換えにレイテンシを手に入れる、わずかな追加ダウンロードである。

比較ページがあいまいにする類の話なので、はっきり言っておきます：Gemma 4 12Bは、どの表記であってもOrcaRouterが提供するモデルではありません——素の名前でも、日付付きの派生でも、量子化されたものでもありません。私たちがルーティングするGemma 4のサイズは26B A4Bと31Bです。したがって、このモデルを呼び出したいなら、重みをセルフホストするか、それらを提供する第三者ホストを使うのが道です。自分で動かしたくない場合は、正直な次の一手は、ファミリーの別サイズで必要なものが得られるか確認することです。

ライセンス、特にこのサイズ専用の

Gemma 4 のモデルカードはライセンスを Apache 2.0 と明記し、Gemma 4 ライセンスページへリンクしている。そのページには Apache 2.0 の条文、つまり標準的な Apache ライセンスが掲載されており、利用上限も、月間アクティブユーザー数のしきい値も、別個の商用ティアもない。12B の指示チューニング済みチェックポイント用の Hugging Face リポジトリも、メタデータに同じ宣言を含み、同じライセンス URL を指している。したがって、このサイズではライセンスに関する疑問には短い答えがある。Apache 2.0 の条件の下で、商用であれそうでなかれ、使用し、改変し、再配布すればよい。

付随する文書が2つあり、これらはライセンスと混同せずに把握しておく価値があります。ベンダーは Gemma 利用規約のページと Gemma 禁止使用ポリシーを公開しています。禁止使用ポリシーは、モデルに生成させてはならない出力のカテゴリを列挙した行動規範的な文書です。これはポリシーであり、重みに対するライセンス上の制約ではありません。重み自体は Apache 2.0 であり、まさにそれによってこのモデルのコミュニティによる派生版が可能になっています。再頒布するケースでは、Gemma 4 12B またはそのファインチューニング版について、あなたの再頒布を規定するのはライセンスであり、許容される使用を規定するのはポリシーです。

その区別は、誰かの行動を特徴づける必要なく、コミュニティの派生エコシステムが提起する問いに答えている。重みが寛容なライセンスの下で公開されているため、第三者は12Bのファインチューンや量子化版——abliterated 版、ドメイン別ファインチューン、代替の量子化レシピ——を公開でき、実際に公開している。ライセンスが許可しているのは、それら派生物の再配布である。そして、ライセンスはそれらが存在する理由でもある。

このページが背後に控える3つの比較

このステム配下にある公開中の3つのページはすべてマッチアップであり、それぞれがすでに異なる問いに答えています。このページはそのいずれかを裁定するものではありません — それらが説明している対象そのものです。

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — 両方の選択肢が同じベンダーのもので、比較軸が支払い方である場合に何が起きるかを明らかにする：Apache 2.0 の下でダウンロードするモデル 対 ホスト型 API の最安の従量課金ティア。

• Gemma 4 12B 対 GLM 5.2 — 極端に非対称なこの組み合わせに決着をつける：ノートPCで動かせるエンコーダー不要の12B 対 長期的なエージェント型コーディング向けに作られ、価格が何倍もする744BパラメータのオープンウェイトなMixture-of-Experts。

• Gemma 4 12B 対 Qwen3.8 Max — オンデバイス対レンタルという問いに直接決着をつける：机の上のマシンと、同じラボのフラッグシップをトークン単位で提供するもの。

もし本当に求めているのが別の12B対決ではなく、Gemma 4の他のサイズのいずれかなら、5つすべてを一度に扱うページはファミリーハブで、そこではE2B、E4B、26B A4B、31Bがまとめて説明されています。そして、12Bは適切なサイズではないとすでに判断しているなら、それと最もよく比較されるモデル——GLM 5.2、Qwen3.8 Max、Gemini 3.5 Flash-Lite——はいずれもOrcaRouterを通じて1つのキーで利用でき、プロバイダー自身の定価に対する0%のマークアップとなっているため、ベンダーの値下げが発表されたその日にここにも反映されます。

何が未解決なのか

取り繕うのではなく、明言しておく価値のあるギャップが2つある。上のベンチマーク表はベンダー報告だ——ベンダー自身のモデルカードと評価セットアップによるものである——。その後 Artificial Analysis がこのモデルを独立に評価し、Intelligence Index 14 を付けているものの、ベンチマークごとの数値について広範な独立再現があるわけではない。したがって、行レベルの数値は主張として扱うべきだ。また、12B について公開された量子化ごとのメモリ表はない。つまり「16GBで十分」という記述は、それを裏付けるファイルサイズを伴うベンダーの主張であり、そのままコピーできる測定済みの構成ではない。

モデル自体の位置づけは簡単だ。Apache 2.0、エンコーダ不要、12Bパラメータのマルチモーダルモデルで、2026年6月3日付、4ビットでラップトップ上で動作し、ネイティブ音声を備えた最小のGemma 4サイズである。そうではないのは、ホスト型のファーストパーティ料金が設定されたモデルだという点であり、それが、それをめぐる実用的な判断がまずハードウェアの判断で、次に価格の判断である理由だ。

もしあなたがマッチアップからここにたどり着き、そのマッチアップがあなたに必要なものであるなら、次のページはあなたの質問に合う比較です。そしてそれが望みどおりでなければ、より広い Gemma 4 ファミリー — 12B は5つのサイズのうちの1つで、実際にあなたが求めるサイズは、今日呼び出せる 26B A4B か、ファミリーの範囲の最上位で実行できる 31B かもしれません。