RepGen-4B 対 Gemma 4 12B：12Bの汎用モデルに対する4Bの狭領域スペシャリスト、そしてサイズが嘘をつく理由

並べて眺めると、microsoft/UserRepGen-4BとGemma 4 12Bは、始まる前から勝敗が決まっていたかのような不釣り合いな組み合わせに見える。Googleの119億5,000万パラメータのモデルはテキスト、画像、音声を読み取り、256Kトークンのコンテキストを保持し、技術レポートとローンチブログを備え、2026年5月以降におよそ79,000回ダウンロードされている。MicrosoftのモデルはQwen3.5-4Bに対するrank-64のLoRAで、2026年10月14日に告知なしでアップロードされたもので、できることはただ一つ、完成したユーザーとアシスタントの会話を読み、そこにいる人物についての2フィールドのJSON記述を書き戻すことだけだ。会話を続けることも、質問に答えることも、画像を見ることもできない。この2つを能力で比べるのは比較ではなく、カテゴリー錯誤である——そして面白いのはそのカテゴリー錯誤のほうだ。なぜなら、小さいほうのモデルこそが、それが作られた仕事においてフロンティアの汎用モデルを打ち負かすのだから。

それぞれが実際に何のためのものか

この両方を頭の中に保持する最も明快な方法は、Gemma 4 12B はアシスタントであり、UserRepGen-4B は測定器であるという捉え方です。

• Gemma 4 12B — Gemma 4ファミリーのエンコーダーフリーなマルチモーダルモデル。テキスト、画像、音声を入力し、テキストを出力する。Google自身のカードでは「Unified」と説明されている。ファミリーの他のモデルが使用している専用の視覚・音声エンコーダーを廃し、生の画像パッチと波形を軽量な線形層を通してデコーダーの埋め込み空間に直接投影するからだ。48層、1,024トークンのスライディングウィンドウ、262K語彙、256Kトークンのコンテキスト。Apache 2.0、ベースと同時に公開された指示チューニング済みバリアント。

• UserRepGen-4B — 表現生成器。入力：認可されたマルチターン会話、最大8,192トークン。出力：taskフィールドとuser_behaviorフィールドを持つJSONオブジェクトで、上限は1,024トークン。人間によるレビューを経て、シミュレーションでユーザー役を演じる別のLLMに引き渡される。Microsoftの貢献部分はMIT、Q​wenバックボーンから継承したApache 2.0。チェックポイントが決して使用しないビジョンタワーを保持しているにもかかわらず、テキストのみ。

Gemma 4 12B には、UserRepGen-4B が行うこと——会話を読み、その中のユーザーを描写する——をさせることができる。まさにこれが、この対決に誠実に入る方法だ。なぜなら Microsoft のカードは、汎用モデルがまさにそれを行っている場合を測定しており、その汎用モデルは負けるからだ。

それらを結びつける唯一の実数

この2つの間に公表された直接対決はなく、それをでっち上げるのは、このようなページが陥る安易な失敗だろう。UserRepGen-4Bのカードが実際に公表しているのは、1～10の尺度による700会話の忠実度評価であり、そこではすべての生成器が同一の呼び出しで判定される。その表では、GPT-5.5をそのまま表現生成器として使うと、best-of-1で3.90、best-of-3で4.90を記録する。UserRepGen-4Bは4.95と6.02を記録する。訓練された4Bの専門モデルは、この特定の仕事では、桁違いに大きい最先端の汎用モデルを上回る。

Gemma 4 12B はその表にはないので、どこに位置づけられるかは誰にもわからない。しかし、それが比較対象となるベースラインから、答えの形は明らかだ。ユーザーを描写するよう求められた汎用モデルは、もっともらしく一般的な何かを生成し、UserRepGen-4B の学習手法はまさにそれを乗り越えるために存在する。12B は一般的な推論ではほぼ確実に 4B を上回り、この狭いタスクでは 4B に負けるだろう。

すると当然の疑問が浮かぶ。なぜ単に Gemma 4 12B に同じことをプロンプトで指示して、ディスク上にモデルを1つだけ置いておかないのか、と。理由は2つあり、重要なのは2つ目だ。

第一に、大量処理時のコストである。会話ごとに表現を生成するのはバッチジョブであり、同一のパスに対して12Bパラメータは4Bパラメータのおよそ3倍のコストがかかる。第二に、忠実性のギャップはチューニングの問題ではない —— カード自身のアブレーションが示すのは、素の教師ありファインチューニングが4.64/5.68である一方、有能なチームがまず手を伸ばすであろう2つの強化学習手法、OPSDとGRPOがいずれもそれを下回る4.46/5.60と3.57/4.59にとどまっているということだ。汎用モデルをこの挙動に到達させるのは、より良いプロンプトや、より重いRL実行の問題ではない。それは、この訓練ループがまさにそのために作られたものなのである。

どちらもダウンロード可能ですが、デプロイ可能なのはそのうちの一方だけです。

ここで「4B対12B」という枠組みは完全に崩れる。なぜなら、その2つのリリースはパッケージングのスペクトル上で正反対の両極にあるからだ。

• Gemma 4 12B — 実用的なエコシステムを備えたリリース済み製品。Transformers対応、指示チューニング済みバリアント、ファミリー全体で公開されている量子化形式とエッジ向け形式、ローンチブログ、arXivのテクニカルレポート、そしてダウンロードからサービングまでの文書化された道筋。

• UserRepGen-4B — 9,078,620,536 バイトの単一の bfloat16 safetensors ファイル。GGUF も ONNX も MLX もなく、いかなる種類の量子化もありません。カードには直接こう書かれています：「最適化された形式やデバイス固有の形式は現在利用できません。」

その差は偶然ではない。Gemma 4 12Bは他の人たちに実行されるために作られ、115億のパラメータが製品として出荷される。UserRepGen-4Bは論文のための結果を生み出すために作られ、そのカードには今も引用が「確認待ち」と書かれ、「リポジトリが非公開の間に」認証することに言及している——段階的にアップロードしたときの名残で、更新されていない一行だ。一方は完成している。もう一方は、完成していると言える程度には完成している。

もしあなたが本当に求めていたのがAPI経由のGemma 4だったのなら

はっきり言っておくべきことです。Gemmaの比較記事を読むほとんどの読者が、まさにここに注目するからです。OrcaRouterはGemma 4 12Bを提供していません——当社のカタログにそのモデルページはありません——そしてUserRepGen-4Bも提供していません。ただし、同じGemma 4ファミリーの別の2モデルはカタログに掲載されており、どちらもプロバイダーの定価を上乗せなしで提示しています：Gemma 4 26B A4Bは、262,144トークンのコンテキストで3.8Bのアクティブパラメータを持つ25.2BのMixture-of-Experts構成で、入力トークン100万あたり$0.06、出力トークン100万あたり$0.33。そしてGemma 4 31Bは、30.7Bのdenseなマルチモーダル構成で、$0.13と$0.38です。12Bを特にローカル作業用に欲しかったのなら、ダウンロードが答えであり、APIがそれを変えることはありません。

シミュレーション側についても、正直な立場は同じです。UserRepGen-4B はチェックポイントとプロンプトファイルであり、あなた自身が自分の環境で、処理を許可された会話に対して実行するものです。それがホストされたエンドポイントへの呼び出しであれば便利でしょう。今日の時点では、当社のものでも他のどこでも、そうではありません。

どれをダウンロードすればいいですか？

ドキュメントを読み、音声を聞き、ノートPC上で質問に答える小さなマルチモーダルアシスタントが必要なら、Gemma 4 12Bがそれであり、UserRepGen-4Bとの比較は、関連性があるとは言えないほど差が開いている。ユーザーシミュレーターを構築していて、現在のアプローチが汎用モデルにユーザーを記述させるようプロンプトするものなら、ここでそのためにトレーニングされた唯一のものはUserRepGen-4Bであり、その証拠 — ベンダー報告で、単一ラボによるもので、全体を通じてGPT-5.4 miniが判定した — は、トレーニングがプロンプティングに勝つことを示している。状況を変えるのは、論文、またはMicrosoft外部によるその4.95の独立した評価1件だ。どちらもまだ存在せず、誰かが稼働中のパイプラインをそれで置き換える前に、両方とも待つ価値がある。

このような比較は、故障モードが表面化する場でもあります。the OrcaRouter AI Incident Archiveには、このクラスのモデルにまつわる、記録されたAIインシデントやエージェントの障害が収集されており、各エントリには独自の情報源、深刻度、信頼度グレード、係争中フラグが付いています。