Gemma 4 12B : au cœur du modèle 12B sans encodeur de Google

Gemma 4 12B est le membre de taille intermédiaire de la famille Gemma 4 de DeepMind : un modèle dense à poids ouverts de 11,95 milliards de paramètres qui lit du texte, des images, de l'audio et des images vidéo et produit du texte, et dont la décision d'ingénierie déterminante est qu'il n'embarque aucun encodeur multimodal. Il se situe entre le Gemma 4 E4B, orienté vers la périphérie, et le plus grand et plus clairsemé Gemma 4 26B A4B. La note de lancement présente sa mission comme consistant à apporter le travail multimodal agentique sur un ordinateur portable — raisonnement, utilisation d'outils, codage et compréhension de documents ou d'écrans qui s'exécute sur la machine devant vous plutôt que via une connexion limitée. C'est aussi la taille qui porte toute l'empreinte active de cette famille sur notre propre site : trois pages de comparaison lui sont consacrées, et jusqu'à celle-ci, aucune page ne portait sur le modèle lui-même.

Cette inversion mérite d’être nommée d’emblée, car elle explique la forme de tout ce qui suit. Les lecteurs n’arrivent pas à Gemma 4 12B comme ils arrivent à un modèle phare. Ils arrivent de biais, généralement depuis une page de comparaison, souvent parce que la vraie question est quelle taille de Gemma 4 — et ils veulent savoir ce qu’est réellement le côté gauche de la comparaison avant d’y consacrer un téléchargement. Les recherches que nous mesurons pour ce nom sont très majoritairement comparatives ; le terme seul est peu consistant. Il s’agit donc d’une page de référence : ce qu’est le 12B, ce qu’indique sa fiche modèle, ce qu’il faut pour l’exécuter, ce que sa licence permet, et laquelle des trois comparaisons existantes répond déjà à la question qui vous amène.

Ce n'est pas une histoire de lancement, et cela ne doit pas être lu comme tel. Gemma 4 12Best sorti le 3 juin 2026 — 132 jours avant cette page — et rien dans le modèle n'a changé au cours des sept jours précédant la publication. Cette date provient de la note de version du fournisseur lui-même, et elle est utilisée ici pour situer le modèle dans le temps plutôt que pour l'annoncer.

Ce qu'est le 12B, et en quoi il diffère du 26B A4B

La famille Gemma 4 compte cinq tailles, et il ne s'agit pas de cinq points sur une même ligne. La fiche du modèle les répertorie comme suit : E2B, E4B, 12B Unified, 26B A4B et 31B, et elles se répartissent entre deux architectures : trois modèles denses et un mélange d'experts, les tailles E utilisant des plongements par couche pour réduire ce qui s'exécute réellement sur un appareil.

Gemma 4 12B est un modèle dense. La fiche modèle lui attribue 11,95 B de paramètres totaux répartis sur 48 couches, avec une fenêtre glissante de 1 024 jetons et un contexte de 256 K jetons. Le Gemma 4 26B A4B, en revanche, est le mélange d'experts de la famille : 25,2 B de paramètres totaux, mais seulement 3,8 B actifs par jeton, répartis sur 30 couches avec 8 experts actifs sur 128, plus un expert partagé. Ce « A » est tout l'intérêt du nom — le modèle porte 26 B de poids et n'en paie qu'environ 4 B à chaque passe avant, c'est pourquoi la fiche modèle le décrit comme tournant presque aussi vite qu'un modèle 4B tout en détenant bien plus de connaissances.

Donc, la distinction honnête en une ligne est la suivante. Le 26B A4B est la taille que vous choisissez lorsque vous voulez le maximum de capacités par unité de latence et que vous disposez d’une station de travail ou d’un serveur sur lequel l’installer. Le 12B est la taille que vous choisissez lorsque la machine est un ordinateur portable et que le budget est de 16 Go de mémoire. La note de lancement présente le 12B comme le pont entre le E4B et le 26B A4B, et la fiche technique le confirme.

La différence la plus intéressante est architecturale, et c’est la raison pour laquelle le 12B est étiqueté « Unified » plutôt que simplement « Dense ». Tous les autres modèles multimodaux de la famille font passer les images et l’audio par des encodeurs dédiés avant de confier le résultat au modèle linguistique — la fiche indique un encodeur visuel d’environ 150 M et un encodeur audio d’environ 300 M sur les tailles E, ainsi qu’un encodeur visuel d’environ 550 M sur le 31B comme sur le 26B A4B. Le 12B n’en possède aucun ; la colonne des paramètres des encodeurs visuel et audio du 12B affiche un tiret dans les deux cas.

Ce qui les a remplacés est de petite taille. L’article de lancement décrit la vision comme un module d’embedding léger — une simple multiplication matricielle, plus un embedding positionnel et une normalisation — et l’audio comme la suppression pure et simple de l’encodeur, avec projection du signal brut dans le même espace dimensionnel que les tokens de texte. Les patchs d’image bruts et les formes d’onde audio entrent directement dans un unique transformer de type décodeur uniquement. Le bénéfice annoncé est une latence multimodale réduite et la possibilité de fine-tuner l’ensemble en une seule passe, toutes modalités confondues, avec un seul adaptateur plutôt qu’un par encodeur.

C'est aussi pourquoi le 12B est le premier Gemma de taille moyenne avec une entrée audio native. Sur la fiche, « Texte, Image, Audio » correspond à la ligne des modalités pour E2B, E4B et 12B ; les 31B et 26B A4B sont indiqués « Texte, Image » uniquement.

La spécification, telle que la fiche du modèle l'énonce

Tout ce qui figure dans cette section provient de la fiche modèle Gemma 4 sur ai.google.dev, qui couvre toute la famille plutôt que le 12B seul. Là où la fiche reste muette, cela est signalé plutôt que complété.

• Longueur de contexte — 256K tokens sur le 12B. La fiche précise explicitement la répartition : les petits modèles (E2B, E4B) disposent de 128K, les modèles moyens (12B, 26B A4B, 31B) disposent de 256K.

• Modalité — entrée texte, image et audio ; sortie texte. La fiche répertorie la vidéo comme une capacité de la famille traitée sous forme de séquences d’images, et décrit l’entrée d’image à rapport d’aspect et résolution variables pour toutes les tailles.

• Paramètres totaux — 11,95 Md, dense, 48 couches. La fiche ne donne aucun chiffre sur les paramètres actifs, car il n’y a aucun expert à activer.

• Fenêtre glissante — 1 024 jetons, soit le double des 512 que les E-sizes utilisent.

• Vocabulaire — 262 K, commun aux cinq tailles.

• Attention — une approche hybride qui entrelace une attention locale à fenêtre glissante avec une attention globale complète, la couche finale étant toujours globale. Les couches globales utilisent des clés et des valeurs unifiées ainsi qu’un RoPE proportionnel pour limiter l’empreinte mémoire sur de longs contextes.

• Langues — pré-entraîné sur plus de 140 langues, avec la fiche modèle annonçant une prise en charge prête à l'emploi pour plus de 35 langues.

Deux nombres qu'il vaut la peine de concilier, car ils ressemblent à une contradiction et n'en sont pas une. La fiche du modèle indique 256K tokens ; la page de modèle d'Artificial Analysis pour Gemma 4 12Bindique 262k. Il s'agit du même chiffre écrit de deux façons — 262 144 tokens, c'est 256K — et c'est le chiffre de 262K pour le vocabulaire qui figure juste à côté sur la fiche qui fait paraître ce duo contradictoire au premier coup d'œil.

Sur les benchmarks, la fiche publie un tableau de la famille pour les checkpoints affinés sur instructions, et ce sont des chiffres déclarés par le fournisseur, et non des chiffres indépendants. Pour Gemma 4 12B la fiche indique 77,2 % sur MMLU Pro, 78,8 % sur GPQA Diamond, 77,5 % sur AIME 2026 sans outils, 72,0 % sur LiveCodeBench v6, un ELO Codeforces de 1659, 69,1 % sur MMMU Pro, et 43,4 % sur MRCR v2 à 128K avec huit aiguilles. Le même tableau place Gemma 4 26B A4B à 82,6 % sur MMLU Pro, 88,3 % sur AIME, 77,1 % sur LiveCodeBench et 44,1 % sur MRCR — en tête sur la plupart des lignes, ce à quoi on s'attend de la part du modèle le plus grand, et suffisamment proches sur quelques-unes pour que l'écart de taille ne soit pas toute l'histoire.

La lecture indépendante, d'Artificial Analysis, se résume à un seul titre : un score de 14 à l'Intelligence Index, classé 20e sur 141 modèles de sa classe de comparaison, avec une vitesse de sortie mesurée de 110,9 jetons par seconde et un coût mixte de 0,10 $ par million de jetons d'entrée et de 0,30 $ par million de jetons de sortie. Ces chiffres de coût correspondent à une médiane relevée sur des plateformes tierces qui servent les poids ouverts, et non à un prix catalogue du fournisseur — il vaut la peine d'être précis sur ce point, car le fournisseur ne publie aucun prix par jeton pour le 12B sur la fiche du modèle.

Le faire tourner : ce dont il a réellement besoin

Le post de lancement donne directement l’exigence principale : le 12B est « suffisamment petit pour s’exécuter localement avec seulement 16 Go de VRAM ou de mémoire unifiée. » Les tailles de quantification publiées pour celui-ci rendent cela concret.

• Précision complète — le checkpoint ajusté aux instructions sur Hugging Face est un seul fichier safetensors de 23,92 Go. En bfloat16, il s’agit de l’empreinte brute des poids, avant tout cache KV, donc une machine de 16 Go ne peut pas le contenir et une carte de 24 Go est tout juste suffisante.

• Les propres versions quantifiées du fournisseur — parce que le 12B a été livré avec un entraînement tenant compte de la quantification plutôt qu’avec uniquement un quantificateur a posteriori. Le fournisseur publie un GGUF QAT d’environ 6,98 GB pour les poids, plus un fichier de projection multimodale de 0,18 GB, ainsi qu’une version QAT compressed-tensors (w4a16) de 10,26 GB. Il existe également un checkpoint QAT non quantifié publié spécifiquement comme base à partir de laquelle effectuer l’affinage avant de requantifier.

• GGUF communautaire — la version Unsloth largement relayée s’étend d’environ 4,2 Go pour la quantification 2 bits la plus agressive à 6,38 Go en IQ4_XS, 7,12 Go en Q4_K_M, 8,41 Go en Q5_K_M et 12,67 Go en Q8_0. Le miroir LM Studio publie Q4_K_M à 7,38 Go, Q6_K à 9,79 Go et Q8_0 à 12,67 Go, chacune avec le même fichier de projection de 0,18 Go.

• MLX — une version quantifiée en 8 bits pour Apple silicon pèse environ 12,7 Go répartis sur trois fichiers ; une version communautaire en 4 bits d'un fine-tune dédié au code atteint près de 6,7 Go.

Lus ensemble, cela constitue la réponse pratique à « est-ce que ça passe ». Une version 4 bits de Gemma 4 12B d'environ 7 Go est la version qui fait fonctionner un ordinateur portable de 16 Go, exactement comme le prétend le fabricant. Si vous voulez le modèle non quantifié, la cible est une carte de 24 Go ou plus, et si vous voulez le contexte complet de 256K, il vous faut de la marge au-dessus de l'empreinte des poids pour le cache.

Deux choses que les sources ne vous donnent pas, et que cette page n’inventera pas. Le fournisseur ne publie aucun chiffre de débit pour l’inférence locale — les 110,9 tokens par seconde d’Artificial Analysis sont une mesure hébergée sur une infrastructure tierce, pas un chiffre pour ordinateur portable, et les deux ne sont pas interchangeables. Et il n’existe pas de tableau publié de RAM minimale par quantification ; les tailles ci-dessus sont des tailles de fichier, ce qui constitue un plancher, pas une exigence.

Ce que la fiche de modèle documente, c’est la chaîne d’outils environnante plutôt qu’un runtime unique privilégié : Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM et Unsloth pour l’inférence et le fine-tuning, avec LM Studio, Ollama et LiteRT-LM comme chemins locaux empaquetés, et les poids sur Hugging Face et Kaggle. Le 12B est aussi livré avec des drafters de prédiction multi-token, publiés comme checkpoints assistants séparés — un petit téléchargement supplémentaire qui échange de la mémoire contre de la latence.

Un fait de routage, énoncé sans détour parce que c'est le genre de chose qu'une page de comparaison laisse dans l'ambiguïté : Gemma 4 12B n'est pas un modèle qu'OrcaRouter sert, quelle qu'en soit l'orthographe — ni le nom seul, ni une variante datée, ni une version quantifiée. Les tailles de Gemma 4 que nous routons sont les 26B A4B et 31B. Donc si vous voulez appeler ce modèle, l'auto-hébergement des poids ou un hôte tiers qui les sert est la voie ; si vous préférez ne pas l'exécuter vous-même, la prochaine étape honnête est de vérifier si une autre taille de la famille vous apporte ce dont vous aviez besoin.

La licence, pour cette taille en particulier

La fiche modèle de Gemma 4 déclare une licence Apache 2.0 et renvoie à la page de licence de Gemma 4, qui sert le texte Apache 2.0 — la licence Apache standard, sans plafond d'utilisation, sans seuil d'utilisateurs actifs mensuels et sans palier commercial distinct. Le dépôt Hugging Face du checkpoint 12B affiné sur instructions porte la même déclaration dans ses métadonnées et pointe vers la même URL de licence. Donc, pour cette taille, la question de la licence appelle une réponse courte : utilisez-le, modifiez-le, redistribuez-le, à des fins commerciales ou autres, selon les termes de la licence Apache 2.0.

Deux documents annexes l'accompagnent, qu'il vaut mieux connaître que confondre avec la licence. Le fournisseur publie une page de conditions d'utilisation Gemma et une politique d'utilisation interdite Gemma. La politique d'utilisation interdite est un document comportemental qui énumère les catégories de résultats que les modèles ne doivent pas être utilisés pour générer. C'est une politique, et non une restriction de licence portant sur les poids — les poids eux-mêmes sont sous Apache 2.0, ce qui est précisément ce qui rend possibles les dérivés communautaires de ce modèle. Si vous redistribuez Gemma 4 12B ou un fine-tune de celui-ci, c'est la licence qui régit votre redistribution ; c'est la politique qui régit l'usage acceptable.

Cette distinction répond à la question que soulève l’écosystème communautaire de dérivés, sans qu’il soit besoin de caractériser le comportement de quiconque. Parce que les poids sont ouverts sous une licence permissive, des tiers peuvent publier — et publient — des affinages et des quantifications du 12B : variantes abliterated, affinages spécifiques à un domaine, recettes de quantification alternatives. Ce que la licence permet, c’est la redistribution de ces dérivés ; la licence est aussi la raison de leur existence.

Les trois comparaisons derrière lesquelles se trouve cette page

Les trois pages actives sous cette racine sont des confrontations, et chacune répond déjà à une question différente. Cette page n’arbitre aucune d’entre elles — elle est la chose qu’elles décrivent.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — tranche ce qui se passe lorsque les deux options proviennent du fournisseur et que l'axe est votre mode de paiement : un modèle que vous téléchargez sous Apache 2.0 face au palier facturé le moins cher de l'API hébergée.

• Gemma 4 12B vs GLM 5.2 — tranche la comparaison extrêmement asymétrique : un 12B sans encodeur que l'on fait tourner sur un ordinateur portable face à un mélange d'experts à poids ouverts de 744 milliards de paramètres, conçu pour le codage agentique à long horizon, pour un prix plusieurs fois plus élevé.

• Gemma 4 12B vs Qwen3.8 Max — tranche directement la question du modèle local contre la location : une machine sur votre bureau face au modèle phare du même laboratoire servi au token.

Si ce que vous voulez réellement, c'est l'une des autres tailles de Gemma 4 plutôt qu'un nouveau duel face au 12B, la page qui couvre les cinq d'un seul coup est le hub de la famille, où les E2B, E4B, 26B A4B et 31B sont présentés ensemble. Et si vous avez déjà tranché : le 12B n'est pas la bonne taille, sachez que les modèles auxquels il est le plus souvent comparé — GLM 5.2, Qwen3.8 Max et Gemini 3.5 Flash-Lite — sont tous accessibles via OrcaRouter avec une seule clé, avec 0 % de marge sur le prix catalogue du fournisseur, de sorte qu'une baisse de prix du fournisseur arrive ici le jour même de son annonce.

Qu'est-ce qui n'est pas réglé ?

Deux lacunes méritent d’être signalées plutôt que dissimulées. Le tableau de benchmarks ci-dessus est rapporté par le fournisseur — sa propre fiche et sa configuration d’évaluation — et bien qu’Artificial Analysis ait depuis évalué le modèle indépendamment avec un Intelligence Index de 14, il n’existe pas de réplication indépendante à grande échelle des chiffres par benchmark ; il faut donc considérer les chiffres ligne par ligne comme des affirmations. Et il n’existe aucun tableau publié de mémoire par quantification pour le 12B, ce qui signifie que la phrase « 16 Go suffisent » est une affirmation du fournisseur, étayée par des tailles de fichiers, et non une configuration mesurée que vous pouvez copier.

Le modèle lui-même est facile à situer : un modèle multimodal Apache 2.0, sans encodeur, à 12 milliards de paramètres, daté du 3 juin 2026, qui tournera sur un ordinateur portable en 4 bits et qui est la plus petite taille de Gemma 4 avec audio natif. Ce qu’il n’est pas, c’est un modèle avec un tarif d’hébergement first-party, ce qui explique pourquoi la décision pratique le concernant est d’abord une décision matérielle, puis une décision de prix.

Si vous êtes arrivé ici depuis une comparaison et que cette comparaison n’est pas celle dont vous aviez besoin, la page suivante est le comparatif qui correspond à votre question, et à défaut, la famille Gemma 4 dans son ensemble — le 12B est l’une des cinq tailles, et la taille qu’il vous faut réellement est peut-être le 26B A4B que vous pouvez appeler dès aujourd’hui, ou le 31B que vous pouvez exécuter au sommet de la gamme de la famille.