Una tarjeta de título que dice 'Gemma 4 12B' con el subtítulo 'El 12B sin codificador, explicado', sobre tres etiquetas tipo píldora redondeadas que dicen 'denso de 11.95B', 'contexto de 256K' y 'texto + imagen + audio'. Fondo blanco limpio con suaves acentos de degradado azul y cian e iconos de línea planos y minimalistas. El logotipo de OrcaRouter está compuesto en la esquina inferior derecha.
Guides & Insights

Gemma 4 12B: Dentro del modelo 12B sin codificador de Google

Autor

Gideon Frost

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Gemma 4 12B es el miembro de tamaño medio de la familia Gemma 4 de DeepMind: un modelo denso de pesos abiertos con 11,95 mil millones de parámetros que lee texto, imágenes, audio y fotogramas de vídeo y escribe texto, y cuya decisión de ingeniería definitoria es que no incorpora ningún codificador multimodal en absoluto. Se sitúa entre el Gemma 4 E4B enfocado en el edge y el más grande y disperso Gemma 4 26B A4B. La nota de lanzamiento presenta su cometido como llevar el trabajo multimodal agéntico a un portátil —razonamiento, uso de herramientas, programación y comprensión de documentos o pantallas que se ejecuta en la máquina que tienes delante en lugar de a través de una conexión medida. También es el tamaño que concentra toda la presencia activa de esta familia en nuestro propio sitio: se han escrito tres páginas comparativas sobre él y, hasta esta, no existía ninguna página sobre el modelo en sí.

Esa inversión merece ser nombrada desde el principio, porque explica la forma de todo lo que sigue. Los lectores no llegan a Gemma 4 12B como llegan a un buque insignia. Llegan de lado, normalmente desde una página de comparación, a menudo porque la verdadera pregunta es qué tamaño de Gemma 4 — y quieren saber qué es en realidad el lado izquierdo de la comparación antes de gastar una descarga en él. Las búsquedas que medimos para este nombre son abrumadoramente comparativas; el término sin más, por sí solo, es escaso. Así que esta es una página de referencia: qué es el 12B, qué indica su ficha de modelo, qué se necesita para ejecutarlo, qué permite su licencia y cuál de las tres comparaciones existentes ya resuelve la pregunta con la que llegaste.

No es una historia de lanzamiento, y no debería leerse como tal. Gemma 4 12Bse lanzó el 3 de junio de 2026 —132 días antes de esta página— y nada del modelo cambió en los siete días previos a la publicación. Esa fecha proviene de la propia nota de lanzamiento del proveedor, y aquí se usa para situar el modelo en el tiempo, no para anunciarlo.

Qué es el 12B y en qué se diferencia del 26B A4B

La familia Gemma 4 tiene cinco tamaños, y no son cinco puntos en una misma línea. La ficha del modelo los enumera como E2B, E4B, 12B Unified, 26B A4B y 31B, y se dividen en dos arquitecturas: tres modelos densos y una mezcla de expertos, y los tamaños E utilizan embeddings por capa para reducir lo que realmente se ejecuta en un dispositivo.

Gemma 4 12B es un modelo denso. La ficha del modelo le asigna 11,95B de parámetros totales en 48 capas, con una ventana deslizante de 1.024 tokens y un contexto de 256K tokens. El Gemma 4 26B A4B, en cambio, es el modelo de mezcla de expertos de la familia: 25,2B de parámetros totales pero solo 3,8B activos por token, repartidos en 30 capas con 8 expertos activos de 128 más un experto compartido. Esa "A" es el quid del nombre: el modelo carga 26B de pesos y paga aproximadamente 4B de ellos en cada pasada hacia adelante, y por eso la ficha del modelo lo describe como capaz de ejecutarse casi tan rápido como un modelo de 4B mientras conserva mucho más conocimiento.

Así que la distinción honesta en una sola línea es esta. El 26B A4B es el tamaño que eliges cuando quieres la mayor capacidad por unidad de latencia y tienes una estación de trabajo o un servidor donde ponerlo. El 12B es el tamaño que eliges cuando la máquina es un portátil y el presupuesto es de 16 GB de memoria. La nota de lanzamiento presenta el 12B como el puente entre el E4B y el 26B A4B, y la hoja de especificaciones lo confirma.

A two-column scoreboard titled 'Gemma 4 12B — the scoreboard'. The left column, 'Gemma 4 12B', lists: total parameters 11.95B dense; active per token 11.95B (no experts); context 256K tokens; input text, image, audio; multimodal encoders none; 4-bit download about 7 GB. The right column, 'Gemma 4 26B A4B', lists: total parameters 25.2B MoE; active per token 3.8B; context 256K tokens; input text, image; multimodal encoders about 550M vision; 4-bit download larger than 12B. A footer reads 'Figures per the Gemma 4 model card, Google DeepMind; 4-bit sizes are community GGUF file sizes, not requirements.' The OrcaRouter logo is composited in the bottom-right corner.

La diferencia más interesante es arquitectónica, y es la razón por la que el 12B lleva la etiqueta "Unified" en lugar de solo "Dense". Todos los demás modelos multimodales de la familia encaminan las imágenes y el audio a través de codificadores dedicados antes de entregar el resultado al modelo de lenguaje; la ficha enumera un codificador de visión de ~150M y un codificador de audio de ~300M en los tamaños E, y un codificador de visión de ~550M tanto en el 31B como en el 26B A4B. El 12B no tiene ninguno de los dos; la columna de parámetros de los codificadores de visión y audio del 12B aparece como un guion en ambos casos.

Lo que los reemplazó es pequeño. La publicación de lanzamiento describe la visión como un módulo de embedding ligero —una única multiplicación de matrices más embedding posicional y normalización— y el audio como eliminar por completo el codificador y proyectar la señal cruda en el mismo espacio dimensional que los tokens de texto. Los parches de imagen crudos y las formas de onda de audio entran directamente en un único transformer solo decodificador. El beneficio declarado es una menor latencia multimodal y la capacidad de ajustar finamente todo el conjunto en una sola pasada, a través de las modalidades, con un único adaptador en lugar de uno por codificador.

Por eso también el 12B es el primer Gemma de tamaño mediano con entrada de audio nativa. En la ficha, "Texto, Imagen, Audio" es la fila de modalidades para E2B, E4B y 12B; el 31B y el 26B A4B solo están marcados como "Texto, Imagen".

La especificación, tal como la indica la tarjeta del modelo

Todo en esta sección proviene de la tarjeta del modelo Gemma 4 en ai.google.dev, que abarca toda la familia y no solo el 12B. Cuando la tarjeta no menciona algo, se indica en lugar de completarlo.

A screenshot of the specification table on Google's Gemma 4 model card at ai.google.dev, showing the family's published rows — context length, modality, total parameters, sliding window and vocabulary — broken out by size, with the 12B Unified column sitting between the E4B and the 26B A4B.

• Longitud de contexto — 256K tokens en el 12B. La ficha señala la división explícitamente: los modelos pequeños (E2B, E4B) obtienen 128K, los modelos medianos (12B, 26B A4B, 31B) obtienen 256K.

• Modalidad — entrada de texto, imagen y audio; salida de texto. La tarjeta enumera video como una capacidad de la familia procesada como secuencias de fotogramas, y describe la entrada de imagen con relación de aspecto y resolución variables en todos los tamaños.

• Parámetros totales — 11,95B, denso, 48 capas. La tarjeta no da ninguna cifra de parámetros activos porque no hay expertos que activar.

• Ventana deslizante — 1,024 tokens, el doble de los 512 que usan los E-sizes.

• Vocabulario — 262K, compartido entre los cinco tamaños.

• Atención — un híbrido que intercala atención local de ventana deslizante con atención global completa, con la capa final siempre global. Las capas globales utilizan claves y valores unificados más RoPE proporcional para contener la memoria en contextos largos.

• Idiomas — preentrenado en más de 140 idiomas, con la tarjeta indicando soporte inmediato para más de 35.

Dos cifras que conviene conciliar, porque parecen una discrepancia y no lo son. La ficha del modelo dice 256K tokens; la página del modelo de Artificial Analysis para Gemma 4 12Bdice 262k. Son la misma cifra escrita de dos maneras —262.144 tokens son 256K—, y la cifra de vocabulario de 262K de la ficha, que aparece justo al lado, es lo que hace que el par parezca contradictorio a primera vista.

En los benchmarks, la ficha publica una tabla de la familia para los checkpoints ajustados con instrucciones, y son cifras reportadas por el fabricante, no independientes. Para Gemma 4 12B la ficha indica 77,2 % en MMLU Pro, 78,8 % en GPQA Diamond, 77,5 % en AIME 2026 sin herramientas, 72,0 % en LiveCodeBench v6, un ELO de 1659 en Codeforces, 69,1 % en MMMU Pro y 43,4 % en MRCR v2 a 128K con ocho agujas. La misma tabla sitúa a Gemma 4 26B A4B con un 82,6 % en MMLU Pro, 88,3 % en AIME, 77,1 % en LiveCodeBench y 44,1 % en MRCR —por delante en la mayoría de las filas, que es lo que cabría esperar del modelo más grande, y lo bastante cerca en unas cuantas como para que la diferencia de tamaño no lo explique todo.

La lectura independiente, de Artificial Analysis, es un único titular: una puntuación de 14 en el Intelligence Index, en el puesto 20 de 141 modelos de su clase de comparación, con una velocidad de salida medida de 110,9 tokens por segundo y un coste combinado de 0,10 $ por millón de tokens de entrada y 0,30 $ por millón de salida. Esas cifras de coste son una mediana entre plataformas de terceros que sirven los pesos abiertos, no un precio de lista del proveedor; conviene ser preciso en esto, porque el proveedor no publica ningún precio por token para el 12B en la ficha del modelo.

Ejecutarlo: lo que realmente necesita

La publicación de lanzamiento indica directamente el requisito principal: el 12B es «lo suficientemente pequeño como para ejecutarse localmente con solo 16 GB de VRAM o memoria unificada». Los tamaños de cuantización publicados para él lo concretan.

An infographic titled 'Gemma 4 12B — what fits where' showing four cards in a row: 23.9 GB for BF16 full precision, needing a 24GB card or more; 7.0 GB for Google's QAT GGUF weights plus a 0.18 GB projector; 7.1 GB for a community GGUF Q4_K_M build, described as the 16GB laptop version; and 12.7 GB for a community GGUF Q8_0 or MLX 8-bit build. A centered line below reads 'Google: small enough to run locally with just 16GB of VRAM or unified memory.' A footer reads 'Sizes are published file sizes, not memory requirements; the local-run line is Google's own claim.' The OrcaRouter logo is composited in the bottom-right corner.

• Precisión completa — el checkpoint ajustado por instrucciones en Hugging Face es un único archivo safetensors de 23.92 GB. En bfloat16, esa es la huella de pesos en bruto, antes de cualquier KV cache, por lo que una máquina de 16 GB no puede contenerlo y una tarjeta de 24 GB va justa.

• Las propias compilaciones cuantizadas del proveedor — porque el 12B se entregó con entrenamiento consciente de cuantización en lugar de solo un cuantizador post-hoc. El proveedor publica un QAT GGUF de aproximadamente 6,98 GB para los pesos más un archivo de proyección multimodal de 0,18 GB, y una compilación QAT de compressed-tensors (w4a16) de 10,26 GB. También hay un punto de control QAT no cuantizado publicado específicamente como base para ajustar antes de recuantizar.

• GGUF de la comunidad — la compilación de Unsloth, ampliamente replicada, va desde aproximadamente 4,2 GB en el modo de 2 bits más agresivo hasta 6,38 GB en IQ4_XS, 7,12 GB en Q4_K_M, 8,41 GB en Q5_K_M y 12,67 GB en Q8_0. El espejo de LM Studio publica Q4_K_M con 7,38 GB, Q6_K con 9,79 GB y Q8_0 con 12,67 GB, cada uno con el mismo archivo de proyección de 0,18 GB.

• MLX — una compilación cuantizada de 8 bits para Apple silicon ocupa alrededor de 12,7 GB repartidos en tres archivos; una compilación comunitaria de 4 bits de un ajuste fino para programación ronda los 6,7 GB.

Leído en conjunto, esa es la respuesta práctica a «¿esto cabrá?». Una compilación de 4 bits de Gemma 4 12B de alrededor de 7 GB es la versión que hace que una laptop de 16 GB funcione, exactamente como afirma el fabricante. Si quieres el modelo sin cuantizar, el objetivo es una tarjeta de 24 GB o más, y si quieres el contexto completo de 256K necesitas margen adicional sobre el espacio que ocupan los pesos para la caché.

Dos cosas que las fuentes no te dan, y que esta página no va a inventar. No hay ninguna cifra de rendimiento publicada por el proveedor para la inferencia local: los 110,9 tokens por segundo de Artificial Analysis son una medición en un servicio alojado sobre infraestructura de terceros, no una cifra de portátil, y las dos no son intercambiables. Y no hay ninguna tabla publicada de RAM mínima por cuantización; los tamaños anteriores son tamaños de archivo, lo cual es un mínimo, no un requisito.

Lo que sí documenta la model card es la cadena de herramientas que lo rodea, más que cualquier runtime único y avalado: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM y Unsloth para inferencia y ajuste fino, con LM Studio, Ollama y LiteRT-LM como las rutas locales empaquetadas, y los pesos en Hugging Face y Kaggle. El 12B también se distribuye con modelos de borrador de predicción multitoken, publicados como checkpoints de asistente separados —una pequeña descarga adicional que intercambia memoria por latencia.

Un dato de enrutamiento, dicho sin rodeos porque es el tipo de cosa que una página de comparación deja ambigua: Gemma 4 12B no es un modelo que OrcaRouter sirva, con ninguna grafía — ni el nombre a secas, ni una variante con fecha, ni una cuantizada. Los tamaños de Gemma 4 que sí enrutamos son el 26B A4B y el 31B. Así que, si quieres llamar a este modelo, el autoalojamiento de los pesos o un host de terceros que los sirva es la vía; si prefieres no ejecutarlo tú mismo, el siguiente paso honesto es comprobar si un tamaño distinto de la familia te da lo que necesitabas.

La licencia, específicamente para este tamaño

La tarjeta del modelo Gemma 4 indica que la licencia es Apache 2.0 y enlaza a la página de licencia de Gemma 4, que sirve el texto de Apache 2.0 — la licencia Apache estándar, sin límites de uso, sin umbral de usuarios activos mensuales y sin un nivel comercial separado. El repositorio de Hugging Face para el checkpoint ajustado para instrucciones de 12B lleva la misma declaración en sus metadatos y apunta a la misma URL de licencia. Así que para este tamaño, la pregunta sobre la licencia tiene una respuesta corta: úsala, modifícala, redistribúyela, comercialmente o de otro modo, bajo los términos de Apache 2.0.

Existen además dos documentos complementarios que conviene conocer en lugar de confundirlos con la licencia. El proveedor publica una página de Términos de uso de Gemma y una Política de usos prohibidos de Gemma. La política de usos prohibidos es un documento de comportamiento que enumera categorías de resultados que los modelos no deben generar. Es una política, no una restricción de licencia sobre los pesos: los pesos en sí son Apache 2.0, que es lo que hace posibles las derivaciones comunitarias de este modelo. Si vas a redistribuir Gemma 4 12B o un ajuste fino del mismo, la licencia es lo que rige tu redistribución; la política es lo que rige el uso aceptable.

Esa distinción responde a la pregunta que plantea el ecosistema de derivados de la comunidad, sin necesidad de caracterizar la conducta de nadie. Como los pesos son abiertos bajo una licencia permisiva, terceros pueden y de hecho publican ajustes finos y cuantizaciones del 12B —variantes abliteradas, ajustes finos de dominio, recetas de cuantización alternativas. Lo que la licencia permite es la redistribución de esos derivados; la licencia también es la razón por la que existen.

Las tres comparaciones en las que se basa esta página

Las tres páginas activas bajo este stem son emparejamientos, y cada una ya responde a una pregunta distinta. Esta página no arbitra ninguno de ellos — es aquello que describen.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — resuelve qué sucede cuando ambas opciones son del mismo proveedor y el eje es cómo pagas: un modelo que descargas bajo Apache 2.0 frente al peldaño de pago por uso más económico de la API alojada.

• Gemma 4 12B vs GLM 5.2 — zanja el emparejamiento salvajemente asimétrico: un 12B sin encoder que pones a funcionar en un portátil frente a una mezcla de expertos de pesos abiertos de 744B de parámetros, construida para codificación agéntica de horizonte largo a un múltiplo grande del precio.

• Gemma 4 12B vs Qwen3.8 Max — resuelve directamente la disyuntiva entre local y alquilado: una máquina en tu escritorio frente al buque insignia del mismo laboratorio servido por token.

Si lo que realmente quieres es uno de los otros tamaños de Gemma 4 en lugar de otra comparativa con el 12B, la página que cubre los cinco a la vez es el hub de la familia, que es donde se describen juntos el E2B, el E4B, el 26B A4B y el 31B. Y si ya has decidido que el 12B no es el tamaño adecuado, los modelos con los que más se lo compara —GLM 5.2, Qwen3.8 Max y Gemini 3.5 Flash-Lite— son todos accesibles a través de OrcaRouter con una sola clave, con un 0 % de recargo sobre el precio de lista del propio proveedor, así que una rebaja de precio del proveedor llega aquí el mismo día en que se anuncia.

Lo que no está resuelto

Hay dos lagunas que vale la pena señalar en lugar de tapar. La tabla de benchmark anterior está reportada por el proveedor —la propia ficha del proveedor y su configuración de evaluación— y, aunque Artificial Analysis posteriormente ha puntuado el modelo de forma independiente con un Intelligence Index de 14, no existe una replicación independiente amplia de las cifras por benchmark, así que considera los números a nivel de fila como afirmaciones. Y no hay una tabla de memoria por cuantización publicada para el 12B, lo que significa que la frase "16GB es suficiente" es una afirmación del proveedor con tamaños de archivo que la respaldan, no una configuración medida que puedas copiar.

El modelo en sí es fácil de situar: un modelo multimodal de 12.000 millones de parámetros, sin encoder y con licencia Apache 2.0, fechado el 3 de junio de 2026, que funcionará en un portátil a 4 bits y es el tamaño más pequeño de Gemma 4 con audio nativo. Lo que no es es un modelo con una tarifa de alojamiento de primera parte, que es la razón por la que la decisión práctica en torno a él es una decisión de hardware primero y una decisión de precio después.

Si has llegado aquí desde una comparativa y la comparativa no es la que necesitabas, la página siguiente es la comparación que coincide con tu pregunta y, si no, la familia Gemma 4 más amplia —el 12B es uno de los cinco tamaños, y puede que el tamaño que realmente quieres sea el 26B A4B que puedes invocar hoy o el 31B que puedes ejecutar en el extremo superior de la gama de la familia.