Tarjeta de título principal con el texto «WeMM-Video-9B: por qué sus compilaciones de 4 bits siguen ocupando 13 GiB», con el subtítulo «Tencent publicó diecinueve repositorios WeMM-Video el 17 de noviembre de 2026 sin una publicación de lanzamiento», con cuatro filas de chips de memoria: BF16 base con 19.54 GiB repartidos en cinco fragmentos, FP8 Block128 con 13.10 GiB, AWQ W4A16 con 12.86 GiB y NVFP4 W4A16 con 13.07 GiB, una línea resaltada que dice 0.42 GiB entre las cuatro compilaciones comprimidas, y un pie de página que indica que los tamaños se miden a partir del listado de archivos de cada repositorio de Hugging Face y son datos reportados por el proveedor, sin verificación independiente.
Engineering & Research

WeMM-Video-9B: Por qué sus compilaciones de 4 bits siguen siendo de 13 GiB

Autor

jinhao.song

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Una cuantización de cuatro bits debería quedar en aproximadamente una cuarta parte del archivo de pesos del que proviene. WeMM-Video-9B tiene 19,54 GiB en BF16, y su compilación AWQ W4A16 es de 12,86 GiB. Eso es una reducción del 34 %, no del 75 %; y las compilaciones FP8, AWQ, NVFP4 y GGUF quedan todas dentro de un margen de 0,42 GiB entre sí, así que elegir entre ellas no te aporta prácticamente ningún ahorro de memoria. Los propios manifiestos de los exportadores explican por qué: los flujos de 4 bits comprimen solo las matrices densas de avance (feed-forward) —4.830 millones de parámetros de 10.490 millones—, mientras que la torre de visión, la torre de audio, el embedding, la cabeza de salida y los pesos de atención conservan su precisión original, y 5.700 millones de parámetros a dos bytes cada uno establecen un límite inferior por debajo del cual no puede situarse ninguna receta W4. T​encent publicó los pesos, las recetas de cuantización y un informe técnico de 12 autores del 17 al 19 de noviembre sin una publicación de lanzamiento, y la parte que nadie ha documentado todavía es la aritmética, que además resulta ser la que decide si este modelo cabe en la GPU que ya tienes. Según las propias tablas de T​encent, supera a Qwen3-Omni-30B-A3B-Instruct en 35 de las 37 cifras audiovisuales conjuntas que ambos comparten; en cuanto a si sus compilaciones de cuatro bits son seguras para desplegar, la evidencia es más limitada de lo que sugieren diecinueve repositorios.

Una pila de 10,49B con una etiqueta de 9B

El repositorio tencent/WeMM-Video-9B se creó a las 08:55:54 UTC del 17 de noviembre de 2026, catorce segundos después de su variante AWQ y once minutos después del buque insignia 35B-A3B. Existen diecinueve repositorios WeMM-Video bajo la organización Tencent, todos creados dentro de una ventana de cinco minutos esa mañana, lo que es la firma de un script de carga en lugar de una persona publicando un modelo a la vez. El proyecto de GitHub Tencent/WeMM-Video se creó seis horas antes, a las 02:29 UTC; su commit inicial sustancial se registró el 19 de noviembre, y las revisiones del README seguían llegando el 20 de noviembre. El artículo, arXiv 2611.26409, se envió a las 16:58 UTC del 19 de noviembre.

Screenshot of the Hugging Face model page for tencent/WeMM-Video-9B, showing the model card, the file listing and the repository tab bar for a repository created on 17 November 2026 with no launch announcement linked from it.

Nada de eso se anunció. No pudimos encontrar una entrada de blog de T​encent, una página de lanzamiento de WeChat Vision, un comunicado de prensa ni un nivel de pago que apuntara a la familia. En el momento de escribir esto, los diecinueve repositorios mostraban cero descargas y, entre todos, tres «me gusta». Artificial Analysis no incluye ningún modelo WeMM. Ninguno de esos hechos dice nada sobre la calidad: indican que se omitió el paso de distribución.

El "9B" del nombre es la columna vertebral lingüística, no el checkpoint. Hugging Face registra 10.488.603.384 parámetros en 1.305 tensores, y al leer por nombre los cinco fragmentos de safetensors, estos se reparten en cuatro montones:

• Modelo de lenguaje — 7,94 mil millones de parámetros, incluida una incrustación de tokens de 1,02 mil millones.

• Cabeza de salida — 1.02B de parámetros. Los embeddings no están vinculados, por lo que esta es una segunda copia completa del vocabulario de 248,320 tokens con 4,096 dimensiones ocultas.

• Torre de audio — 1,08 mil millones de parámetros. Un codificador y un decodificador al estilo Whisper, de 32 capas cada uno con una anchura de 1.280, que alimentan a un Q-Former de dos capas que comprime ventanas de 0,1 segundos en 10 tokens de audio por segundo.

• Torre de visión — 0,46B parámetros. 27 bloques con tamaño oculto 1.152, tamaño de parche 16, fusión espacial 2, parche temporal 2.

Así que aproximadamente una quinta parte del archivo son oídos y ojos. El artículo es explícito sobre la procedencia: los densos 2B, 4B y 9B se basan en Qwen3.5-2B, Qwen3.5-4B y Qwen3.5-9B; el modelo de mezcla de expertos, en Qwen3.6-35B-A3B; los codificadores de audio se inicializan a partir de Qwen2.5-Omni, y los codificadores visuales nativos se conservan en lugar de sustituirse y se congelan desde la segunda etapa de preentrenamiento en adelante porque "ya proporcionan representaciones visuales suficientemente sólidas".

La red troncal en sí es híbrida: 32 capas, tamaño oculto de 4.096, 16 cabezas de atención frente a 4 cabezas de clave-valor con dimensión de cabeza 256, con una capa de atención completa después de cada tres capas de atención lineal y una caché SSM en float32 —por lo que cada comando de servicio del repositorio lleva una opción mamba-ssm-cache-dtype float32 de tipo flag. Los embeddings de posición se declaran en 262.144 tokens; las secciones de RoPE multimodal intercaladas son 11/11/10. La licencia es Apache 2.0 con una excepción para terceros que no se detalla en la tarjeta del modelo.

Cuatro compilaciones, cuatro tamaños casi idénticos.

Aquí está toda la escala de cuantización, medida a partir del propio listado de archivos de cada repositorio en lugar de una cifra redondeada en una tarjeta:

• BF16 base — 19,54 GiB en cinco fragmentos.

• FP8 Block128 — 13,10 GiB, un solo archivo. Requiere una GPU compatible con FP8 y vLLM 0.18.0 parcheado.

• AWQ W4A16 — 12.86 GiB, INT4 de grupo 128 en formato compressed-tensors. vLLM 0.18.0 parcheado.

• NVFP4 W4A16 — 13,07 GiB, precisión mixta de ModelOpt 0.45.0 con tamaño de grupo 16. vLLM 0.31.0 parcheado con Marlin, configuración de referencia SM120.

• GGUF Q4_K_M — 13,28 GiB como un paquete de tres archivos: 10,41 GiB de lenguaje, 2,01 GiB de audio, 0,86 GiB de proyector de visión.

Generated single-column scoreboard titled 'WeMM-Video-9B — the scoreboard' with six memory-chip rows: BF16 base 19.54 GiB across five shards, FP8 Block128 13.10 GiB, AWQ W4A16 12.86 GiB, NVFP4 W4A16 13.07 GiB, GGUF Q4_K_M 13.28 GiB, and a spread of 0.42 GiB across the four compressed builds, with a footer stating the sizes are measured from each Hugging Face repository's file listing and are vendor-reported with no independent verification.

La diferencia entre esas cuatro compilaciones comprimidas es de 0,42 GiB, que es menor que el margen que dejarías para una actualización de controlador. Si estuvieras eligiendo entre ellas para que quepan en una tarjeta, estás eligiendo la variable equivocada: elige según qué GPU tienes y qué entorno de ejecución puedes parchear, porque la diferencia de memoria no está ahí.

La expectativa ingenua —un cuarto de 19,54 GiB, es decir, unos 4,9 GiB— se equivoca por un factor de dos y medio. Incluso el margen frente a BF16 es modesto: los 6,68 GiB que ahorra AWQ, que es un 34 % real, pero nada parecido al "cuatro veces más pequeño" que implica una etiqueta W4.

Qué protegen los exportadores y por qué

Tanto los manifiestos AWQ como GGUF indican exactamente qué tensores se les permitió tocar, y la respuesta explica el estancamiento del tamaño.

• Solo se cuantizan las matrices densas de avance directo. El manifiesto de AWQ registra 96 matrices de lenguaje cuantizadas — tres por capa en las 32 capas, cada una de 4096 × 12288. Eso supone 4,83 mil millones de parámetros de un total de 10,49 mil millones, es decir, el 46 % del checkpoint. Todo lo demás mantiene su precisión.

• La ruta de atención se restaura a BF16. El manifiesto AWQ contiene un bloque attention_restoration que enumera 152 matrices de proyección de atención y 32 normas de entrada copiadas de vuelta desde el checkpoint de origen con sus hashes SHA-256. El archivo de alcance GGUF informa el mismo recuento — protected_attention_BF16: 152 — y añade que los tensores de embedding y de salida son los únicos otros dos elementos protegidos.

• El frontend y ambas torres multimedia nunca entran en el cuantizador. En el manifiesto AWQ se enumeran 881 tensores como tensores protegidos del frontend, del embedding y de la cabeza: 333 de la torre visual, 545 de la torre de audio, el embedding de tokens, la cabeza de salida desvinculada y la normalización final. En BF16, eso supone unos 3,57 mil millones de parámetros, o 7,1 GB de los 21,0 GB del archivo, que quedan completamente fuera del paso de compresión.

La consecuencia es el número que realmente necesita un plan de despliegue: asigna 13–13,5 GiB de VRAM para los pesos, sea cual sea la compilación que elijas, y luego añade la caché KV y la caché SSM float32 por encima. Un «9B de 4 bits» que necesita 13 GiB de pesos no es un problema del modelo —solo el vocabulario son 248.320 tokens incrustados dos veces, y la torre de audio es un Whisper de 1,08B parámetros situado en medio—, pero es la diferencia entre caber en una tarjeta de 16 GB con espacio para trabajar y no caber en absoluto.

Validado para cargar, no validado para ser igual

Cada tarjeta de cuantización de esta familia informa de una prueba de humo, y cada manifiesto informa de algo más contundente. Lee ambos en paralelo, porque la brecha entre ellos es todo el riesgo de usar una compilación comprimida.

• FP8 Block128 — tarjeta: la vLLM parcheada lo cargó en una H20 y completó las comprobaciones de generación de texto, imagen, audio y vídeo con audio, y una auditoría de precisión en tiempo de ejecución confirmó la ruta W8A8. Manifiesto: estado quantized_and_independently_reloaded_native_inference_pending, con native_inference_validated: false y native_low_precision_gemm_validated: false registrados como indicadores separados.

• AWQ W4A16 — tarjeta: la vLLM parcheada lo cargó en un H20, completó las mismas cuatro comprobaciones y la auditoría de precisión confirmó pesos feed-forward INT4 frente a atención BF16. Manifiesto: estado quantized_unvalidated, con una diagnostic_variant que nombra una compilación de referencia con atención BF16 junto a la de INT4.

• NVFP4 W4A16 — tarjeta: vLLM 0.31.0 parcheado se cargó y ejecutó «los pesos de referencia del PRO 5000» y superó cinco comprobaciones de generación, incluido vídeo silencioso. Manifiesto: las mismas tres afirmaciones se registran como indicadores y cada una de ellas figura como falsa — native_FP4_GEMM_validated, PRO5000_inference_validated, vllm_validated — con un estado de cpu_NVFP4_weight_artifact_independently_reread. Lo que el manifiesto sí certifica es una comprobación numérica: 96 matrices y 4.831.838.208 elementos descuantizados de forma independiente, RMSE relativo medio de 0,095 frente a un límite de 0,35, con 1.209 tensores protegidos confirmados como exactos bit a bit. Ese recuento de elementos es el mismo 4,83 mil millones que indica la declaración de alcance, que es como se sabe que la aritmética de este artículo y la del exportador coinciden.

• GGUF Q4_K_M — tarjeta: el entorno de ejecución nativo de CPU cargó el paquete y generó salida de texto, imagen, audio y video. Estado del manifiesto exported_unvalidated; estado del alcance quantized_candidate_not_validated.

«Cargó y generó» es un resultado real y vale la pena tenerlo: muchos checkpoints multimodales cuantizados fallan exactamente en ese paso. No es el resultado que decide un despliegue, porque ninguna de estas tarjetas reporta una sola cifra de precisión para la versión comprimida frente a su propia fuente BF16. No hay un delta medido en MMAU, en Video-MME ni en el WER de transcripción. La única afirmación sobre precisión que se hace en cualquier parte es estructural, de la auditoría de AWQ: INT4 en el feed-forward, BF16 en la atención. Eso describe el archivo. No te dice cuánto costó la compresión, y en un modelo cuyo margen sobre Qwen3-Omni-30B-A3B-Instruct en Video-MME con audio es de 7,8 puntos, el tamaño de ese costo no es una cuestión de redondeo.

Así que la regla práctica para esta familia es volver a ejecutar un benchmark que te importe en la compilación exacta que tienes previsto lanzar, frente a la base BF16, antes de confiar en una tabla del artículo. Son unas pocas horas de trabajo y es la única forma de saber si el feed-forward INT4 se puede introducir sin alterar los resultados de vídeo, o si el ahorro del 34 % se está pagando en las cifras con las que se vende la tarjeta.

Screenshot of the raw quantization_manifest.json for the FP8 Block128 build of tencent/WeMM-Video-9B on Hugging Face, showing the status field quantized_and_independently_reloaded_native_inference_pending, an official_repo field naming Qwen/Qwen3.5-35B-A3B-FP8, and the algorithm field Transformers 5.5.3 Fp8Quantize.convert.

Dos trampas mecánicas yacen debajo de eso.

El primero es el GGUF. «GGUF Q4_K_M» se lee como «se ejecuta en llama.cpp u Ollama». No es así. El paquete está compilado para el propio runtime nativo de Tencent, que compilas desde el repositorio; el inicio rápido de la ficha del modelo es install-cpu/bin y native/run_hf.py como lanzador, y la guía de servicio enruta GGUF a ese runtime y a ningún otro. Si tu pipeline tiene la forma de llama.cpp, este checkpoint no es el atajo que parece.

El segundo es un defecto de documentación que merece mencionarse porque confundirá a cualquiera que lea los manifiestos en orden. Los tres manifiestos FP8 —para el 2B, el 4B y el 9B— llevan el mismo campo official_repo: Qwen/Qwen3.5-35B-A3B-FP8. Es una cadena de procedencia copiada y pegada en el registro de la receta, no una afirmación de que un checkpoint de 9B sea en secreto un modelo de mezcla de expertos de 35B. Nada más en el archivo respalda esa lectura: la lista de fuentes del mismo manifiesto apunta a los cinco fragmentos de tencent/WeMM-Video-9B con hashes coincidentes, y el bloque de arquitectura registra un modelo denso de 32 capas con cero expertos. El 35B-A3B es un modelo separado real; también es el único tamaño de la familia que no tiene un repositorio FP8 propio, pues solo cuenta con base, AWQ, GGUF y NVFP4.

El 9B contra un 30B, en las tablas de Tencent

Todas las cifras de benchmark que aparecen a continuación son de los propios autores, procedentes de arXiv 2611.26409, y ningún tercero ha reproducido ninguna de ellas. El artículo lo dice explícitamente: los modelos existentes se reportan con «resultados oficiales cuando estén disponibles y nuestras propias evaluaciones en caso contrario». Trata esta sección como una descripción de una afirmación, no como una medición.

En la tabla conjunta de audio y vídeo, en modo Thinking, el 9B supera a Qwen3-Omni-30B-A3B-Instruct en 35 de las 37 cifras que comparten ambas columnas, empatando en una y perdiendo en otra — frente a un modelo aproximadamente tres veces más grande:

• Video-MME con audio — 85,1 frente a 77,3. MiniCPM-o-4.5-9B se sitúa en 69,2.

• Video-MME-v2 con audio — 51,6 frente a 36,3, una diferencia de 15,3 puntos.

• Daily-Omni — 83,6 frente a 70,7, aunque el 80,2 de MiniCPM-o-4.5-9B hace que este sea un resultado a tres bandas en lugar de una victoria arrolladora.

• SciVideoBench y MMOU — 64,2 frente a 49,9, y 71,7 frente a 60,5.

• EvaOmni y OmniReasoningBench — 50,7 frente a 26,1, y 43,9 frente a 24,1.

• La única derrota — FutureOmni, 53,7 frente a 55,1. MiniCPM-o-4.5-9B obtiene 56,1 allí.

El vídeo sin audio es la tabla más útil, porque contiene un control de la misma familia: Qwen3.5-9B, el backbone sobre el que está construido este checkpoint. Lee las dos columnas en paralelo y el post-entrenamiento adquiere una forma. Gana en anclaje temporal y percepción temporal —F-16-NBA 88,7 frente a 75,8; TimeLens-QVHighlights 66,8 frente a 64,3; TimeLens-ActivityNet 55,3 frente a 52,2; TOMATO 48,5 frente a 45,0— y pierde en resumen de vídeos largos y reconocimiento general: MLVU 82,4 frente a 84,4; LVBench 68,2 frente a 70,0; VideoVista 82,2 frente a 84,7; VSI-Bench 54,5 frente a 58,3; MVBench 71,4 frente a 74,4. Así que no es una mejora uniforme respecto al backbone que hereda. Es un modelo ajustado hacia cuándo y dónde ocurrió algo, con un coste medible en las puntuaciones agregadas de vídeo y en el razonamiento espacial que el backbone ya hacía mejor.

El audio es donde el 9B deja de ganar. En modo Instruct, el 9B obtiene 70.9 en MMAU-Pro frente a los 64.8 de Qwen3.5-Omni-Flash y 76.8 en MMSU frente a 72.2 — pero pierde MMAU 77.0 frente a 80.4 y MMAR 72.8 frente a 74.0, y pierde el reconocimiento de voz de forma contundente: tasa de error de palabras en LibriSpeech de 1.5 y 3.1 frente a 1.3 y 2.4, tasa de error de caracteres en WenetSpeech de 5.4 y 6.8 frente a 4.4 y 5.5. Texto y conocimiento cuentan la misma historia: MMLU-Pro 81.6 frente a 82.5 del modelo base Qwen3.5-9B, GPQA 77.8 frente a 81.7, HMMT 75.0 frente a 82.9. Si la transcripción es el producto, un reconocedor dedicado sigue ganando.

Una comparación en el artículo debe leerse con cuidado. La tabla omnimodal ejecuta los modelos WeMM en modo Thinking, mientras que la tabla de audio los ejecuta en Instruct, porque los autores consideraron que los benchmarks de audio estándar son tareas perceptivas directas. Es una separación defendible, y también significa que una fila de WeMM en una tabla no es comparable con una fila de un rival en la otra.

Ocho segundos de video, por defecto.

La brecha entre lo que el checkpoint puede aceptar y lo que le pasan las recetas incluidas es lo bastante grande como para cambiar los resultados, así que debería formar parte de cualquier plan de evaluación.

• Presupuesto de fotogramas — el procesador usa 2 fps por defecto, un mínimo de 4 fotogramas, un máximo de 128 fotogramas y 100.663.296 píxeles totales. La receta de vLLM sobrescribe los cuatro valores a 2 fps, 16 fotogramas y 262.144 píxeles. A 2 fps, dieciséis fotogramas son ocho segundos de cobertura desde el centro de un clip.

• Contexto — la configuración de texto declara 262.144 embeddings de posición. Cada comando de servicio que T​encent publica pasa max-model-len 8192 o context-length 8192, y nada en el repositorio explica cómo alcanzar la cifra mayor.

• Coste de audio — 10 tokens por segundo, por lo que un presupuesto de 8.192 tokens equivale a unos trece minutos de audio y nada más. Un vídeo con su banda sonora gasta ese presupuesto en fotogramas y audio a la vez.

• Contenido multimedia por solicitud — cuatro imágenes, dos videos, dos elementos de audio, según los límites implementados.

Nadie fuera de WeChat Vision ha publicado qué muestreo utilizaron las ejecuciones del benchmark. Si estás reproduciendo una cifra de la tabla anterior, esa es la primera incógnita que hay que determinar, y el valor predeterminado de 16 fotogramas incluido no es el punto de partida adecuado.

Lo que realmente puedes hacer con ello hoy

OrcaRouter no sirve WeMM-Video-9B, y su catálogo no incluye ningún checkpoint de WeMM. No hay ningún precio alojado que cotizar ni ningún endpoint al que llamar, así que hoy esto es una tarea de autoalojamiento: parchear vLLM o SGLang desde el directorio overlay del repositorio, fijar la combinación exacta de PyTorch, Transformers y CUDA 12.9 que indica el manifiesto de parches para tu versión del motor, y presupuestar los 13 GiB más la caché. La ruta GGUF requiere compilar el runtime nativo de T​encent desde el código fuente.

Para la parte de visión del trabajo ya hay alternativas abiertas en la plataforma — Qwen3-VL-235B-A22B-Thinking y Qwen3-VL-8B-Thinking ambos aceptan imágenes y fotogramas de vídeo — accesibles mediante una única clave compatible con OpenAI junto con más de 200 otros modelos, con 0% de recargo sobre el precio de lista del proveedor. Ninguno de los dos oye nada, y no hay un equivalente de WeMM para la parte de audio. Si quieres probar un 9B autoalojado sin ponerle una ruta de producción, enrutarlo detrás de una regla de conmutación por error es la forma barata de averiguar si el entorno de ejecución parcheado aguanta en tu nivel de concurrencia antes de dedicarle una tarjeta.

Mientras tanto, las compilaciones de cuatro bits son lo que conviene esperar, no lo que conviene adoptar. Sus propios manifiestos se declaran no validados, y la aritmética de tamaño indica que la compresión que ofrecen supone un ahorro del 34 % en los pesos: vale la pena tenerlo, no vale la pena reestructurar un despliegue por ello. La señal que hay que observar no es otro repositorio de cuantización. Es el primer manifiesto de esta familia que elimina la palabra pendiente, seguido de la primera reproducción independiente de una tabla que actualmente existe en exactamente un lugar: el PDF de los autores.

Comparados en este artículo1

Detectado en este artículo