Card del titolo hero con il testo "WeMM-Video-9B: perché le sue build a 4 bit sono ancora 13 GiB", sottotitolo "Tencent ha pubblicato diciannove repository WeMM-Video il 17 novembre 2026 senza un post di lancio", con quattro righe di chip di memoria per la base BF16 a 19,54 GiB su cinque shard, FP8 Block128 a 13,10 GiB, AWQ W4A16 a 12,86 GiB e NVFP4 W4A16 a 13,07 GiB, una riga evidenziata che riporta 0,42 GiB tra tutte e quattro le build compresse, e un piè di pagina che indica che le dimensioni sono misurate dall'elenco dei file di ciascun repository Hugging Face e sono dichiarate dal fornitore senza verifica indipendente.
Engineering & Research

WeMM-Video-9B: Perché le sue build a 4 bit sono ancora da 13 GiB

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Una quantizzazione a quattro bit dovrebbe attestarsi a circa un quarto del file dei pesi da cui proviene. WeMM-Video-9B è di 19,54 GiB in BF16, e la sua build AWQ W4A16 è di 12,86 GiB. Si tratta di un taglio del 34%, non del 75% — e le build FP8, AWQ, NVFP4 e GGUF si collocano tutte entro 0,42 GiB l'una dall'altra, per cui scegliere tra loro non comporta quasi alcun risparmio di memoria. I manifest degli esportatori stessi spiegano il perché: le pipeline a 4 bit comprimono solo le matrici dense feed-forward — 4,83 miliardi di parametri su 10,49 miliardi — mentre la torre visiva, la torre audio, l'embedding, la testa di output e i pesi di attenzione mantengono tutti la precisione originale, e 5,7 miliardi di parametri a due byte ciascuno stabiliscono un limite inferiore sotto il quale nessuna ricetta W4 può scendere. Tencent ha pubblicato i pesi, le ricette di quantizzazione e un rapporto tecnico redatto da 12 autori il 17–19 novembre senza un post di lancio, e la parte che nessuno ha ancora descritto è l'aritmetica — che è anche, per l'appunto, la parte che decide se questo modello entra nella GPU che possiedi già. Nelle stesse tabelle di Tencent, batte Qwen3-Omni-30B-A3B-Instruct su 35 delle 37 metriche audio-visive congiunte che i due condividono; quanto alla sicurezza di mettere in produzione le sue build a quattro bit, le evidenze sono più esili di quanto diciannove repository suggeriscano.

Uno stack da 10,49B con un'etichetta da 9B

Il repository tencent/WeMM-Video-9B è stato creato alle 08:55:54 UTC del 17 novembre 2026, quattordici secondi dopo il suo gemello AWQ e undici minuti dopo il capofila 35B-A3B. Esistono diciannove repository WeMM-Video sotto l'organizzazione T​encent, tutti creati all'interno di una finestra di cinque minuti quella mattina, il che è la firma di uno script di caricamento piuttosto che di una persona che pubblica un modello alla volta. Il progetto GitHub Tencent/WeMM-Video è stato creato sei ore prima, alle 02:29 UTC, il suo commit iniziale sostanziale è arrivato il 19 novembre, e le revisioni del README stavano ancora arrivando il 20 novembre. Il paper, arXiv 2611.26409, è stato inviato alle 16:58 UTC del 19 novembre.

Screenshot of the Hugging Face model page for tencent/WeMM-Video-9B, showing the model card, the file listing and the repository tab bar for a repository created on 17 November 2026 with no launch announcement linked from it.

Niente di tutto ciò è stato annunciato. Non siamo riusciti a trovare un post sul blog di T​encent, una pagina di lancio di WeChat Vision, un comunicato stampa o un piano a pagamento che rimandasse alla famiglia. Al momento in cui scriviamo, tutti e diciannove i repository mostravano zero download e, complessivamente, tre like. Artificial Analysis non elenca alcun modello WeMM. Nessuno di questi due fatti dice nulla sulla qualità: dicono che la fase di distribuzione è stata saltata.

Il "9B" nel nome è il backbone linguistico, non il checkpoint. Hugging Face registra 10.488.603.384 parametri distribuiti su 1.305 tensori e, leggendo per nome i cinque shard safetensors, li suddivide in quattro gruppi:

• Modello linguistico — 7,94 miliardi di parametri, inclusa un'embedding di token da 1,02 miliardi.

• Testa di output — 1,02 miliardi di parametri. Gli embedding non sono legati, quindi questa è una seconda copia completa del vocabolario da 248.320 token a 4.096 dimensioni nascoste.

• Audio tower — 1,08 miliardi di parametri. Un encoder e un decoder in stile Whisper, 32 layer ciascuno con larghezza 1.280, che alimentano un Q-Former a due layer che comprime finestre da 0,1 secondi in 10 token audio al secondo.

• Torre di visione — 0,46 miliardi di parametri. 27 blocchi con dimensione nascosta 1.152, dimensione della patch 16, fusione spaziale 2, patch temporale 2.

Quindi circa un quinto del file è fatto di orecchie e occhi. Il paper è esplicito sulla provenienza: i modelli dense 2B, 4B e 9B sono basati su Qwen3.5-2B, Qwen3.5-4B e Qwen3.5-9B, il modello mixture-of-experts su Qwen3.6-35B-A3B, gli encoder audio sono inizializzati da Qwen2.5-Omni, e gli encoder visivi nativi vengono mantenuti invece che sostituiti e congelati a partire dalla seconda fase di pre-addestramento, perché «forniscono già rappresentazioni visive sufficientemente forti».

Il backbone stesso è ibrido: 32 layer, dimensione nascosta 4.096, 16 teste di attenzione rispetto a 4 teste chiave-valore con dimensione della testa 256, con un layer di attenzione completa ogni tre layer di attenzione lineare e una cache SSM float32 — ecco perché ogni comando di serving nel repository include un flag mamba-ssm-cache-dtype float32. Gli embedding di posizione sono dichiarati a 262.144 token; le sezioni RoPE multimodali interlacciate sono 11/11/10. La licenza è Apache 2.0 con una deroga per terze parti non dettagliata sulla model card.

Quattro build, quattro dimensioni quasi identiche

Ecco l'intera scala di quantizzazione, misurata dall'elenco dei file di ciascun repository anziché da una cifra arrotondata su una scheda:

• BF16 base — 19,54 GiB su cinque shard.

• FP8 Block128 — 13,10 GiB, un solo file. Richiede una GPU compatibile con FP8 e vLLM 0.18.0 con patch.

• AWQ W4A16 — 12,86 GiB, INT4 group-128 in formato compressed-tensors. vLLM 0.18.0 con patch.

• NVFP4 W4A16 — 13,07 GiB, precisione mista ModelOpt 0.45.0 con dimensione del gruppo 16. vLLM 0.31.0 con patch e Marlin, configurazione di riferimento SM120.

• GGUF Q4_K_M — 13,28 GiB come bundle di tre file: 10,41 GiB per il linguaggio, 2,01 GiB per l'audio, 0,86 GiB per il proiettore visivo.

Generated single-column scoreboard titled 'WeMM-Video-9B — the scoreboard' with six memory-chip rows: BF16 base 19.54 GiB across five shards, FP8 Block128 13.10 GiB, AWQ W4A16 12.86 GiB, NVFP4 W4A16 13.07 GiB, GGUF Q4_K_M 13.28 GiB, and a spread of 0.42 GiB across the four compressed builds, with a footer stating the sizes are measured from each Hugging Face repository's file listing and are vendor-reported with no independent verification.

La differenza tra quelle quattro build compresse è di 0,42 GiB, inferiore al margine che lasceresti per un aggiornamento dei driver. Se stessi scegliendo tra loro per farcelo stare su una scheda, stai scegliendo la variabile sbagliata: scegli in base alla GPU che possiedi e al runtime che puoi aggiornare, perché la differenza di memoria non c'è.

L'aspettativa ingenua — un quarto di 19,54 GiB, quindi circa 4,9 GiB — è sbagliata di un fattore due e mezzo. Persino il margine rispetto a BF16 è modesto: 6,68 GiB risparmiati da AWQ, che rappresentano un 34% reale, ma niente a che vedere con il "quattro volte più piccolo" che implica un'etichetta W4.

Cosa proteggono gli esportatori, e perché

Sia i manifest AWQ che quelli GGUF dichiarano esattamente quali tensori è stato loro consentito toccare, e la risposta spiega il plateau dimensionale.

• Solo le matrici feed-forward dense sono quantizzate. Il manifest AWQ registra 96 matrici linguistiche quantizzate — tre per strato su 32 strati, ciascuna 4.096 per 12.288. Sono 4,83 miliardi di parametri su 10,49 miliardi, ovvero il 46% del checkpoint. Tutto il resto mantiene la propria precisione.

• Il percorso dell'attenzione è ripristinato a BF16. Il manifest AWQ contiene un attention_restoration blocco che elenca 152 matrici di proiezione dell'attenzione e 32 norme di input ricopiate dal checkpoint di origine con i relativi hash SHA-256. Il file di ambito GGUF riporta lo stesso conteggio — protected_attention_BF16: 152 — e aggiunge che i tensori di embedding e di output sono gli unici altri due elementi protetti.

• Il frontend ed entrambe le torri multimediali non entrano mai nel quantizzatore. Nel manifest AWQ sono elencati 881 tensori come tensori protetti del frontend, dell'embedding e della testa: 333 dalla torre visiva, 545 dalla torre audio, il token embedding, la testa di output non legata e la norm finale. A BF16 si tratta di circa 3,57 miliardi di parametri, ovvero 7,1 GB dei 21,0 GB del file, che restano completamente al di fuori della fase di compressione.

La conseguenza è il numero di cui un piano di deployment ha davvero bisogno: prevedi 13–13,5 GiB di VRAM per i pesi, qualunque build scegli, poi aggiungi la cache KV e la cache SSM float32 in più. Un “9B a 4 bit” che richiede 13 GiB di pesi non è un problema del modello — solo il vocabolario è di 248.320 token incorporati due volte, e la torre audio è un Whisper da 1,08 miliardi di parametri collocato nel mezzo — ma è la differenza tra l'entrare in una scheda da 16 GB con spazio per lavorare e il non entrarci affatto.

Validato per il caricamento, non validato per l'uguaglianza

Ogni scheda di quantizzazione di questa famiglia riporta uno smoke test, e ogni manifest riporta qualcosa di più diretto. Leggile affiancate, perché il divario tra loro è l’intero rischio di usare una build compressa.

• FP8 Block128 — scheda: la vLLM con patch lo ha caricato su un H20 e ha completato i controlli di generazione di testo, immagine, audio e video con audio, e un audit di precisione a runtime ha confermato il percorso W8A8. Manifest: stato quantized_and_independently_reloaded_native_inference_pending, con native_inference_validated: false e native_low_precision_gemm_validated: false registrati come flag separati.

• AWQ W4A16 — scheda: una vLLM con patch l'ha caricato su un H20, ha completato gli stessi quattro controlli e l'audit di precisione ha confermato pesi feed-forward INT4 rispetto all'attenzione BF16. Manifest: stato quantized_unvalidated, con una diagnostic_variant che indica una build di riferimento con attenzione BF16 accanto a quella INT4.

• NVFP4 W4A16 — scheda: vLLM 0.31.0 con patch è stato caricato e ha eseguito "i pesi di riferimento PRO 5000" e ha superato cinque controlli di generazione, incluso il video silenzioso. Manifest: le stesse tre affermazioni sono registrate come flag e ognuno di essi riporta false — native_FP4_GEMM_validated, PRO5000_inference_validated, vllm_validated — con uno stato di cpu_NVFP4_weight_artifact_independently_reread. Ciò che il manifest attesta è un controllo numerico: 96 matrici e 4.831.838.208 elementi dequantizzati in modo indipendente, RMSE relativo medio pari a 0,095 rispetto a un limite di 0,35, con 1.209 tensori protetti confermati bit-exact. Quel conteggio di elementi è lo stesso 4,83 miliardi indicato nella dichiarazione di ambito, ed è così che sai che l'aritmetica di questo pezzo e quella dell'esportatore concordano.

• GGUF Q4_K_M — scheda: il runtime CPU nativo ha caricato il bundle e ha generato output di testo, immagini, audio e video. Stato del manifest exported_unvalidated; stato dell'ambito quantized_candidate_not_validated.

«Si è caricato e ha generato» è un risultato reale e che vale la pena avere — molti checkpoint multimodali quantizzati falliscono esattamente a quel passaggio. Non è il risultato che decide un deployment, perché nessuna di queste schede riporta un singolo numero di accuratezza per la build compressa rispetto alla propria fonte BF16. Non c'è alcun delta misurato su MMAU, su Video-MME, sul WER della trascrizione. L'unica affermazione sulla precisione fatta in qualsiasi punto è strutturale, dall'audit AWQ: INT4 nel feed-forward, BF16 nell'attention. Questo descrive il file. Non ti dice quanto sia costata la compressione, e su un modello il cui margine rispetto a Qwen3-Omni-30B-A3B-Instruct su Video-MME con audio è di 7,8 punti, l'entità di quel costo non è una questione di arrotondamento.

Quindi la regola pratica per questa famiglia è rieseguire un benchmark a cui tieni sulla build esatta che intendi rilasciare, rispetto alla base BF16, prima di fidarti di una tabella tratta dal paper. Sono un paio d'ore di lavoro ed è l'unico modo per sapere se il feed-forward INT4 può essere inserito al posto di quello usato nei risultati video, o se il risparmio del 34% si paga nei numeri che la scheda sta vendendo.

Screenshot of the raw quantization_manifest.json for the FP8 Block128 build of tencent/WeMM-Video-9B on Hugging Face, showing the status field quantized_and_independently_reloaded_native_inference_pending, an official_repo field naming Qwen/Qwen3.5-35B-A3B-FP8, and the algorithm field Transformers 5.5.3 Fp8Quantize.convert.

Sotto quello si trovano due trappole meccaniche.

Il primo è il GGUF. "GGUF Q4_K_M" si legge come "gira in llama.cpp o Ollama". Non è così. Il bundle è pensato per il runtime nativo proprietario di T​encent, che devi compilare dal repository; la guida rapida della model card è install-cpu/bin e un native/run_hf.py launcher, e la guida al serving instrada GGUF verso quel runtime e verso nient'altro. Se la tua pipeline è modellata su llama.cpp, questo checkpoint non è la scorciatoia che sembra.

Il secondo è un difetto di documentazione che vale la pena segnalare, perché confonderà chiunque legga i manifest in ordine. Tutti e tre i manifest FP8 — per il 2B, il 4B e il 9B — riportano lo stesso campo official_repo: Qwen/Qwen3.5-35B-A3B-FP8. Si tratta di una stringa di provenienza copiata e incollata nel record della ricetta, non dell'affermazione che un checkpoint 9B sia in realtà un mixture-of-experts da 35B. Nient'altro nel file supporta una tale lettura: la lista delle sorgenti dello stesso manifest rimanda ai cinque shard di tencent/WeMM-Video-9B con hash corrispondenti, e il blocco dell'architettura registra un modello denso a 32 layer con zero esperti. Il 35B-A3B è un modello separato reale; è anche l'unica dimensione della famiglia a non avere un repository FP8 proprio, disponendo solo di base, AWQ, GGUF e NVFP4.

Il 9B contro un 30B, sulle tabelle di T​encent

Ogni numero di benchmark riportato di seguito è degli autori stessi, da arXiv 2611.26409, e nessuna terza parte ne ha riprodotto alcuno. Il paper lo dice esplicitamente: i modelli esistenti sono riportati con «risultati ufficiali ove disponibili e, altrimenti, nostre valutazioni». Considera questa sezione come la descrizione di un’affermazione, non una misurazione.

Nella tabella congiunta audio-visiva, in modalità Thinking, il 9B supera Qwen3-Omni-30B-A3B-Instruct su 35 dei 37 valori condivisi dalle due colonne, pareggiandone uno e perdendone uno — contro un modello circa tre volte più grande:

• Video-MME con audio — 85,1 contro 77,3. MiniCPM-o-4.5-9B si attesta a 69,2.

• Video-MME-v2 con audio — 51,6 contro 36,3, un divario di 15,3 punti.

• Daily-Omni — 83,6 contro 70,7, anche se l'80,2 di MiniCPM-o-4.5-9B rende questo un risultato a tre anziché una vittoria facile.

• SciVideoBench e MMOU — 64,2 contro 49,9 e 71,7 contro 60,5.

• EvaOmni e OmniReasoningBench — 50,7 contro 26,1, e 43,9 contro 24,1.

• L'unica sconfitta — FutureOmni, 53,7 contro 55,1. MiniCPM-o-4.5-9B ottiene 56,1 lì.

Il video senza audio è la tabella più utile, perché contiene un controllo della stessa famiglia: Qwen3.5-9B, il backbone su cui è costruito questo checkpoint. Leggendo le due colonne affiancate, il post-training ha un profilo preciso. Guadagna su grounding temporale e percezione temporale — F-16-NBA 88,7 contro 75,8, TimeLens-QVHighlights 66,8 contro 64,3, TimeLens-ActivityNet 55,3 contro 52,2, TOMATO 48,5 contro 45,0 — e perde su summarizzazione di video lunghi e riconoscimento generale: MLVU 82,4 contro 84,4, LVBench 68,2 contro 70,0, VideoVista 82,2 contro 84,7, VSI-Bench 54,5 contro 58,3, MVBench 71,4 contro 74,4. Quindi non si tratta di un aggiornamento uniforme rispetto al backbone che eredita. È un modello ottimizzato verso quando e dove è accaduto qualcosa, con un costo misurabile nei punteggi video aggregati e nel ragionamento spaziale in cui il backbone era già migliore.

L'audio è il campo in cui il 9B smette di vincere. In modalità Instruct il 9B ottiene 70.9 su MMAU-Pro contro i 64.8 di Qwen3.5-Omni-Flash e 76.8 su MMSU contro 72.2 — ma perde su MMAU 77.0 contro 80.4 e su MMAR 72.8 contro 74.0, e perde del tutto sul riconoscimento vocale: tasso di errore in parole su LibriSpeech 1.5 e 3.1 contro 1.3 e 2.4, tasso di errore in caratteri su WenetSpeech 5.4 e 6.8 contro 4.4 e 5.5. Testo e conoscenza raccontano la stessa storia: MMLU-Pro 81.6 contro 82.5 del backbone Qwen3.5-9B, GPQA 77.8 contro 81.7, HMMT 75.0 contro 82.9. Se il prodotto è la trascrizione, un riconoscitore dedicato vince ancora.

Un confronto nel paper va letto con attenzione. La tabella omni-modale esegue i modelli WeMM in modalità Thinking, mentre la tabella audio li esegue in Instruct, perché gli autori hanno giudicato i benchmark audio standard come compiti percettivi diretti. Si tratta di una separazione difendibile, e significa anche che una riga WeMM in una tabella non è confrontabile con una riga di un concorrente nell'altra.

Otto secondi di video, per impostazione predefinita

Il divario tra ciò che il checkpoint può accettare e ciò che le ricette distribuite gli passano è abbastanza ampio da modificare i risultati, quindi rientra in qualsiasi piano di valutazione.

• Budget dei frame — il processore usa per impostazione predefinita 2 fps, un minimo di 4 frame, un massimo di 128 frame e 100.663.296 pixel totali. La ricetta vLLM sovrascrive tutti e quattro con 2 fps, 16 frame e 262.144 pixel. A 2 fps, sedici frame equivalgono a otto secondi di copertura dal centro di una clip.

• Contesto — la configurazione del testo dichiara 262.144 embedding di posizione. Ogni comando di serving pubblicato da T​encent passa max-model-len 8192 oppure context-length 8192, e nulla nel repository spiega come raggiungere il valore più grande.

• Costo audio — 10 token al secondo, quindi un budget di 8.192 token equivale a circa tredici minuti di audio e nient'altro. Un video con la sua traccia audio spende quel budget in fotogrammi e audio contemporaneamente.

• Media per richiesta — quattro immagini, due video, due elementi audio, secondo i limiti previsti.

Nessuno al di fuori di WeChat Vision ha pubblicato quale campionamento abbiano usato le esecuzioni del benchmark. Se stai riproducendo un numero dalla tabella sopra, questo è il primo elemento sconosciuto da chiarire, e il valore predefinito di 16 frame fornito in dotazione è il punto di partenza sbagliato.

Cosa puoi effettivamente fare con esso oggi

OrcaRouter non serve WeMM-Video-9B e il suo catalogo non elenca alcun checkpoint WeMM. Non c'è alcun prezzo hosted da indicare né alcun endpoint da chiamare, quindi oggi questa è un'operazione self-host: applicare la patch a vLLM o SGLang dalla directory overlay del repository, fissare l'esatta combinazione PyTorch, Transformers e CUDA 12.9 indicata dal manifest della patch per la versione del tuo engine e preventivare i 13 GiB più la cache. Il percorso GGUF richiede il runtime nativo di T​encent compilato dai sorgenti.

Per la metà visiva del lavoro ci sono alternative aperte già sulla piattaforma — Qwen3-VL-235B-A22B-Thinking e Qwen3-VL-8B-Thinking accettano entrambi immagini e fotogrammi video — accessibili tramite un'unica chiave compatibile con OpenAI insieme a oltre 200 altri modelli, a 0% di ricarico rispetto al prezzo di listino del fornitore. Nessuno dei due sente nulla, e non esiste un equivalente WeMM per la metà audio. Se vuoi provare un 9B self-hosted senza metterci un percorso di produzione, instradarlo dietro una regola di failover è il modo economico per scoprire se il runtime patchato regge alla tua concorrenza prima di dedicargli una scheda.

Le build a quattro bit, nel frattempo, sono ciò su cui è giusto aspettare anziché ciò che è giusto adottare. I loro stessi manifest si dichiarano non convalidati, e il calcolo delle dimensioni dice che la compressione che offrono è un risparmio del 34% sui pesi — vale la pena averla, non vale la pena riarchitettare un deployment per questo. Il segnale da tenere d'occhio non è un altro repository di quantizzazione. È il primo manifest di questa famiglia a eliminare la parola pending, seguito dalla prima riproduzione indipendente di una tabella che attualmente esiste in un unico posto: il PDF degli autori.

Confrontati in questo articolo1

Rilevato da questo articolo