
WeMM-Video-35B-A3B: i pesi sono disponibili, i punteggi sono quelli di Tencent
- OrcaNUOVOOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1M di token · 182 tok/s
- tencentNUOVOTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1M di token · 356 tok/s
- GoogleNUOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1M di token · 87 tok/s
- AnthropicNUOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1M di token · 147 tok/s
- orcaNUOVOOrca: OrcaC2 1.02026-11-0737 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1M di token · 92 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1M di token · 135 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1M di token · 81 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1M di token · 117 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1M di token · 110 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1M di token · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 42 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenza
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1M di token · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenza
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1M di token · 109 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenza
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 per 1M di token · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenza
Per tre giorni il repository Hugging Face tencent/WeMM-Video-35BA3B ha contenuto un solo file: un file da 1,5 KB denominato .gitattributes. Il rapporto tecnico che descrive WeMM-Video-35B-A3B è stato pubblicato su arXiv il 19 novembre, definendo il checkpoint un nuovo stato dell'arte open source per la comprensione audio-visiva congiunta, davanti a Qwen3.5-Omni-Flash e Seed2.0-Mini-0428 e avvicinandosi a Gemini-3.0-Flash. Un lettore che ha creduto al rapporto e ha cliccato per arrivare ai pesi non ha trovato nulla da scaricare. I 67,39 GiB di tensori BF16 sono arrivati solo alle 03:57 UTC del 20 novembre — questa mattina. Il modello di punta è stato annunciato un giorno prima che esistesse, e ogni numero a esso associato finora proviene dal team che lo ha addestrato.
Quella tempistica non è uno scandalo, è un normale rilascio di ricerca con i passaggi fuori ordine. Ma significa che la domanda utile su WeMM-Video-35B-A3B non è "è valido?" — il report risponde a questa a favore del team stesso, in sette tabelle — bensì "cosa puoi verificare da solo oggi, e cosa stai accettando per fede?". Il repository risponde alla prima metà meglio di quanto faccia la maggior parte dei rilasci.
I pesi sono arrivati questa mattina, non il 17.
I timestamp di Hugging Face rendono la sequenza insolitamente leggibile. I diciannove repository WeMM-Video della collezione di Tencent sono stati creati in una finestra di sei minuti il 17 novembre, tra le 08:53:50 e le 08:59:06 UTC — la firma di uno script di caricamento anziché di una persona che fa clic su pubblica. Per il repository 35B-A3B, il commit intitolato initial commit alle 08:53:50 contiene esattamente un file, e non è un peso. Il commit intitolato Upload WeMM-Video-35BA3B BF16 release, che contiene diciassette shard safetensors, è datato 2026-11-20T03:57:36Z.
Le dimensioni più piccole sono state completate nella stessa mattina: 2B alle 01:41, 4B alle 04:08, 9B alle 05:08. Il repository GitHub Tencent/WeMM-Video è stato creato il 17 novembre alle 02:29 UTC e il suo README era ancora in fase di revisione alle 05:09 del 20 novembre. Il rapporto arXiv, 2611.26409, è stato inviato il 19 novembre alle 16:58 UTC.
Niente di tutto questo è insolito per un laboratorio che rilascia una famiglia. Quello che cambia è la posizione di chiunque legga del modello questa settimana: il rapporto descrive un checkpoint che, per circa trentasei ore, è stato una promessa. Se hai letto gli articoli il 19 novembre e hai provato a eseguirlo, il problema non era la tua toolchain.

Cosa c'è all'interno di un checkpoint da 36,18B?
I metadati di Hugging Face collocano il checkpoint a 36.177.564.536 parametri — 36,18B rispetto a un'etichetta "35B-A3B". L'etichetta non è sbagliata, conta semplicemente qualcosa di diverso dalla dimensione del file, e il divario tra i due è l'aspetto più importante in pratica di questo modello.
• Torre linguistica — 40 strati con larghezza nascosta 2.048, 16 teste di query rispetto a 2 teste chiave-valore, dimensione della testa 256, vocabolario 248.320. L'attenzione è ibrida: ogni quarto strato è attenzione completa e gli altri tre sono attenzione lineare, motivo per cui ogni comando di serving nel repository porta un flag di cache SSM float32.
• Esperti — 256 esperti instradati per layer con larghezza intermedia 512, routing top-8, più un esperto condiviso con larghezza 512. Su 40 layer, ciò equivale a 10.240 esperti instradati.
• Torre visiva — 27 blocchi con larghezza nascosta 1.152, dimensione della patch 16, merge spaziale 2, patch temporale 2, che proiettano a 2.048.
• Audio — A forma di Whisper, 32 layer encoder e 32 layer decoder con ampiezza 1.280, che alimentano un Q-Former a livello di finestra che comprime ogni finestra di 0,1 secondi in un singolo token. Il risultato è 10 token audio al secondo, da un input a 16 kHz suddiviso in blocchi da 30 secondi.
• Provenienza — il report afferma che il MoE è basato su Qwen3.6-35B-A3B e che gli encoder audio sono inizializzati da Qwen2.5-Omni. I fotogrammi video riportano timestamp testuali, e i token visivi e audio sono intercalati in ordine cronologico anziché raggruppati in flussi separati.
• Formazione — circa 1,2 trilioni di token multimodali attraverso un pretraining progressivo, poi distillazione on-policy multi-teacher, una fase di preferenza anti-ripetizione che gli autori chiamano MrDPO e reinforcement learning specialistico.
• Licenza — Apache 2.0 per l'intera raccolta, con una deroga per i componenti di terze parti che «restano soggetti ai rispettivi termini originali». La deroga è dichiarata, non dettagliata voce per voce.
Quattro varianti quantizzate sono pubblicate accanto al checkpoint BF16, e i loro file manifest meritano di essere letti per la franchezza con cui sono etichettati. AWQ W4A16 totalizza 22,69 GiB e il suo manifest dice quantized_unvalidated. NVFP4 W4A16 è un singolo file safetensors da 24,11 GiB il cui manifest dichiara soltanto cpu_NVFP4_weight_artifact_independently_reread — i pesi sono stati riletti sulla CPU, il che è un checksum, non una valutazione. Il bundle GGUF Q4_K_M è composto da tre file (22,61 GiB lingua, 0,84 GiB proiettore visivo, 1,99 GiB audio) e il suo manifest dice exported_unvalidated, con il file di ambito per tensore che dice quantized_candidate_not_validated.
La quinta variante manca. La scheda del modello e la tabella model-zoo su GitHub rimandano entrambe a un repository FP8 Block128; l'Hub restituisce 401 per esso, la stessa risposta che dà per un nome di repository mai esistito, mentre ogni omologo attivo restituisce 200. La collezione Hugging Face ha un buco in posizione 1, esattamente dove quel repository avrebbe dovuto trovarsi. Questo è un rilascio che è ancora in fase di assemblaggio mentre lo leggi.
Un unico numero misurato, ed è audio
Il model card riporta esattamente una valutazione eseguita dal fornitore stesso: MMAR1000 al 72,7%, ovvero 727 su 1.000. Le condizioni sono indicate in modo completo, ed è questo il punto di forza — solo audio, audio completo decodificato a 16 kHz, modalità Instruct, decodifica greedy, al massimo 256 token di output, vLLM 0.18 con patch su due GPU H20 con parallelismo tensoriale.
Ogni altro elemento su quella scheda è un'indicazione che qualcosa è stato caricato. vLLM con patch ha caricato il checkpoint su H20 e ha completato i controlli di generazione per testo, immagine, audio e video con una colonna sonora; il checkpoint locale ha superato un caricamento diretto con Transformers e un controllo di generazione testuale su CPU. Questo è il minimo indispensabile per una decisione di deployment, e Tencent non finge il contrario.
C'è un filo sciolto che vale la pena tirare. La guida al serving nello stesso repository GitHub contiene una tabella di validazione la cui ultima riga recita: «La generazione su GPU dopo aver scaricato un checkpoint dall'Hub è in sospeso». La scheda modello afferma che l'esecuzione su H20, che carica dall'Hub, ha completato la generazione per tutte e quattro le modalità. Due documenti scritti dallo stesso team non concordano su quanto sia stato dimostrato. L'affermazione della scheda è la più specifica e probabilmente la più aggiornata; il disaccordo è un motivo valido per preventivare un giorno di tuoi smoke test invece di una settimana di integrazione.
La tabella audio del rapporto elenca anche 73,6 su MMAR per questo checkpoint, che è un harness diverso dalla run MMAR1000 della scheda e non dovrebbe essere sottratto da 72,7 per produrre un numero "reale". L'unica lettura onesta è che il dato audio di Tencent si attesta nei bassi settanta e nessun'altra parte l'ha misurato.
28 su 30 contro Qwen's omni flash
La Tabella 1 del rapporto riguarda il modello di punta, e non è un caso da poco. Sui 30 benchmark a valore singolo presenti in quella tabella — attività congiunte audio-visive, allucinazione audio-visiva, comprensione musicale, interazione, captioning — WeMM-Video-35B-A3B in modalità Thinking è avanti rispetto a Qwen3.5-Omni-Flash su 28 e dietro su 2. Rispetto a Seed2.0-Mini-0428 è avanti su 26 e dietro su 4. Rispetto a Gemini-3.0-Flash è avanti su 9 e dietro su 21.
Le vittorie che contano di più non sono quelle ordinate:
• Video-MME con audio — 86,4 per WeMM-Video-35B-A3B, 79,3 per Qwen3.5-Omni-Flash, 83,6 per Seed2.0-Mini-0428, 88,6 per Gemini-3.0-Flash.
• Video-MME v2 con audio — 54,9 contro 36,6 e 51,7, con Gemini-3.0-Flash a 63,2. Un vantaggio di diciotto punti sul più vicino concorrente open sulla suddivisione più difficile dello stesso benchmark.
• AV-SpeakerBench — 72,6 contro 65,2 e 68,5, ancora dietro a Gemini a 75,9. Riconoscere chi ha parlato, in un video, è il compito che distingue una vera fusione audiovisiva da un modello visivo con una trascrizione aggiunta a posteriori.
• SciVideoBench ed EvaOmni — 69,4 contro 51,3, e 57,8 contro 30,4. Entrambi richiedono molto ragionamento; entrambi sono ambiti in cui un modello omni più debole tende a crollare.
Le sconfitte sono altrettanto specifiche e meritano di essere nominate, perché una tabella che mostra solo le vittorie è proprio la cosa che questo blog esiste per evitare:
• JointAVBench — 65,9, dietro a Qwen3.5-Omni-Flash con 69,0 e Gemini-3.0-Flash con 68,4, davanti solo a Seed2.0-Mini-0428 con 64,7.
• MUSIC-AVQA — 79,5 contro 82,1 di Qwen, anche se davanti a 76,2 di Gemini. La musica è dove lo stack audio di Qwen ha ancora il vantaggio.
• Rispetto a Seed2.0-Mini-0428 — OmniCompass-AV 46,3 rispetto a 47,9, OmniVChat 48,9 rispetto a 49,8, O-IN-Bench 49,0 rispetto a 49,4, il testset di video-SALMONN 2 28,3 rispetto a 32,7. Tre di questi quattro sono entro un punto.
• Rispetto a Gemini-3.0-Flash — il divario è più ampio sui video lunghi e orientati al futuro: MMOU 74,5 contro 84,7, FutureOmni 56,2 contro 65,3, OmniVideoBench 55,3 contro 63,3, LVOmniBench 52,6 contro 59,8. "Riduce il divario" è una descrizione corretta; "lo colma" non lo sarebbe.
Ogni numero sopra riportato è di Tencent. Il rapporto stesso lo afferma — «Per i modelli esistenti, riportiamo i risultati ufficiali dove disponibili e, altrimenti, le nostre valutazioni» — e passa dalla modalità Instruct a quella Thinking a seconda della tabella, cosa che anch'esso dichiara. Nessun soggetto terzo ne ha replicato i risultati, e né Artificial Analysis né LMArena elencano un modello WeMM.

L’aggiunta delle orecchie ha appena scalfito i punteggi di visione
L'affermazione in questo comunicato che merita più attenzione del benchmark di punta è una più sommessa: aggiungere uno stack audio a un modello visione-linguaggio non gli è costato molto in termini di capacità visive. L'addestramento omni-modale di solito un prezzo lo fa pagare: il modello distribuisce la capacità tra le modalità e cede terreno sul video silenzioso.
Il report lo verifica direttamente mettendo WeMM-Video-35B-A3B contro il suo stesso backbone, Qwen3.6-35B-A3B, su 31 benchmark di video muti. Il modello di punta è avanti su 20 e indietro su 11, e la maggior parte degli undici rientra entro un punto.
• Dove ha guadagnato — TimeLens-Charades 54,8 contro 47,4, F-16-NBA 89,9 contro 82,8, CrossVid 50,2 contro 45,2, OVO-Bench 63,9 contro 61,0, TemporalBench 45,9 contro 43,3.
• Dove ha perso — EgoSchema 74,2 contro 77,2, Video-MME 80,4 contro 82,5, MVBench 73,1 contro 74,6, MLVU 85,3 contro 86,2. Il resto sono frazioni di punto.
Leggi l'andamento più che il conteggio: i guadagni si concentrano nel grounding temporale e nell'associazione su video lunghi, le perdite nel video egocentrico in prima persona. È un compromesso plausibile per un modello ottimizzato su video con audio. Rispetto a Qwen3.5-Omni-Flash sulla stessa tabella di video silenziosi, è avanti in 30 casi su 31, perdendo solo su VideoVista, 83,5 a 84,1.
Le tabelle delle immagini e del testo mostrano lo stesso andamento. Rispetto a Qwen3.5-Omni-Flash, 26 dei 28 benchmark sulle immagini vanno a WeMM, con RefCOCO (89,5 contro 92,6) e TallyQA (80,7 contro 81,2) come eccezioni. Rispetto al proprio backbone, la tabella delle immagini è un quasi pareggio — 13 avanti, 14 dietro — e la tabella del testo è dove emerge il costo: MMLU-Pro 84,7 contro 85,2, GPQA 83,8 contro 86,0, IMOAnswerBench 74,8 contro 78,9, SuperGPQA 63,4 contro 64,7. Rinunciare a qualche punto di ragionamento difficile in cambio di un paio di orecchie funzionanti è uno scambio normale e difendibile, ma resta pur sempre uno scambio, e chiunque faccia passare testo di livello post-laurea attraverso questo checkpoint dovrebbe sapere che esiste.
36B di memoria, 3B di aritmetica
Ecco l'aritmetica che decide se questo modello è distribuibile nel tuo caso, e deriva dalla configurazione anziché dalla prosa. Dei 36,18 miliardi di parametri, circa 32,2 miliardi risiedono negli esperti instradati: 40 strati per 256 esperti per tre proiezioni di dimensioni 2.048 × 512. L'instradamento Top-8 tocca un trentaduesimo di tutto ciò per token, circa 1,0 miliardi di parametri, e la dicitura "3B attivi" è coerente una volta conteggiati l'attenzione, l'esperto condiviso e la tabella di embedding.
Quindi il costo di calcolo è basso e quello della memoria no:
• BF16 — 67,39 GiB su diciassette shard. La validazione interna di Tencent ha utilizzato il parallelismo tensoriale su due H20. Non esiste un valore pubblicato di tensor parallel per configurazioni più grandi; la guida al serving dice soltanto "pianificare la memoria per i pesi completi degli esperti e impostare --tensor-parallel-size in base alle esigenze".
• NVFP4 W4A16 — 24,11 GiB, che entra in una singola scheda da 48 GB con spazio per la cache. La ricetta prevede un ambiente vLLM 0.31.0 separato e patchato con precisione mista ModelOpt e Marlin, e viene eseguita con --max-num-seqs 1.
• AWQ W4A16 — 22,69 GiB su vLLM 0.18.0 con patch utilizzando la configurazione compressed-tensors del checkpoint stesso.
• GGUF Q4_K_M — un bundle di tre file da 24,6 GiB, ma per il runtime nativo di Tencent, non per llama.cpp o Ollama. Il suo manifest lo dichiara esportato e non validato.
Qui nulla gira su un motore non patchato. Il repository include una patch directory: overlay di codice sorgente con manifest SHA-256 per esattamente quattro release upstream — vLLM 0.18.0 e 0.31.0, SGLang 0.5.16 e 0.5.19 — ciascuna fissata a una specifica combinazione di PyTorch, Transformers e CUDA 12.9, con Python 3.12 e FFmpeg richiesti, TorchCodec che richiede CUDA 12 NPP nel percorso del linker e SGLang che compila i kernel CUDA al primo utilizzo. Una ricerca nel tracker dei problemi di vLLM non trova alcuna richiesta upstream per questa architettura. Questo è un lavoro self-host con un overlay applicato al motore di inferenza di qualcun altro.

Due dettagli di configurazione limitano ciò che si può effettivamente dargli in pasto. La configurazione testuale dichiara 262.144 posizioni, ma il comando vLLM della scheda passa --max-model-len 8192, e ogni ricetta SGLang limita il contesto a 8.192 — la cifra elevata è margine, non un'impostazione supportata. Il campionamento dei fotogrammi è la stessa storia: il processore usa per impostazione predefinita 2 fps e fino a 128 fotogrammi, mentre la ricetta pubblicata sovrascrive a 16 fotogrammi e un budget di 262.144 pixel. A 10 token audio al secondo, un contesto di 8.192 token equivale a poco più di tredici minuti di audio e nient'altro.
OrcaRouter non serve WeMM-Video-35B-A3B e il catalogo non elenca alcun checkpoint WeMM, quindi non c'è alcun prezzo hosted da indicare. Quello che serviamo è il modello su cui è stato costruito questo: Qwen3.6-35B-A3B è sulla piattaforma a $0,25 per milione di token di input e $1,48 per milione di output su un contesto di 262.144 token, con input di testo, immagini e video. Se la metà di questo lavoro che ti serve è "guardare la clip e ragionarci sopra" anziché "guardare la clip e trascrivere la stanza", quello è un sostituto hosted disponibile questo pomeriggio invece di un download da 67 GiB e una patch a livello di codice sorgente. Il prezzo di listino del provider viene applicato con 0% di ricarico e ogni modello si trova dietro un'unica chiave compatibile con OpenAI con failover automatico, quindi provare una seconda opinione costa una modifica alla configurazione invece di un secondo contratto.
Quello che nessuno al di fuori di WeChat ha verificato
Quattro cose che un acquirente normalmente otterrebbe da un lancio e che qui non può ottenere.
• Valutazione indipendente.Nessuna. La pipeline di valutazione e riproduzione è pubblica, che è la seconda cosa migliore e non è la stessa cosa.
• Condizioni di valutazione.Il numero di frame, i budget di pixel e le lunghezze di contesto utilizzati per le esecuzioni del benchmark non sono indicati nel report, e la ricetta fornita campiona 16 frame laddove il processore ne usa 128 per impostazione predefinita. Un campione di 16 frame di una clip lunga è un input diverso da un campione di 128 frame della stessa clip.
• L'affermazione sul deployment. Il rapporto afferma che la famiglia è "distribuita su più servizi video principali all'interno di WeChat", citando il commercio in live streaming, l'analisi di drammi in formato breve e il video interattivo. È un'affermazione importante, se vera — il traffico di produzione è l'unica valutazione che nessuno può contestare — ed è del tutto impossibile da verificare dall'esterno. Nessun dato su latenza, throughput, concorrenza o memoria è pubblicato in nessuna parte del comunicato.
• Gli artefatti quantizzati.Tre delle quattro varianti pubblicate si descrivono, nei propri manifest, come non convalidate. AWQ, GGUF e NVFP4 sono offerte, non garantite.
Niente di tutto ciò è un motivo per scartare il rilascio. È un motivo per leggerlo per quello che è visibilmente: un rilascio di ricerca ben documentato i cui pesi di punta hanno poche ore, il cui paper è arrivato prima, il cui repository FP8 non è ancora stato creato e il cui vantaggio nei benchmark rispetto al miglior concorrente omni open è abbastanza ampio da valere la pena di essere riprodotto anziché messo in dubbio.
Quello che lo risolverebbe è la stessa lista di sempre. Un merge upstream di vLLM metterebbe fine alle patch. Una prima riproduzione indipendente su Video-MME v2 con audio confermerebbe o smentirebbe il divario di diciotto punti. Un prezzo per l'hosting, o il repository FP8 mancante, ti direbbe se Tencent intende che venga usato o soltanto citato. Finché non si concretizza una di queste cose, il riassunto onesto è che WeMM-Video-35B-A3B è il checkpoint omni-modale aperto più interessante del mese, che i suoi punteggi sulla visione sembrano sopravvivere all'aggiunta dell'udito e che tutti i suoi numeri provengono attualmente dalle persone che lo hanno addestrato.
Confrontati in questo articolo1
Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno
