Ett titelkort med rubriken "WeMM-Video-4B" och underrubriken "Tencents audiovisuella modell, på Hugging Face utan ett lanseringsinlägg", tre kort med texten "Namn på kortet 4B / 5,61B faktiska parametrar", "Repositories 18 / skapade på 19 minuter" och "Hostat pris: inget / endast egen hosting", samt en sidfot med texten "Siffror från Hugging Face-repot och arXiv 2611.26409; inga oberoende benchmarks."
Engineering & Research

WeMM-Video-4B: Tencent:s tysta 5,6B audiovisuella modell

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Filen med beteckningen WeMM-Video-4B väger 10,45 GiB och med två byte per BF16-parameter blir det 5,61 miljarder parametrar – inte fyra. Tencents egen safetensors-metadata säger samma sak: 5 611 746 312 parametrar. "4B" i namnet är språkryggraden, inte checkpointen. Det där lilla räkefelet är rätt väg in i WeMM-Video-familjen, eftersom nästan allt intressant med den här utgåvan är en klyfta mellan etiketten och saken: en familj i fyra storlekar som publicerats utan lanseringsinlägg, en benchmark-svit som slår Qwen3-Omni-30B-A3B-Instruct och MiniCPM-o-4.5-9B på video men förlorar mot Qwen3.5-Omni-Flash på ljud, och en 256K positionsinbäddning som varje levererad konfiguration frivilligt skär ner till 8 192 tokens. Vikterna är verkliga, artikeln är offentlig, och ingen har ännu laddat ner något av det.

Det som följer skiljer på tre saker som familjens Hugging Face-kort blandar samman: vad som är mätbart i repositoriet, vad endast T​encent:s egen utvärdering rapporterar, och vad som inte har bekräftats av någon utanför WeChat Vision.

Filen som kallas 4B innehåller 5,61 miljarder parametrar

Hugging Face registrerar ett totalt parametrantal per repository, och för de fyra bascheckpunkterna för WeMM-Video ligger de konsekvent cirka 1,2 till 1,6 miljarder över storleken i namnet.

• WeMM-Video-2B — 3,28B totalt mot en "2B"-beteckning.

• WeMM-Video-4B — 5,61B totalt mot en "4B"-beteckning.

• WeMM-Video-9B — 10,49B totalt mot en ”9B”-beteckning.

• WeMM-Video-35BA3B — 36,18B totalt mot en "35B-A3B"-etikett, där endast tre miljarder av dessa är aktiva per token.

Att läsa safetensors-indexet för 4B gör överskottet synligt. Av dess 1 268 tensorer bär språkmodellen 4,21B parametrar, ljudstacken bär 1,07B och visionstornet bär 0,33B. Ungefär nitton procent av checkpointen är öron. Artikeln bekräftar att namngivningskonventionen är avsiktlig: de tre täta modellerna är byggda på Qwen3.5-2B, Qwen3.5-4B och Qwen3.5-9B, och mixture-of-experts-modellen på Qwen3.6-35B-A3B.

Det spelar roll för alla som dimensionerar en driftsättning. En ”4B”-modell som behöver plats för 5,61B parametrar – 10,45 GiB i BF16 innan någon KV-cache eller aktivering – hamnar på en annan maskin än vad siffran på kortet antyder.

Arton repon, nitton minuter, inget tillkännagivande

Familjen släpptes inte ut gradvis. Tidsstämplarna för skapandet i Hugging Face placerar alla arton repon – fyra storlekar gånger fem precisioner – i ett fönster från 08:53:50 till 08:59:06 UTC den 17 november 2026, med ungefär fjorton sekunders mellanrum, vilket är kännetecknet för ett uppladdningsskript snarare än en person som klickar på publicera. GitHub-repositoriet Tencent/WeMM-Video skapades kl. 02:29:33 UTC samma dag, med sin första substantiella commit den 19 november och README-ändringar som fortsatte in i 20 november.

A screenshot of the Hugging Face model page for tencent/WeMM-Video-4B showing the '6B params / 10.5 GB' panel, a Safetensors tag, an Image-Text-to-Text pipeline tag, 10.4 GiB of weights, an Apache 2.0 licence, and zero downloads and zero likes.

Artikeln följde den 19 november: arXiv 2611.26409, "WeMM-Video: Pushing the Frontiers of Open-Source Omni-Modal Video Understanding," tolv författare, inlämnad kl. 16:58 UTC. Det är en fullständig teknisk rapport med sju resultattabeller och en länk till en utvärderings- och reproducerbarhetspipeline. Så detta är inte ett odokumenterat släpp – det är ett dokumenterat sådant som ingen annonserade. Vi kunde inte hitta något T​encent-blogginlägg, någon lanseringssida för WeChat Vision, något pressmeddelande eller någon betald nivå som pekade på modellfamiljen; modellkorten, GitHub README och arXiv-artikeln utgör hela det offentliga materialet, och de skrevs för varandra.

Siffrorna för mottagandet berättar samma historia. När detta skrivs visade alla fyra bascheckpointarna noll nedladdningar, och de arton repositorierna hade tillsammans samlat tre gillningar. Varken Artificial Analysis eller LMArena listar någon WeMM-modell. Inget av detta är bevis på kvalitet – det är bevis på distribution, och det är anledningen till att en 4B-checkpoint som får högre poäng än en 30B på flera videobenchmarks inte har något oberoende mätvärde kopplat till sig.

Vad finns inuti kontrollpunkten?

Bortsett från familjeinramningen är 4B en standardomni-stack med tre torn och ett ovanligt val av backbone.

• Språktornet — 32 lager, dold storlek 2 560, 16 uppmärksamhetshuvuden mot 4 nyckel-värde-huvuden, huvuddimension 256, ordförråd 248 320. Ryggraden är hybrid: ett lager med full uppmärksamhet var fjärde block, medan de övriga tre använder linjär uppmärksamhet, vilket är anledningen till att varje serveringsrecept i arkivet har en float32-flagga för SSM-cache.

• Vision tower — 24 block med dold storlek 1 024, patchstorlek 16, spatial sammanslagning 2, temporal patch 2, projicerar till 2 560. Det är backbonens inbyggda encoder, som behålls i stället för att bytas ut, och artikeln låser den från och med det andra förträningssteget eftersom den "redan ger tillräckligt starka visuella representationer."

• Ljudtorn — Whisper-liknande, 32 encoder- och 32 decoderlager med bredd 1 280, med en Q-Former på fönsternivå som komprimerar 0,1-sekundersfönster till 10 ljudtoken per sekund. Ljudet kommer in vid 16 kHz i 30-sekundersblock. Detta är delen som initierades från Qwen2.5-Omni, och med 1,07B parametrar är det den enskilt största klyftan mellan namnet och filen.

• Fusion — visuella och auditiva tokens interfolieras i kronologisk ordning med explicita texttidsstämplar, i stället för att poolas i separata strömmar.

• Lägen — ett Instruct-läge för direkta svar och ett Thinking-läge som avger ett resonemangsspår före svaret, växlas på chattmallnivå med enable_thinking.

• Licens — Apache 2.0 för hela samlingen, med Tencents licensfil som undantar tredjepartskomponenter som "fortsätter att omfattas av sina respektive ursprungliga villkor." Undantaget specificeras inte i modellkortet.

256K i konfigurationen, 8K i serveringskommandot

Textkonfigurationen anger max_position_embeddings på 262 144. Varje serving-kommando som T​encent publicerar – såväl båda vLLM-profilerna som båda SGLang-profilerna – skickar max-model-len 8192 eller context-length 8192. Siffran 256K är arkitektoniskt utrymme, inte en konfiguration som stöds, och inget i repositoriet förklarar hur man uppnår den.

Rambudgeten har samma form. Processorns egna standardvärden är generösa: 2 bildrutor per sekund, upp till 128 bildrutor, 25 165 824 pixlar totalt. vLLM-receptet åsidosätter alla tre nedåt — fps 2, max_frames 16, total_pixels 262144. Sexton bildrutor är vad du får om du kopierar kommandot. Ett klipp som samplas med 16 bildrutor är en annan indata än ett klipp som samplas med 128, och artikeln anger inte vilken sampling dess videoutvärderingar använde.

• Mediagränser per begäran, enligt leverans — fyra bilder, två videor, två ljudobjekt.

• Kontext, i levererat skick — 8 192 tokens, där ljudet förbrukar 10 tokens per sekund innan några videobildrutor räknas.

För en 4B-modell är de två siffrorna den avgörande begränsningen för riktigt arbete. Åttatusen token är ungefär tretton minuter ljud och inget annat; en video med ljudspår gör av med budgeten på båda strömmarna samtidigt. Långvideobenchmarkarna nedan kördes under förhållanden som källkodsarkivet inte beskriver.

Benchmarkarna är författarnas egna.

Varje siffra i den här artikeln kommer från den tekniska rapporten för WeMM-Video. Rapporten säger det rakt ut – "{{1}}För befintliga modeller rapporterar vi officiella resultat där sådana finns och annars våra egna utvärderingar{{/1}}" – och ingen tredje part har reproducerat något av det. Läget växlar också mellan tabellerna, vilket spelar större roll än det vanligtvis skulle, eftersom {{2}}Thinking{{/2}}-läget inte är gratis: videotabellerna rapporterar Thinking för 2B, 4B och 9B, ljudtabellen rapporterar Instruct eftersom författarna bedömde att standardbenchmark för ljud är "direkt perceptuella" uppgifter, och bild- och texttabellerna återgår till Thinking. Att jämföra en 4B-rad i ljudtabellen med en konkurrerande rad i videotabellen är inte en jämförelse.

A single-column scoreboard headed 'WeMM-Video-4B - the scoreboard' listing 'Video-MME with audio: 83.9', 'Video-MME v2 with audio: 48.1', 'LVBench video only: 65.3', 'Daily-Omni: 82.5', 'MMAU audio: 75.2' and 'MMMU image: 78.4', with a footer reading 'Vendor-reported; no independent scores yet. Figures from arXiv 2611.26409.'

Med det förbehållet är det i den omnimodala videotabellen som 4B gör skäl för sin filstorlek.

Där 4B slår en 30B

Tabell 2 i artikeln ställer WeMM-Video-4B mot Qwen3-Omni-30B-A3B-Instruct och MiniCPM-o-4.5-9B på gemensamma audiovisuella riktmärken, alla i Thinking-läge. 4B vinner de flesta av dem, mot en modell som är sju gånger så stor.

• Video-MME med ljud — WeMM-Video-4B 83,9, Qwen3-Omni-30B-A3B-Instruct 77,3, MiniCPM-o-4.5-9B 69,2.

• Video-MME v2 med ljud — 48,1 mot 36,3 och 28,1, den största marginalen i tabellen.

• Daily-Omni — 82,5 mot 70,7 och 80,2.

• WorldSense — 60,3 mot 54,0 och 55,7.

• OmniVideoBench — 49,7 mot 45,4 och 37,2.

Tabellen för tyst video är ännu starkare, och det är den som bör avgöra ett köp. När ljudspåret tas bort och enbart synen testas: Video-MME 75,7 mot 70,5 och 70,4, LVBench 65,3 mot 50,2 och 50,9, LongVideoBench 74,8 mot 63,5 och 66,0, EgoSchema 74,2 mot 66,4 och 60,4. Ett försprång på 15 poäng i LVBench vid 4B är inte en avrundningsartefakt; långvideoförståelse är precis där små omni-modeller historiskt sett har fallit samman.

Raderna för bild och text är konkurrenskraftiga snarare än dominerande. MMMU 78,4 mot Qwen3.5-Omni-Flash:s 76,9, MathVista 85,2 mot 82,9, DocVQA 96,5 mot 95,3, IFEval 91,3 mot 85,2. Det är de rader som en läsare med störst sannolikhet faktiskt behöver, och de håller måttet.

Där det förlorar, och mot vad

Förlusterna är specifika och förtjänar att namnges, för en tabell som bara visar vinsterna är precis det som den här bloggen finns till för att undvika.

• Ljud, jämfört med en proprietär flashmodell — Qwen3.5-Omni-Flash får 80,4 på MMAU och 74,0 på MMAR, mot WeMM-Video-4B:s 75,2 och 67,3. 4B:s enda ljudvinst är MMAU-Pro med 68,1 mot 64,8.

• Video, i hörnen — Video-Holmes 58,8 mot MiniCPM-o-4.5-9B:s 64,3, och FutureOmni 50,9 mot 55,1 för Qwen3-Omni-30B-A3B-Instruct och 56,1 för MiniCPM. Två benchmarkar där en mindre eller äldre konkurrent vinner ohotat.

• Bild och text — MMMU-Pro 64,7 mot 68,2, OCRBench 85,7 mot 89,1, GPQA 73,2 mot 76,4, MMLU-Pro 78,3 mot 79,9. Mellan en och sex poäng efter en serveringsinriktad proprietär modell, vilket för en checkpoint på 5,61B är en respektabel plats att ligga efter på.

Tolkningen är att WeMM-Video-4B var finjusterad för kombinerad ljud- och bildvideo och höll ställningarna på alla andra områden. Om ditt jobb är att beskriva vad som händer i ett klipp och sammanfatta vad som sägs i det, är siffrorna bra. Om ditt jobb är tät OCR eller textresonemang på avancerad nivå, är samma checkpoint en kompromiss.

Att köra det innebär att patcha din egen runtime

A screenshot of the Tencent/WeMM-Video GitHub repository showing five stars, zero forks, and the README model-zoo table listing the WeMM-Video 2B, 4B, 9B and 35B-A3B checkpoints against their base models.

Varken vLLM eller SGLang stöder den här arkitekturen uppströms. En sökning i vLLM:s ärendespårare hittar ingen WeMM-Video-förfrågan, och repot levererar i stället en patchkatalog: källkodsoverlägg med SHA-256-manifest för fyra exakta uppströmsversioner – vLLM 0.18.0 och 0.31.0, SGLang 0.5.16 och 0.5.19 – var och en låst till en specifik kombination av PyTorch, Transformers och CUDA 12.9, med Python 3.12 och FFmpeg som krav och TorchCodec som behöver CUDA 12 NPP i länkarens sökväg. SGLang kompilerar dessutom CUDA-kärnor vid första användning, så en C++-verktygskedja och Ninja ingår i installationen.

GGUF-vägen är inte heller någon genväg. Det är ett paket med tre filer – en språkfil på 4,90 GiB, en synprojektor på 0,63 GiB och en ljudfil på 2,00 GiB – byggt för en "WeMM native runtime" som du kompilerar från repot, inte för llama.cpp eller Ollama. Tencents eget manifest märker exporten exported_unvalidated, och den medföljande scope-filen säger quantized_candidate_not_validated. Det är en ovanligt ärlig märkning och den bör läsas bokstavligt: Q4_K_M-paketet erbjuds, men garanteras inte.

Det Tencent faktiskt hävdar är validerat är snävt: patchad vLLM laddade checkpointen på en H20 och slutförde genereringskontroller för text, bild, ljud och video med ljudspår, och den lokala checkpointen klarade en direkt Transformers-laddning plus en CPU-kontroll av textgenerering. Inga siffror för genomströmning, latens, minnesavtryck eller samtidighet. För en modell vars säljargument är video är "den genererade" golvet för vad ett driftsättningsbeslut behöver.

OrcaRouter tillhandahåller inte WeMM-Video-4B. Dess katalog listar ingen WeMM-checkpoint alls, så det finns inget hostat pris att ange och ingen endpoint att peka på; i dag är detta ett självhostjobb med en patch som appliceras på någon annans inferensmotor. För den enbart visionsbaserade halvan av arbetet finns öppna alternativ på plattformen – Qwen3-VL-235B-A22B-Thinking och Qwen3-VL-8B-Thinking tar båda bilder och videoramar – nåbara via en OpenAI-kompatibel nyckel, utan någon WeMM-motsvarighet för ljudhalvan. Om en kompatibel värd börjar tillhandahålla dessa vikter, förs leverantörens listpris vidare med 0 % påslag, men det är ett villkor, inte ett aktuellt faktum.

Vad är fortfarande obekräftat

Fyra saker som en köpare normalt får vid en lansering men inte kan få här.

• Pris. Det finns inget. Ingen hostad slutpunkt, ingen kostnad per token, ingen partnerlista. Den enda kostnaden är den GPU du redan äger.

• Oberoende utvärdering. Ingen post i Artificial Analysis, ingen inlämning till arena, ingen tredjepartsreproduktion. Utvärderingspipelinen är offentlig, vilket är det näst bästa och inte samma sak.

• Utvärderingsvillkor.Antalet bildrutor, pixelbudgetar och kontextlängder som användes för benchmarkkörningarna anges inte i artikeln, och det medföljande receptet använder 16 bildrutor där processorn har standardvärdet 128.

• Undantaget för tredjepartslicenser. T​encent uppger att komponenter i samlingen förblir under sina ursprungliga villkor men räknar inte upp dem. Ljudstacken härstammar från Qwen2.5-Omni och stommen från Q​wen3.5, båda Apache 2.0, vilket är betryggande snarare än avgörande.

Inget av det är ett skäl att avfärda släppet. Det är ett skäl att behandla familjen som vad den synbart är: arton repositorier och en teknisk rapport som lagts ut online inom ett nittonminutersfönster, med annonseringssteget hoppat över. Dokumentationen är bättre än de flesta annonserade lanseringar. Distributionen är noll.

För ett team som behöver gemensam audio-visuell förståelse på hårdvara de kontrollerar är WeMM-Video-4B den mest intressanta lilla checkpointen som publicerats den här månaden, och videonummren motiverar patchinsatsen. För den som behöver en endpoint till fredag är det ärliga svaret att detta inte är en sådan ännu — vikterna finns, körtiden är ett källkodstillägg och de enda benchmarkresultaten är författarnas egna. Håll utkik efter den första oberoende reproduktionen, en uppströmsmerge i vLLM eller ett hostat pris. Vilket som än kommer först kommer att säga dig mer än ännu en rad i Tabell 2.

Jämförda i den här artikeln1

Identifierat från den här artikeln