Hero-titelkaart met 'WeMM-Video-2B', ondertitel 'uitgebracht zonder aankondiging', met vier badges: '2B dense, 3,28B totaal', 'video + audio + afbeelding + tekst in', 'Apache 2.0, vier kwantisaties', 'nul downloads op de Hub'.
Engineering & Research

WeMM-Video-2B: een 2B omnimodaal model dat niemand heeft aangekondigd

Auteur

Gideon Frost

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Er is geen lanceringsbericht. Er is geen modelkaart op een productpagina, geen wachtlijst, geen prijstabel, geen benchmarktweet van een T​encent-executive. Wat er wel is: een Hugging Face-repository die op 17 november 2026 om 08:58 UTC is aangemaakt en een GitHub-repo waarvan de eerste commit zes en een half uur eerder binnenkwam, en beide beschrijven WeMM-Video-2B als het dense 2B-checkpoint in een familie van Chinees–Engelse omni-modale videomodellen van WeChat Vision bij T​encent. Zes dagen later heeft de repo twee likes, nul downloads en vier gequantiseerde zustermodellen die binnen elf minuten na de basisgewichten zijn aangemaakt. Dus de eerlijke eerste zin van elk stuk over dit model is een zin over de verpakking ervan: het is openbaar, het is downloadbaar, en niemand heeft er een woord over gezegd.

Die kloof verdient het om serieus genomen te worden in plaats van als een rustige nieuwsdag te worden afgedaan. Een modelfamilie die in dezelfde week gewichten, een paper, vier kwantisatieformaten, gepatchte vLLM- en SGLang-recepten, een native C++-runtime en een Docker compose-bestand uitbrengt, is geen onderzoeksdump die iemand vergeten is aan te kondigen — het is een release die is voorbereid en vervolgens zonder de marketinglaag is uitgebracht. Wat volgt, scheidt wat de artefacten bewijzen van wat alleen T​encent kan bevestigen, en het is bewust niet geïnteresseerd in de vraag of het model goed is.

Wat de repository daadwerkelijk bevat

Het basischeckpoint is tencent/WeMM-Video-2B, Apache 2.0, 6,12 GiB BF16-safetensors over twee shards. Het indexbestand meldt in totaal 3.283.624.264 parameters, wat iets vertelt wat de naam niet doet: "2B" is het taalmodel, niet het systeem. De tekstbackbone is een decoder uit de Qwen3.5-familie — 24 lagen, hidden size 2048, 8 attention-heads tegen 2 KV-heads, een vocabulaire van 248.320 tokens en een maximale positie-embedding van 262.144 tokens — met een hybride attention-indeling die na elke drie linear-attention-lagen één full-attention-laag plaatst. Daarvoor staan een vision transformer met 24 lagen en hidden size 1024, en een audio-stack opgebouwd uit een 32-laags Whisper-encoder die een tweelaagse Q-Former met een hidden size van 4104 aanstuurt. De overige parameters zitten in die twee encoders.

Generated scoreboard titled 'WeMM-Video-2B — the scoreboard' with six rows: parameters 3.28B total with a 2B language model, modalities in text, image, audio and video plus soundtrack, output text only, video sampling 2 fps from 4 to 16 frames, an 8,192-token context, and no hosted endpoint as the price. A footer reads 'Vendor-reported; no independent evaluations published.'

Die architectuur beantwoordt de vraag die de naam oproept. Dit is geen videogenerator. Hij neemt video in — frames plus, optioneel, de originele soundtrack — en produceert tekst als uitvoer. De token-ID's van de config zelf bevestigen het: een videotoken, een audiotoken, een imagetoken en een taalmodel dat genereert. Als je hoopte op een nieuwe deelnemer aan de text-to-video-race, zal de repository je teleurstellen bij de eerste blik op de pipeline-tag, namelijk image-text-to-text.

• Groottes in de familie — 2B, 4B, 9B dense, en een 35B-A3B mixture-of-experts, allemaal samen gepubliceerd op 17 november.

• Quantisaties voor de 2B — FP8 Block128, AWQ W4A16, GGUF Q4_K_M en NVFP4 W4A16, elk in een eigen repository, elk binnen elf minuten na de basisgewichten gemaakt.

• Serveerpaden — Transformers 5.2.0, gepatchte vLLM 0.18.0 of 0.31.0, gepatchte SGLang 0.5.16 of 0.5.19, en een native runtime voor de GGUF-build die op CPU of CUDA draait.

• Invoerlimieten in de meegeleverde recepten — maximaal vier afbeeldingen, twee video's en twee audio-items per aanvraag, bij een contextlengte van 8.192 tokens.

• Licentie — Apache 2.0 op de gewichten, met een afzonderlijk bestand met kennisgevingen van derden dat LAVIS-, vLLM- en SGLang-componenten omvat.

Het detail rond gepatchte serving is wat dit onderscheidt van een typische open-weights-release. T​encent leverde geen repository die "in theorie werkt"; het leverde overlay-patches voor specifieke vLLM- en SGLang-versies, vergrendelde dependencybestanden, Docker-images met tag voor CUDA 12.9, en een validatienotitie waarin stond dat het checkpoint laadde en generatie voltooide op L20- en H20-hardware voor tekst, beeld, audio en video met soundtrack. Of die patches standhouden buiten T​encent's eigen cluster is precies het soort vraag dat een week waarin buitenstaanders ze draaien beantwoordt, en die week heeft nog niet plaatsgevonden.

Screenshot of the Hugging Face model card for tencent/WeMM-Video-2B, showing the image-text-to-text pipeline tag, Transformers and Safetensors, the qwen3_5 architecture with custom code, an Apache-2.0 licence, a model size of 3B parameters, a downloads figure with no deployments, and a Quantizations section listing the four sibling repositories.

Wat het artikel beweert, en wie het heeft gecontroleerd

Het technische rapport is arXiv 2611.26409, gedateerd 19 november 2026 — twee dagen nadat de gewichten verschenen — en het is een familiepaper, geen 2B-paper. Twaalf auteurs, eerstgenoemde Changli Tang, laatstgenoemde Jing Lyu, allemaal onder de WeChat Vision-vlag.

De kopclaim gaat over het 35B-A3B-model, niet over het 2B-model: dat het een nieuwe open-source state of the art vestigt op het gebied van omni-modale video-evaluatie, aanzienlijk beter presteert dan Qwen3.5-Omni-Flash en Seed2.0-Mini-0428 en de kloof met Gemini-3.0-Flash verkleint. Een tweede claim betreft wel het model in de titel van dit artikel: dat WeMM-Video-9B het grotere open-source Qwen3-Omni-30B-A3B-Instruct overtreft. De 2B komt voor in de familie beschrijving en in de modelzoo, maar het betoog van het paper wordt gedragen door zijn grootste broer.

Elk van die getallen is door de leverancier gerapporteerd. Er is geen Artificial Analysis-vermelding, geen LMArena-resultaat, geen onafhankelijke reproductie en — op het moment van schrijven — geen enkele vorm van externe evaluatie voor welk lid van de familie dan ook. Het paper zegt dat de modellen op meer dan 120 benchmarks zijn geëvalueerd; het zegt niet wie ze heeft uitgevoerd, en het antwoord is T​encent. Dat is geen beschuldiging, het is de normale situatie bij een release van zes dagen oud. Maar het betekent wel dat de juiste omschrijving van de positie van de 35B-A3B is "T​encent meldt dat het vooroploopt", niet "het loopt voorop".

Nog een voorbehoud, en dat is structureel van aard in plaats van redactioneel. Een benchmarksuite van 120 taken, gekozen en gewogen door het lab dat het model heeft getraind, is een meting van fit: ze vertelt je dat het model goed is in de dingen die de auteurs het waard vonden om te meten. Ze vertelt je niet dat het goed is in de dingen die jij nodig hebt. De kloof tussen die twee uitspraken is waar de meeste fouten bij modelselectie worden gemaakt, en geen enkele hoeveelheid tabellen lezen dicht die kloof.

De vier modi, en waarom het audiopad ertoe doet

De inferentie-API biedt vijf aanvraagvormen, en de interessante is de laatste. Tekst en afbeelding zijn niets bijzonders. Alleen audio is niets bijzonders. Alleen videoframes is het standaardgeval voor multimodale video. Video met de oorspronkelijke soundtrack is de vorm die verandert wat er van het model kan worden gevraagd, en het is een afzonderlijk inhoudstype in de serving-API in plaats van een impliciet gedrag.

In de praktijk betekent dat dat je het model een clip kunt geven en het in één aanroep kunt vragen te beschrijven wat er op het scherm te zien is en samen te vatten wat er gezegd wordt, en dat je een antwoord krijgt dat beide weerspiegelt. De voorbeelden op de modelkaart doen precies dat: Engelse spraak transcriberen uit een Apollo 11-opname en vervolgens dezelfde MP4 beschrijven met en zonder audiotrack. Of de gezamenlijke redenering beter is dan een videomodel en een spraakmodel naast elkaar draaien en de uitvoer aan elkaar plakken, is een empirische vraag, en het is het meest nuttige ding dat een onafhankelijke evaluator zou kunnen testen.

De andere ontwerpbeslissing die het benoemen waard is, is de chat-template met twee modi. Door enable_thinking=False te geven krijg je een direct antwoord; enable_thinking=True geeft een redeneerspoor vóór het antwoord. Dat is een latentie-versus-kwaliteit-afstelling die als templateflag wordt meegeleverd in plaats van als twee checkpoints, wat een redelijke keuze is voor een 2B-model — je betaalt niet voor een tweede set gewichten om het tweede gedrag te krijgen.

Het draaien ervan, en de eerlijke stand van zaken rond beschikbaarheid

Het snelstartpad is een Python 3.12-omgeving, een NVIDIA-GPU, een driver die compatibel is met CUDA 12.9 en FFmpeg. Installeer Torch 2.10.0, TorchVision 0.25.0 en TorchCodec 0.10.0 vanuit de CUDA 12.9-index, en vervolgens Transformers 5.2.0, Accelerate, Pillow, Librosa, SoundFile, SciPy en Requests. Het model wordt geladen via AutoModelForImageTextToText met trust_remote_code=True — de architectuur is maatwerk, dus die flag is essentieel en niet louter decoratief, en de modelkaart geeft terecht aan dat je de aangepaste code moet lezen voordat je deze inschakelt.

Als je een server wilt in plaats van een script, zet het vLLM-recept een gepatchte 0.18.0-build vast en geeft --no-enable-prefix-caching mee naast --mamba-ssm-cache-dtype float32, een combinatie die duidelijk maakt dat de hybride linear-attentionlagen nog geen werkende prefixcache hebben. Dat is een echte doorvoerbeperking voor chatworkloads, en het is precies het soort detail dat pas boven water komt wanneer iemand daadwerkelijk heeft geprobeerd het ding te serveren.

Wat in elk document ontbreekt, is een prijs. Er is geen door Tencent gehost endpoint voor WeMM-Video-2B, geen tarief per token, geen beheerde deployment. Je downloadt de gewichten en de GPU is van jou. Aan de OrcaRouter-kant is de eerlijke uitspraak dezelfde: we serveren WeMM-Video-2B niet. Wat we wel van T​encent aanbieden, is de Hunyuan-tekstlijn — tencent/hy4, tencent/hy4-flash en de preview-builds — via één OpenAI-compatibel endpoint tegen de lijstprijs van de provider met 0% opslag, wat nuttig is als je pipeline een tekstmodel uit hetzelfde lab nodig heeft en nutteloos als die dit model nodig heeft. Twee verschillende producten, één leveranciersnaam, en ze door elkaar halen zou de gemakkelijke fout zijn om in haast te maken.

Screenshot of the OrcaRouter catalogue page for tencent/hy4, showing pricing of $0.56 per million input tokens and $2.24 per million output tokens, a quality score of 90, a speed score of 67, a 1M-token context window, a 64k maximum output, zero-data-retention support and a release date of 4 November 2026.

Van nieuwsgierigheid naar aanbeveling

Drie dingen, in volgorde van hoeveel impact ze zouden hebben.

Het eerste is een onafhankelijke evaluatie op een benchmark die Tencent niet heeft gekozen. Elke blinde arena-run — videobegrip, audiovisuele QA, wat er ook het dichtst bij komt — zou je onmiddellijk vertellen of de geclaimde positie van de familie standhoudt bij contact met een neutrale set prompts. Totdat dat bestaat, is de "nieuwe open-source state of the art" van de 35B-A3B een bewering over een tabel in een pdf.

De tweede is een serveerrapport van buiten T​encent. De patches zijn specifiek, de hardware is specifiek, en de validatienotitie omvat twee GPU-modellen. Of dit probleemloos draait op een H100-node, een A100-node of een gehuurde 4090 is onbekend, en het antwoord zal bepalen of de 2B een weekendproject of een onderzoeksartefact is.

De derde is een leveranciersaankondiging — om het even welke leveranciersaankondiging. Een blogpost, een modelkaart op een T​encent-productpagina, een prijsniveau. Op dit moment is de release alleen leesbaar voor mensen die repository-timestamps lezen, en het venster van zeven dagen waarin dat geldt, sluit zich. Als T​encent niets publiceert, is de meest waarschijnlijke lezing dat deze weights bestaan om de paper en de 35B te ondersteunen, en dat de 2B een handig checkpoint is in plaats van een product.

Dat is de eerlijke kern ervan. WeMM-Video-2B is een echt, downloadbaar, Apache-2.0 omni-modaal model dat niemand heeft aangekondigd, dat niemand heeft gedownload en dat niemand onafhankelijk heeft getest. Als je werk draait om gezamenlijk audio-visueel begrip en je hebt een extra GPU en een middag, dan zijn de kosten om erachter te komen wat het doet de download. Als je werk draait om volgende maand iets op te leveren, dan zijn de kosten om erachter te komen hoger dan dat, en het verantwoorde ding is om te wachten op de cijfers van iemand anders.

Vergeleken in dit artikel1

Herkend uit dit artikel