
WeMM-Video-4B : le modèle audio-visuel discret 5.6B de Tencent
- OrcaNOUVEAUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 par million de tokens · 185 tok/s
- tencentNOUVEAUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 par million de tokens · 826 tok/s
- AlibabaNOUVEAUQwen: Qwen4 Max2026-11-16$1.50 / $4.50 par million de tokens · 407 tok/s
- GoogleNOUVEAUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 par million de tokens · 87 tok/s
- AnthropicNOUVEAUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 par million de tokens · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 par million de tokens · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 par million de tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 par million de tokens · 83 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 par million de tokens · 120 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 par million de tokens · 108 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 par million de tokens · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 par million de tokens · 90 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 par million de tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligence
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 par million de tokens · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligence
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 par million de tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligence
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 par million de tokens · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligence
Le fichier intitulé WeMM-Video-4B pèse 10,45 GiB et, à deux octets par paramètre BF16, cela donne 5,61 milliards de paramètres — pas quatre. Les métadonnées safetensors de Tencent elles-mêmes disent la même chose : 5,611,746,312 paramètres. Le « 4B » dans le nom désigne le socle linguistique, pas le checkpoint. Cette petite erreur d’arithmétique est la bonne porte d’entrée dans la famille WeMM-Video, car presque tout ce qu’il y a d’intéressant dans cette publication est un écart entre l’étiquette et la chose : une famille de quatre tailles publiée sans article de lancement, une suite de benchmarks qui bat Qwen3-Omni-30B-A3B-Instruct et MiniCPM-o-4.5-9B sur la vidéo tout en perdant face à Qwen3.5-Omni-Flash sur l’audio, et un embedding de position 256K que chaque configuration livrée ramène volontairement à 8 192 tokens. Les poids sont réels, l’article est public, et personne ne l’a encore téléchargé.
Ce qui suit distingue trois éléments que les cartes Hugging Face de la famille mélangent : ce qui est mesurable dans le dépôt, ce qui n’est rapporté que par les propres évaluations de Tencent, et ce que personne en dehors de WeChat Vision n’a confirmé.
Le fichier appelé 4B contient 5,61 milliards de paramètres.
Hugging Face enregistre un nombre total de paramètres par dépôt, et pour les quatre points de contrôle de base WeMM-Video, ces derniers dépassent systématiquement d’environ 1,2 à 1,6 milliard la taille indiquée dans le nom.
• WeMM-Video-2B — 3,28 Md au total contre une étiquette « 2B ».
• WeMM-Video-4B — 5,61 milliards au total contre une étiquette « 4B ».
• WeMM-Video-9B — 10,49 Md au total face à une étiquette « 9B ».
• WeMM-Video-35BA3B — 36,18 B au total contre une étiquette « 35B-A3B », dont seulement trois milliards sont actifs par token.
Lire l’index safetensors du 4B rend le surplus visible. Parmi ses 1 268 tenseurs, le modèle de langage embarque 4,21 B de paramètres, la pile audio 1,07 B et la tour de vision 0,33 B. Environ dix-neuf pour cent du checkpoint est constitué d’oreilles. L’article confirme que la convention de nommage est délibérée : les trois modèles denses reposent sur Qwen3.5-2B, Qwen3.5-4B et Qwen3.5-9B, et le modèle à mélange d’experts sur Qwen3.6-35B-A3B.
Cela compte pour quiconque dimensionne un déploiement. Un modèle « 4B » qui a besoin de place pour 5,61 milliards de paramètres — 10,45 GiB en BF16 avant tout cache KV ou activation — exige une machine différente de ce que le nombre indiqué sur la fiche laisse entendre.
Dix-huit dépôts, dix-neuf minutes, aucune annonce
La famille n’a pas été dévoilée au compte-gouttes. Les horodatages de création sur Hugging Face situent les dix-huit dépôts — quatre tailles multipliées par cinq précisions — dans une fenêtre allant de 08:53:50 à 08:59:06 UTC le 17 novembre 2026, à environ quatorze secondes d’intervalle, ce qui est la signature d’un script de téléversement plutôt que d’une personne cliquant sur « publier ». Le dépôt GitHub Tencent/WeMM-Video a été créé à 02:29:33 UTC le même jour, son commit initial substantiel arrivant le 19 novembre et les révisions du README se poursuivant jusqu’au 20 novembre.

L'article est paru le 19 novembre : arXiv 2611.26409, « WeMM-Video : repousser les frontières de la compréhension vidéo omni-modale open source », douze auteurs, soumis à 16 h 58 UTC. Il s'agit d'un rapport technique complet comportant sept tableaux de résultats et un lien vers un pipeline d'évaluation et de reproduction. Ce n'est donc pas une sortie non documentée — c'est une sortie documentée que personne n'a annoncée. Nous n'avons trouvé ni billet de blog Tencent, ni page de lancement WeChat Vision, ni communiqué de presse, ni offre payante renvoyant à la famille ; les fiches modèle, le README GitHub et l'article arXiv constituent l'intégralité des informations publiques, et ils ont été rédigés les uns pour les autres.
Les chiffres de réception racontent la même histoire. Au moment de la rédaction, chacun des quatre points de contrôle de base affichait zéro téléchargement, et les dix-huit dépôts cumulés avaient récolté trois mentions J’aime. Ni Artificial Analysis ni LMArena ne répertorient un modèle WeMM. Rien de tout cela ne constitue une preuve de qualité — c’est une preuve de distribution, et c’est la raison pour laquelle un checkpoint 4B qui surpasse un 30B sur plusieurs benchmarks vidéo n’a aucun chiffre indépendant qui lui soit associé.
Qu’y a-t-il à l’intérieur du checkpoint ?
En faisant abstraction du discours familial, le 4B est un empilement omni standard à trois tours, avec un choix de dorsale inhabituel.
• Tour de langage — 32 couches, taille cachée de 2 560, 16 têtes d’attention pour 4 têtes clé-valeur, dimension de tête 256, vocabulaire de 248 320. Le squelette est hybride : une couche d’attention complète tous les quatre blocs, les trois autres utilisant l’attention linéaire, c’est pourquoi chaque recette de service du dépôt porte un indicateur de cache SSM en float32.
• Tour de vision — 24 blocs avec une taille cachée de 1 024, une taille de patch de 16, une fusion spatiale de 2, un patch temporel de 2, et une projection vers 2 560. C'est l'encodeur natif du backbone, conservé plutôt que remplacé, et l'article le fige à partir de la deuxième étape de pré-entraînement, car il « fournit déjà des représentations visuelles suffisamment fortes ».
• Tour audio — de style Whisper, 32 couches d’encodeur et 32 couches de décodeur d’une largeur de 1 280, avec un Q-Former au niveau des fenêtres qui compresse des fenêtres de 0,1 seconde en 10 tokens audio par seconde. L’audio arrive à 16 kHz par blocs de 30 secondes. C’est la partie initialisée à partir de Qwen2.5-Omni et, avec 1,07 Md de paramètres, c’est à elle seule le plus grand écart entre le nom et le fichier.
• Fusion — les tokens visuels et audio s'entrelacent dans l'ordre chronologique avec des horodatages textuels explicites, plutôt que d'être regroupés en flux séparés.
• Modes — un mode Instruct pour des réponses directes et un mode Thinking qui émet une trace de raisonnement avant la réponse, commuté au niveau du modèle de conversation avec enable_thinking.
• Licence — Apache 2.0 pour l'ensemble de la collection, le fichier de licence de Tencent excluant toutefois les composants tiers qui « restent soumis à leurs conditions d'origine respectives ». Cette exclusion n'est pas détaillée dans la fiche du modèle.
256K dans la configuration, 8K dans la commande de serving
La configuration textuelle déclare max_position_embeddings de 262 144. Chaque commande de service publiée par Tencent — les deux profils vLLM et les deux profils SGLang — passe max-model-len 8192 ou context-length 8192. Le chiffre de 256K est une marge architecturale, et non une configuration prise en charge, et rien dans le dépôt n’explique comment l’atteindre.
Le budget d’images a la même forme. Les valeurs par défaut du processeur sont généreuses : 2 images par seconde, jusqu’à 128 images, 25 165 824 pixels au total. La recette vLLM abaisse les trois — fps 2, max_frames 16, total_pixels 262144. Seize images, c’est ce que l’on obtient en copiant la commande. Un clip échantillonné à 16 images est une entrée différente d’un clip échantillonné à 128, et l’article n’indique pas quel échantillonnage ses évaluations vidéo ont utilisé.
• Limites de médias par requête, telles que livrées — quatre images, deux vidéos, deux éléments audio.
• Contexte, tel que livré — 8 192 tokens, l’audio consommant 10 tokens par seconde avant que les images vidéo ne soient comptées.
Pour un modèle 4B, ces deux chiffres constituent la contrainte limitante du travail réel. Huit mille tokens représentent environ treize minutes d’audio et rien d’autre ; une vidéo avec une bande-son dépense le budget sur les deux flux à la fois. Les benchmarks de vidéo longue ci-dessous ont été exécutés dans des conditions que le dépôt ne décrit pas.
Les benchmarks sont ceux des auteurs eux-mêmes.
Chaque chiffre de cet article provient du rapport technique WeMM-Video. Le document le dit clairement — « Pour les modèles existants, nous rapportons les résultats officiels lorsqu’ils sont disponibles et nos propres évaluations dans le cas contraire » — et aucun tiers n’en a reproduit quoi que ce soit. Le mode change aussi d’un tableau à l’autre, ce qui compte plus que d’ordinaire parce que le mode Thinking n’est pas gratuit : les tableaux vidéo rapportent Thinking pour les 2B, 4B et 9B, le tableau audio rapporte Instruct parce que les auteurs ont jugé que les benchmarks audio standard étaient des tâches de « perception directe », et les tableaux image et texte reviennent à Thinking. Comparer une ligne 4B du tableau audio à une ligne concurrente du tableau vidéo n’est pas une comparaison.

Avec cette réserve, c’est dans le tableau vidéo omni-modal que le 4B justifie sa taille de fichier.
Là où le 4B surpasse un 30B
Le tableau 2 de l'article compare WeMM-Video-4B à Qwen3-Omni-30B-A3B-Instruct et MiniCPM-o-4.5-9B sur des benchmarks audio-visuels conjoints, tous en mode Thinking. Le 4B en remporte la plupart, face à un modèle sept fois plus gros.
• Video-MME avec audio — WeMM-Video-4B 83,9, Qwen3-Omni-30B-A3B-Instruct 77,3, MiniCPM-o-4.5-9B 69,2.
• Video-MME v2 avec audio — 48,1 contre 36,3 et 28,1, la marge la plus large du tableau.
• Daily-Omni — 82,5 contre 70,7 et 80,2.
• WorldSense — 60,3 contre 54,0 et 55,7.
• OmniVideoBench — 49,7 contre 45,4 et 37,2.
Le tableau des vidéos silencieuses est encore plus solide, et c’est celui qui devrait décider d’un achat. En supprimant la bande-son et en testant uniquement la vision : Video-MME 75,7 contre 70,5 et 70,4, LVBench 65,3 contre 50,2 et 50,9, LongVideoBench 74,8 contre 63,5 et 66,0, EgoSchema 74,2 contre 66,4 et 60,4. Une avance de 15 points sur LVBench à 4B n’est pas un artefact d’arrondi ; la compréhension de longues vidéos est précisément le domaine où les petits modèles omni se sont historiquement effondrés.
Les lignes image et texte sont compétitives plutôt que dominantes. MMMU 78,4 contre 76,9 pour Qwen3.5-Omni-Flash, MathVista 85,2 contre 82,9, DocVQA 96,5 contre 95,3, IFEval 91,3 contre 85,2. Ce sont les lignes dont un lecteur aura le plus probablement réellement besoin, et elles tiennent bon.
Là où il perd, et à quoi
Les pertes sont précises et méritent d’être nommées, car un tableau qui ne montre que les réussites est précisément ce que ce blog a pour but d’éviter.
• Audio, face à un modèle flash propriétaire — Qwen3.5-Omni-Flash obtient 80,4 sur MMAU et 74,0 sur MMAR, contre 75,2 et 67,3 pour WeMM-Video-4B. La seule victoire audio du 4B est MMAU-Pro, avec 68,1 contre 64,8.
• Vidéo, dans les coins — Video-Holmes 58,8 contre 64,3 pour MiniCPM-o-4.5-9B, et FutureOmni 50,9 contre 55,1 pour Qwen3-Omni-30B-A3B-Instruct et 56,1 pour MiniCPM. Deux benchmarks où un concurrent plus petit ou plus ancien l'emporte nettement.
• Image et texte — MMMU-Pro 64,7 contre 68,2, OCRBench 85,7 contre 89,1, GPQA 73,2 contre 76,4, MMLU-Pro 78,3 contre 79,9. Entre un et six points derrière un modèle propriétaire orienté service, ce qui, pour un checkpoint de 5,61 B, reste une position respectable.
L’interprétation est que WeMM-Video-4B a été ajusté pour la vidéo audiovisuelle conjointe et a tenu bon partout ailleurs. Si votre travail consiste à décrire ce qui se passe dans un clip et à résumer ce qui est dit par-dessus, les chiffres sont bons. Si votre travail relève de l’OCR dense ou du raisonnement textuel de niveau universitaire avancé, le même checkpoint est un compromis.
L'exécuter signifie patcher votre propre runtime

Ni vLLM ni SGLang ne prennent en charge cette architecture en amont. Une recherche dans le gestionnaire de tickets de vLLM ne révèle aucune demande pour WeMM-Video, et le dépôt fournit à la place un répertoire nommé patch : des surcouches de code source avec des manifestes SHA-256 pour quatre versions amont exactes — vLLM 0.18.0 et 0.31.0, SGLang 0.5.16 et 0.5.19 — chacune épinglée à une combinaison spécifique de PyTorch, Transformers et CUDA 12.9, avec Python 3.12 et FFmpeg requis, et TorchCodec nécessitant CUDA 12 NPP dans le chemin de l’éditeur de liens. SGLang compile en outre les noyaux CUDA à la première utilisation, donc une chaîne d’outils C++ et Ninja font partie de l’installation.
Le chemin GGUF n’est pas non plus un raccourci. Il s’agit d’un ensemble de trois fichiers — un fichier de langue de 4,90 GiB, un projecteur de vision de 0,63 GiB et un fichier audio de 2,00 GiB — conçu pour un « WeMM native runtime » que vous compilez depuis le dépôt, et non pour llama.cpp ou Ollama. Le propre manifeste de Tencent étiquette l’export exported_unvalidated, et le fichier de périmètre qui l’accompagne indique quantized_candidate_not_validated. C’est un étiquetage d’une franchise inhabituelle, et il faut le prendre au pied de la lettre : l’ensemble Q4_K_M est proposé, pas cautionné.
Ce que Tencent revendique comme validé est limité : une version corrigée de vLLM a chargé le checkpoint sur un H20 et réussi les vérifications de génération pour le texte, l’image, l’audio et la vidéo avec bande-son, et le checkpoint local a réussi un chargement direct dans Transformers ainsi qu’une vérification de génération de texte sur CPU. Aucun chiffre sur le débit, la latence, l’empreinte mémoire ou la concurrence. Pour un modèle dont l’argument de vente est la vidéo, « il a généré » est le minimum requis pour une décision de déploiement.
OrcaRouter ne sert pas WeMM-Video-4B. Son catalogue ne répertorie aucun checkpoint WeMM, il n’y a donc ni tarif hébergé à citer ni point de terminaison à indiquer ; aujourd’hui, il s’agit d’une tâche d’auto-hébergement avec un patch appliqué au moteur d’inférence d’un tiers. Pour la moitié du travail consacrée uniquement à la vision, des alternatives ouvertes existent sur la plateforme — Qwen3-VL-235B-A22B-Thinking et Qwen3-VL-8B-Thinking acceptent tous deux des images et des trames vidéo — accessibles via une clé compatible OpenAI, sans équivalent WeMM pour la moitié audio. Si un hôte compatible commence à servir ces poids, le prix catalogue du fournisseur est répercuté avec 0 % de marge, mais c’est une condition, pas un fait actuel.
Qu'est-ce qui reste non confirmé ?
Quatre choses qu’un acheteur obtiendrait normalement lors d’un lancement et qu’il ne peut pas obtenir ici.
• Prix. Il n'y en a pas. Aucun point de terminaison hébergé, aucun tarif par token, aucune liste de partenaires. Le seul coût est celui du GPU que vous possédez déjà.
• Évaluation indépendante.Aucune entrée dans Artificial Analysis, aucune soumission à l’arène, aucune reproduction par un tiers. Le pipeline d’évaluation est public, ce qui est la meilleure alternative et n’est pas la même chose.
• Conditions d’évaluation.Le nombre d’images, les budgets de pixels et les longueurs de contexte utilisés pour les exécutions du benchmark ne sont pas indiqués dans l’article, et la recette fournie utilise 16 images alors que le processeur utilise 128 par défaut.
• L’exception relative aux licences de tiers. Tencent indique que les composants inclus dans la collection restent soumis à leurs conditions d’origine, mais ne les énumère pas. La pile audio est dérivée de Qwen2.5-Omni et l’ossature de Qwen3.5, tous deux sous Apache 2.0, ce qui est rassurant sans être décisif.
Rien de tout cela n’est une raison de rejeter la publication. C’est une raison de considérer la famille pour ce qu’elle est visiblement : dix-huit dépôts et un rapport technique mis en ligne en l’espace de dix-neuf minutes, l’étape de l’annonce ayant été omise. La documentation est meilleure que celle de la plupart des lancements annoncés. La distribution est nulle.
Pour une équipe qui a besoin de compréhension audio-visuelle conjointe sur du matériel qu’elle contrôle, WeMM-Video-4B est le petit point de contrôle le plus intéressant publié ce mois-ci, et les chiffres vidéo justifient l’effort de patchage. Pour quiconque a besoin d’un point de terminaison d’ici vendredi, la réponse honnête est que ce n’en est pas encore un : les poids existent, le moteur d’exécution est une surcouche de code source, et les seuls benchmarks sont ceux des auteurs. Surveillez la première reproduction indépendante, une fusion en amont dans vLLM ou un tarif d’hébergement. Ce qui arrivera en premier vous en dira plus qu’une ligne de plus dans le tableau 2.
Comparés dans cet article1
Détecté à partir de cet article
