
WeMM-Video-4B: незаметная аудиовизуальная модель Tencent на 5,6 млрд параметров
- OrcaНОВИНКАOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 за 1 млн токенов · 185 tok/s
- tencentНОВИНКАTencent: Hy4 Flash2026-11-16$0.02 / $0.07 за 1 млн токенов · 826 tok/s
- AlibabaНОВИНКАQwen: Qwen4 Max2026-11-16$1.50 / $4.50 за 1 млн токенов · 407 tok/s
- GoogleНОВИНКАGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 за 1 млн токенов · 87 tok/s
- AnthropicНОВИНКАAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 за 1 млн токенов · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 за 1 млн токенов · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 за 1 млн токенов · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 за 1 млн токенов · 83 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 за 1 млн токенов · 120 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 за 1 млн токенов · 108 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 за 1 млн токенов · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 90 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Интеллект
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 за 1 млн токенов · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Интеллект
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 за 1 млн токенов · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Интеллект
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 за 1 млн токенов · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Интеллект
Файл с маркировкой WeMM-Video-4B весит 10,45 GiB, и при двух байтах на параметр BF16 это даёт 5,61 миллиарда параметров — а не четыре. Собственные метаданные safetensors от Tencent говорят то же самое: 5 611 746 312 параметров. «4B» в названии — это языковой бэкбон, а не чекпойнт. Эта небольшая арифметическая нестыковка — правильный вход в семейство WeMM-Video, потому что почти всё интересное в этом релизе заключается в разрыве между ярлыком и самой вещью: семейство из четырёх размеров, опубликованное без анонса, набор бенчмарков, который обходит Qwen3-Omni-30B-A3B-Instruct и MiniCPM-o-4.5-9B на видео, но проигрывает Qwen3.5-Omni-Flash на аудио, и позиционное эмбеддинг-представление на 256K, которое каждая поставочная конфигурация добровольно урезает до 8 192 токенов. Веса реальны, статья опубликована, и никто ещё не скачал ничего из этого.
Далее разделяются три вещи, которые карточки семейства на Hugging Face смешивают: что измеримо в репозитории, что сообщает только собственная оценка Tencent и что не подтверждено никем за пределами WeChat Vision.
Файл под названием 4B содержит 5,61 млрд параметров.
Hugging Face фиксирует общее количество параметров для каждого репозитория, и для четырёх базовых чекпоинтов WeMM-Video оно стабильно примерно на 1,2–1,6 млрд превышает размер, указанный в названии.
• WeMM-Video-2B — 3,28 млрд в сумме при маркировке «2B».
• WeMM-Video-4B — всего 5,61 млрд при маркировке «4B».
• WeMM-Video-9B — всего 10,49 млрд при маркировке «9B».
• WeMM-Video-35BA3B — 36,18 млрд всего при маркировке «35B-A3B», где только три миллиарда из них активны на каждый токен.
Чтение индекса safetensors модели 4B делает избыток видимым. Из её 1268 тензоров языковая модель содержит 4,21 млрд параметров, аудиостек — 1,07 млрд, а визуальная башня — 0,33 млрд. Примерно девятнадцать процентов чекпоинта — это уши. В статье подтверждается, что соглашение об именовании выбрано намеренно: три плотные модели построены на Qwen3.5-2B, Qwen3.5-4B и Qwen3.5-9B, а модель смеси экспертов — на Qwen3.6-35B-A3B.
Это важно для всех, кто планирует размер развёртывания. Модель «4B», которой нужно место для 5,61 млрд параметров — 10,45 ГиБ в BF16 без учёта KV-кэша и активаций — попадает в другую конфигурацию, чем можно предположить по числу на карточке.
Восемнадцать репозиториев, девятнадцать минут, без объявления
Семейство не появлялось постепенно. Метки времени создания на Hugging Face помещают все восемнадцать репозиториев — четыре размера на пять точностей — в окно с 08:53:50 по 08:59:06 UTC 17 ноября 2026 года, с интервалом примерно четырнадцать секунд, что характерно для скрипта загрузки, а не для человека, нажимающего «Опубликовать». Репозиторий GitHub Tencent/WeMM-Video был создан в 02:29:33 UTC в тот же день, а его первый содержательный коммит появился 19 ноября, при этом правки README продолжались до 20 ноября.

Статья вышла 19 ноября: arXiv 2611.26409, «WeMM-Video: раздвигая границы открытого омнимодального понимания видео», двенадцать авторов, подана в 16:58 UTC. Это полноценный технический отчёт с семью таблицами результатов и ссылкой на конвейер оценки и воспроизведения. Так что это не недокументированный релиз — он документирован, но никто о нём не объявлял. Мы не смогли найти ни поста в блоге Tencent, ни страницы запуска WeChat Vision, ни пресс-релиза, ни платного тарифа, указывающего на это семейство; карточки моделей, README на GitHub и статья на arXiv — это вся публичная документация, и они написаны друг для друга.
Цифры отклика говорят о том же. На момент написания у каждого из четырёх базовых чекпоинтов было ноль скачиваний, а восемнадцать репозиториев в совокупности собрали три лайка. Ни Artificial Analysis, ни LMArena не указывают модель WeMM. Всё это не свидетельствует о качестве — это свидетельствует о дистрибуции, и именно поэтому у 4B-чекпоинта, который обходит 30B по нескольким видеобенчмаркам, нет привязанной к нему независимой цифры.
Что находится внутри контрольной точки?
Если отбросить семейную подачу, 4B — это стандартный омни-стек из трёх башен с одним необычным выбором бэкбона.
• Языковая башня — 32 слоя, скрытая размерность 2 560, 16 голов внимания при 4 головах ключ–значение, размерность головы 256, словарь 248 320. Основа гибридная: один слой полного внимания в каждом четвёртом блоке, а остальные три используют линейное внимание, поэтому каждый рецепт обслуживания в репозитории содержит флаг кэша SSM типа float32.
• Башня зрения — 24 блока при скрытом размере 1 024, размере патча 16, пространственном слиянии 2, временном патче 2, с проекцией в 2 560. Это нативный энкодер магистрали, сохранённый, а не заменённый, и в статье он замораживается со второго этапа предварительного обучения, поскольку «уже обеспечивает достаточно сильные визуальные представления».
• Аудиомодуль — в стиле Whisper: 32 слоя энкодера и 32 слоя декодера при ширине 1 280, с Q-Former оконного уровня, сжимающим окна длительностью 0,1 секунды в 10 аудиотокенов в секунду. Аудио поступает с частотой 16 кГц 30-секундными фрагментами. Это та часть, которая инициализирована из Qwen2.5-Omni, и при 1,07 млрд параметров именно она создаёт самый большой разрыв между названием и файлом.
• Fusion — визуальные и аудиотокены чередуются в хронологическом порядке с явными текстовыми временными метками, а не объединяются в отдельные потоки.
• Режимы — режим Instruct для прямых ответов и режим Thinking, который выводит трассировку рассуждений перед ответом; переключаются на уровне шаблона чата с помощью enable_thinking.
• Лицензия — Apache 2.0 для всей коллекции, при этом файл лицензии Tencent исключает сторонние компоненты, которые «по-прежнему регулируются их соответствующими исходными условиями». Это исключение не перечислено по пунктам в карточке модели.
256K в конфигурации, 8K в команде запуска сервиса
В текстовой конфигурации указано max_position_embeddings со значением 262 144. Каждая команда обслуживания, публикуемая Tencent, — оба профиля vLLM и оба профиля SGLang — передаёт max-model-len 8192 или context-length 8192. Значение 256K — это архитектурный запас, а не поддерживаемая конфигурация, и ничто в репозитории не объясняет, как его достичь.
Бюджет кадров имеет ту же структуру. Собственные значения по умолчанию процессора щедры: 2 кадра в секунду, до 128 кадров, 25,165,824 пикселей суммарно. Рецепт vLLM переопределяет все три в меньшую сторону — fps 2, max_frames 16, total_pixels 262144. Шестнадцать кадров — это то, что получится, если скопировать команду. Клип, сэмплированный с 16 кадрами, — это другой вход по сравнению с клипом, сэмплированным со 128 кадрами, и в статье не указано, какое сэмплирование использовалось при оценке видео.
• Ограничения на медиафайлы для одного запроса, как в поставке — четыре изображения, два видео, два аудиофайла.
• Контекст, как в поставке — 8,192 токена, при этом аудио потребляет 10 токенов в секунду, прежде чем учитываются какие-либо видеокадры.
Для модели 4B эти два числа — жёсткое ограничение для реальной работы. Восемь тысяч токенов — это примерно тринадцать минут аудио и ничего больше; видео со звуковой дорожкой расходует бюджет сразу на оба потока. Приведённые ниже бенчмарки для длинных видео выполнялись в условиях, которые репозиторий не описывает.
Бенчмарки принадлежат самим авторам.
Все числа в этой статье взяты из технического отчёта WeMM-Video. В статье прямо сказано — «Для существующих моделей мы приводим официальные результаты, где они доступны, а в остальных случаях — наши собственные оценки» — и ни одна третья сторона не воспроизвела ни одного из них. Кроме того, режим меняется от таблицы к таблице, и это важнее, чем обычно, потому что режим Thinking не бесплатен: в видео-таблицах указан Thinking для 2B, 4B и 9B, в аудиотаблице указан Instruct, поскольку авторы сочли стандартные аудиобенчмарки задачами «прямого восприятия», а таблицы изображений и текста снова возвращаются к Thinking. Сравнивать строку 4B в аудиотаблице со строкой конкурента в видео-таблице — это не сравнение.

С учётом этой оговорки именно в таблице по омнимодальному видео модель 4B оправдывает свой размер файла.
Где 4B превосходит 30B
В таблице 2 статьи WeMM-Video-4B сравнивается с Qwen3-Omni-30B-A3B-Instruct и MiniCPM-o-4.5-9B на совместных аудиовизуальных бенчмарках, все в режиме Thinking. Модель 4B побеждает в большинстве из них, опережая модель, которая в семь раз больше по размеру.
• Video-MME с аудио — WeMM-Video-4B 83.9, Qwen3-Omni-30B-A3B-Instruct 77.3, MiniCPM-o-4.5-9B 69.2.
• Video-MME v2 с аудио — 48,1 против 36,3 и 28,1, самый широкий разрыв в таблице.
• Daily-Omni — 82,5 против 70,7 и 80,2.
• WorldSense — 60,3 против 54,0 и 55,7.
• OmniVideoBench — 49,7 против 45,4 и 37,2.
Таблица для видео без звука ещё сильнее, и именно она должна определять покупку. Если убрать звуковую дорожку и проверять только визуальное восприятие: Video-MME — 75,7 против 70,5 и 70,4; LVBench — 65,3 против 50,2 и 50,9; LongVideoBench — 74,8 против 63,5 и 66,0; EgoSchema — 74,2 против 66,4 и 60,4. Преимущество в 15 баллов на LVBench при 4B — не артефакт округления; понимание длинных видео — именно та область, где небольшие omni-модели исторически терпели крах.
Показатели по изображениям и тексту скорее конкурентоспособны, чем доминируют. MMMU — 78,4 против 76,9 у Qwen3.5-Omni-Flash, MathVista — 85,2 против 82,9, DocVQA — 96,5 против 95,3, IFEval — 91,3 против 85,2. Это те строки, которые читателю, скорее всего, действительно нужны, и они держатся достойно.
Где он проигрывает, и чему
Потери конкретны, и их стоит назвать, потому что таблица, где показаны только победы, — это именно то, чего этот блог стремится избегать.
• Аудио, в сравнении с проприетарной flash-моделью — Qwen3.5-Omni-Flash набирает 80,4 балла на MMAU и 74,0 на MMAR против 75,2 и 67,3 у WeMM-Video-4B. Единственная победа 4B в аудио — MMAU-Pro с 68,1 против 64,8.
• Видео, в углах — Video-Holmes 58,8 против 64,3 у MiniCPM-o-4.5-9B, а FutureOmni 50,9 против 55,1 у Qwen3-Omni-30B-A3B-Instruct и 56,1 у MiniCPM. Два бенчмарка, где меньший или более старый конкурент одерживает безоговорочную победу.
• Изображение и текст — MMMU-Pro 64,7 против 68,2, OCRBench 85,7 против 89,1, GPQA 73,2 против 76,4, MMLU-Pro 78,3 против 79,9. Отставание от одной до шести пунктов от проприетарной модели, ориентированной на обслуживание, что для чекпоинта 5,61B является достойной позицией для отставания.
Толкование таково: {{1}}WeMM-Video-4B{{/1}} был настроен на совместное аудиовизуальное видео и удерживал позиции во всех остальных областях. Если ваша задача — описывать, что происходит в клипе, и суммировать сказанное в нём, цифры хороши. Если ваша задача — плотное OCR или рассуждение по тексту уровня выпускника, тот же чекпойнт является компромиссом.
Запуск этого означает патчинг собственного рантайма

Ни vLLM, ни SGLang не поддерживают эту архитектуру в upstream. Поиск в трекере задач vLLM не обнаруживает запроса WeMM-Video, и репозиторий поставляет каталог patch вместо этого: исходные оверлеи с манифестами SHA-256 для четырёх точных upstream-релизов — vLLM 0.18.0 и 0.31.0, SGLang 0.5.16 и 0.5.19 — каждый привязан к определённой комбинации PyTorch, Transformers и CUDA 12.9, при этом требуются Python 3.12 и FFmpeg, а TorchCodec нуждается в CUDA 12 NPP в пути компоновщика. SGLang дополнительно компилирует ядра CUDA при первом использовании, поэтому C++-инструментарий и Ninja входят в установку.
Путь через GGUF тоже не является обходным путём. Это набор из трёх файлов — языковой файл на 4,90 GiB, визуальный проектор на 0,63 GiB и аудиофайл на 2,00 GiB — собранный для «WeMM native runtime», который вы компилируете из репозитория, а не для llama.cpp или Ollama. В собственном манифесте Tencent этот экспорт помечен как exported_unvalidated, а в прилагаемом файле области действия указано quantized_candidate_not_validated. Это на удивление откровенная маркировка, и её следует понимать буквально: набор Q4_K_M предлагается, но за него не ручаются.
То, что Tencent действительно заявляет как подтверждённое, ограничено: пропатченный vLLM загрузил контрольную точку на H20 и выполнил проверки генерации для текста, изображений, аудио и видео со звуковой дорожкой, а локальная контрольная точка прошла прямую загрузку через Transformers и проверку генерации текста на CPU. Ни данных о пропускной способности, ни о задержке, ни о занимаемой памяти, ни цифр по параллелизму. Для модели, чьё главное преимущество — видео, «сгенерировалось» — это лишь минимальный порог того, что нужно для решения о развёртывании.
OrcaRouter не обслуживает WeMM-Video-4B. В его каталоге вообще нет ни одного чекпойнта WeMM, поэтому нет ни размещённой цены, которую можно назвать, ни эндпоинта, на который можно указать; сегодня это задача для самостоятельного развёртывания с патчем, применяемым к чужому движку инференса. Для связанной только со зрением половины работы на платформе есть открытые альтернативы — Qwen3-VL-235B-A22B-Thinking и Qwen3-VL-8B-Thinking обе принимают изображения и видеокадры — доступные через один ключ, совместимый с OpenAI, при этом для аудиополовины эквивалента WeMM нет. Если совместимый хост действительно начнёт обслуживать эти веса, цена из прайс-листа провайдера будет проходить с наценкой 0%, но это условие, а не текущий факт.
Что ещё не подтверждено
Четыре вещи, которые покупатель обычно получает при запуске продукта, но не может получить здесь.
• Цена. Её нет. Ни хостингового эндпоинта, ни тарифа за токен, ни списка партнёров. Единственные затраты — это та видеокарта, которая у вас уже есть.
• Независимая оценка. Нет записи в Artificial Analysis, нет заявки в arena, нет стороннего воспроизведения. Пайплайн оценки открыт — это наилучшая доступная альтернатива, но не то же самое.
• Условия оценки. Количество кадров, бюджеты пикселей и длины контекста, использованные для запусков бенчмарка, не указаны в статье, а поставляемый рецепт использует 16 кадров, тогда как процессор по умолчанию использует 128.
• Исключение для сторонних лицензий. Tencent заявляет, что компоненты внутри коллекции остаются на исходных условиях, но не перечисляет их. Аудиостек восходит к Qwen2.5-Omni, а базовая модель — к Qwen3.5, обе под Apache 2.0, что скорее успокаивает, чем служит решающим доводом.
Ничто из этого не является причиной сбрасывать релиз со счетов. Это причина рассматривать семейство как то, чем оно явно является: восемнадцать репозиториев и технический отчёт, выложенные в сеть в течение девятнадцати минут, при пропущенном этапе анонса. Документация лучше, чем у большинства анонсированных запусков. Дистрибуция равна нулю.
Для команды, которой нужно совместное аудиовизуальное понимание на собственном оборудовании, WeMM-Video-4B — самый интересный небольшой чекпойнт, опубликованный в этом месяце, и показатели по видео оправдывают усилия по патчингу. Для тех, кому нужен эндпоинт к пятнице, честный ответ: это пока не он — веса есть, среда выполнения представляет собой оверлей исходного кода, а единственные бенчмарки — от авторов. Следите за первым независимым воспроизведением, слиянием в upstream vLLM или ценой хостинга. Что из этого появится первым, скажет вам больше, чем ещё одна строка в таблице 2.
Сравнение в этой статье1
Определено по этой статье
