MiniCPM-V 4.7 35B-A3B против Qwen2.5-Omni: спустя девятнадцать месяцев один из них всё ещё слышит вас

Поставьте MiniCPM-V 4.7 35B-A3B рядом с Qwen2.5-Omni в таблице характеристик — и более новая модель выигрывает почти в каждой строке. У неё в восемь раз больше контекста, разреженная архитектура, активирующая одну двенадцатую своих параметров на токен, и целое десятилетие инструментария для инференса, которого не существовало, когда выходила более старая модель. А затем вы доходите до строки аудио — и у MiniCPM-V 4.7 35B-A3B там нет вообще ничего. Qwen2.5-Omni, выпущенная в конце марта 2025 года, принимает аудио на вход и потоково возвращает естественную речь; MiniCPM-V 4.7, чьи веса появились в октябре 2026 года, принимает текст, изображения и видео и возвращает текст. Девятнадцать месяцев прогресса в этой конкретной паре не породили более совершенную omni-модель. Они породили более совершенную визуальную модель, которая не делает того, вокруг чего строилась более старая модель.

Такая формулировка — не упрёк ни одному из них. Это и есть сама суть сравнения, и именно поэтому читатель, которому нужен голос, и читатель, которому нужно прочитать тысячу отсканированных страниц, должны прийти к разным выводам. Что касается источников: цифры Qwen2.5-Omni — от вендора, от марта 2025 года, им уже девятнадцать месяцев, и они частично подтверждены широким развёртыванием. А цифры MiniCPM-V 4.7 35B-A3B — от OpenBMB, опубликованы в карточке модели 12 октября 2026 года — это её первая карточка, через десять дней после того, как впервые появились веса, — и ни одна из них не была воспроизведена за пределами лаборатории.

Что на самом деле представляла собой старая модель

Qwen2.5-Omni была первой сквозной омнимодальной моделью в этой линейке, и формулировка вендора в то время была однозначной: это был ответ на проблему «зоопарка специалистов», когда для транскрипции, компьютерного зрения и голоса требовались отдельная модель и отдельный связующий слой. 7B-модель принимала на вход текст, изображения, аудио и видео, а отвечала текстом или потоковой естественной речью с двумя фиксированными голосами — Chelsie и Ethan. Она заявляла о передовых результатах на бенчмарке OmniBench для слияния модальностей, опередив Gemini-1.5-Pro, и о показателе качества генерации речи 4,51, который вендор описывал как человеческий уровень.

Инженерное решение выдержало, потому что было спроектировано под ограничение, а не в обход него. Thinker-Talker разделил задачу на две части: трансформер Thinker объединил аудио- и визуальные энкодеры и породил семантику и текст, а Talker передавал потоком речевые токены из скрытых состояний Thinker и использовал полную историю диалога. Выровненный по времени мультимодальный RoPE чередовал позиции видео и аудио, чтобы два потока оставались синхронизированными, а блочная потоковая передача позволяла энкодерам выполнять работу по восприятию, пока языковая модель обрабатывала длинные последовательности — именно это и сделало возможными низколатентные голосовые ответы в принципе.

Ограничения были такими же реальными, и они упирались в память, а не в контекст. В собственных таблицах вендора инференс BF16 с FlashAttention-2 оценивается примерно в 31 ГБ памяти GPU для 15-секундного видео, 42 ГБ для 30 секунд и 60 ГБ для полной минуты — при контекстном окне в 32 768 токенов. Минута видео на модели 7B, на одном из самых больших одиночных GPU, которые можно было арендовать, — это число, которое нужно держать в уме; именно это число всё, что было создано после, было призвано уничтожить.

Что вместо этого делает новая модель

MiniCPM-V 4.7 35B-A3B идёт совершенно другим путём. Это первая MoE от OpenBMB в серии MiniCPM-V: 256 экспертов, распределённых по 40 слоям, с 8 активными на токен, окно контекста на 262 144 токена и словарь на 248 144 токена, что даёт примерно 3 млрд активных параметров из 35,2 млрд общих. Зрительная часть проходит через модуль SigLIP2 с ранним сжатием intra-ViT из LLaVA-UHD v4 и выбираемым смешанным режимом сжатия токенов 4x/16x — по умолчанию 16x, 4x, когда мелкие детали оправдывают расход токенов. Она обрабатывает отдельные изображения, наборы из нескольких изображений и видео. Отвечает текстом.

В главном заявлении карточки утверждается, что это первая MoE-модель с открытым исходным кодом с инференсом без потерь и плавным локальным инференсом, достигнутым за счёт Lookahead Expert Scheduling, тонкой послойной квантизации и спекулятивной выборки через отдельные драфты DSpark, при заявленных 13+ токенах в секунду на iPhone 17 Pro Max. Эта цифра заявлена производителем, не воспроизведена и не уточнена — ни формата квантизации, ни сборки, ни промпта, ни метода измерения. В карточке также утверждается, что общий балл в режиме Instruct выше, чем у Qwen3.6 35B-A3B, при меньшем времени инференса, и это утверждение представлено внутри изображения диаграммы, а не в таблице, поэтому его нельзя цитировать как числовое значение, и не следует воспринимать как таковое.

Семь измерений, обе стороны

• Входные модальности — Qwen2.5-Omni принимает текст, изображения, аудио и видео; MiniCPM-V 4.7 35B-A3B принимает текст, изображения и видео, при этом аудиоканал отсутствует вовсе.

• Вывод — текст плюс потоковая естественная речь двумя фиксированными голосами, а не только текст.

• Контекст — 32 768 токенов против 262 144, восьмикратное увеличение.

• Параметры — цифра 7B, по которой производитель называет модель, против 35,2B всего при 3B активных на стороне MiniCPM. Сам репозиторий указывает 11B параметров для чекпоинта, потому что 7B учитывает языковую модель, а не визуальные и аудиоэнкодеры, расположенные рядом с ней, — полезное напоминание о том, что «7B» здесь в такой же мере название, как и измерение.

• Объём памяти — собственные таблицы производителя показывают примерно 31 ГБ для 15-секундного видео и 60 ГБ для минуты; MiniCPM-V 4.7 — это около 70 ГБ весов BF16 до какого-либо KV-кэша, поэтому его квантованные сборки и возможность работы на устройстве занимают такую большую часть карточки.

• Лицензия — Apache-2.0 у обоих, и это единственный пункт, в котором они безоговорочно совпадают.

• Инструментарий для развертывания — девятнадцать месяцев общественных квантований и инструментов для поддержки SGLang, vLLM, llama.cpp, Ollama и OpenVINO, сборок GGUF/BNB/AWQ/GPTQ/FP8, а также приложений для iOS, Android и HarmonyOS.

• Публичная оценка — девятнадцатимесячной давности показатель OmniBench 0,561, на который широко ссылались, против карточки, где вообще нет таблицы оценок, на которую можно сослаться.

Дыра в аудио — это всё решение.

Если вашему пайплайну нужна модель, которая что-то слышит, это сравнение заканчивается уже в первом абзаце. Qwen2.5-Omni — единственная из двух, которая принимает аудио, единственная, которая говорит, и единственная, за которой стоит устоявшийся речевой стек — Thinker-Talker, TMRoPE, блочная потоковая передача, два фиксированных голоса. Это также единственная из двух, которую кто-либо развёртывал в масштабе, и девятнадцать месяцев квантизаций и инструментов от сообщества стоят больше, чем спецификация, когда вы пытаетесь внедрить модель в приложение в этом квартале.

Взамен MiniCPM-V 4.7 предлагает гораздо более длинную память и значительно более дешёвый с точки зрения вычислений на токен профиль для длинных визуальных документов. Окно в 262K и 3B активных параметров — это действительно другой инструмент по сравнению с окном в 32K у плотной модели на 7B — и для рабочей нагрузки, представляющей собой тысячи изображений страниц, скриншотов или длинных видеотранскриптов, форма новой модели подходит как нельзя лучше. Просто она не может быть той моделью, которая отвечает на звонки.

Вот в чём компромисс, если сказать прямо: охват против широты. Старая модель покрывает больше смыслов. Новая — больше страницы.

Две совершенно разные цепочки доказательств

Здесь асимметрия действует в обратную сторону, и в этом стоит быть точным.

Показатели Qwen2.5-Omni достаточно стары, чтобы их отчасти подтвердило использование. Модель возрастом девятнадцать месяцев с широко цитируемой позицией в бенчмарках, десятилетием последующих квантований и большой установленной базой не является доказанной величиной ни в каком формальном смысле, но у её утверждений было много времени, чтобы быть опровергнутыми, и они не были опровергнуты. Показатели памяти в частности были опубликованы как инженерные ограничения, а не как маркетинг, и они вели себя как инженерные ограничения.

Цифрам MiniCPM-V 4.7 уже две недели, и ноль внешних проверок. Модель появилась без документации 6 октября, а карточка, лицензия и раздел с заявлениями — 12 октября. До сих пор нет ни таблицы оценок, ни технического отчёта, и ни одна третья сторона не опубликовала результат. Единственное место с реальными опубликованными цифрами — отдельный драфтовый чекпоинт DSpark, чьи показатели принятых токенов на шаг принадлежат самой OpenBMB, и лаборатория не опубликовала их для родительской модели.

Итак, правильная позиция в отношении новой модели такова: архитектуру считать известной (она есть в конфигурационном файле), распространение — реальным (веса существуют в шести форматах), а каждый показатель производительности — утверждением, ожидающим второго мнения. Последняя часть не является постоянным условием. Это просто положение дел на 13 октября.

Запуск любого из них и для чего нужен роутер

Оба они — файлы, которые вы обслуживаете самостоятельно. Ни MiniCPM-V 4.7 35B-A3B, ни Qwen2.5-Omni нет в хостируемом каталоге OrcaRouter, и ничто здесь не должно восприниматься как утверждение, что мы маршрутизируем их — MiniCPM-V 4.7 представляет собой двухнедельный чекпоинт, для запуска которого без квантования вам понадобятся два ускорителя, а Qwen2.5-Omni — это открытая по весам модель 2025 года, практическое место которой — экземпляр vLLM, которым управляете вы.

Роутер оправдывает своё место по другую сторону этой границы. Большинству команд, запускающих визуальную модель на собственном хостинге, всё ещё нужна облачная модель для случаев, с которыми локальная не справляется, — длинные цепочки рассуждений, использование инструментов, аудиовходы, которые MiniCPM-V 4.7 не принимает. OrcaRouter объединяет более 200 облачных моделей за одним ключом, передаёт цену по прайс-листу каждого провайдера без нашей наценки, а при ухудшении работы провайдера автоматически переключается на резервный вариант: добавление второй модели — это изменение маршрутизации, а не второй контракт. Ближайшая по форме облачная модель к MiniCPM — Qwen3.6 35B A3B: 35B всего, 3B активных, контекст 262K, вход текст-изображение-видео — при цене $0,25 за миллион входных токенов и $1,48 за миллион выходных токенов, что служит честным ориентиром того, сколько на самом деле экономит самостоятельный хостинг.

Какой именно, и когда

Берите Qwen2.5-Omni, если вам вообще нужны аудио или речь, если вы хотите модель с девятнадцатью месяцами эксплуатации за плечами или если 32K токенов и потолок в 60 ГБ на минуту видео укладываются в ваш бюджет. Его ограничения известны и задокументированы — а это преимущество, когда вы готовите релиз.

Берите MiniCPM-V 4.7 35B-A3B, если ваша задача — длинный визуальный контекст и текстовый вывод, если вам нужна разрешительная лицензия и если вы готовы быть ранним пользователем — потому что ранним пользователем вы и станете. Ни одна третья сторона его не запускала, утверждение о работе на устройстве не воспроизведено, а бенчмарков не существует. Взамен вы получаете документированную, поддающуюся квантованию модель с поддержкой нескольких сред выполнения, окном в 262K и правдоподобной историей об эффективности, и вам выпадет стать тем, кто выяснит, подтвердится ли эта история.

Что изменило бы ответ: таблица бенчмарков от OpenBMB или воспроизведённая длина принятия из драфта DSpark — всё ещё самый дешёвый путь к внешней цифре по этому семейству. Что не изменило бы ответ — это больше времени. Девятнадцать месяцев не дали MiniCPM-V 4.7 способности слышать, и ничто в дорожной карте не говорит о том, что это появится.