LFM3-Omni-2B vs MiniCPM-V 4.7 1B: когда меньшая модель читает лучше

На бумаге это неравный бой. LFM3-Omni-2B имеет 2,17 млрд параметров; MiniCPM-V 4.7 1B позиционируется как 1B-модель. Более крупная модель должна побеждать в бенчмарках компьютерного зрения. Но это не так. MiniCPM набирает 86,1 в OCRBench против 80,6, 69,5 в MMStar против 55,67, 56,9 в MMMU против 42,44 и 74,3 в MathVista против 62,5. В каждом общем для двух карточек бенчмарке компьютерного зрения побеждает модель с меньшим числом в названии, обычно с большим отрывом, а MiniCPM также имеет в восемь раз большее контекстное окно. Fusion обходится дороже за вызов, чем маршрутизация к одной модели. Оплата взимается по прейскурантной цене провайдера без добавления наценки.

Это объясняют три вещи, и ни одна из них не является недостатком ни одной из моделей. MiniCPM-V 4.7 1B — специалист, который весь свой бюджет параметров потратил на зрение. LFM3-Omni-2B — универсал, который потратил свой бюджет на зрение, слух и речь. А самое важное число MiniCPM — 86,1 на OCRBench — было измерено с его настройкой 4× визуальных токенов, которая обеспечивает детализацию за счёт вычислений так, как не может ограничение в 2 048 токенов на изображение. В понимании этого компромисса и заключается всё решение.

Почему модель меньшего размера читается лучше

MiniCPM-V 4.7 1B построена вокруг одной идеи: сжимать визуальные токены на раннем этапе и позволять пользователю выбирать степень сжатия. Модель применяет 4-кратное или 16-кратное сжатие токенов внутри визуального энкодера — до того, как языковая модель что-либо увидит. При 16× это дешево и быстро, подходит для создания подписей и описания сцен. При 4× сохраняется в четыре раза больше токенов, что необходимо для OCR документов и чтения насыщенных графиков. Основные показатели OpenBMB приводятся для настройки 4×.

LFM3-Omni-2B придерживается противоположного подхода. Он обрабатывает изображения в нативном разрешении, но ограничивает визуальный бюджет 2048 токенами на изображение, и этот лимит разделяется с аудиокодером, видеотрактом и речевым декодером внутри плотной сети на 2,17 млрд параметров. Потолок в 2048 токенов — разумный выбор для модели, которая должна помещаться на телефоне вместе с тремя другими модальностями. Это жёсткий потолок для того, сколько деталей страницы может дойти до языковой модели, и DocVQA 92,47 предполагает, что модель выжимает из него много, — но OCRBench 80,6 говорит, что этого недостаточно, чтобы обойти специализированную модель, которая может потратить в 4 раза больше токенов на ту же страницу.

Есть второй, менее заметный фактор. Контекстное окно MiniCPM — 262 144 токена. У LFM3-Omni-2B — 32 768. Для одного скриншота ни то, ни другое не имеет значения. Для PDF на 40 страниц, длинного видео или многоходового диалога по документу эта разница — не строка в бенчмарке, а вопрос, выполнима ли задача вообще.

Спецификация, без маркетинговых округлений

Одно число нужно исправить перед любым сравнением. MiniCPM-V 4.7 1B называют моделью на 1B, а её количество плотных параметров составляет примерно от 1,3 до 1,55 млрд в зависимости от того, как считать визуальный модуль. В боковой панели Hugging Face оно округлено до «2B params», и именно так модель на 1B в каталоге начинает выглядеть как модель на 2B. Честный ориентир — размер файла: около 3,1 ГБ в BF16 против 4,3 ГБ у LFM3-Omni-2B.

• Параметры — 2,17 млрд плотных параметров для LFM3-Omni-2B против примерно 1,3–1,55 млрд плотных параметров для MiniCPM-V 4.7 1B.

• Входные данные — текст, изображение, видео со звуком, аудио 16 кГц против текста, изображения, нескольких изображений и видео.

• Выходы — текст и речь 24 кГц против только текста.

• Контекст — 32,768 токенов против 262,144 токенов.

• Визуальные токены — не более 2 048 на изображение в отличие от переключаемого 4× или 16× сжатия внутри энкодера.

• Лицензия — LFM Open License v1.0 против Apache-2.0.

• Релиз — 27 октября 2026 г. против 12 октября 2026 г.

• Объём памяти — около 4,3 ГБ BF16 против около 3,1 ГБ BF16, примерно 5 ГБ видеопамяти для обслуживания.

Каждая строка, общая для двух карточек

Сравнение на удивление чистое для межлабораторной таблицы, поскольку оба производителя сообщают об одних и тех же четырёх наборах данных для компьютерного зрения, и обе модели являются нерассуждающими и оцениваются в режиме instruct. Это всё ещё две оценки от производителей, и ни одна из них не была независимо воспроизведена.

• OCRBench — 80,6 у LFM3-Omni-2B (806 из 1 000) против 86,1 у MiniCPM-V 4.7 1B. Разрыв в 5,5 пункта в распознавании текста на документах.

• MMStar — 55,67 против 69,5. Разрыв в 13,8 балла, самый большой в наборе.

• Валидация MMMU — 42,44 против 56,9. Разрыв в 14,5 пункта в мультимодальном рассуждении университетского уровня.

• MathVista mini — 62,50 против 74,3. Разрыв в 11,8 балла по визуальной математике.

Четыре строки, четыре поражения, разрывы от пяти до пятнадцати пунктов. Нет ни одной строки, где побеждает омнимодель, — это более чистый результат, чем дало сравнение LFM3 с LFM2.5, и его труднее объяснить или отмахнуться от него. Наиболее обоснованное толкование состоит в том, что специализированная модель на 1.4B с контекстом 256K и бюджетом в 4× токенов просто лучше читает, чем универсальная модель на 2.17B с контекстом 32K и ограничением изображения в 2,048 токенов. В таком масштабе мощность, потраченная на одну модальность, превосходит мощность, разделённую между четырьмя.

Две оговорки стоит упомянуть сразу, потому что ни одна из карточек о них не сообщает. Показатель MiniCPM 86.1 измерен при 4-кратном сжатии, а та же модель при настройке по умолчанию с 16-кратным сжатием показала бы более низкий результат и работала бы дешевле — карточка этот показатель не публикует. А в карточке модели OpenBMB вообще нет таблицы бенчмарков; цифры приводятся в виде текста и изображений графиков на странице продукта, что является более слабой формой публикации, чем таблица с примечанием о методологии. Оба набора цифр — это заявления вендора. Направление разрыва достаточно устойчиво, чтобы, вероятно, сохраниться при независимом тестировании; точный размер — вероятно, нет.

Контекст — это строка, которая определяет реальные рабочие нагрузки.

32K контекста — это щедро для одного изображения и тесно для документа. При примерно 2 048 визуальных токенах на изображение LFM3-Omni-2B может удерживать в своём окне около дюжины полноразмерных изображений, прежде чем история диалога начнёт конкурировать за место. 262 144 токена у MiniCPM-V 4.7 1B — это не скромное улучшение; это другой класс рабочих нагрузок. Длинные PDF-файлы, многостраничные формы, суммаризация часовых видео и агентные циклы, которые держат скриншоты в контексте, — всё это осуществимо при 256K и всё это ограничено при 32K.

Это наименее обсуждаемое и наиболее значимое различие между двумя моделями. Таблицы бенчмарков вознаграждают точность на одном изображении; производственные конвейеры обработки документов дают сбой на четырнадцатой странице. Если ваш сценарий использования включает больше, чем несколько изображений на диалог, окно 32K — более жёсткое ограничение, чем любой из четырёх разрывов в бенчмарках выше.

Что MiniCPM не может делать

Оно не слышит. Здесь нет пути аудиовхода, нет речевого вывода и нет обработки звуковой дорожки видео. Если приложение — это человек, говорящий с устройством о том, что видит камера, то MiniCPM-V 4.7 1B является одним компонентом конвейера, которому нужно как минимум ещё две модели — система ASR и система TTS — плюс связующий слой для передачи текста между ними.

LFM3-Omni-2B сворачивает этот конвейер в один чекпойнт объёмом 4,3 ГБ. Его аудиопоказатели непримечательны на фоне специализированных речевых моделей — WER для английского ASR 6,36, VoiceBench 64,73 — но они существуют в том же прямом проходе, что и визуальный путь, а значит, модель может ответить на произнесённый вслух вопрос об изображении, даже если расшифровка так и не будет записана. Для полевого инструмента, управляемого без рук, или киоска это и есть ключевая возможность. Для конвейера обработки документов это балласт в бюджете параметров.

У OrcaRouter объединение моделей — это другой способ получить оба типа поведения: панель, в которой специалист по документам и omni-модель отвечают на один и тот же запрос, а ответ составляется из обоих. Это возможность продукта, а не утверждение об этих двух чекпоинтах — сегодня ни того, ни другого нет в нашем каталоге — но это архитектурный ответ на ситуацию, когда каждая модель явно лучше справляется со своей половиной задачи. Объединение стоит дороже за вызов, чем маршрутизация к одной модели, и оно оправдано именно тогда, когда неправильный ответ стоит дороже токенов.

Решение

Если задача — чтение: OCR, счета, формы, графики, скриншоты, длинные PDF, плотный UI — то MiniCPM-V 4.7 1B является лучшей моделью по всем опубликованным показателям: у неё в восемь раз больше контекста, она распространяется под Apache-2.0, а не под кастомной лицензией с порогом по выручке, и занимает меньше места на диске. Это не близкий выбор, и то, что она называется моделью на 1B, не должно этого скрывать.

Если задача — это разговор с устройством, у которого есть камера и микрофон, LFM3-Omni-2B — единственный из двух, кто может в нём участвовать. Он хуже читает, удерживает меньший объём контекста и распространяется на более строгих условиях, но всё это не имеет значения, если альтернатива требует трёх моделей и конвейера.

Есть третий случай, который стоит назвать: продукт, которому нужно и то и другое, где путь документа и голосовой путь — отдельные функции. Тогда правильная архитектура — не одна модель, а две, маршрутизируемые по типу запроса: ридер для документов, omni-модель для голоса, — и единственный вопрос в том, хотите ли вы запускать обе или позволить одному эндпоинту решать. Именно к этому вопросу постоянно приводит эта серия сравнений, и он правильный. Модели достаточно близки по занимаемому объёму, чтобы запуск обеих был реальным вариантом; и достаточно различаются по возможностям, чтобы запуск только одной был компромиссом, что бы вы ни выбрали.

Что изменило бы вердикт — это независимая оценка любой из моделей, и конкретно та, которая проверяет MiniCPM при его стандартном сжатии 16×, а не при настройке 4×, используемой в его ключевых показателях. Это единственное число могло бы закрыть большую часть разрыва — или увеличить его. Пока кто-нибудь его не опубликует, у нас есть только таблицы производителя, и они указывают в одном направлении.