LFM3-Omni-2B против Ming-3.0-audio-flash: телефон против стойки

Состав компонентов решает исход этого сравнения ещё до того, как слово скажут бенчмарки. Ming-3.0-audio-flash имеет 126 млрд параметров, примерно 259 ГБ весов bfloat16 и эталонный профиль обслуживания, построенный на H800s с 80 ГБ в тензорном параллелизме — четыре в конфигурации 128K, восемь, когда длинное аудио не помещается в память. LFM3-Omni-2B имеет 2,17 млрд параметров, поставляется в виде обычных весов BF16 и рассчитан на работу на телефоне. Оба принимают аудио на вход. Оба могут отвечать вслух. Один из них — ресурс дата-центра, а другой — функция, которую можно встроить в приложение, и почти всё остальное в них следует из этого единственного факта.

Они тоже появились без особой огласки. Liquid AI объявила о семействе LFM3 27 октября 2026 года, причём LFM3-Omni-2B был одной из шести моделей класса 2B в одном посте; его репозиторий был открыт с 21 октября. inclusionAI загрузила Ming-3.0-audio-flash 3 сентября 2026 года почти без документации и не опубликовала настоящую карточку модели до 19 октября, шесть недель спустя. Ни у одного из поставщиков нет независимого бенчмарка, и ни у одной из моделей нет хостингового эндпоинта, который можно арендовать с оплатой по токенам.

Два способа добавить рот модели

Архитектурное различие не в размере. Оно в том, где живёт звук.

Ming-3.0-audio-flash сохраняет аудио как аудио как можно дольше. Энкодер в стиле Whisper — 32 слоя, ширина 1 280, 128 мел-бинов — превращает звук в представление, которое подаётся в 42-слойный бэкбон mixture-of-experts с 512 экспертами и 8, выбираемыми на токен. Речь возвращается через опциональный модуль Talker со встроенными китайскими голосами и заданием голоса по референсному клипу. Заявленный контекст — 128K; конфигурация не указывала эту цифру, пока коммит от 13 октября не повысил позиционные эмбеддинги с 8 192 до 131 072.

LFM3-Omni-2B токенизирует всё в один поток. Видео дискретизируется с частотой 2 кадра в секунду, каждый фрагмент изображения 2×2 превращается в один языковой токен, а аудио проходит через причинный аудиокодер LFM3 и попадает в тот же словарь из 128 000 токенов, что и текст. Речевой выход — LiquidCodec на 24 кГц; аудиовход — моно 16 кГц. Вся модель помещается в окно 32K.

Это аргумент о сжатии, и он обоюдоострый. Подход LFM3-Omni-2B — это то, что делает модель на 2,17 млрд параметров жизнеспособной на смартфоне: всё — токены одного типа, поэтому всё одинаково дешёво. Подход Ming позволяет модели на 126 млрд параметров удерживать в памяти часовую запись, не отбрасывая просодию. Ни то, ни другое не даётся бесплатно.

Цифры, которые стоит сравнить

• Общее число параметров — LFM3-Omni-2B: 2,17 млрд, плотная модель; Ming-3.0-audio-flash: 126 млрд в смеси из 512 экспертов.

• Активные параметры — около 2,17 млрд против 6,5 млрд на шаг инференса.

• Веса на диске — несколько гигабайт против примерно 259 ГБ bfloat16-шардов плюс Talker.

• Эталонное оборудование — телефон, ноутбук или edge-плата против четырёх 80-ГБ H800 в тензорном параллелизме для профиля 128K, восьми, когда длинному аудио не хватает памяти.

• Контекст — 32K токенов, охватывающих ввод и вывод, против заявленных 128K.

• Речевой вывод — LiquidCodec 24 кГц с поддержкой 19 речевых локалей; Ming возвращает текст или текст вместе с речью через Talker, со встроенными голосами и клонированием по эталонному фрагменту.

• Лицензия — LFM Open License v1.0, лицензия с порогом дохода, в отличие от MIT.

• Цена — ни у одной из сторон нет цены за токен, поскольку ни один из поставщиков не продаёт инференс для этих чекпоинтов.

Активные параметры — это не спидометр

Так и хочется сопоставить «6.5B active» с «2.17B dense» и заключить, что Ming всего лишь втрое дороже в расчёте на токен. Такая трактовка ошибочна в обе стороны.

Смесь экспертов расходует пропускную способность памяти, а не только арифметические ресурсы. Обслуживание 6,5 млрд активных параметров из 126 млрд означает перемещение весов экспертов в кэш на каждом слое, и при размере батча один — режиме, в котором живёт голосовой ассистент — это близко к чтению большой доли 259 ГБ на каждый токен. Профиль из восьми H800 — это не рекомендация для пиковой пропускной способности; это то, что требуется, чтобы удержать веса. У LFM3-Omni-2B при 2,17 млрд противоположная проблема: нет дивиденда от разреженности, но и нечего свопить, а это именно тот профиль, который делает смартфон реальным вариантом.

Практическое следствие состоит в том, что у двух моделей разные кривые масштабирования. Ming становится дешевле в расчёте на токен по мере увеличения размера пакета, что подходит для конвейеров транскрипции, перерабатывающих очередь записанных звонков. LFM3-Omni-2B остаётся примерно постоянной в расчёте на высказывание, что подходит для живого разговора, где размер пакета равен единице, а бюджет задержки составляет несколько сотен миллисекунд.

Что можно купить на 126 миллиардов

inclusionAI публикует свои оценки в виде изображений, а не таблиц, что само по себе своего рода заявление, но числа читаемы. На собственном стенде Ming-3.0-audio-flash сообщает среднюю частоту ошибок ASR для китайского 3,45, для английского 3,69, средний показатель по диалектам 9,40 для кантонского, шанхайского, хунаньского и хоккиен, а также частоту ошибок диаризации 8,58 на AISHELL-4. В строках аудиорезонинга указаны BigBenchAudio с 99,40 и MMAU с 82,00. Это цифры вендора на стенде вендора, где звездочками отмечены строки самооценки. Никто их не воспроизвел.

Слабость, которую производитель всё равно опубликовал, — это рассуждение по длинным аудиозаписям: оценка Long-audio Chain 12,31 и LongAudioSpan 41,12, обе заметно ниже, чем у размещённых в облаке моделей из его собственного сравнения. Таким образом, 126B не стал равномерно лучше в «понимании аудио». Он лучше точно слышит, что было сказано, с каким акцентом и кем именно, — и значительно хуже удерживает длинную запись в памяти и рассуждает по ней.

Что можно купить за 2,17 млрд

LFM3-Omni-2B сообщает о частоте ошибок в словах для английского ASR 6,36 и многоязычной частоте 6,72, UTMOSv2 для TTS 3,80, VoiceBench 64,73, MMAR 51,40 и оценке вызова инструментов 52,20. Его аудиовход ограничен 16 кГц моно, что подходит для речи и бесполезно для музыки.

Не поддавайтесь искушению сравнить 6,36 с 3,69 у Ming. Это не один и тот же тест. Средний результат Ming по английскому вычисляется по его собственному набору английских бенчмарков; 6,36 у Liquid — это одно число из одной оценки, проведённой с его собственными промптами и жадным декодированием. Единственное обоснованное утверждение носит направленный характер: ASR у Ming, вероятно, лучше, потому что у 126B аудио-нативной модели с башней в стиле Whisper больше возможностей оказаться лучше, и потому что обработка диалектов — это то, что inclusionAI решила выдвинуть на первый план. Лучше ли она на два пункта или на полпункта — по этим двум карточкам узнать невозможно.

Что даёт LFM3-Omni-2B — это не точность. А то, что модель работает там, где находится микрофон. Для конвейера записи звонков это не имеет значения. Для всего, где есть живой пользователь, это меняет архитектуру: никакой загрузки, никакой передачи туда-обратно, никакой поминутной оплаты — и аудио не покидает устройство.

Лицензия — это незаметное отличие

Ming-3.0-audio-flash распространяется под лицензией MIT. Это практически максимально разрешительная лицензия: коммерческое использование, модификация, распространение, без проверки выручки, без ограничений по сфере применения. LFM3-Omni-2B поставляется под LFM Open License v1.0 — семейной лицензией, которую Liquid применяет ко всем LFM3; это лицензия с порогом выручки, а не одобренная OSI открытая лицензия. Прочитайте её, прежде чем строить на этом продукт. Для стартапа ниже порога разница чисто академическая; для компании выше него MIT стоит реальных денег.

Именно на этапе интеграции становится видна вся бумажная работа.

История с обслуживанием Ming всё ещё не завершена. В материалах запуска inclusionAI предполагалось, что семейство можно будет обслуживать с помощью vLLM-Omni уже сегодня; но на самом деле в репозитории видны открытые pull request'ы — один охватывает контрольную точку tts-tiny, другой добавляет поддержку audio-flash. Пока их не приняли, запуск Ming-3.0-audio-flash означает либо Transformers на машине с достаточным объёмом памяти, либо путь SGLang-Omni, описанный вендором. Это выполнимо, но это не `pip install`.

История LFM3-Omni-2B — обратная: карточка на Hugging Face, документирующая рецепт дообучения, и сборка Ollama, уже гуляющая по свету. Эта сборка заявляет контекст 125K против 32K в карточке, что говорит о том, что упаковка обогнала документацию — мелочь, которая важна, если вы планировали подавать ей длинное аудио.

Если ни одна из этих моделей вам не подходит по формату, альтернатива — арендовать эту возможность, а не владеть ею, и это другая статья бюджета. OrcaRouter — это размещённая на хостинге сторона такого выбора: единый API для более чем 200 моделей с наценкой 0% к прайс-листу провайдера и автоматическим переключением при сбое провайдера, — и ни LFM3-Omni-2B, ни Ming-3.0-audio-flash сегодня не входят в этот каталог. Вот честная формулировка: эта статья о двух моделях, которые вы скачиваете, а не о двух, которые можно вызвать.

Кто должен выбирать

Выберите Ming-3.0-audio-flash, если у вас есть GPU, которые вы больше нигде не используете, ваше аудио — китайский или английский с акцентами и несколькими говорящими, а ваша задача — получить точную расшифровку или обоснованный ответ о длинной записи. Лицензия MIT делает его более безопасным из двух для создания коммерческого продукта, а контекст 128K делает его единственным из этой пары, который может обработать совещание за один проход.

Выберите LFM3-Omni-2B, если аудио генерируется на периферии, пользователь ждёт, и ответ нужно озвучить сразу же. Примите, что вы получаете точность меньшей модели, более узкий список языков и лицензию с пунктом о выручке в обмен на развёртывание, которое помещается в приложение.

Вопрос, который стоит задать в любом из вариантов: куда уходит звук? Если ответ — «никуда», сравнивать больше нечего.