LFM3-Audio-2B в Ollama: лучшая речь, те же уши

Liquid AILFM3-Audio-2Bсегодня утром стал доступен для загрузки одной командой. ollama run lfm3-audio загружает 2,1 ГБ и запускает модель с 2B параметрами, которая принимает текст или аудио и отвечает текстом, речью 24 кГц или тем и другим. Сама модель появилась всего день назад — она вышла 27 октября 2026 года в составе семейства LFM3 из шести моделей. Что нового 28 октября — это доставка, и первое, что стоит знать, находится в собственной таблице бенчмарков Liquid: в сравнении с LFM2.5-Audio-1.5B, которую заменяет, качество речи резко выросло, понимание аудио почти удвоилось, а распознавание английской речи не улучшилось вообще.

Остальная часть этого материала отделяет то, что можно проверить сегодня, от того, что проверить нельзя. Аудиоветка получила один абзац из семейного блог-поста и карточку модели — отдельного анонса «Introducing LFM3-Audio» у неё нет, — и мы не смогли найти ни одного независимого прогона бенчмарка для этой модели. Все числа ниже принадлежат Liquid, если в предложении не указано иное.

Что выпустили — и насколько скудным было объявление

Публикация Liquid от 27 октября «Представляем LFM3: все модальности для специализированного интеллекта» анонсировала шесть моделей класса 2B, обученных на основе LFM3-1.7B-Base: текстовую, визуальную, аудио, omni и две decision-модели, специализированные из ветвей vision и omni. Аудио — одна из четырёх модальных ветвей, и ей отведён всего один абзац: улучшение UTMOSv2, показатель времени до первого токена в 50 мс, кодек, работающий в 87 раз быстрее реального времени. Нет ни отдельной публикации об аудио, ни блога с аудиобенчмарками, ни записи о ценах ни для одной модели LFM3 на странице цен Liquid.

На этой неделе три артефакта предъявили модель читателю:

• Веса — {{1}}LiquidAI/LFM3-Audio-2B{{/1}} на Hugging Face, под лицензией LFM Open License v1.0, с карточкой модели, содержащей полную таблицу сравнения.

• llama.cpp — PR #31257, влитый 27 октября, добавляет LFM3-Audio-2B и LFM3-Omni-2B. Он сохраняет свёртки аудиокодера и кодек неквантованными, даёт доступ к мужскому или женскому голосу через флаг TTS, а живой ASR помечает как последующий PR, а не часть этого слияния.

• Ollama — lfm3-audio, 2,1 ГБ, теги latest и 2b, 19 загрузок и «обновлено час назад» на момент фиксации. В заголовке страницы указано пять моделей; опубликованы две строки.

Запись Ollama в каталоге — та, что важнее всего, потому что это единственный маршрут, который не начинается с чтения карточки модели. Она также появилась без какого-либо объявления — ни поста, ни записи в журнале изменений, ничего на самой карточке модели, что указывало бы на неё.

Технический паспорт, включая цифру, которую почти все скопировали неправильно

• Параметры — всего 2 млрд, на базе LFM3 с собственным каузальным аудиокодером и токенизатором LiquidCodec

• Ввод — текст или аудио с частотой дискретизации 16 кГц

• Вывод — текст, речь 24 кГц или чередование текста и речи

• Контекст — 32K токенов, охватывающих вход и выход. Это не та цифра 256K, которую повторяют в материалах о запуске: она относится к LFM3-1.7B, текстовой модели. На собственной странице аудиоветви указано 32K.

• Языки — 18, но указаны 19 локалей, поскольку английский представлен дважды — в британском и американском вариантах. ASR в реальном времени поддерживается только для английского; перевод наиболее качественен с английского и на английский.

• Лицензия — LFM Open License v1.0, бесплатна для коммерческого использования при годовом доходе ниже $10 млн; выше этого порога требуется платная коммерческая лицензия.

• Занимаемый объём — 2,1 ГБ в сборке Ollama.

На двух из этих строк стоит остановиться. Число контекста — это то, в чём сводка будет ошибаться месяцами, потому что пост о семействе начинается с 256K, а в карточке аудиомодели скромно указано 32K. А количество языков — это замаскированное количество локалей: девятнадцать записей, восемнадцать языков, причём два варианта английского выполняют дополнительную работу. Ни то, ни другое не скандал, но оба меняют то, что вы пообещаете пользователю.

Одна команда — и поле, которое противоречит карточке

ollama run lfm3-audio — это и правда весь сетап. На странице модель помечена тегами tools, audio и 2b, а readme непосредственно над таблицей моделей сообщает, что она принимает текст или аудио и отвечает текстом, речью или и тем и другим. Таблица моделей противоречит этому: в обоих тегах вход указан как «Text», а контекст — как прочерк.

К этому стоит отнестись всерьез, а не отмахиваться как от особенности рендеринга. Ollama поддерживает аудиовход с v0.20 в апреле 2026 года, когда Gemma 4 принесла возможность работы с аудио, команду ollama transcribe и части input_audio в стиле OpenAI. Механизм существует. Неподтвержденным остается то, подключен ли он для этого чекпоинта — тег audio является заявлением о возможности, а не результатом теста. Если ваш план начинается с «подать WAV в Ollama», проверьте это на одном файле, прежде чем проектировать вокруг этого.

Речевой вывод выглядит так же, только с другой стороны. В мерже llama.cpp появляется флаг голоса TTS; на странице Ollama ничего аналогичного не задокументировано, а в readme речевой вывод описан как свойство модели, а не как функция CLI. Переверните каждое предложение — вывод останется тем же: терминальный путь сегодня — это текстовая половина речевой модели. Для полнодуплексного голосового чата нужен путь через Python или llama.cpp.

Табло, опубликованное Liquid

Шесть чисел, четыре из которых имеют значение-предшественник. Все они взяты из карточки модели Liquid, без указанного тестового набора, без харнесса и без дисперсии.

• Английский ASR, частота ошибок в словах ↓ — 6,23 у LFM3-Audio-2B против 6,13 у LFM2.5-Audio-1.5B. Без изменений, и единственная строка, которая не сдвинулась.

• Многоязычное ASR, WER/CER ↓ — 6,03. Значение для предыдущей версии не опубликовано.

• Английский TTS, UTMOSv2 ↑ — 3,83 против 3,22. Существенный скачок; 4,0 обычно считается порогом, близким к человеческому уровню.

• VoiceBench ↑ — 73,13 против 55,17.

• Понимание аудио, MMAR ↑ — 50.60 против 25.85. Почти вдвое.

• Вызов инструментов из речи, внутренняя оценка ↑ — 58.50. Нет показателя предшественника.

На фоне остальных участников в той же таблице это хорошая небольшая модель, а не лидер. Voxtral Mini 3B показывает WER 5.51, а NVIDIA Audex 2B — 5.99; оба лучше, чем 6.23. Qwen2.5-Omni 3B получает за понимание аудио 54.41 против 50.60. Gemma 4 E4B получает за вызов инструментов 72.40 против 58.50, а в собственной строке параметров Liquid эта Gemma указана как 8B против 2B у этой модели — название «E4B» учитывает активные параметры, а не общие. Честное резюме: конкурентоспособное ASR, явный шаг вперёд в голосовом выводе и уверенные аудиорассуждения для 2B — но не рекордсмен ни в одной колонке.

Разрыв 6,23 против 6,13 находится в пределах, которые создаёт шум выборки, и его не следует воспринимать как регрессию. А разрыв 3,83 против 3,22 — нет: изменение UTMOS на 0,6 пункта далеко выходит за этот диапазон. Обоснованное прочтение таково: Liquid потратила это поколение на генерацию — лучший голос, более качественные аудиорассуждения и фронтенд ASR, который удержал позиции, пока кодеры под ним менялись. Мы не нашли стороннего воспроизведения ни одной строки, поэтому считайте этот порядок гипотезой, пока кто-нибудь не опубликует воспроизведение.

Почему кодек живёт дольше модели

LiquidCodec — это та часть релиза, на которую стоит обратить внимание помимо чекпоинта. Он упаковывает 80 мс речи в 12 дискретных токенов, декодирует обратно в 24 кГц с поддержкой стриминга, и Liquid оценивает его примерно в 87× реального времени на одном потоке CPU M4 Max. Именно причинный энкодер позволяет выполнять prefill во время речи, а не после неё, — отсюда и берётся показатель времени до первого токена «вплоть до 50 мс».

Эти два числа — самые цитируемые и наименее воспроизводимые вещи в запуске. Оба они — измерения производителя на конкретно названном оборудовании Apple, без тестового стенда, без набора аудио и без процентиля. Они описывают лучший случай. Телефон, Raspberry Pi или общая виртуальная машина x86 не достигнут их, и в релизе ничего не сказано о том, каких показателей они достигнут вместо этого.

Поддержка сред выполнения на удивление широка для модели, которой всего один день: Transformers 5.20.2 или новее с trust_remote_code, vLLM и SGLang для BF16-чекпоинта, llama.cpp для GGUF, MLX 4-bit на Apple silicon, ONNX Runtime для переносимости и дообучение на одном GPU. Главное, что нужно зафиксировать, — это требование к кастомному коду. LFM3-Audio загружается из собственного модуля и читает веса кодека из отдельного каталога audio_tokenizer, поэтому незафиксированное окружение — это готовый тикет в поддержку.

Локальное распознавание речи в сравнении с размещённой конечной точкой

Причина, по которой аудиомодель с 2 млрд параметров весом 2,1 ГБ интересна, заключается в том, что альтернатива выставляет вам счёт за каждую секунду аудио. Самостоятельный хостинг имеет фиксированную стоимость — машина, которая у вас уже есть, загрузка, никакой поминутной тарификации. Хостируемый эндпоинт имеет предельную стоимость за токен и вообще не требует операционного сопровождения.

Будьте точны в том, что покрывает каждая сторона. Облачный синтез речи — тот, который мы маршрутизируем, например gpt-4o-mini-tts по $0,60 за входные и $12,00 за выходные за миллион токенов, или gemini-2.5-flash-preview-tts по $0,50 и $10,00 — превращает текст в речь и ничего больше. LFM3-Audio-2B также слушает, транскрибирует и переводит, и работает при отключённой сети. Они решают разные половины одной и той же задачи голосового агента.

LFM3-Audio-2B отсутствует в OrcaRouter. Аудиомодели, которые мы предоставляем, — это размещённые речевые эндпоинты, поэтому честное разделение для голосового продукта в этом месяце выглядит так: локальная речь на входе и выходе с моделью Liquid, а всё, что связано с текстом, — за одним эндпоинтом для 200+ моделей — 0% наценки к прайс-листу провайдера, автоматическое переключение при сбое провайдера и DSL маршрутизации, если вы хотите объединить несколько моделей в один вызов. Именно это делает конфигурацию с двумя средами выполнения жизнеспособной: один договор для размещённой половины, одна загрузка для локальной половины.

Для локального варианта затраты не нулевые: 2,1 ГБ весов, процесс, который нужно постоянно держать живым, и никакого SLA. Если аудио никогда не покидает пределы организации, этот компромисс даётся легко. Если же покидает, цена облачного решения достаточно мала, и вопрос обычно решает операционная нагрузка.

Кому стоит запустить это на этой неделе, а кому следует подождать?

Запускайте это, если вам нужен локальный голосовой цикл на ноутбуке и вы пока можете смириться с текстовым выводом в терминале. Запускайте это, если вам нужен речевой вывод на языке, где доступный вам облачный голос слаб или дорог, — восемнадцать языков дают больше покрытия, чем предлагает большинство небольших моделей TTS. Запускайте это, если у вас есть записи, которые не могут покинуть машину, и вы хотите получить транскрипцию и сводку из одной модели. Запускайте это, если вы прототипируете голосовые вызовы инструментов и хотите, чтобы модель работала на той же машине, что и инструмент.

Подождите, если точность ASR — это и есть продукт. Частота ошибок в словах 6.23 — это достойно, но уступает трём моделям в собственной таблице Liquid. Подождите, если вам нужна потоковая транскрипция уже сегодня — live ASR появится в последующем PR для llama.cpp и будет поддерживать только английский, когда выйдет. Подождите, если вам нужно, чтобы модель что-то знала: карточка модели рекомендует retrieval и явно не рекомендует агентное программирование или многошаговые рассуждения при таком размере. И подождите, если вам нужен SLA от поставщика, потому что на странице цен Liquid перечислены d1, d1-ultra и LFM2.5-24B-A2B, и вообще нет аудиоэндпоинта LFM3.

Три вопроса, на которые запуск не отвечает

Является ли LFM3-Audio-2B той же моделью, что и LFM3-Omni-2B?

Нет. Они используют общий бэкбон LFM3, и оба появились в одном и том же pull request для llama.cpp, но Omni добавляет зрение поверх аудио и является более крупным вариантом из этих двух. Если задача — телефонный звонок, запись встречи или голосовая команда, Audio — это меньшая модель, выполняющая меньшую работу. Если задача предполагает смотреть на что-то, одновременно слушая это, то это ветка Omni.

Может ли он расшифровывать прямой эфир?

Пока не через llama.cpp. В мерже ASR в реальном времени отмечено как последующая задача, и карточка модели прямо указывает, что ASR в реальном времени будет только на английском, даже когда оно появится. Пакетная транскрипция записи — это поддерживаемый путь на сегодня, с контекстом в 32K токенов — примерно тот предел длины, который стоит учитывать для длинных файлов, поскольку аудиотокены и текстовые токены делят этот бюджет.

Требуется ли GPU?

Нет, и в этом суть сборки GGUF. Артефакт Ollama размером 2,1 ГБ работает на CPU. Показатель 87× к реальному времени относится к кодеку, а не к языковой модели, поэтому не воспринимайте его как сквозную скорость на вашем оборудовании. На Apple silicon самый гладкий путь — через MLX или объединённую поддержку llama.cpp; на x86 ожидайте, что узким местом станет декодирование на CPU, и сначала измеряйте, прежде чем обещать кому-либо конкретное значение задержки.

Что могло бы изменить этот вердикт?

Три сигнала, в порядке того, насколько они были бы важны. Во-первых, появление live-ASR-доработки в llama.cpp — это превращает пакетный транскрайбер в нечто, что можно поставить за микрофоном, а именно этот сценарий использования большинство людей на самом деле и хочет. Во-вторых, независимый прогон WER на стандартном наборе; пока такого нет, единственное, что заставляет ASR этой модели быть честным, — это таблица от вендора, сравнивающая её с собственной предыдущей моделью того же вендора. В-третьих, опубликованная цена API для аудиоветки, которая сказала бы нам, намерена ли Liquid продавать прослушивание как услугу или оставить это игрой на весах.

До тех пор точное описание остаётся узким и полезным: речевая модель на 2B, которую можно скачать за минуту, которая говорит лучше заменяемой модели, слушает примерно так же и пока не имеет независимых подтверждений. Для прототипа на ноутбуке этого достаточно. Для продакшен-пайплайна транскрипции — нет, и разрыв между этими двумя предложениями — это ровно расстояние между запуском и оценкой.