Утечка LFM3: следующее семейство Liquid AI — четыре небольшие омни-модели

Пул-реквест, открытый на GitHub 27 октября 2026 года, хочет научить SGLang обслуживать семейство моделей, которого нет в открытом доступе. В нём названы четыре чекпойнта — LFM3-1.7B, LFM3-VL-2B, LFM3-Audio-2B и LFM3-Omni-2B — а в сопоставлении с уже выпущенными LFM2.5-2.6B и LFM2.5-24B-A2B он читается как чертёж того, что Liquid AI создаст дальше. PR не слит. Все три его проверки CI завершаются неудачно. Liquid AI ничего из этого не анонсировала. Этот неслитый diff — весь публичный след LFM3 на сегодня, и он информативнее большинства анонсов запуска, если читать его с пониманием того, чем он является.

Итак, будем точны в отношении доказательств, потому что в одном направлении их мало, а в другом они необычайно подробны. Здесь нет ни даты релиза, ни цены, ни условий лицензии, ни результата бенчмарка. Нет карточки модели LFM3, нет репозитория на Hugging Face, нет записи в блоге, нет листинга API. Есть вклад от tugot17 — Piotr Mazurek, который за последние два месяца добавил поддержку рантайма LFM в SGLang, llama.cpp и mlx-vlm, — плюс собственные опубликованные материалы Liquid о поколении LFM2.5, которое вот-вот будет заменено. Всё ниже снабжено соответствующими пометками.

Что на самом деле предлагает пул-реквест

Заголовок PR — [Feat] lfm3: Добавить поддержку текста, компьютерного зрения, аудио и Omni, и к нему прикреплены две метки, которые указывают, к какому типу относится изменение: jit-kernel и Multi-modal. Он добавляет нативную генерацию текста для семейства из четырёх моделей, у каждой из которых собственный путь к чекпоинту:

• LFM3-1.7B — текст на входе, текст на выходе, обычная языковая модель, лежащая в основе семейства

• LFM3-VL-2B — текст, изображения и видео на входе, текст на выходе

• LFM3-Audio-2B — на входе текст и аудио, на выходе текст, а также подключён к эндпоинту /v1/audio/transcriptions

• LFM3-Omni-2B — на входе текст, изображения, аудио и видео, включая собственную звуковую дорожку видео, на выходе текст

На одной детали в этом списке стоит задержаться. Каждый вариант выдаёт текст. В PR нигде нет пути вывода аудио, а не связанная с чатом функциональность аудиомодели — это транскрипция: речь на входе, текст на выходе. Это уже, чем текущая аудиолинейка Liquid, где LFM2.5-Audio-1.5B задокументирована как обрабатывающая ASR, TTS и чередующийся голосовой чат в одной модели. Либо первый вариант в SGLang охватывает только текстовую половину LFM3-Audio, либо omni-семейство действительно отказывается от синтеза речи. PR не может это решить, и любой, кто говорит, что может, гадает. Считайте «LFM3 speaks» недоказанным.

Остальная часть диффа — это детали реализации, которые тем не менее датируют работу. Кодировщики зрения и аудио с их проекторами, общая магистраль, интеграция гибридного кэша, свёрточные ядра CuTe DSL с запасным вариантом на PyTorch и замечание, что FlashInfer по умолчанию использует постраничный prefill, поэтому внимание со скользящим окном работает как надо. Валидация выполнялась на H100s в FP16 с использованием того, что в описании называется контрольные точки разработки — четыре слова, которые важны позже.

Предложение об архитектуре и число, которое люди прочитают неправильно

В PR LFM3 описывается как общая основа из стробированных коротких сверток с полным вниманием и вниманием со скользящим окном. Это продолжение линейки LFM2, а не ее замена: LFM2.5-24B-A2B задокументирован как гибрид стробированных коротких сверток и grouped-query attention на 40 слоях. Новым в утечке выглядит явный компонент скользящего окна, соседствующий с полным вниманием.

В примечаниях к валидации упоминается промпт, выходящий за пределы скользящего окна в 256 токенов, и именно эта цифра будет всю неделю цитироваться вне контекста. Это не длина контекста LFM3. В гибридной архитектуре слоям внимания достаточно видеть локально, потому что сверточные слои передают дальнодействующий сигнал — в этом вся суть архитектуры, и именно поэтому семейство может удерживать 131 072 токена контекста на LFM2.5-24B-A2B, хотя большинство его слоев вообще не выполняют квадратичное внимание. Окно внимания в 256 токенов говорит о том, куда модель смотрит внутри одного слоя, а не о том, сколько текста она может принять. В PR не указана общая длина контекста LFM3, и никто за пределами Liquid пока этого не знает.

Почему pull request среды выполнения — это сигнал, а не шум

Разумно относиться с подозрением к выводам о продуктовой стратегии на основании диффа инфраструктуры. В этом конкретном случае закономерность слишком последовательна, чтобы её игнорировать, потому что Liquid выпускает поддержку движков вместе с весами, а не после них. LFM2.5-2.6B включает llama.cpp, MLX, vLLM, SGLang, ONNX и Transformers 5.0+ в число целей первого дня. LFM2.5-24B-A2B поддерживалась в llama.cpp, MLX, vLLM, SGLang и ONNX уже на запуске. Семейство, которое появляется с пятью готовыми рантаймами, должно иметь свои ядра написанными до анонса, а значит, PR-ы вливаются первыми, а пост в блоге следует за ними.

Автор точно укладывается в эту хронологию. Публичная история Мазурека — это серия работ по интеграции LFM: спекулятивное декодирование DSpark для LFM2-VL в SGLang в сентябре, исправления LFM2.5-VL-3B и черновой модели DSpark в llama.cpp в том же месяце, спекулятивное декодирование, унаследованное от текстовой модели в mlx-vlm, и повторное использование конфигурации LFM2-MoE в SGLang 13 октября. LFM3 — следующая запись в этой последовательности, поданная в те выходные, когда семейство сменило название.

Два отсутствия столь же показательны, как и присутствие. В Hugging Face Transformers нет соответствующего пул-реквеста для LFM3 — поиск по этому репозиторию ничего не возвращает — а PR в SGLang загружает свои контрольные точки через стандартный Transformers 5.19.0 с --trust-remote-code, что делают, когда архитектура ещё не является нативной для библиотеки. Есть также коммит, явно отклоняющий спекулятивное декодирование для LFM3, поэтому работа DSpark, выпущенная для поколения 2.5, пока не перенесена. Рано и неполно по замыслу.

Вопрос о размере, на который никто не ответил

Здесь утечка и заявленная амбиция тянут в противоположные стороны, и это напряжение — самое интересное в документе.

Максим Лабонн, руководитель направления предварительного обучения в Liquid, описал цель LFM3 как проверку того, сможет ли подход на основе коротких свёрток, работающий в диапазоне от 350M до 1,2B, сохранять эффективность за пределами 10 млрд параметров — в режиме, где архитектуры на основе внимания исторически имели преимущество. Это вопрос масштабирования, и он подразумевает большую модель.

Утёкшие чекпойнты — это 1.7B и три по 2B. Ни один из них не превышает порог, о котором идёт речь в вопросе.

Сохраняются две трактовки. Первая: это компактная первая волна — семейство omni для телефонов и автомобилей перед выходом крупного собрата, что соответствует тому, как Liquid всегда начинала с небольших моделей, и тому, как в PR они описаны как контрольные точки разработки, а не финальные релизы. Вторая: 1.7B и 2B — это просто размеры, на которых было удобно валидировать ядра, и они ничего не говорят о том, что в итоге выйдет. Честная позиция такова: утечка доказывает, что семейство существует, и доказывает его форму, но не доказывает его потолок. Если вы ждёте модель Liquid размером >10B, этот PR её ни обещает, ни исключает.

Что LFM3 наследует — к лучшему или к худшему

Базовая модель, которую необходимо превзойти, недавняя и хорошо задокументирована. LFM2.5-24B-A2B вышла 13 октября 2026 года с 24 млрд общих параметров при 2 млрд активных, 40 слоями, 64 экспертами и маршрутизацией top-4, контекстом 131 072 токена, словарём на 128K и 33T токенов предобучения. LFM2.5-2.6B, выпущенная в начале августа, помещается в менее чем 2,5 ГБ при контексте 128K. LFM2.5-VL-3B сочетает базу 2.6B с визуальным энкодером SigLIP2.

Стоит сказать прямо: каждый бенчмарк, который Liquid публикует для этих моделей, проводится самим вендором на собственных стендах Liquid, без независимой оценки. Ключевые показатели LFM2.5-24B-A2B — AutomationBench 27.69, BFCLv4 65.01, ToolSandbox 80.71, IFEval 96.75 — это цифры самой Liquid, и в той же таблице она уступает Qwen3.6-35B-A3B в WebArena Verified (26.75 против 37.62), GPQA Diamond и SWE-Bench Verified. Таблицы вендоров, включающие проигрыши, заслуживают большего доверия, чем те, где их нет, но заслуживать доверие — не то же самое, что быть проверенным. Никаких показателей LFM3 не существует, так что сравнивать пока нечего.

Лицензирование также сохранится. Недавние чекпоинты LFM от Liquid на Hugging Face каждый помечен как license: other — специальная лицензия LFM, а не Apache-2.0 или MIT. Под какой бы лицензией ни выпускалась LFM3, предполагайте те же особые условия, пока в карточке модели не указано иное, и прочитайте их, прежде чем строить продукт на этих весах.

Когда это может на самом деле произойти

Ни у кого нет точной даты, включая тех, кто занимается предсказаниями профессионально. Вопрос на Manifold Markets о том, когда выйдет LiquidAI LFM3, оценивает IV квартал 2026 года в 40%, I квартал 2027 года — в 21%, II квартал 2027 года — в 21%, III квартал 2026 года — в 11%, а II квартал 2026 года — в 7% — при общем объёме около Ṁ160, который настолько мал, что проценты отражают мнение горстки трейдеров, а не консенсус. Читайте это как «вероятно, где-то в следующие два квартала» — и не точнее.

Технические детали говорят в пользу того, чтобы сделать это раньше, а не позже. Работа над ядром, попадающая в крупный рантайм, — это инженерия поздней стадии, а не ранней: вы не пишете свёрточные ядра CuTe и не подключаете гибридный кэш для модели, до выхода которой ещё год. Название семейства стабилизировалось до LFM3 для четырёх вариантов и четырёх путей контрольных точек. Но PR не смержен, все три проверки красные, ему нужно одобряющее ревью, которого у него нет, а 2 из 22 проверок валидации omni и 2 из 16 проверок зрения всё ещё не проходят сравнение по ROUGE. Это ветка в процессе работы, а не кандидат в релизы.

Что это значит, если вы выбираете модель на этой неделе

Ничто в LFM3 не должно менять решение, которое вы принимаете сегодня. Она недоступна, не имеет цены, не прошла публичных бенчмарков и не лицензирована публично. Если вам нужна небольшая мультимодальная модель сейчас, реальный ответ — поколение LFM2.5, и его ограничения — оценки, предоставленные вендором, кастомная лицензия и профиль в области кодинга, который и собственные таблицы Liquid, и внешние обзоры отмечают как слабое место, — это то, что стоит взвесить.

Чем утечка действительно полезна, так это для планирования. Она говорит о том, что готовится компактное omni-семейство, что оно, вероятно, появится сразу в нескольких средах выполнения и что его аудиовариант может не синтезировать речь. Если ваша дорожная карта исходила из того, что следующим шагом Liquid будет более крупная текстовая модель, имеющиеся на данный момент свидетельства этого предположения не подтверждают.

Фрагментация сред выполнения — это практическая проблема, которую создаст это семейство. Привычка Liquid одновременно выпускать версии для llama.cpp, MLX, vLLM, SGLang и ONNX полезна для переносимости и неудобна для всех, кому нужна одна конечная точка: пять движков означают пять схем развертывания, пять наборов особенностей предобработки и пять разных дат, когда исправление будет выпущено. У OrcaRouter каталог из более чем 200 моделей сегодня не включает ни одной контрольной точки LFM, поэтому через него невозможно вызвать LFM3, и ничто здесь не следует воспринимать как обещание, что такая возможность появится. На самом деле слой маршрутизации в этой ситуации нужен как шов между непроверенной моделью и продакшн-путем — отправка части трафика на что-то новое, пока известная модель остается за ним, а механизм отработки отказа закрывает разрыв, — это способ оценить преемника невыпущенного семейства, не ставя клиентскую функцию на кон ради 40% на рынке прогнозов.

Открытые вопросы, за которыми стоит следить

Четыре вещи прояснят это быстрее любых дальнейших домыслов. Станут ли четыре пути к чекпоинтам настоящими загружаемыми репозиториями Hugging Face — прямо сейчас поиск в организации LiquidAI не возвращает ничего по LFM3, а репозитории, указанные в PR, публично не резолвятся. Появится ли PR в Transformers, что стало бы сигналом того, что архитектура должным образом отправляется в upstream, а не запускается через удалённый код. Закроются ли проваливающиеся проверки валидации, поскольку 2 из 22 omni-сбоев — это разница между демо и мержем. И появится ли участник семейства с >10B, а это и есть вопрос, на который, по словам Labonne, существует LFM3.

До тех пор самое точное предложение, которое кто-либо может написать о LFM3, — это то, с которого началась эта статья: существует пул-реквест, он не смержен, и в нём упоминаются четыре небольшие omni-модели, которые Liquid AI ещё не анонсировала. Это реальный сигнал — просто ранний, и ранние сигналы заслуживают того, чтобы их воспринимали именно так.