LFM2.5-24B-A2B-DSpark уже доступна на Hugging Face — Liquid AI просто ещё не объявила об этом

В карточке крупнейшей модели Liquid AI по-прежнему указано, что её драфтер для спекулятивного декодирования скоро появится. Этот драфтер не появится. LFM2.5-24B-A2B-DSpark имеет публичный репозиторий с 2026-10-19, чекпойнт BF16 размером 655 МБ, полную таблицу бенчмарков, GGUF-сайдкар, опубликованный на следующий вечер, и флаги запуска для SGLang, вписанные в его карточку. А вот анонса у него нет. LFM2.5-24B-A2B, 24B mixture-of-experts-модель, для ускорения которой он существует, получила пост в блоге, датированный запуск, прайс-лист и ссылку на плейграунд 2026-10-13. А её драфтер получил репозиторий и карточку модели, при этом собственная страница документации Liquid AI по спекулятивному декодированию по-прежнему указывает в качестве поддерживаемых только цели 1.2B, 2.6B, 8B и VL-3B. Задокументированные сбои ИИ и инциденты с агентами, стоящие за релизами вроде этого, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку уверенности и флаг спорности.

Вот в этом разрыве и суть, и стоит точно понимать, что он означает, а что нет. Репозиторий, веса которого открыты, бенчмарки воспроизводимы по CSV-файлу, лежащему рядом с моделью, а путь инференса уже влит в upstream, — это настоящий релиз, а не утечка. Но вендор ничего об этом не подтвердил в текстовой форме, ни одна третья сторона это не измеряла, а цифры в карточке — это цифры той же команды, измеренные на том же оборудовании, которое она выбрала. Этот материал разделяет две вещи: что репозиторий устанавливает и что остаётся утверждением.

Что на самом деле находится в репозитории

Чекпоинт настолько мал, что сам список файлов уже информативен. Всё это — один model.safetensors размером 655 421 522 байта — 327,7 млн параметров в BF16 — плюс конфиг, лицензия и каталог бенчмарков. Ничего больше. Здесь нет токенизатора, матрицы эмбеддингов и LM head, потому что архитектура повторно использует все три из целевой модели при загрузке. Таков замысел: драфтеру нужно уметь только угадывать следующий блок токенов в словаре целевой модели, а не представлять мир.

Конфигурация подтверждает структуру, описанную в августовском материале DSpark. Пять слоёв полного внимания при скрытом размере 2 048 и промежуточном размере 6 144 с SiLU/SwiGLU; grouped-query attention с 32 головами и 8 KV-головами при размерности головы 64; марковская голова ранга 256 и отдельная голова уверенности; размер блока 9; словарь 128 000; и максимальное значение позиционного эмбеддинга 131 072, что точно соответствует контекстному окну целевой модели. Единственное поле, специфичное для этого драфтера, — target_layer_ids: [2, 10, 18, 26, 34] против num_target_layers: 40 — это пять слоёв модели 24B, скрытые состояния которых драфтер читает как контекст. Именно из-за этих индексов драфтер, обученный для одной модели LFM2.5, нельзя просто нацелить на другую.

Лицензия — это lfm1.0, та же нестандартная лицензия, что и у остальных представителей семейства; это стоит учитывать тем, кто планирует распространять скомплектованный артефакт target-plus-drafter, а не использовать его внутри организации.

Таблица бенчмарков, прочитанная как таблица вендора

В карточке опубликована пропускная способность для восьми наборов данных при параллелизме 1, 32 и 256 на одном NVIDIA B300 с целевым форматом FP8, BF16 KV-кэшем и температурой 0. Все приведённые ниже цифры получены самой Liquid AI и не были воспроизведены за пределами компании; исходные строки находятся в репозитории, в файле benchmarks/b300-fp8.csv, если вы хотите сами проверить арифметику.

• Среднее арифметическое по восьми наборам данных — 2,38× при параллелизме 1, 2,69× при параллелизме 32, 1,71× при параллелизме 256.

• Лучшая отдельная ячейка — MBPP при параллелизме 32, 3,28×, а MATH-500 немного отстаёт с 3,04×.

• Худшая отдельная ячейка — LiveCodeBench при параллелизме 256, 1,34×, и AIME при 256, 1,36×.

• Токенов, принятых за шаг, — в среднем 5,16 при верхнем пределе 10, задаваемом размером блока плюс бонусный токен цели.

• Наибольшая приемлемость — MBPP при 6,70 токена на шаг; наименьшая — LiveCodeBench при 4,02.

В этой таблице две вещи интереснее, чем заголовок. Первая заключается в том, что среднее ускорение выше при конкурентности 32, чем при конкурентности 1 — 2,69× против 2,38× — что противоположно обычной картине спекулятивного декодирования, где батчинг съедает выигрыш. Вторая — что при 256 всё обваливается. При 256 одновременных запросах одна только целевая модель уже генерирует около 15 000 токенов в секунду на этом GPU для MATH-500, а вклад драфтера падает до 1,79×. Команда, отвечающая за обслуживание, увидев только «2,4×», неправильно подберёт размер кластера; число, которое имеет значение для батчевого эндпоинта, — это 1,71×, и даже оно относится к B300 с профилем конкурентности, который большинство развёртываний не повторит.

Предложение, которое изменилось с августа

{{1}}Когда Liquid AI выпустила драфтеры DSpark для целевых моделей 1.2B, 2.6B и 8B-A1B 20 августа 2026 года{{/1}}, в своём блог-посте она сделала смелое утверждение: поскольку целевая модель проверяет каждый предложенный токен и заменяет отклонённые своим собственным выбором, «{{2}}выдаваемая последовательность поэтому по построению идентична базовой жадной генерации{{/2}}». {{3}}Карточка модели драфтера 8B{{/3}} повторяет суть этого, обещая «{{4}}в точности такие же выходные данные{{/4}}».

В карточке 24B-драфтера этого не сказано. Там говорится, что целевая модель проверяет каждый предложенный токен, а затем: «Различия в плавающей точке между пакетной верификацией и обычным декодированием могут давать разный текст, в том числе при жадной сэмплинговой генерации». Далее добавляется, что измерения оценивают производительность, а не точность выполнения задачи.

Это более осторожная формулировка, и она верна. Пакетная проверка не выполняет те же операции с плавающей запятой в том же порядке, что и последовательное декодирование, поэтому побитовая идентичность — это допущение, которое справедливо в точной арифметике и не всегда выполняется на реальном оборудовании. То, что более новая карта говорит об этом, а старая — нет, является либо исправлением документации, либо открытием, сделанным во время обучения этого драфтера; репозиторий не сообщает, что именно, и Liquid не опубликовала объяснения. На практике это означает узкое, но реальное: если ваш регрессионный набор сравнивает вывод модели побайтово, добавление этого драфтера может его сломать, и это свойство арифметики, а не ошибка в драфте.

Почему драфтер появился на шесть дней позже своей собственной модели

Хронологию стоит изложить, потому что она объясняет молчание лучше любых предположений о стратегии.

• 2026-08-20 — Liquid публикует семейство DSpark: драфтеры для LFM2.5-1.2B-Instruct, LFM2.5-2.6B и LFM2.5-8B-A1B. Целевой модели с 24B пока не существует.

• 2026-08-31 — SGLang принимает PR #31041, добавляя поддержку спекулятивного декодирования DSpark для LFM2 и LFM2-MoE. Здесь появляется MoE-путь, необходимый модели 24B, — за полтора месяца до модели, которой он будет служить.

• 2026-10-13 — LFM2.5-24B-A2B выпускается вместе с публикацией в блоге и ценой. В тот же день SGLang принимает PR #43939, который позволяет серверу напрямую повторно использовать конфигурацию Hugging Face LFM2-MoE.

• 2026-10-19 — появляется репозиторий LFM2.5-24B-A2B-DSpark с весами и бенчмарками.

• 2026-10-20 — выходит GGUF-сайдкар: единственный файл F16 размером 664 МБ для llama.cpp.

• 2026-10-21 — карточка целевой модели получает строку драфтера. В ней по-прежнему указано Скоро.

Прочитайте эту последовательность, и наиболее вероятное объяснение — самое скучное. Инфраструктура была выпущена раньше артефакта; артефакт был выпущен, когда обучение завершилось; анонс — это маркетинговая задача, которая ещё не выполнена. Ничто в репозитории не указывает на намеренно тихий запуск — карточка полная, бенчмарки задокументированы вплоть до протокола, а вызовы SGLang и llama.cpp выписаны полностью. «Тихий» здесь означает «без анонса», а не «скрытый».

Что пока ещё непознаваемо

Честная граница этого материала — короткий список, и каждый его пункт — реальный пробел, а не формальность.

Независимых измерений нет. Нет записи в Artificial Analysis, нет сторонних приёмочных прогонов, нет воспроизведения таблицы пропускной способности. По состоянию на 2026-10-21 в репозитории было семь загрузок и одна отметка «Нравится». Все ускорения в этой статье — от производителя, на выбранном производителем GPU, с выбранной производителем целевой точностью.

Анонса нет — значит, нет и подачи. Мы не знаем, задумывает ли Liquid это как рекомендацию для продакшена для 24B или как исследовательский артефакт. Тон карточки — полный набор флагов запуска, таблица семейства, ссылка для связи — указывает на первое, но это лишь предположение.

Цены нет, потому что её не может быть. Драфтер — не обслуживаемая модель. У него нет тарифа за миллион токенов, и он никогда не появится в каталоге моделей как вызываемая конечная точка. Его стоимость — это 655 МБ видеопамяти или унифицированной памяти, которые он занимает рядом с целевой моделью, плюс дополнительные вычисления на проверку блока вместо токена.

Нет цифр по Apple Silicon. Это самый большой пробел, и в следующем разделе объясняется, почему он важнее остальных.

Отсутствующий номер Mac — это интересное упущение.

Модель 24B продаётся как модель для работы на устройстве. В анонсе Liquid в первую очередь приводятся 184 токена в секунду на Apple M5 Max, и говорится, что она создана для быстрых приватных агентов на устройстве. Карточка драфтера, напротив, сообщает только показатели B300. Для 8B-драфтера в августе Liquid опубликовала результаты и на H100, и на M4 Max и открыто рассказала о разрыве между ними: среднее ускорение в 2,54× на H100 превратилось в 1,18× на MacBook. Указанная причина была механической — проверка k токенов активирует больше экспертов, чем один шаг декодирования, поэтому цель MoE платит больше трафика весов на каждый проверенный токен, а Metal-бэкенд llama.cpp делал это ещё хуже.

LFM2.5-24B-A2B — это тоже смесь экспертов: 64 эксперта на блок с маршрутизацией top-4. Тот же механизм действует, и 24B — более крупная модель с большим набором экспертов, который нужно подгружать постранично. Это не доказывает, что ускорение на устройстве небольшое — drafter обучали специально для этой цели, и доля принятия значительно выше, чем у 8B поначалу, — но это означает, что единственное число, которое нужно пользователю ноутбука, — это то самое число, которого на карточке нет. Считайте любое предположение о том, что соотношение для B300 переносится на Mac, непроверенным.

Запуск и один флаг, который вас укусит

На GPU опубликованный рецепт — это SGLang с FP8-таргетом и подключённым драфтером, размер блока 9 и десять драфт-токенов. Установленный SGLang должен быть достаточно новым, чтобы включать путь LFM2-MoE DSpark из PR #31041 и повторное использование конфигурации из PR #43939; на более старой сборке сервер вообще не распознает архитектуру драфтера. Обратите внимание: числа бенчмарка предполагают FP8-таргет — BF16-таргет будет вести себя иначе и не обязательно лучше, поскольку драфтер обучался на конкретном распределении логитов таргета.

На CPU и Apple silicon используется путь llama.cpp с сайдкаром F16 GGUF. Сайдкар читает размер блока из собственных метаданных и ограничивает --spec-draft-n-max этим значением, поэтому, задав длину драфта 12, вы не получите 12. Тайминги по каждому ответу показывают draft_n и draft_n_accepted — именно за этим полем стоит следить на своей нагрузке: если доля принятий на вашем трафике заметно ниже среднего значения 5,16, указанного в карточке, то драфтер стоит вам одного прямого прохода и почти ничего не даёт, и честный ход — отключить его.

Что это значит, если вы выбираете модель на этой неделе

Для большинства команд практическое следствие невелико, потому что драфтер меняет скорость, а не возможности. LFM2.5-24B-A2B — это то, что отвечает на запросы; драфтер лишь меняет, сколько таких ответов вы получаете в секунду. Если 24B не было в вашем шорт-листе на прошлой неделе, более быстрая версия не добавит его туда.

Если он был в вашем шортлисте, драфтер усиливает аргументы в пользу самостоятельного хостинга и ничего не дает для API-сценария. Эту разницу стоит обозначить прямо: чекпоинт со спекулятивным декодированием невидим для тех, кто обращается к хостируемому эндпоинту, поскольку serving-стек решает, подключать ли его. Сравнивать на равных можно саму модель с альтернативами, на которые вы иначе направляли бы запросы, — и если вы оцениваете ее в сравнении с чем-то вроде Qwen3.6-35B-A3B — модели, с которой Liquid проводит сравнение в пяти из восьми агентских задач, — OrcaRouter предоставляет эту цель сравнения через один ключ с наценкой 0% к прейскурантной цене провайдера, с автоматическим переключением при сбоях между провайдерами. Мы сегодня не предоставляем доступ к семейству LFM2.5, поэтому саму 24B придется получать через собственный API вендора или на ваших собственных GPU; мы же предлагаем другую сторону сравнения без второго контракта.

Что изменило бы эту картину?

Три вещи — в порядке того, насколько сильно они продвинули бы историю. Пост в блоге от Liquid окончательно определил бы рамку: это рекомендуемое производственное сочетание или исследовательский релиз. Опубликованное измерение на Mac подтвердило бы то утверждение, которое важно для аудитории, ради которой создавался 24B. А независимый приёмочный прогон на реальном трафике — вместо восьми бенчмарк-наборов при температуре 0 — показал бы, выдерживает ли 5,16 токена на шаг столкновение с грязными, длинными промптами с вызовом инструментов, ради которых эту модель на самом деле продают.

До тех пор репозиторий публичен, веса доступны для скачивания, CSV лежит прямо там, а карточка модели самого вендора — последнее место, где стоит искать новости об этом. Это необычное состояние для релиза — но оно реально, и артефакт не становится менее реальным из-за того, что никто не написал пост в блоге.