LFM2.5-24B-A2B-DSpark vs LFM2.5-8B-A1B-DSpark: один и тот же файл на 328M, две совершенно разные ставки

Скачайте любой из файлов, и вы получите 655 421 522 байта. LFM2.5-24B-A2B-DSpark и LFM2.5-8B-A1B-DSpark имеют одинаковый размер с точностью до байта, используют один и тот же пятислойный бэкбон, одну и ту же марковскую голову ранга 256, один и тот же размер блока 9 и один и тот же словарь на 128 000 токенов — и ни один из них не может ответить ни на один промпт, потому что оба — драфтеры спекулятивного декодирования, которые существуют лишь для того, чтобы угадывать токены для целевой модели. Их различает не их собственная спецификация. А то, для какой целевой модели их обучали, и сколько есть свидетельств того, что этот трюк на ней работает. У одного опубликованы измерения на GPU и MacBook из поста о запуске; у другого есть таблица по GPU и никакого анонса. Поэтому выбор между ними — вовсе не сравнение моделей, а сравнение двух ставок, и только одна из них была обналичена. Документированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в Архив инцидентов ИИ OrcaRouter, где каждая запись содержит собственные источники, степень серьезности, уровень уверенности и флаг оспаривания.

Файлы — близнецы; задания — нет.

Прочитайте два config.json файла бок о бок, и почти каждое поле совпадает: размер скрытого слоя 2,048, размер промежуточного слоя 6,144, активация SiLU, 32 головы внимания на 8 KV-голов при размерности головы 64, пять слоёв полного внимания, размер блока 9, enable_confidence_head: true, стандартная марковская голова ранга 256. Количество параметров идентично, поэтому файлы safetensors совпадают байт в байт.

Три поля различаются, и каждое из них играет ключевую роль.

• Съёмы слоёв целевой модели — 8B-драфтер считывает скрытые состояния из слоёв 2, 6, 10, 14 и 18 24-слойной целевой модели; 24B-драфтер считывает слои 2, 10, 18, 26 и 34 40-слойной целевой модели. Именно это поле делает файлы невзаимозаменяемыми.

• Максимальное количество позиций — 128 000 для 8B-драфтера против 131 072 для 24B, в соответствии с контекстными окнами их целевых моделей.

• RoPE theta — 5 000 000 против 10 000 000, задаётся позиционным кодированием целевой модели, а не чем-либо, связанным с драфтером.

Эта последняя пара — самое ясное доказательство того, что эти чекпоинты обучались под каждую целевую модель отдельно, а не масштабировались из общей базы. У драфтера нет независимой идентичности: его распределение входов определяется тем, как выглядят скрытые состояния целевой модели, а они меняются при изменении её архитектуры и обучения. Направьте 8B-драфтер на 24B-модель — и одни только индексы слоёв сделают его бессмысленным; даже если бы они совпали, логиты, которые он был обучен предсказывать, не совпали бы.

Что на самом деле ускоряет каждый из них

Целевые устройства различаются сильнее, чем предполагает обозначение «8B против 24B», и эта разница оборачивается против тех, кто исходит из того, что более крупная модель — более тяжёлая ноша для работы на устройстве.

• Общее число и активные параметры — LFM2.5-8B-A1B: 8,3 млрд общих параметров при 1,5 млрд активных на токен; LFM2.5-24B-A2B: 24,0 млрд общих при 2,45 млрд активных.

• Глубина — 24 слоя (18 стробированных свёрток плюс 6 GQA) против 40 слоёв (30 свёрток плюс 10 GQA).

• Контекст — 128 000 токенов из 131 072.

• Бюджет обучения — 38T токенов против 36T, поэтому меньшая модель не была недообучена относительно более крупной.

• Маршрутизация — в 8B используется MoE с 64 экспертами и маршрутизацией top-4, как и в 24B, поэтому обе модели платят цену за активацию экспертов, что вредит верификации.

Обе — это reasoning-модели, которые думают перед ответом, и здесь это важнее, чем количество параметров. Главная слабость спекулятивного декодирования — длинный неограниченный вывод, а цепочка рассуждений как раз такая. Таблицы производителя это показывают: строки с самым высоким процентом принятия в обоих релизах относятся к бенчмаркам с короткими ответами, таким как MBPP и MT-Bench, а самые низкие — к тем, где модели приходится придумывать длинный путь решения.

Разрыв в доказательной базе — вот в чём настоящее отличие.

Здесь два релиза перестают быть сопоставимыми. 8B-драфтер вышел 2026-08-20 в рамках анонса всего семейства, с измерениями на двух совершенно разных машинах: одной H100 80 ГБ в BF16 через SGLang и MacBook Pro с M4 Max, запускающем FP16-веса GGUF через llama.cpp с экспериментальными ядрами Metal. В среднем он показал 2,54× на H100 с пиком 3,18× на MATH-500 и всего 1,18× на MacBook — от 90 до 106 токенов в секунду в среднем по пяти наборам данных.

У 24B-драфтера есть только одна строка по оборудованию: один NVIDIA B300 с целевой моделью в FP8, KV-кэшем в BF16 и temperature 0. В среднем он даёт 2,38× при параллелизме 1, 2,69× при параллелизме 32 и 1,71× при параллелизме 256 на восьми наборах данных, с пиком 3,28× на MBPP при параллелизме 32. Нет строки для Mac, нет строки для H100 и нет анонсирующего поста, который объяснял бы это опущение.

Для модели, вся презентация которой строится на агентах на устройстве — в стартовом посте Liquid о 24B главный акцент делается на 184 токенах в секунду на Apple M5 Max — отсутствующая цифра для MacBook — самая значимая лакуна в релизе. Результат 8B объясняет, почему она может быть небольшой: проверка блока токенов активирует больше экспертов, чем декодирование одного, поэтому цель MoE перемещает больше весов на каждый принятый токен. И одна лишь доля принятия не является предиктором: драфтер 8B фактически в среднем больше принятых токенов на шаг, чем указано в карточке 24B (6,95 по пяти наборам данных против 5,16 по восьми), и всё равно обеспечивал лишь 1,18× на MacBook. Вот что стоит запомнить — на 8B высокая доля принятия не спасла пропускную способность на устройстве. Предполагать, что 24B ведёт себя иначе, — это ставка без цифры за ней.

Сопоставление двух таблиц друг с другом

Основные соотношения не сопоставимы напрямую, и их не следует вычитать друг из друга. Разные GPU, разная целевая точность, разные наборы данных, разные серии испытаний с изменением уровня параллелизма. Но два паттерна сохраняются, несмотря на это несоответствие.

Во-первых, потолок схож. Лучшая ячейка H100 для 8B давала 3,18× на MATH-500 при размере батча 1; лучшая ячейка B300 для 24B даёт 3,28× на MBPP при параллелизме 32. Драфтеры такой конструкции попадают в один и тот же диапазон 1,5×–3,3× независимо от того, какой целевой модели они служат, что и следовало ожидать, когда архитектура драфтера фиксирована, а меняются только веса.

Во-вторых, и это полезнее, именно в нижней части диапазона показатели целевых нагрузок расходятся. Самой слабой ячейкой H100 у 8B была GSM8K с 1,29×; самой слабой ячейкой B300 у 24B при параллелизме 256 были LiveCodeBench с 1,34× и AIME с 1,36×. Ни один из релизов не даёт случая, где спекуляция была бы бесплатной, и оба дают случаи, где она едва оправдывает затраты памяти.

Есть также изменение в документации между двумя карточками, которое легко пропустить и о котором стоит упомянуть. В августовских материалах говорилось, что вывод при жадном декодировании идентичен базовому варианту «по построению»; карточка 8B обещает «в точности те же выходные данные». Карточка 24B вместо этого предупреждает, что различия в числах с плавающей точкой между пакетной верификацией и обычным декодированием могут давать разный текст, в том числе при жадной выборке. Более поздняя карточка — более осторожная, и если вы запускаете в CI побайтовые сравнения выходных данных, обе стоит рассматривать как потенциально неидентичные, а не доверять более старому обещанию.

Что из этого вам подходит, определяет ваша цель, а не бюджет.

Нет ни одного сценария, в котором команда выберет одну из этих моделей вместо другой исходя из их достоинств. Вы запускаете 24B, потому что вам нужны возможности модели 24B на машине, которая способна её вместить — 14,5 ГБ при Q4_K_M в GGUF или один B300 для конфигурации обслуживания FP8. Вы запускаете 8B, потому что 8,3 млрд общих параметров при 1,5 млрд активных — это то, что помещается на edge-устройство или ноутбук, а драфтер возвращает часть скорости декодирования, которой вы пожертвовали, уменьшив модель. Драфтер — лишь дополнение к этому первому решению, и само решение почти всегда принимается исходя из памяти и качества задолго до того, как в обсуждении появляется спекулятивное декодирование.

Единственный случай, когда выбор действительно актуален, — это оценка. Если вы проверяете, стоит ли вообще внедрять DSpark в свой стек, связка с 8B — более дешёвый эксперимент: она помещается на один H100, у неё есть показатели для Mac, которые можно сверить со своим ноутбуком, а её сценарий отказа на устройстве уже задокументирован производителем. Связка с 24B — более интересный продакшен-эксперимент и менее задокументированный.

В любом из этих случаев число, решающее исход, — это счётчик принятия, а не таблица вендора. SGLang показывает статистику принятия при спекулятивном декодировании по каждому запросу; llama.cpp сообщает draft_n и draft_n_accepted в таймингах каждого ответа. Прогоните собственные промпты в течение десяти минут и разделите. Если принятие близко к среднему по карточке, драфтер себя оправдывает; если оно на нижнем краю, вы оплачиваете проходы верификации, и его следует отсоединить — и этот вывод будет верен для обеих контрольных точек, потому что механизм один и тот же.

Ни один из чекпойнтов не является моделью, которую можно вызвать.

Именно это сбивает с толку тех, кто встречает эти названия в каталоге моделей и думает, что это варианты в меню. Это не эндпоинты. Ни у одного из драфтеров нет цены за миллион токенов, ни один не фигурирует в листинге API, и ни один никогда не будет выбран для маршрутизации платформой, которая обслуживает модели, — потому что правильное сопоставление задаётся серверной конфигурацией, а не параметром запроса.

Liquid AI продаёт саму целевую модель 24B по цене $0,10 за миллион входных токенов, $0,05 за кэшированные и $1,00 за миллион выходных, а любое спекулятивное декодирование, которое она выполняет за этой ценой, невидимо для вызывающей стороны. Именно такова теперь обычная структура рынка: интересная инженерия происходит внутри стека обслуживания, а до разработчика доходят тариф и показатель токенов в секунду. Платформы маршрутизации оправдывают своё место именно в сравнении над этим слоем — поставить кандидата рядом с моделями, которые он должен превзойти. OrcaRouter обслуживает одну конечную точку для более 200 моделей с наценкой 0% к прейскурантной цене провайдера, поэтому когда тариф поставщика меняется, видимый вами тариф меняется в тот же день, а переключение при сбое не даёт модели-кандидату стать единой точкой отказа, пока вы её оцениваете. Семейство LFM2.5 сегодня в их число не входит, поэтому самостоятельно размещённая модель 8B или 24B с подключённым драфтером остаётся локальным развёртыванием; модели, которые стоит протестировать в сравнении с ней — Qwen3.6-35B-A3B со стороны агентных сценариев, Gemma 4 26B-A4B со стороны эффективности — это те, которые мы маршрутизируем.

Что доказал год релизов DSpark

Теперь семейство охватывает четыре текстовые целевые модели и одну визуальную — от 1.2B до 24B, и все они используют один и тот же рецепт драфтера: около 300M параметров, пять слоёв внимания, block 9, обучение на собственных скрытых состояниях целевой модели. Именно эта согласованность и есть настоящая находка. Liquid превратила спекулятивное декодирование из исследовательского проекта под каждую отдельную модель в производственный этап — тот же драфтер, перенацеленный и выпускаемый в течение нескольких дней после выхода каждой новой модели. Стоит ли делать этот шаг на вашем оборудовании — вопрос о вашем трафике, и ответ зависит от рабочей нагрузки гораздо сильнее, чем от того, какой из этих двух файлов вы скачаете.

Что {{1}}релиз 24B{{/1}} добавляет к этой картине — так это не лучшее соотношение. Это первый случай, когда {{2}}драфтер{{/2}} выпущен без сопроводительного описания — и первый случай, когда собственная карточка вендора простым языком сообщила вам, что выходные данные могут в конце концов не быть побитово идентичными.