Главная титульная карточка для Ling 3.0 Flash DSPark с подзаголовком «Драфтер на 1,36B параметров, незаметно выпущенный для Ling 3.0 Flash», показывающая маленькую карточку драфтера с подписью «Drafter 1.36B», передающую ряд токен-чипов большой карточке с подписью «Ling 3.0 Flash 124B», с галочкой над принятыми чипами и стрелкой перемотки вперёд между двумя карточками, а также логотипом OrcaRouter в правом нижнем углу.
Engineering & Research

Ling 3.0 Flash DSPark: 1.36B-драфтер, незаметно выпущенный для Ling 3.0 Flash

Автор

Elias Hawthorne

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Ling 3.0 Flash DSPark — это драфт-модель с 1,36 миллиарда параметров, которую лаборатория inclusionAI из Ant Group загрузила на Hugging Face 9 августа без пресс-релиза, без поста в блоге и без анонса в соцсетях, — репозиторий, который на момент написания показывает семь загрузок и один лайк. Это не новая версия Ling 3.0 Flash, и это не модель, которую вы когда-либо будете вызывать напрямую. Это компонент спекулятивного декодирования: загружаете его перед Ling 3.0 Flash, и он предлагает токены для проверки большой моделью, позволяя MoE размером 124B/5.1B генерировать несколько токенов за один прямой проход вместо одного. Всё, что ниже, не являющееся достоверно видимым из самого репозитория, помечено как неподтверждённое, поскольку вендор ничего не сказал.

Ant Group анонсировала Ling 3.0 Flash 27 июля и выложила её веса в открытый доступ под лицензией MIT 7 августа. Репозиторий DSPark — отдельный, более скромный проект: создан 9 августа, описан лишь в модельной карточке, где чекпоинт обозначен как «спекулятор DSpark для Ling3», и снова обновлён 21 августа с изменением config.json. Ни анонса, ни страницы документации, ни поста в блоге с бенчмарками. Эта статья собирает то, что фактически сказано в репозитории, а остальное помечает как открытые вопросы.

Что такое «DSpark-спекулянт» без жаргона

Спекулятивное декодирование запускает небольшую дешёвую модель впереди основной. Малая модель (драфтер) угадывает следующие несколько токенов; большая модель (целевая) проверяет весь пакет за один прямой проход и сохраняет те догадки, с которыми согласна. Когда драфтер прав, один прямой проход целевой модели даёт несколько токенов, поэтому пропускная способность растёт без изменения весов целевой модели.

DSpark — это версия той идеи от исследователей DeepSeek, представленная в июле 2026 года и уже применяемая внутри DeepSeek-V4, и это алгоритм, который SGLang называет DSPARK. Две вещи отличают его от простого драфтера. Он расширяет DFlash (подход с параллельными черновиками) дополнительными функциями, взятыми из самой целевой модели, благодаря чему драфтер получает информацию о том, что делает большая модель. А ещё он несёт confidence-голову, которая оценивает каждый предложенный токен и останавливает блок раньше, когда суффикс выглядит вряд ли переживающим верификацию, — так что он не тратит проход верификации на токены, которые вот-вот будут отброшены.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Чекпойнт Ling-3.0-flash-dspark реализует ровно это: спекулятор, обученный с помощью SpecForge, рассчитанный на предложение блоков из восьми черновых токенов, с шириной верификации в девять токенов с учётом бонусного токена целевой модели.

Что именно говорит репозиторий

Карточка модели скудна, но конкретна. Ling 3.0 Flash DSPark — это черновая модель с ~1,36 млрд параметров (1 363 707 905 параметров, BF16) с пятью слоями трансформера с полным вниманием при скрытом размере 2 560 и многоголовым вниманием с 32 головками запросов и 32 головками ключей/значений. Она считывает вспомогательные признаки из пяти слоёв целевой модели — в карточке перечислены слои 1, 11, 23, 29 и 35 — и сочетает это с головкой уверенности, описанной как «обычная марковская головка, ранг 256». Её позиционное встраивание достигает максимума в 262 144, что соответствует тому же контексту в 256K, который поддерживает целевая модель.

• Параметры — 1,363,707,905 (~1.36B), BF16, примерно 2.7 ГБ весов.

• Архитектура — 5 слоев полного внимания, скрытый размер 2560, MHA с 32 головами запросов и 32 головами ключей/значений; тег qwen3.

• Целевые хуки — вспомогательные признаки из слоев 1, 11, 23, 29 и 35 Ling 3.0 Flash.

• Confidence head — обычная марковская голова, ранг 256.

• Блок — 8 токенов драфта; проверьте ширину 9, включая целевой бонусный токен.

• Контекст — 262 144 позиционных эмбеддинга, что соответствует нативному окну в 256K целевой модели.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Эта последняя строка важна для планирования развертывания: драфтер построен для того же профиля обслуживания длинного контекста, что и целевая модель, поэтому он не сокращает контекст, в котором можно выполнять спекулятивное декодирование.

Приемочные числа, читайте внимательно

На карточке приводится один набор показателей производительности: средняя длина принятия, определяемая как «среднее количество токенов, принятых за один шаг спекулятивной проверки, включая целевой бонусный токен». По девяти рабочим нагрузкам макросреднее составляет 5,29 — то есть примерно пять из девяти позиций принимаются за шаг проверки, а это как раз то число, которое обеспечивает ускорение. Разброс по нагрузкам показывает, где драфтер силён:

• Код и математика — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• Рассуждение — AIME 2025 5.56.

• Разговорный — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

К этим цифрам прилагаются три оговорки. Это длины принятия, а не сквозное ускорение: карточка модели не публикует показатели токенов в секунду, поэтому «5.29 принятых токенов» ещё не преобразовано в заявление «в x раз быстрее» для этой модели. Они заявлены производителем и не воспроизведены независимо — никто за пределами inclusionAI не публиковал измерений. И они зависят от контекста: длина принятия меняется в зависимости от рабочей нагрузки, температуры сэмплирования и точной целевой контрольной точки, так что считайте столбец «код и математика» сильным сценарием, а столбец «чат» — реалистичной нижней границей.

Что подтверждено, а что нет

Подтверждено публичным репозиторием: контрольная точка существует и доступна для загрузки; это DSpark-спекулятор для Ling 3.0 Flash; он обучен с помощью SpecForge; он обслуживается через алгоритм DSPARK от SGLang; создан 9 августа и обновлялся вплоть до 21 августа.

Не подтверждено, и стоит быть точным: лицензия. Во frontmatter карточки модели указано license: other, без приложенного текста лицензии — так что, в отличие от весов Ling 3.0 Flash под лицензией MIT, условия спекулятора DSPark в настоящее время не заявлены. Также не подтверждено: что длины принятия воспроизводятся на другом оборудовании, какое значение они имеют для сквозной скорости в токенах в секунду, предоставляет ли какой-либо инференс-провайдер доступ к драфтеру (ничто не указывает на это) и будет ли официальное объявление. Ни одно из этих замечаний не является обвинением; релизу меньше двух недель. Это и есть разница между многообещающим компонентом и проверенным.

его запуск

На практике вам понадобится сборка SGLang с поддержкой DSPARK — алгоритм появился в SGLang v0.5.16 в июле, в рамках интеграции DSpark, инициированной DeepSeek-V4. Запустите сервер для целевой модели и укажите драфтер:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Команда взята из самой карточки модели; размер блока считывается из конфига драфтера. Пути llama.cpp пока нет — гибридная архитектура KDA + MLA требует кастомного форка даже для основной модели, так что спекулятор пока что относится к SGLang.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Стоит ли бежать

Ling 3.0 Flash DSPark работает только в том случае, если вы сами обслуживаете Ling 3.0 Flash. Это локальный компонент: примерно 2,7 ГБ дополнительных весов BF16 в дополнение к целевой модели на 124B, сборка SGLang с поддержкой алгоритма и оборудование с достаточным запасом памяти. Выигрыш — большая длина принятия, чем у типичного маленького драфтера, в обмен на память и движущиеся части. Для команд, которые уже запускают целевую модель на собственных GPU при интерактивных нагрузках, ограниченных задержкой, драфтер дёшев в измерении: два флага, жадное декодирование, взгляд на дельту токенов в секунду. Для тех, кто обращается к Ling 3.0 Flash через размещённый API, это неактуально: нельзя подключить локальный драфтер к чужому стеку обслуживания.

Разрыв честности в карточках моделей — главное, на что стоит закладываться. Среднее принятие 5.29 — сильный показатель: спекулятор DSpark от DeepSeek-V4 сообщал о длинах принятия в диапазоне 3.2–3.6 согласно отчёту LMSYS, а драфтер LFM2.5-2.6B от Liquid AI показывал в среднем 4.83. Но длина принятия — это не ускорение, и пока кто-то не опубликует сквозную пропускную способность для именно этой связки, размер выигрыша — лишь оценка.

И именно здесь сочетание self-hosted и hosted решений становится ключевым решением. Драфтер — это ещё один self-hosted компонент перед моделью, которая также доступна через API, — и поддержание сопоставимости этих двух вариантов как раз и является задачей маршрутизирующего слоя. Один API для 200+ моделей, автоматический фейловер при деградации провайдера и цены провайдеров без наценки (0% markup) позволяют запускать собственный сервер Ling-3.0-flash для критичного к задержкам пути, маршрутизируя остальной трафик на hosted-эндпоинты, и переключаться через конфигурацию, а не через переписывание кода. Драфтер DSPark не меняет то, где работает Ling 3.0 Flash; он меняет то, насколько быстро она работает, когда находится на вашем оборудовании.

Открытые вопросы, за которыми стоит следить

Следите за четырьмя вещами. Официальное объявление или запись в блоге восполнит недостающий контекст вокруг релиза. Опубликованный показатель токенов в секунду — от inclusionAI или кого-либо ещё — превратит число принятия 5.29 в фактическое ускорение. Смена лицензии с other на именованную лицензию устранит самое большое препятствие для производственного использования. А провайдер, который начнёт обслуживать Ling 3.0 Flash с включённой спекуляцией, изменит расчёт для тех, кто вообще не использует самохостинг.

А пока Ling 3.0 Flash DSPark — это то, чем его описывает репозиторий: настоящий, доступный для загрузки спекулятор DSpark размером 1.36B для Ling 3.0 Flash, выпущенный без помпы, с высокими, но непроверенными показателями принятия и без опубликованного ускорения. Это рабочая основа для эксперимента — и честное описание компонента, который ещё никто не измерял независимо.

Сравнение в этой статье1

Определено по этой статье · Бенчмарки: Artificial Analysis · обновляется ежедневно