{{1}}Karta tytułowa hero dla Ling 3.0 Flash DSPark z podtytułem „{{2}}Drafter 1.36B, który po cichu trafił do Ling 3.0 Flash{{/2}}”, pokazująca małą kartę draftera z etykietą „Drafter {{3}}1.36B{{/3}}” przekazującą rząd chipów tokenów do dużej karty z etykietą „Ling 3.0 Flash {{4}}124B{{/4}}” ze znacznikiem wyboru nad zaakceptowanymi chipami i strzałką szybkiego przewijania między obiema kartami oraz logo {{5}}OrcaRouter{{/5}} w prawym dolnym rogu.{{6}}
Engineering & Research

Ling 3.0 Flash DSPark: 1,36B drafter, który po cichu trafił do Ling 3.0 Flash

Autor

Elias Hawthorne

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Ling 3.0 Flash DSPark to model szkicowy o 1,36 miliarda parametrów, który laboratorium inclusionAI należące do Ant Group przesłało do Hugging Face 9 sierpnia bez komunikatu prasowego, wpisu na blogu i wątku premierowego — repozytorium, które w chwili pisania tego tekstu ma siedem pobrań i jedno polubienie. To nie jest nowa wersja Ling 3.0 Flash i nie jest to model, który kiedykolwiek wywołasz bezpośrednio. To komponent dekodowania spekulatywnego: załaduj go przed Ling 3.0 Flash, a będzie proponować tokeny do weryfikacji przez duży model, umożliwiając modelowi MoE 124B/5.1B wygenerowanie kilku tokenów na jeden przebieg w przód zamiast jednego. Wszystko poniżej, co nie jest wprost widoczne w samym repozytorium, jest oznaczone jako niepotwierdzone, ponieważ dostawca nic nie powiedział.

Ant Group ogłosiło Ling 3.0 Flash 27 lipca i opublikowało jego wagi na licencji MIT 7 sierpnia. Repozytorium DSPark to osobny, cichszy statek: utworzone 9 sierpnia, opisane jedynie w karcie modelu, która identyfikuje punkt kontrolny jako „spekulator DSpark dla Ling3", a następnie zaktualizowane 21 sierpnia o zmianę pliku config.json. Żadnego ogłoszenia, żadnej strony dokumentacji, żadnego wpisu na blogu z benchmarkami. Ten artykuł zbiera to, co repozytorium faktycznie mówi, a resztę oznacza jako otwarte pytania.

Czym jest "spekulant DSpark", bez żargonu

Dekodowanie spekulatywne uruchamia mały, tani model przed właściwym. Mały model (szkicujący) zgaduje kolejną garść tokenów; duży model (docelowy) sprawdza całą partię w jednym przebiegu i zatrzymuje te przewidywania, z którymi się zgadza. Gdy szkicujący ma rację, jeden przebieg modelu docelowego daje kilka tokenów, więc przepustowość rośnie bez dotykania wag modelu docelowego.

DSpark to wersja tego pomysłu od badaczy z DeepSeek — wprowadzona w lipcu 2026 r. i już wdrożona w DeepSeek-V4 — i jest to algorytm, który SGLang nazywa DSPARK. Dwie rzeczy odróżniają go od zwykłego modelu proponującego. Rozszerza DFlash (podejście z równoległym draftowaniem) o cechy pomocnicze pobierane z samego modelu docelowego, dzięki czemu model proponujący otrzymuje informacje o tym, co robi duży model. Posiada też głowę pewności, która ocenia każdy proponowany token i wcześnie przerywa blok, gdy sufiks wygląda na mało prawdopodobny, by przetrwać weryfikację — dzięki czemu nie poświęca przebiegu weryfikacji na tokeny, które i tak mają zostać odrzucone.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Punkt kontrolny Ling-3.0-flash-dspark implementuje dokładnie to: spekulator trenowany za pomocą SpecForge, zaprojektowany do proponowania bloków ośmiu tokenów wstępnych, z dziewięciotokenową szerokością weryfikacji po doliczeniu tokenu bonusowego modelu docelowego.

Co dokładnie mówi repozytorium

Karta modelu jest skąpa, ale konkretna. Ling 3.0 Flash DSPark to model szkicowy o około 1,36 mld parametrów (1 363 707 905 parametrów, BF16) z pięcioma warstwami transformera z pełną uwagą, ukrytym wymiarem 2560 i wielogłową uwagą z 32 głowami zapytań oraz 32 głowami kluczy/wartości. Cechy pomocnicze są odczytywane z pięciu warstw modelu docelowego — karta wymienia warstwy 1, 11, 23, 29 i 35 — i są one łączone z głową pewności opisaną jako „zwykła głowa Markowa, ranga 256”. Osadzanie pozycji osiąga maksimum 262 144, czyli ten sam kontekst 256K, który niesie model docelowy.

• Parametry — 1,363,707,905 (~1,36B), BF16, około 2,7 GB wag.

• Architektura — 5 warstw pełnej uwagi, rozmiar ukryty 2560, MHA z 32 głowami zapytań i 32 głowami klucz/wartość; oznaczony jako qwen3.

• Haczyki docelowe — cechy pomocnicze z warstw 1, 11, 23, 29 i 35 modelu Ling 3.0 Flash.

• Głowa ufności — standardowa głowa Markowa, rząd 256.

• Blok — 8 żetonów draftu; sprawdź szerokość 9, wliczając docelowy żeton bonusowy.

• Kontekst — 262 144 osadzeń pozycyjnych, odpowiadających natywnemu oknu 256K modelu docelowego.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Ten ostatni wiersz ma znaczenie dla planowania wdrożenia: drafter jest zbudowany dla tego samego profilu serwowania długiego kontekstu co model docelowy, więc nie zmniejsza kontekstu, na którym można spekulować.

Liczby akceptacji, przeczytaj uważnie

Karta raportuje jeden zestaw wskaźników wydajności: średnią długość akceptacji, zdefiniowaną jako „średnia liczba tokenów akceptowanych na spekulacyjny krok weryfikacji, wliczając docelowy token bonusowy”. W przypadku dziewięciu obciążeń średnia makro wynosi 5,29 — mniej więcej pięć z dziewięciu pozycji akceptowanych na krok weryfikacji, czyli liczba, która przekładałaby się na przyspieszenie. Rozrzut między obciążeniami pokazuje, gdzie drafter jest mocny:

• Kod i matematyka — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• Rozumowanie — AIME 2025 5.56.

• Konwersacyjny — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

Z tymi liczbami wiążą się trzy zastrzeżenia. Są to długości akceptacji, a nie przyspieszenia całego procesu: karta nie podaje wartości tokenów na sekundę, więc „5.29 zaakceptowanych tokenów" nie zostało jeszcze przeliczone na stwierdzenie „x razy szybszy" dla tego modelu. Pochodzą od producenta i nie zostały niezależnie odtworzone — nikt spoza inclusionAI nie opublikował pomiaru. Są też zależne od kontekstu: długość akceptacji zmienia się w zależności od obciążenia, temperatury próbkowania i dokładnego checkpointu, więc traktuj kolumnę z kodem i matematyką jako mocny przypadek, a kolumnę czatu jako realistyczne dolne oszacowanie.

Co jest potwierdzone, a co nie

Potwierdzone w publicznym repozytorium: punkt kontrolny istnieje i można go pobrać; jest to spekulator DSpark dla Ling 3.0 Flash; został wytrenowany za pomocą SpecForge; jest serwowany przez algorytm DSPARK platformy SGLang; i został utworzony 9 sierpnia, a zaktualizowany tak niedawno jak 21 sierpnia.

Niepotwierdzone i warto być precyzyjnym: licencja. Frontmatter karty zawiera wpis `license: other`, bez dołączonego tekstu licencji — więc w przeciwieństwie do wag Ling 3.0 Flash na licencji MIT, warunki speculatora DSPark są obecnie nieokreślone. Również niepotwierdzone: że długości akceptacji można odtworzyć na innym sprzęcie, co oznaczają w tokenach na sekundę end-to-end, czy jakikolwiek dostawca inferencji udostępnia model pomocniczy (nic na to nie wskazuje) oraz czy nadchodzi oficjalne ogłoszenie. Żadne z tych nie jest oskarżeniem; wydanie ma mniej niż dwa tygodnie. To różnica między obiecującym komponentem a zweryfikowanym.

Uruchamianie tego

W praktyce potrzebujesz kompilacji SGLang z obsługą DSPARK — algorytm pojawił się w SGLang v0.5.16 w lipcu, w okolicach integracji DSpark napędzanej przez DeepSeek-V4. Uruchom serwer na modelu docelowym i nazwij draftera:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Polecenie pochodzi z samej karty modelu; rozmiar bloku jest odczytywany z konfiguracji draftera. Nie ma jeszcze ścieżki llama.cpp — hybrydowa architektura KDA + MLA wymaga własnego forka nawet dla głównego modelu, więc spekulator to na razie kwestia SGLang.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Czy warto biegać

Ling 3.0 Flash DSPark działa tylko wtedy, gdy samodzielnie serwujesz Ling 3.0 Flash. To komponent lokalny: około 2,7 GB dodatkowych wag BF16 obok modelu docelowego 124B, kompilacja SGLang obsługująca ten algorytm oraz sprzęt z zapasem pamięci. Zysk to większa długość akceptacji niż w typowym małym drafterze, w zamian za pamięć i ruchome elementy. Dla zespołów, które już uruchamiają model docelowy na własnych GPU przy interaktywnych obciążeniach ograniczonych opóźnieniami, drafter jest tani w pomiarze — dwie flagi, dekodowanie zachłanne, rzut oka na różnicę tokenów na sekundę. Dla każdego, kto wywołuje Ling 3.0 Flash przez hostowane API, jest to bez znaczenia: nie można podłączyć lokalnego draftra do cudzego stosu serwującego.

Luka w uczciwości karty modelu to główna rzecz, na którą trzeba przeznaczyć budżet. Średnia akceptacja na poziomie 5.29 to mocna liczba — speculator DSpark DeepSeek-V4 zgłaszał długości akceptacji w zakresie 3.2–3.6 według raportu LMSYS, a drafter LFM2.5-2.6B od Liquid AI osiągał średnio 4.83 — ale długość akceptacji to nie przyspieszenie, i dopóki ktoś nie opublikuje przepustowości end-to-end dla dokładnie tej pary, rozmiar zysku jest szacunkowy.

I to właśnie tutaj połączenie self-hostingu i hostingu staje się kluczową decyzją. Drafter to kolejny samodzielnie hostowany element przed modelem, który jest również dostępny jako API — a utrzymanie porównywalności tych dwóch opcji to dokładnie zadanie warstwy routingu. Jedno API dla ponad 200 modeli, automatyczne przełączanie awaryjne, gdy wydajność dostawcy spada, oraz ceny listowe dostawców przekazywane dalej z 0% narzutem pozwalają uruchomić własny serwer Ling-3.0-flash dla ścieżki krytycznej pod względem opóźnień, kierując resztę ruchu do hostowanych endpointów — i przełączać się za pomocą konfiguracji, a nie przepisywania kodu. Drafter DSPark nie zmienia tego, gdzie działa Ling 3.0 Flash; zmienia to, jak szybko działa, gdy znajduje się na Twoim sprzęcie.

Otwarte pytania, które warto obserwować

Zwróć uwagę na cztery rzeczy. Oficjalne ogłoszenie lub wpis na blogu uzupełniłoby brakujący kontekst wokół wydania. Opublikowana liczba tokenów na sekundę — od inclusionAI lub kogokolwiek innego — zamieniłaby liczbę akceptacji 5.29 w faktyczne przyspieszenie. Zmiana licencji z other na nazwaną licencję usunęłaby największą blokadę dla użycia produkcyjnego. A dostawca, który zacznie udostępniać Ling 3.0 Flash z włączoną spekulacją, zmieniłby kalkulację dla osób, które w ogóle nie hostują samodzielnie.

Do tego czasu Ling 3.0 Flash DSPark jest tym, za co uważa go jego repozytorium: prawdziwym, dostępnym do pobrania modelem spekulacyjnym DSpark o wielkości 1,36B dla Ling 3.0 Flash, wydanym bez rozgłosu, z wysokimi, ale niezweryfikowanymi wskaźnikami akceptacji i bez opublikowanego przyspieszenia. To realna podstawa do eksperymentu — i uczciwy opis komponentu, którego nikt jeszcze nie zmierzył niezależnie.

Porównane w tym artykule1

Wykryto na podstawie tego artykułu · Benchmarki: Artificial Analysis · aktualizowane codziennie