Ett hero-titelkort för Ling 3.0 Flash DSPark med undertiteln 'Den 1.36B-draftern som tyst lanserades för Ling 3.0 Flash', som visar ett litet drafterkort märkt 'Drafter 1.36B' som skickar en rad tokenchips till ett stort kort märkt 'Ling 3.0 Flash 124B', med en bock över de accepterade chipsen och en snabbspolningspil mellan de två korten, samt OrcaRouter-logotypen i det nedre högra hörnet.
Engineering & Research

Ling 3.0 Flash DSPark: Den 1,36B-utkastmodellen som tyst levererades för Ling 3.0 Flash

Författare

Elias Hawthorne

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Ling 3.0 Flash DSPark är en draftmodell med 1,36 miljarder parametrar som Ant Groups inclusionAI-labb laddade upp till Hugging Face den 9 augusti utan pressmeddelande, utan blogginlägg och utan lanseringstråd – ett arkiv som, vid skrivande stund, visar sju nedladdningar och en gillamarkering. Det är inte en ny version av Ling 3.0 Flash, och det är inte en modell som du någonsin kommer att anropa direkt. Det är en komponent för spekulativ avkodning: ladda den framför Ling 3.0 Flash, så föreslår den token som den stora modellen ska verifiera, vilket gör att 124B/5.1B MoE kan generera flera token per framåtpass istället för en. Allt nedan som inte är synligt sant från själva arkivet är märkt som obekräftat, eftersom leverantören inte har sagt något.

Ant Group tillkännagav Ling 3.0 Flash den 27 juli och släppte sina vikter som öppen källkod under MIT den 7 augusti. DSPark-förvaret är ett separat, tystare fartyg: skapat den 9 augusti, beskrivet endast i ett modellkort som identifierar kontrollpunkten som "en DSpark-spekulator för Ling3", och rört igen den 21 augusti med en config.json-uppdatering. Inget tillkännagivande, ingen dokumentationssida, inget benchmark-blogginlägg. Den här texten samlar vad förvaret faktiskt säger och markerar resten som öppna frågor.

Vad en "DSpark-spekulant" är, utan fackjargong

Spekulativ avkodning kör en liten, billig modell före den riktiga. Den lilla modellen (utkastaren) gissar nästa handfull tokens; den stora modellen (målmodellen) kontrollerar hela batchen i ett enda framåtpass och behåller de gissningar den håller med om. När utkastaren har rätt ger ett enda framåtpass i målmodellen flera tokens, så genomströmningen ökar utan att röra målmodellens vikter.

DSpark är en version av den idén från DeepSeeks forskare — introducerad i juli 2026 och redan implementerad i DeepSeek-V4 — och det är den algoritm som SGLang kallar DSPARK. Två saker skiljer den från en vanlig drafter. Den utökar DFlash (en metod för parallella utkast) med hjälpfunktioner som hämtas från själva målmodellen, så att draftern får information om vad den stora modellen gör. Och den har ett konfidenshuvud som poängsätter varje föreslagen token och stoppar blocket i förtid när ett suffix verkar osannolikt att klara verifieringen — så att den inte lägger ett verifieringspass på tokens som ändå snart kommer att kastas bort.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Checkpointen Ling-3.0-flash-dspark implementerar precis det: en spekulator tränad med SpecForge, dimensionerad för att föreslå block om åtta draft-tokens, med en nio-tokens verifieringsbredd när målmodellens bonus-token räknas med.

Exakt vad repositoryt säger.

Modellkortet är knapphändigt men specifikt. Ling 3.0 Flash DSPark är en draftmodell med ~1,36 miljarder parametrar (1 363 707 905 parametrar, BF16) med fem transformatorlager med full uppmärksamhet, dold storlek 2 560, och multi-head-uppmärksamhet med 32 query-huvuden och 32 nyckel-/värdhuvuden. Den läser in hjälpfunktioner från fem lager av målet – kortet listar lagren 1, 11, 23, 29 och 35 – och parar det med ett konfidenshuvud som beskrivs som ett "vanilla Markov-huvud, rang 256". Dess positionsinbäddning når upp till 262 144, samma 256K-kontext som målet har.

• Parametrar — 1 363 707 905 (~1,36B), BF16, ungefär 2,7 GB vikter.

• Arkitektur — 5 full-attention-lager, dold storlek 2 560, MHA med 32 query- och 32 key/value-huvuden; taggad qwen3.

• Målkrokar — hjälpfunktioner från Ling 3.0 Flash-lager 1, 11, 23, 29 och 35.

Konfidenshuvud — ett vanligt Markov-huvud, rank 256.

• Block — 8 utkast-token; verifiera bredd 9 inklusive målbonus-token.

• Kontext — 262 144 positionsinbäddningar, vilket matchar målmodellens 256K nativa fönster.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Den sista raden är viktig för driftsättningsplaneringen: draftern är byggd för samma långkontextserveringsprofil som målmodellen, så den krymper inte kontexten du kan spekulera över.

Acceptanstalen, läs noga

Kortet rapporterar en uppsättning prestandasiffror: genomsnittlig acceptanslängd, definierad som "det genomsnittliga antalet token som accepteras per spekulativt verifieringssteg, inklusive målbonustoken." Över nio arbetsbelastningar är makrogenomsnittet 5.29 — ungefär fem av de nio positionerna accepteras per verifieringssteg, vilket är det antal som skulle leda till en hastighetsökning. Spridningen per arbetsbelastning visar var draftern är stark:

Kod och matematik — GSM8K 6,40, MATH-500 6,29, HumanEval 6,57, MBPP 6,34, LiveCodeBench 5,33.

• Resonemang — AIME 2025 5.56.

• Konversationell — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

Tre varningar är knutna till dessa siffror. De är acceptanslängder, inte end-to-end-snabbningar: produktkortet publicerar inga token-per-sekund-siffror, så "5.29 accepterade tokens" har ännu inte omvandlats till ett "x gånger snabbare"-påstående för denna modell. De är leverantörsrapporterade och inte reproducerade – ingen utanför inclusionAI har publicerat en mätning. Och de är kontextberoende: acceptanslängden varierar med arbetsbelastning, samplingstemperatur och den exakta målcheckpointen, så behandla kod-och-mattekolumnen som det starka fallet och chattkolumnen som den realistiska låga nivån.

Vad är bekräftat, och vad är inte

Bekräftat av det offentliga repositoryt: kontrollpunkten finns och går att ladda ner; det är en DSpark-speculator för Ling 3.0 Flash; den tränades med SpecForge; den serveras via SGLang:s DSPARK-algoritm; och den skapades den 9 augusti och uppdaterades så sent som den 21 augusti.

Inte bekräftat, och värt att vara precis: licensen. Kortets frontmatter anger license: other, utan någon licenstext bifogad — så till skillnad från de MIT-licensierade Ling 3.0 Flash-vikterna är DSPark-speculatorns villkor för närvarande outtalade. Även obekräftat: att acceptanslängderna reproduceras på annan hårdvara, vad de innebär i end-to-end-tokens per sekund, huruvida någon inferensleverantör serverar utkastsmodellen (inget tyder på det), och om ett officiellt tillkännagivande kommer. Inga av dessa är anklagelser; releasen är mindre än två veckor gammal. Det är skillnaden mellan en lovande komponent och en verifierad sådan.

Kör det

I praktiken behöver du en SGLang-build med DSPARK-stöd — algoritmen lanserades i SGLang v0.5.16 i juli, i samband med DSpark-integreringen som drevs av DeepSeek-V4. Starta servern mot målmodellen och namnge draftern:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Kommandot kommer från själva modellkortet; blockstorleken läses från drafterns konfiguration. Det finns ännu ingen llama.cpp-väg — den hybrida KDA + MLA-arkitekturen kräver en anpassad fork även för huvudmodellen, så är spekulationsmodellen tills vidare en SGLang-historia.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Om det är värt att springa

Ling 3.0 Flash DSPark fungerar bara om du själv serverar Ling 3.0 Flash. Det är en lokal komponent: ungefär 2,7 GB extra BF16-vikter tillsammans med ett 124B-mål, en SGLang-bygge som stöder algoritmen, och hårdvara med minne att avvara. Vinsten är en högre acceptanslängd än en typisk liten draftmodell, i utbyte mot minnet och de rörliga delarna. För team som redan kör målet på egna GPU:er med interaktiva, latensbundna belastningar är draftmodellen en billig sak att mäta — två flaggor, girig avkodning, en titt på tokens-per-sekund-deltat. För den som anropar Ling 3.0 Flash via ett hostat API är det irrelevant: du kan inte koppla en lokal draftmodell till någon annans serverstack.

Modellkortets ärlighetsgap är det viktigaste att budgetera kring. En genomsnittlig acceptans på 5,29 är en stark siffra — DeepSeek-V4:s DSpark-speculator rapporterade acceptanslängder i intervallet 3,2–3,6 enligt LMSYS-genomgången, och Liquid AI:s LFM2.5-2.6B-drafter låg i snitt på 4,83 — men acceptanslängd är inte hastighetsökning, och tills någon publicerar end-to-end-genomströmning för just denna kombination är vinstens storlek en uppskattning.

Och det är här som blandningen av egen drift och värdbaserad drift blir det verkliga beslutet. En drafter är ytterligare en självhostad komponent framför en modell som också finns tillgänglig som API – och att hålla dessa två alternativ jämförbara är precis vad ett routningslager gör. Ett API över 200+ modeller, automatisk failover när en leverantörs prestanda försämras, och leverantörens listpriser som skickas vidare med 0 % påslag låter dig köra din egen Ling-3.0-flash-server för den latenskritiska vägen medan resten av trafiken dirigeras till värdbaserade slutpunkter, och växla via konfiguration istället för genom omskrivning. DSPark-draftern ändrar inte var Ling 3.0 Flash körs; den ändrar hur snabbt den körs när den ligger på din hårdvara.

De öppna frågorna att bevaka

Håll utkik efter fyra saker. Ett officiellt tillkännagivande eller blogginlägg skulle fylla i den saknade kontexten kring releasen. En publicerad tokens-per-sekund-siffra — från inclusionAI eller någon annan — skulle förvandla 5.29-acceptanssiffran till en faktisk hastighetsökning. En licensändring från other till en namngiven licens skulle undanröja det största hindret för produktionsanvändning. Och en leverantör som börjar leverera Ling 3.0 Flash med spekulation aktiverat skulle ändra kalkylen för dem som inte själv hostar alls.

Till dess är Ling 3.0 Flash DSPark vad dess repository säger att det är: en riktig, nedladdningsbar 1.36B DSpark-speculator för Ling 3.0 Flash, levererad utan fanfar, med starka men overifierade acceptanssiffror och ingen publicerad speedup. Det är en användbar grund för ett experiment — och en ärlig beskrivning av en komponent som ingen ännu har mätt oberoende.