Een hero-titelkaart voor Ling 3.0 Flash DSPark met de ondertitel 'De 1.36B-drafter die stilletjes voor Ling 3.0 Flash werd uitgebracht', met een kleine drafterkaart met het label 'Drafter 1.36B' die een rij token-chips doorgeeft aan een grote kaart met het label 'Ling 3.0 Flash 124B', met een vinkje over de geaccepteerde chips en een vooruitspoel-pijl tussen de twee kaarten, en het OrcaRouter-logo in de rechterbenedenhoek.
Engineering & Research

Ling 3.0 Flash DSPark: De 1.36B-drafter die stilletjes werd uitgebracht voor Ling 3.0 Flash

Auteur

Elias Hawthorne

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Ling 3.0 Flash DSPark is een draftmodel met 1,36 miljard parameters dat het inclusionAI-lab van Ant Group op 9 augustus naar Hugging Face heeft geüpload zonder persbericht, zonder blogpost en zonder lanceringsthread — een repository die op het moment van schrijven zeven downloads en één like laat zien. Het is geen nieuwe versie van Ling 3.0 Flash en het is geen model dat je ooit direct zult aanroepen. Het is een component voor speculatieve decodering: laad het vóór Ling 3.0 Flash en het stelt tokens voor die het grote model moet verifiëren, waardoor de 124B/5.1B MoE meerdere tokens per forward pass kan genereren in plaats van één. Alles hieronder dat niet direct uit de repository blijkt, is gemarkeerd als onbevestigd, omdat de leverancier niets heeft gezegd.

Ant Group kondigde op 27 juli Ling 3.0 Flash aan en maakte de gewichten op 7 augustus open-source onder de MIT-licentie. De DSPark-repository is een apart, stiller schip: opgericht op 9 augustus, alleen beschreven in een modelkaart die het checkpoint identificeert als "een DSpark-speculator voor Ling3," en op 21 augustus opnieuw bijgewerkt met een config.json-update. Geen aankondiging, geen documentatiepagina, geen benchmarkblogpost. Dit stuk verzamelt wat de repository daadwerkelijk zegt en markeert de rest als open vragen.

Wat een "DSpark-speculant" is, zonder het jargon

Speculatieve decodering laat een klein, goedkoop model vooruitlopen op het echte model. Het kleine model (de drafter) raadt de volgende handvol tokens; het grote model (het doelmodel) controleert de hele batch in één enkele forward pass en behoudt de gissingen waarmee het akkoord gaat. Wanneer de drafter gelijk heeft, levert één forward pass van het doelmodel meerdere tokens op, waardoor de doorvoer stijgt zonder de gewichten van het doelmodel aan te raken.

DSpark is een versie van dat idee van DeepSeeks onderzoekers — geïntroduceerd in juli 2026 en al ingezet in DeepSeek-V4 — en het is het algoritme dat SGLang DSPARK noemt. Twee dingen onderscheiden het van een gewone drafter. Het breidt DFlash (een parallelle-draftbenadering) uit met functies die uit het doelmodel zelf worden gehaald, zodat de drafter informatie krijgt over wat het grote model doet. Verder heeft het een confidence head die elk voorgesteld token beoordeelt en het blok vroegtijdig stopt wanneer een suffix er onwaarschijnlijk uitziet om de verificatie te overleven — zodat er geen verificatiepass wordt verspild aan tokens die toch weggegooid gaan worden.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

De Ling-3.0-flash-dspark-checkpoint implementeert precies dat: een speculator getraind met SpecForge, afgestemd om blokken van acht draft-tokens voor te stellen, met een verificatiebreedte van negen tokens zodra de bonus-token van het doelmodel wordt meegeteld.

Wat de repository precies zegt.

De modelkaart is summier maar specifiek. Ling 3.0 Flash DSPark is een draftmodel met ~1,36 miljard parameters (1.363.707.905 parameters, BF16) met vijf full-attention-transformerlagen met een hidden size van 2.560 en multi-head attention met 32 query-heads en 32 key/value-heads. Het leest aanvullende kenmerken uit vijf lagen van het doelmodel — de kaart vermeldt de lagen 1, 11, 23, 29 en 35 — en koppelt dat aan een confidence-head die wordt beschreven als een 'vanilla Markov-head, rang 256'. De positie-embedding bereikt een maximum van 262.144, dezelfde 256K-context die het doelmodel heeft.

• Parameters — 1.363.707.905 (~1,36B), BF16, ongeveer 2,7 GB aan gewichten.

• Architectuur — 5 full-attention-lagen, hidden size 2.560, MHA met 32 query- en 32 key/value-heads; getagd als qwen3.

• Target hooks — aanvullende functies uit Ling 3.0 Flash lagen 1, 11, 23, 29 en 35.

• Betrouwbaarheidskop — een standaard Markov-kop, rang 256.

• Blok — 8 trekfiches; controleer breedte 9 inclusief het doelbonusfiche.

Context — 262.144 positie-embeddings, overeenkomend met het native 256K-venster van het doel.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Die laatste rij is belangrijk voor de implementatieplanning: de drafter is gebouwd voor hetzelfde long-context-servingprofiel als het doel, dus het verkleint de context waarover je kunt speculeren niet.

De acceptatienummers, lees aandachtig

De kaart rapporteert een reeks prestatiecijfers: de gemiddelde acceptatielengte, gedefinieerd als "het gemiddelde aantal tokens dat per speculatieve verificatiestap wordt geaccepteerd, inclusief het doelbonustoken." Over negen workloads is het macro-gemiddelde 5,29 — ruwweg vijf van de negen posities per verificatiestap geaccepteerd, wat het getal is dat voor een versnelling zou zorgen. De spreiding per workload laat zien waar het conceptmodel sterk is:

• Code en wiskunde — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• Redenering — AIME 2025 5.56.

• Conversationeel — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

Aan die cijfers kleven drie kanttekeningen. Het zijn acceptatielengtes, geen end-to-end versnellingen: de kaart publiceert geen tokens-per-seconde-cijfers, dus "5.29 geaccepteerde tokens" is nog niet omgezet in een "x-keer sneller"-claim voor dit model. Ze zijn door de leverancier gerapporteerd en niet gereproduceerd — niemand buiten inclusionAI heeft een meting gepubliceerd. En ze zijn contextafhankelijk: de acceptatielengte varieert met de workload, samplingtemperatuur en het exacte doelcheckpoint, dus behandel de code-en-wiskunde-kolom als het sterke geval en de chatkolom als het realistische minimum.

Wat is bevestigd, en wat niet

Bevestigd door de openbare repository: de checkpoint bestaat en is downloadbaar; het is een DSpark-speculator voor Ling 3.0 Flash; het is getraind met SpecForge; het wordt aangeboden via het DSPARK-algoritme van SGLang; en het is aangemaakt op 9 augustus en voor het laatst bijgewerkt op 21 augustus.

Niet bevestigd, en de moeite waard om precies over te zijn: de licentie. De frontmatter van de kaart vermeldt license: other, zonder bijgevoegde licentietekst — dus in tegenstelling tot de MIT-gelicenseerde Ling 3.0 Flash-gewichten, zijn de voorwaarden van de DSPark-speculator momenteel niet gespecificeerd. Ook onbevestigd: dat de acceptatielengtes op andere hardware reproduceerbaar zijn, wat ze betekenen voor end-to-end tokens per seconde, of een inference-provider de drafter aanbiedt (niets wijst daarop), en of er een officiële aankondiging komt. Dit zijn geen beschuldigingen; de release is nog geen twee weken oud. Het is het verschil tussen een veelbelovend onderdeel en een geverifieerd onderdeel.

Het uitvoeren

In de praktijk heb je een SGLang-build met DSPARK-ondersteuning nodig — het algoritme werd in juli opgenomen in SGLang v0.5.16, rond de DSpark-integratie die door DeepSeek-V4 werd gedreven. Start de server voor het doelmodel en geef de drafter een naam:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Het commando komt uit de modelkaart zelf; de blokgrootte wordt gelezen uit de config van de drafter. Er is nog geen llama.cpp-pad — de hybride KDA + MLA-architectuur vereist zelfs voor het hoofdmodel een eigen fork, dus de speculator is voorlopig een SGLang-verhaal.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Of het de moeite waard is om te rennen

Ling 3.0 Flash DSPark werkt alleen als je Ling 3.0 Flash zelf draait. Het is een lokale component: ruwweg 2,7 GB aan extra BF16-gewichten naast een 124B-doelmodel, een SGLang-build die het algoritme ondersteunt, en hardware met voldoende geheugen. De beloning is een hogere acceptatielengte dan een typische kleine drafter, in ruil voor het geheugen en de bewegende delen. Voor teams die het doelmodel al op hun eigen GPU's draaien bij interactieve, latentiegebonden workloads, is de drafter goedkoop om te meten — twee vlaggen, greedy decoding, een blik op de delta in tokens per seconde. Voor iedereen die Ling 3.0 Flash via een gehoste API aanroept, is het irrelevant: je kunt geen lokale drafter aan de serving-stack van iemand anders koppelen.

De eerlijkheidskloof in modelkaarten is het belangrijkste om bij het budgetteren rekening mee te houden. Een gemiddelde acceptatie van 5.29 is een sterk getal — de DSpark-speculator van DeepSeek-V4 rapporteerde acceptatielengtes in het bereik van 3.2–3.6 volgens het LMSYS-artikel, en de LFM2.5-2.6B-drafter van Liquid AI behaalde een gemiddelde van 4.83 — maar acceptatielengte is geen snelheidswinst, en totdat iemand end-to-end-doorvoer op deze exacte combinatie publiceert, is de omvang van de winst een schatting.

En dit is waar de mix van zelf-hostend versus gehost de echte beslissing wordt. Een drafter is nog een zelf-hostend onderdeel vóór een model dat ook als API beschikbaar is — en die twee opties vergelijkbaar houden is precies de taak van een routeringslaag. Met één API voor 200+ modellen, automatische failover wanneer een provider degradeert, en doorberekening van providerlijstprijzen zonder opslag, draai je een eigen Ling-3.0-flash-server voor het latentiekritieke pad, terwijl de rest van het verkeer naar gehoste endpoints wordt gerouteerd — en schakel je via configuratie in plaats van via herschrijven. De DSPark-drafter verandert niet waar Ling 3.0 Flash draait; hij verandert wel hoe snel hij draait op jouw hardware.

De open vragen om in de gaten te houden.

Let op vier dingen. Een officiële aankondiging of blogpost zou de ontbrekende context rond de release invullen. Een gepubliceerd tokens-per-seconde-cijfer — van inclusionAI of wie dan ook — zou het acceptatiegetal van 5.29 omzetten in een daadwerkelijke versnelling. Een licentieverandering van other naar een benoemde licentie zou de grootste blokkade voor productiegebruik wegnemen. En een provider die Ling 3.0 Flash met speculatie ingeschakeld gaat aanbieden, zou de afweging veranderen voor mensen die helemaal niet self-hosten.

Tot die tijd is Ling 3.0 Flash DSPark wat de repository ervan zegt dat het is: een echte, downloadbare, 1.36B DSpark-speculator voor Ling 3.0 Flash, zonder opsmuk uitgebracht, met sterke maar ongeverifieerde acceptatiecijfers en geen gepubliceerde versnelling. Dat is een werkbare basis voor een experiment — en een eerlijke beschrijving van een component die nog niemand onafhankelijk heeft gemeten.