Eine Hero-Titelkarte für Ling 3.0 Flash DSPark mit dem Untertitel ‚Der 1.36B-Drafter, der unauffällig für Ling 3.0 Flash veröffentlicht wurde', die eine kleine Drafter-Karte mit der Beschriftung ‚Drafter 1.36B' zeigt, die eine Reihe von Token-Chips an eine große Karte mit der Beschriftung ‚Ling 3.0 Flash 124B' übergibt, mit einem Häkchen über den akzeptierten Chips und einem Schnellvorlauf-Pfeil zwischen den beiden Karten, sowie dem OrcaRouter-Logo in der unteren rechten Ecke.
Engineering & Research

Ling 3.0 Flash DSPark: Der 1,36B-Drafter, der unauffällig für Ling 3.0 Flash veröffentlicht wurde

Autor

Elias Hawthorne

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Ling 3.0 Flash DSPark ist ein Draft-Modell mit 1,36 Milliarden Parametern, das das inclusionAI-Labor von Ant Group am 9. August ohne Pressemitteilung, ohne Blogbeitrag und ohne Launch-Thread auf Hugging Face hochgeladen hat – ein Repository, das zum Zeitpunkt der Erstellung dieses Textes sieben Downloads und ein Like aufweist. Es ist keine neue Version von Ling 3.0 Flash und auch kein Modell, das man jemals direkt aufrufen wird. Es ist eine Komponente für spekulatives Dekodieren: Lädt man es vor Ling 3.0 Flash, schlägt es Tokens vor, die das große Modell verifizieren soll, sodass die 124B/5.1B-MoE mehrere Tokens pro Forward-Pass ausgeben kann statt nur eines. Alles Weitere, das nicht direkt aus dem Repository ersichtlich ist, wird als unbestätigt bezeichnet, da der Anbieter nichts dazu gesagt hat.

Ant Group kündigte Ling 3.0 Flash am 27. Juli an und veröffentlichte seine Gewichte am 7. August unter MIT als Open Source. Das DSPark-Repository ist ein separates, ruhigeres Schiff: erstellt am 9. August, beschrieben nur in einer Model Card, die den Checkpoint als „a DSpark speculator for Ling3“ identifiziert, und am 21. August erneut mit einem config.json-Update angefasst. Keine Ankündigung, keine Dokumentationsseite, kein Benchmark-Blogbeitrag. Dieser Beitrag sammelt, was das Repository tatsächlich sagt, und markiert den Rest als offene Fragen.

Was ein 'DSpark-Spekulant' ist, ohne den Fachjargon

Die spekulative Dekodierung lässt ein kleines, kostengünstiges Modell dem echten Modell vorauslaufen. Das kleine Modell (der Drafter) rät die nächsten Tokens; das große Modell (das Zielmodell) prüft den gesamten Batch in einem einzigen Vorwärtsdurchlauf und übernimmt die Vermutungen, die es bestätigt. Wenn der Drafter richtig liegt, liefert ein Vorwärtsdurchlauf des Zielmodells mehrere Tokens, sodass der Durchsatz steigt, ohne die Gewichte des Zielmodells anzutasten.

DSpark ist eine Version dieser Idee von DeepSeek-Forschern – eingeführt im Juli 2026 und bereits in DeepSeek-V4 eingesetzt – und es ist der Algorithmus, den SGLang DSPARK nennt. Zwei Dinge unterscheiden ihn von einem einfachen Drafter. Er erweitert DFlash (einen Parallel-Entwurfsansatz) mit zusätzlichen Merkmalen, die aus dem Zielmodell selbst stammen, sodass der Drafter Informationen darüber erhält, was das große Modell tut. Und er besitzt einen Konfidenzkopf, der jedes vorgeschlagene Token bewertet und den Block frühzeitig stoppt, wenn ein Suffix unwahrscheinlich erscheint, die Verifikation zu überstehen – so verbraucht er keinen Verifikationsdurchgang für Token, die ohnehin verworfen werden.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Der Ling-3.0-flash-dspark-Checkpoint implementiert genau das: ein mit SpecForge trainierter Spekulator, der darauf ausgelegt ist, Blöcke aus acht Entwurfs-Token vorzuschlagen, mit einer Verifikationsbreite von neun Token, sobald das Bonus-Token des Ziels mitgezählt wird.

Was das Repository genau sagt

Das Modellkartenblatt ist spärlich, aber präzise. Ling 3.0 Flash DSPark ist ein Draft-Modell mit ~1,36B Parametern (1.363.707.905 Parameter, BF16) mit fünf Full-Attention-Transformer-Ebenen bei einer versteckten Größe von 2.560 und Multi-Head-Attention mit 32 Query-Köpfen und 32 Key/Value-Köpfen. Es liest zusätzliche Merkmale aus fünf Ebenen des Ziels – die Karte listet die Ebenen 1, 11, 23, 29 und 35 auf – und kombiniert diese mit einem Konfidenzkopf, der als „vanilla Markov head, rank 256“ beschrieben wird. Seine Positions-Einbettung endet bei 262.144, demselben 256K-Kontext, den das Ziel trägt.

• Parameter — 1.363.707.905 (~1,36 Mrd.), BF16, etwa 2,7 GB Gewichte.

• Architektur — 5 Voll-Attention-Schichten, Hidden Size 2.560, MHA mit 32 Query- und 32 Key/Value-Köpfen; als qwen3 getaggt.

• Target-Hooks — Hilfsfunktionen aus den Ling 3.0 Flash-Schichten 1, 11, 23, 29 und 35.

• Confidence-Head — ein Vanilla-Markov-Head, Rang 256.

• Block — 8 Entwurfsmarker; Breite 9 einschließlich des Ziel-Bonusmarkers verifizieren.

• Kontext — 262.144 Positions-Einbettungen, passend zum nativen 256K-Fenster des Zielmodells.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Die letzte Zeile ist für die Bereitstellungsplanung von Bedeutung: Das Entwurfsmodell ist für dasselbe Long-Context-Serving-Profil ausgelegt wie das Zielmodell, sodass es den Kontext, über den spekuliert werden kann, nicht verkleinert.

Die Akzeptanzzahlen, sorgfältig lesen

Die Karte meldet einen Satz von Leistungskennzahlen: die mittlere Akzeptanzlänge, definiert als „die mittlere Anzahl der pro spekulativem Verifizierungsschritt akzeptierten Token, einschließlich des Ziel-Bonus-Tokens". Über neun Workloads hinweg beträgt der Makromittelwert 5,29 – also etwa fünf der neun Positionen, die pro Verifizierungsschritt akzeptiert werden, was die Zahl wäre, die einen Speedup antreibt. Die Verteilung pro Workload zeigt, wo das Entwurfsmodell stark ist:

• Code und Mathematik — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• Argumentation — AIME 2025 5.56

• Konversationell — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

Drei Einschränkungen sind mit diesen Zahlen verbunden. Es handelt sich um Akzeptanzlängen, nicht um End-to-End-Beschleunigungen: Die Karte veröffentlicht keine Tokens-pro-Sekunde-Werte, daher wurde „5,29 akzeptierte Tokens“ noch nicht in eine „x-mal schneller“-Behauptung für dieses Modell umgewandelt. Sie stammen vom Anbieter und sind nicht reproduziert — niemand außerhalb von inclusionAI hat eine Messung veröffentlicht. Und sie sind kontextabhängig: Die Akzeptanzlänge variiert mit der Arbeitslast, der Sampling-Temperatur und dem exakten Ziel-Checkpoint, also behandeln Sie die Code-und-Mathe-Spalte als den starken Fall und die Chat-Spalte als das realistische untere Ende.

Was ist bestätigt, und was nicht

Bestätigt durch das öffentliche Repository: {{1}}der Checkpoint existiert und ist herunterladbar;{{/1}} {{2}}es handelt sich um einen DSpark-Spekulator für Ling 3.0 Flash;{{/2}} {{3}}er wurde mit SpecForge trainiert;{{/3}} {{4}}er wird über den DSPARK-Algorithmus von SGLang bereitgestellt;{{/4}} {{5}}und er wurde am 9. August erstellt{{/5}} {{6}}und zuletzt am 21. August aktualisiert.{{/6}}

Nicht bestätigt, und es lohnt sich, präzise zu sein: die Lizenz. Das Frontmatter der Karte lautet license: other, ohne beigefügten Lizenztext – anders als bei den MIT-lizenzierten Ling-3.0-Flash-Gewichten sind die Bedingungen des DSPark-Spekulators derzeit also nicht angegeben. Ebenso unbestätigt: dass sich die Akzeptanzlängen auf anderer Hardware reproduzieren lassen, was sie für End-to-End-Tokens pro Sekunde bedeuten, ob irgendein Inferenzanbieter den Drafter anbietet (nichts deutet darauf hin) und ob eine offizielle Ankündigung kommt. Nichts davon ist eine Anschuldigung; die Veröffentlichung ist noch keine zwei Wochen alt. Sie sind der Unterschied zwischen einer vielversprechenden Komponente und einer verifizierten.

Es ausführen.

In der Praxis benötigen Sie einen SGLang-Build mit DSPARK-Unterstützung — der Algorithmus wurde im Juli in SGLang v0.5.16 eingeführt, im Zusammenhang mit der von DeepSeek-V4 vorangetriebenen DSpark-Integration. Starten Sie den Server für das Zielmodell und benennen Sie den Drafter:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Der Befehl stammt aus der Modellkarte selbst; die Blockgröße wird aus der Konfiguration des Drafters gelesen. Es gibt noch keinen llama.cpp-Pfad — die hybride KDA + MLA-Architektur benötigt selbst für das Hauptmodell einen eigenen Fork, daher ist der Speculator vorerst eine SGLang-Geschichte.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Ob es sich lohnt, zu laufen.

Ling 3.0 Flash DSPark funktioniert nur, wenn Sie Ling 3.0 Flash selbst betreiben. Es ist eine lokale Komponente: ungefähr 2,7 GB zusätzliche BF16-Gewichte neben einem 124B-Zielmodell, ein SGLang-Build, der den Algorithmus unterstützt, und Hardware mit genügend freiem Speicher. Der Vorteil ist eine höhere Akzeptanzlänge als bei einem typischen kleinen Drafter, im Austausch für den Speicherbedarf und die beweglichen Teile. Für Teams, die das Zielmodell bereits auf eigenen GPUs mit interaktiven, latenzgebundenen Lasten betreiben, ist der Drafter eine kostengünstige Sache, die man messen kann – zwei Flags, Greedy-Decoding, ein Blick auf das Tokens-pro-Sekunden-Delta. Für alle, die Ling 3.0 Flash über eine gehostete API aufrufen, ist er irrelevant: Man kann keinen lokalen Drafter an den Serving-Stack eines anderen anhängen.

Die Ehrlichkeitslücke von Modellkarten ist die Hauptsache, mit der man kalkulieren muss. Eine mittlere Akzeptanz von 5,29 ist eine starke Zahl – der DSpark-Spekulator von DeepSeek-V4 meldete Akzeptanzlängen im Bereich von 3,2–3,6 laut dem LMSYS-Bericht, und der Drafter LFM2.5-2.6B von Liquid AI erreichte im Schnitt 4,83 – aber die Akzeptanzlänge ist kein Geschwindigkeitszuwachs, und bis jemand den End-to-End-Durchsatz für genau diese Kombination veröffentlicht, ist das Ausmaß des Gewinns eine Schätzung.

Und genau hier wird die Mischung aus {{1}}Self-Hosting und gehostetem Betrieb{{/1}} zur eigentlichen Entscheidung. Ein Drafter ist ein weiteres selbst gehostetes Element vor einem Modell, das auch als API verfügbar ist – und diese beiden Optionen vergleichbar zu halten, ist genau die Aufgabe einer Routing-Ebene. Eine API für über 200 Modelle, automatisches Failover, wenn ein Anbieter nachlässt, und die Listenpreise der Anbieter, die mit {{2}}0 % Aufschlag{{/2}} durchgereicht werden, ermöglichen es Ihnen, Ihren eigenen {{3}}Ling-3.0-flash{{/3}}-Server für den latenzkritischen Pfad zu betreiben, während der übrige Datenverkehr an gehostete Endpunkte weitergeleitet wird, und per Konfiguration statt per Umschreibung zu wechseln. Der {{4}}DSPark{{/4}}-Drafter ändert nicht, wo {{5}}Ling 3.0 Flash{{/5}} läuft; er ändert, wie schnell es läuft, wenn es auf Ihrer Hardware läuft.

Die offenen Fragen, die man im Auge behalten sollte

Achten Sie auf vier Dinge. Eine offizielle Ankündigung oder ein Blogbeitrag würde den fehlenden Kontext rund um die Veröffentlichung liefern. Eine veröffentlichte Tokens-pro-Sekunde-Zahl – von inclusionAI oder jemand anderem – würde die Akzeptanzzahl von 5.29 in eine tatsächliche Beschleunigung verwandeln. Ein Lizenzwechsel von „other“ zu einer benannten Lizenz würde das größte Hindernis für den Produktionseinsatz beseitigen. Und ein Anbieter, der beginnt, Ling 3.0 Flash mit aktivierter Spekulation anzubieten, würde die Rechnung für diejenigen ändern, die überhaupt nicht selbst hosten.

Bis dahin ist Ling 3.0 Flash DSPark das, was sein Repository behauptet: ein echter, herunterladbarer 1,36B-DSpark-Spekulator für Ling 3.0 Flash, der ohne großes Aufheben veröffentlicht wurde, mit starken, aber unbestätigten Akzeptanzzahlen und ohne veröffentlichten Speedup. Das ist eine brauchbare Grundlage für ein Experiment – und eine ehrliche Beschreibung einer Komponente, die noch niemand unabhängig gemessen hat.