Una hero card per il titolo di Ling 3.0 Flash DSPark con il sottotitolo 'Il drafter da 1.36B rilasciato in sordina per Ling 3.0 Flash', che mostra una piccola card drafter etichettata 'Drafter 1.36B' che passa una fila di chip di token a una grande card etichettata 'Ling 3.0 Flash 124B' con un segno di spunta sui chip accettati e una freccia di avanzamento rapido tra le due card, e il logo OrcaRouter nell'angolo in basso a destra.
Engineering & Research

Ling 3.0 Flash DSPark: Il Drafter da 1,36B Uscito in Sordina per Ling 3.0 Flash

Autore

Elias Hawthorne

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Ling 3.0 Flash DSPark è un modello draft da 1,36 miliardi di parametri che il laboratorio inclusionAI di Ant Group ha caricato su Hugging Face il 9 agosto senza comunicato stampa, post di blog o annuncio di lancio: un repository che, al momento della scrittura, mostra sette download e un like. Non è una nuova versione di Ling 3.0 Flash, né un modello che chiamerete mai direttamente. È un componente di decodifica speculativa: caricandolo davanti a Ling 3.0 Flash, propone token che il modello grande deve verificare, permettendo al MoE 124B/5.1B di emettere più token per forward pass invece di uno solo. Tutto ciò che non è visibilmente vero dal repository stesso è etichettato come non confermato, perché il fornitore non ha detto nulla.

Ant Group ha annunciato Ling 3.0 Flash il 27 luglio e ha reso open-source i suoi pesi con licenza MIT il 7 agosto. Il repository DSPark è una nave separata, più silenziosa: creato il 9 agosto, descritto solo in una model card che identifica il checkpoint come "un DSpark speculator per Ling3," e modificato nuovamente il 21 agosto con un aggiornamento di config.json. Nessun annuncio, nessuna pagina di documentazione, nessun post di benchmark. Questo articolo raccoglie ciò che il repository dice effettivamente e lascia il resto come domande aperte.

Cos'è uno "speculatore DSpark", senza il gergo.

La decodifica speculativa esegue un modello piccolo ed economico in anticipo rispetto a quello reale. Il modello piccolo (il drafter) indovina la prossima manciata di token; il modello grande (il target) verifica l'intero batch in un'unica passata in avanti e conserva le ipotesi con cui concorda. Quando il drafter ha ragione, una passata in avanti del target produce diversi token, quindi la produttività aumenta senza toccare i pesi del target.

DSpark è una versione di quell'idea dei ricercatori di DeepSeek — introdotta nel luglio 2026 e già implementata all'interno di DeepSeek-V4 — ed è l'algoritmo che SGLang chiama DSPARK. Due elementi la distinguono da un semplice drafter. Estende DFlash (un approccio a bozze parallele) con caratteristiche ausiliarie tratte dal modello target stesso, così il drafter riceve informazioni su cosa sta facendo il modello grande. E dispone di una testa di confidenza che valuta ogni token proposto e ferma il blocco in anticipo quando un suffisso sembra improbabile che superi la verifica — così non spreca una passata di verifica su token che stanno per essere scartati.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Il checkpoint Ling-3.0-flash-dspark implementa esattamente questo: uno speculatore addestrato con SpecForge, dimensionato per proporre blocchi di otto token di bozza, con una larghezza di verifica di nove token una volta contato il token bonus del target.

Quello che dice esattamente il repository.

La scheda del modello è scarna ma specifica. Ling 3.0 Flash DSPark è un modello draft di circa 1,36 miliardi di parametri (1.363.707.905 parametri, BF16) con cinque layer transformer full-attention, hidden size 2.560 e attenzione multi-head con 32 query head e 32 key/value head. Legge caratteristiche ausiliarie da cinque layer del target — la scheda elenca i layer 1, 11, 23, 29 e 35 — e le abbina a una confidence head descritta come "vanilla Markov head, rank 256". Il suo position embedding raggiunge un massimo di 262.144, lo stesso contesto da 256K del target.

• Parametri — 1.363.707.905 (~1,36B), BF16, circa 2,7 GB di pesi.

• Architettura — 5 strati di attenzione completa, dimensione nascosta 2.560, MHA con 32 testine di query e 32 testine chiave/valore; contrassegnato qwen3.

• Ganci target — funzionalità ausiliarie dai layer 1, 11, 23, 29 e 35 di Ling 3.0 Flash.

• Testa di confidenza — una testa di Markov standard, rango 256.

• Blocco — 8 gettoni draft; verifica che la larghezza sia 9, incluso il gettone bonus bersaglio.

• Contesto — 262.144 embedding posizionali, che corrispondono alla finestra nativa di 256K del target.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

Quell'ultima riga conta per la pianificazione del deployment: il drafter è costruito per lo stesso profilo di servizio a contesto lungo del target, quindi non riduce il contesto su cui puoi speculare.

I numeri di accettazione, leggere attentamente

La scheda riporta un set di valori di prestazione: la lunghezza media di accettazione, definita come «il numero medio di token accettati per step di verifica speculativa, incluso il token bonus target». Su nove carichi di lavoro, la media macro è 5,29 — circa cinque delle nove posizioni accettate per step di verifica, che è il numero che porterebbe a uno speedup. La variazione per carico di lavoro mostra dove il drafter è più forte:

• Codice e matematica — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• Ragionamento — AIME 2025 5.56.

• Conversazionale — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

Tre avvertenze accompagnano questi numeri. Sono lunghezze di accettazione, non accelerazioni end-to-end: la scheda non pubblica valori di token al secondo, quindi "5.29 token accettati" non è stato ancora convertito in un'affermazione di "x volte più veloce" per questo modello. Sono riportati dal fornitore e non riprodotti — nessuno al di fuori di inclusionAI ha pubblicato una misurazione. E dipendono dal contesto: la lunghezza di accettazione varia con il carico di lavoro, la temperatura di campionamento e il checkpoint target esatto, quindi tratta la colonna codice-e-matematica come il caso forte e la colonna chat come l'estremo basso realistico.

Cosa è confermato, e cosa no.

Confermato dal repository pubblico: il checkpoint esiste ed è scaricabile; è uno speculatore DSpark per Ling 3.0 Flash; è stato addestrato con SpecForge; è servito tramite l'algoritmo DSPARK di SGLang; ed è stato creato il 9 agosto e aggiornato da ultimo il 21 agosto.

Non confermato, e vale la pena essere precisi: la licenza. Il frontmatter della scheda riporta license: other, senza testo di licenza allegato — quindi, a differenza dei pesi Ling 3.0 Flash con licenza MIT, i termini dello speculator DSPark non sono attualmente dichiarati. Anche non confermato: che le lunghezze di accettazione si riproducano su altro hardware, cosa implichino in token end-to-end al secondo, se qualche provider di inferenza serve il drafter (nulla suggerisce che lo faccia), e se arriverà un annuncio ufficiale. Nessuna di queste è un'accusa; la release ha meno di due settimane. Sono la differenza tra un componente promettente e uno verificato.

Eseguendolo

In pratica serve una build di SGLang con supporto DSPARK — l'algoritmo è stato introdotto in SGLang v0.5.16 a luglio, nell'ambito dell'integrazione DSpark promossa da DeepSeek-V4. Avvia il server sul modello di destinazione e specifica il drafter:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

Il comando proviene dalla model card stessa; la dimensione del blocco viene letta dalla configurazione del drafter. Non esiste ancora un percorso llama.cpp — l'architettura ibrida KDA + MLA richiede un fork personalizzato anche per il modello principale, quindi per ora lo speculatore è una questione SGLang.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

Se vale la pena correre

Ling 3.0 Flash DSPark funziona solo se servi tu stesso Ling 3.0 Flash. È un componente locale: circa 2,7 GB di pesi BF16 aggiuntivi accanto a un modello target da 124B, una build di SGLang che supporta l'algoritmo e hardware con memoria da dedicare. Il vantaggio è una lunghezza di accettazione più elevata rispetto a un tipico piccolo drafter, in cambio della memoria e delle parti mobili. Per i team che già eseguono il modello target sulle proprie GPU con carichi interattivi vincolati dalla latenza, misurare il drafter è poco costoso: due flag, decodifica greedy, un'occhiata al delta di token al secondo. Per chiunque chiami Ling 3.0 Flash tramite un'API ospitata, è irrilevante: non puoi collegare un drafter locale allo stack di serving di qualcun altro.

Il gap di onestà delle model card è il principale fattore da mettere in conto. Un'accettazione media di 5.29 è un numero solido — lo speculatore DSpark di DeepSeek-V4 ha riportato lunghezze di accettazione nell'intervallo 3.2–3.6 secondo il report LMSYS, e il drafter LFM2.5-2.6B di Liquid AI ha registrato una media di 4.83 — ma la lunghezza di accettazione non è uno speedup, e finché qualcuno non pubblica il throughput end-to-end su questa esatta combinazione, l'entità del guadagno è una stima.

Ed è qui che la combinazione self-host versus hosted diventa la vera decisione. Un drafter è un altro componente self-hosted davanti a un modello disponibile anche come API — e mantenere confrontabili queste due opzioni è esattamente il compito di un livello di routing. Un'unica API su oltre 200 modelli, failover automatico quando un provider degrada e prezzi di listino del provider applicati con margine 0% ti permettono di gestire il tuo server Ling-3.0-flash per il percorso critico in termini di latenza, instradando il resto del traffico verso endpoint hosted, e di passare dall'uno all'altro tramite configurazione invece che riscrittura. Il drafter DSPark non cambia dove gira Ling 3.0 Flash; cambia la velocità con cui gira quando è sulla tua infrastruttura.

Le domande aperte da tenere d'occhio

Tieni d'occhio quattro cose. Un annuncio ufficiale o un post sul blog fornirebbe il contesto mancante attorno al rilascio. Una cifra pubblicata di token al secondo — da inclusionAI o chiunque altro — trasformerebbe il numero di accettazione di 5.29 in un reale aumento di velocità. Un cambio di licenza da 'other' a una licenza denominata eliminerebbe il più grande ostacolo all'uso in produzione. E un provider che inizi a servire Ling 3.0 Flash con la speculazione abilitata cambierebbe le carte in tavola per chi non fa affatto self-hosting.

Fino ad allora, Ling 3.0 Flash DSPark è ciò che il suo repository dice che sia: un vero speculatore DSpark da 1.36B, scaricabile, per Ling 3.0 Flash, rilasciato senza clamore, con numeri di accettazione forti ma non verificati e nessuno speedup pubblicato. Questa è una base utilizzabile per un esperimento — e una descrizione onesta di un componente che nessuno ha ancora misurato in modo indipendente.

Confrontati in questo articolo1

Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno