Ling-3.0-flash: cosa sappiamo ora del MoE fast-tier a pesi aperti di Ant Group
Guides & Insights

Ling-3.0-flash: cosa sappiamo ora del MoE fast-tier a pesi aperti di Ant Group

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Ling-3.0-flash — il MoE di fascia veloce di InclusionAI di Ant Group, annunciato il 24 luglio 2026 e reso open source con licenza MIT il 7 agosto — ora dispone di un percorso concreto di distribuzione su un singolo dispositivo. Il 27 ottobre, NVIDIA ha pubblicato una procedura tecnica che mostra la build FP4 del modello in decodifica a 53,89 token al secondo su un singolo DGX Spark, con un aumento del 42,5% rispetto a 37,81 tok/s, su tutte le 1.319 domande GSM8K, con accuratezza statisticamente invariata. Si tratta di misurazioni effettuate da NVIDIA stessa sul proprio hardware, non di un'esecuzione indipendente di terze parti, e si applicano a una dimensione del batch pari a 1. Non sostituiscono i numeri delle API ospitate riportati di seguito. Tuttavia, trasformano il precedentemente vago "percorso di distribuzione su un singolo DGX Spark" del modello in una configurazione pubblicata con una baseline, un protocollo e una modalità di errore documentata.

Il modello in sé non è cambiato. È un mixture-of-experts nativo con ragionamento ibrido, con 124B parametri totali e 5,1B attivi per token, creato come livello veloce ed economico della famiglia Ling; i pesi con licenza MIT sono su Hugging Face e ModelScope dal 7 agosto. Ciò che è cambiato rispetto alla versione di agosto di questo post è il quadro di riferimento circostante. La valutazione di Artificial Analysis, citata in questo post ad agosto, ha assegnato a Ling-3.0-flash un punteggio di 38 sul suo Intelligence Index e lo ha collocato sulla frontiera di Pareto dei pesi aperti per intelligenza rispetto ai parametri totali. La pagina live di AA ora contrassegna il modello come deprecato in favore di Ling-3.1-flash, indirizza lì i lettori e non mostra più un Intelligence Index aggiornato. Il 38 è ancora l'ultimo punteggio indipendente ricevuto da questo checkpoint; non è un dato aggiornato in tempo reale.

Questa revisione integra la misurazione di ottobre del DGX Spark e correttamente le parti del post di agosto che sono cambiate — le attuali cifre di velocità di AA e il suo stato di deprecazione — mantenendo intatte le etichette di provenienza. Dove Ant Group o NVIDIA è l'unica fonte per un numero, la frase lo dice.

In breve. Ling-3.0-flash è il MoE open-weight di fascia veloce di Ant Group: 124B totali / 5,1B attivi, licenza MIT, contesto nativo da 256K (262K nella versione servita). Non è più il Ling più recente — AA lo contrassegna come deprecato in favore di Ling-3.1-flash — ma resta disponibile, documentato e ora dispone di una ricetta misurata per singolo dispositivo. La configurazione DGX Spark di NVIDIA del 27 ottobre raggiunge 53,89 tok/s con batch size 1 su GSM8K, +42,5% rispetto alla propria baseline, secondo quanto riportato dal fornitore. Sull'API ospitata, AA attualmente indica 243 tok/s in output e un time-to-first-token di 2,79 s. Ancora solo dati del fornitore: l'affermazione di Ant di un throughput di picco di 1.100+ tok/s, il valore TTFT inferiore a 100 ms e la tabella di benchmark della model card. Il prezzo dell'API first-party è $0,075 in ingresso / $0,22 in uscita per 1M token (sconto dell'80% sugli hit della cache); il piano gratuito di lancio è terminato il 3 agosto e la promozione Ling Studio con sconto del 75% è terminata il 31 agosto.

Punti chiave

• È la fascia veloce/economica, non il flagship. Il flagship da 1T di parametri della generazione precedente rimane il modello più grande di InclusionAI; Ling-3.0-flash è il fratello più piccolo e più veloce, pensato per testo ad alto volume e tool-calling.

• I pesi sono ancora aperti con licenza MIT. Sono approdati su Hugging Face (inclusionAI/Ling-3.0-flash) e ModelScope il 7 agosto, e la build MXFP4 che NVIDIA documenta per il DGX Spark viene fornita insieme ai checkpoint BF16 e FP8.

• Il punteggio indipendente ora è storico. L'esecuzione AA citata in questo post ad agosto gli ha assegnato 38, con un aumento di 24 rispetto a Ling-2.6-flash, e lo ha collocato sulla frontiera di Pareto open-weights; la pagina live di AA ora contrassegna il modello come deprecato in favore di Ling-3.1-flash e non mostra alcun Intelligence Index attuale.

• La velocità ha tre punti di riferimento, e non sono intercambiabili. Attualmente AA indica 243 tok/s in output sull'API hosted; NVIDIA ne misura 53,89 tok/s su un singolo DGX Spark con batch size 1; Ant continua a dichiarare oltre 1.100 tok/s su hardware cluster specificato.

I prezzi sono fissati e le promozioni sono terminate. $0.075 in / $0.22 out per 1M token con uno sconto dell'80% sui cache hit; il livello gratuito di lancio è terminato il 3 agosto, e il periodo di sconto del 75% di Ling Studio è terminato il 31 agosto.

• È un pezzo di una famiglia di tre modelli. InclusionAI divide la sua gamma in Ling (MoE per testo generico e strumenti, questo modello), Ring (ragionamento) e Ming (multimodale).

Una nota su come leggere questo aggiornamento: è una revisione dell'anteprima del 24 luglio e della revisione dell'8 agosto che l'ha preceduta. Il risultato DGX Spark del 27 ottobre è il nuovo materiale; le correzioni AA sono di ordinaria manutenzione, così che il post non citi un punteggio in tempo reale che non esiste più. Ogni specifica, benchmark e prezzo di seguito riporta la fonte.

Ciò che effettivamente sappiamo

L'architettura è completamente documentata sulla scheda del modello. Ling-3.0-flash utilizza uno stack di attenzione ibrida-lineare nativo — Kimi Delta Attention (KDA) e strati Gated MLA alternati con un rapporto 5:1 (35 KDA + 7 MLA, 42 strati in totale), con gating diagonale a grana fine di KDA — su un MoE sparso 1/64 (512 esperti instradati, 8 attivati per token, più un esperto condiviso). È così che raggiunge 124B parametri totali con solo 5,1B attivi. La finestra di contesto è nativamente di 256K, servita a 262.144 token nelle ricette di inferenza, e Ant afferma che l'architettura scala fino a 1M. La lunghezza massima dell'output non è divulgata. Il modello è solo testo con supporto per il tool-calling; l'input multimodale risiede nella linea Ming separata.

Il laboratorio pubblica due formati di pesi — BF16 (circa 255 GB) e FP8 (circa 128 GB) — e le varianti quantizzate della community sono collegate dalla model card. La recipe DGX Spark ne usa un terzo: una build MXFP4 che si adatta alla memoria unificata da 121 GB del dispositivo. Le recipe di deployment del laboratorio sono destinate a SGLang e vLLM; il percorso Spark di NVIDIA usa una build SGLang di InclusionAI con l'aggiunta del backend Humming MoE.

Disponibilità: pesi aperti con licenza MIT

Il 7 agosto, il team InclusionAI di Ant Group ha reso open source i pesi con licenza MIT su Hugging Face (inclusionAI/Ling-3.0-flash) e ModelScope. Si tratta di una licenza permissiva e utilizzabile commercialmente — la stessa con cui sono stati distribuiti Ling 2.0 e Ling 2.6 — e significa che puoi ospitare autonomamente, ottimizzare e distribuire Ling-3.0-flash da solo invece di affittarlo tramite un'API. Il modello è anche richiamabile tramite l'API per sviluppatori di Ant e diverse piattaforme di terze parti. Per un modello di fascia veloce a questo prezzo, la domanda interessante non è più se puoi eseguirlo in autonomia; è se un singolo dispositivo da 121 GB sia sufficiente. Il Ling Cookbook di InclusionAI ora include un notebook DGX Spark attribuito congiuntamente ad Ant Group e NVIDIA, e il checkpoint MXFP4 che utilizza è pubblicato insieme agli altri formati. La sezione seguente è la prima risposta misurata a questa domanda.

Punteggi indipendenti: un risultato di agosto, ormai storico

Il cambiamento più significativo rispetto al post di luglio è stato la comparsa di numeri indipendenti. La valutazione di Artificial Analysis, citata da questo post ad agosto, ha assegnato a Ling-3.0-flash un punteggio di 38 sull'Intelligence Index, 24 punti in più rispetto alla generazione precedente della fascia veloce, Ling-2.6-flash (14), e lo stesso livello di MiMo-V2.5 e Qwen 3.6 27B, attivando però una frazione dei loro parametri. AA ha inoltre collocato il modello sulla frontiera di Pareto open-weights per intelligenza rispetto ai parametri totali: all'epoca, nessun modello open-weights con meno parametri totali otteneva un punteggio superiore. Il leader open-weights della fascia flash su AA, DeepSeek V4 Flash, ha ottenuto un punteggio ancora più alto (Indice 52 con il massimo sforzo di ragionamento).

Quel record è stato in seguito ritirato anziché ribaltato. La pagina live di AA per Ling-3.0-flash ora contrassegna il modello come deprecato in favore di Ling-3.1-flash, indirizza i lettori al modello più recente e non mostra alcun Intelligence Index corrente. Il 38 resta l'ultimo punteggio indipendente ricevuto da questo checkpoint; va letto come un risultato datato, non come una classifica live. Se oggi stai scegliendo un modello Ling, il confronto da fare è con Ling-3.1-flash, attualmente coperto da AA.

I risultati agentici e a contesto lungo di quella valutazione sono stati anch'essi fortemente indicativi. Nella suite τ3-Bench Banking di AA, Ling-3.0-flash ha ottenuto il 27%, secondo tra i modelli open-weights di fascia flash dietro a DeepSeek V4 Flash (39%). Su GDPval-AA v2 ha raggiunto un Elo di 1108, in aumento rispetto a 545 per Ling-2.6-flash. Ant ha addestrato il modello in oltre 10.000 ambienti interattivi (secondo quanto riportato dal fornitore) e lo presenta come un nodo di esecuzione per i flussi di lavoro agentici — veloce, economico e usa e getta, lasciando il ragionamento pesante a un flagship più grande.

Una precisazione sulle fonti: la tabella di benchmark nella scheda del modello di Ant — SWE-Bench Pro 56,6, SWE-bench Multilingual 72,4, MathArena AIME 2026 93,2, HLE 22,7 — riporta dati dichiarati dal fornitore e non è stata riprodotta in modo indipendente. Considerala come affermazioni dello stesso laboratorio, nella stessa categoria dei valori di velocità di picco riportati di seguito.

Velocità: tre numeri, tre configurazioni diverse

La storia della velocità ora conta tre numeri, e la prima cosa da fare è smettere di trattarli come se fossero la stessa misura.

Sull'API ospitata, Artificial Analysis attualmente elenca 243 token di output al secondo e un tempo al primo token di 2,79 s. È inferiore ai 368 tok/s e 1,98 s riportati da questo post ad agosto — il pannello dei provider e le esecuzioni di AA cambiano, e la pagina live è quella da citare oggi. Classifica ancora il modello vicino ai vertici della sua categoria di velocità.

Su un singolo DGX Spark, NVIDIA riporta 53,89 token di decodifica al secondo con batch size 1 su GSM8K, un guadagno del 42,5% rispetto al proprio baseline. Si tratta di un dato locale e relativo a un singolo utente, non confrontabile con un valore di throughput di un'API né con un risultato di concorrenza. La sezione successiva lo approfondisce.

Su hardware cluster specifico, Ant dichiara una velocità di output media superiore a 1.100 token al secondo e un time-to-first-token inferiore a 100 ms con un livello di caching gerarchico basato su SGLang HiCache e Mooncake. Resta un dato solo del fornitore — misurato su hardware e configurazioni batch controllati da Ant, senza una ripetizione indipendente pubblicata. Per la pianificazione, usa il dato AA per il lavoro ospitato, il dato NVIDIA per un singolo Spark e considera 1.100+ tok/s come un tetto da verificare sul tuo carico di lavoro.

Un DGX Spark: cosa misura realmente il 42,5%

Il 27 ottobre, il blog tecnico di NVIDIA ha pubblicato una procedura per servire Ling-3.0-flash-fp4 su un singolo DGX Spark — il sistema desktop GB10 con 121 GB di memoria unificata — e il Ling Cookbook di InclusionAI contiene il notebook corrispondente, attribuito congiuntamente ad Ant Group e NVIDIA. La descrizione fornita da Ant Group ha presentato il lavoro come una collaborazione tecnica con NVIDIA. Si tratta di un benchmark accurato, non di una demo: tutte le 1.319 domande GSM8K, chain-of-thought con cinque esempi, batch size 1, temperature 0.6, top-p 0.95, top-k 29 e un limite di 32.768 token.

La baseline è una build W4A8 servita con i kernel MoE MXFP4 di FlashInfer, GEMM denso CUTLASS e un LM head a 32 bit. Su quella baseline, il decode gira a 37,81 tok/s. Con tre modifiche accumulate, gira a 53,89 tok/s — il 42,5% nel titolo. Il tempo medio per token di output scende da 26,45 ms a 18,56 ms (−29,8%), la latenza end-to-end media da 15,21 s a 11,49 s (−24,5%), la P50 da 8,36 s a 6,11 s e la P95 da 50,20 s a 38,60 s. L'accuratezza GSM8K passa da 96,89% a 96,82%, una differenza di 0,08 punti che NVIDIA descrive come non statisticamente rilevabile. Il tempo medio al primo token è sostanzialmente invariato, da 0,207 s a 0,214 s. Questi sono guadagni di decode, non di prefill.

Le tre modifiche riguardano costi diversi:

• I kernel Humming MXFP4 MoE sostituiscono il backend FlashInfer. Humming compila i kernel a runtime con NVRTC per le forme esatte del modello — inclusa la sua dimensione intermedia MoE ristretta di 768 — e li memorizza nella cache in ~/.humming/cache. Nel test sintetico di NVIDIA, da solo aumenta il throughput del 9,3%.

• Quantizzazione online in FP8 dell'LM head. L'head rimane in BF16 nel checkpoint e la sua GEMM 157.184 × 2.560 legge l'intero blocco di pesi a ogni token; quantizzarlo in FP8 al caricamento dimezza quella lettura. È abilitata con SGLANG_ENABLE_FP8_LM_HEAD=1, che è in conflitto con --enable-fp32-lm-head della baseline, e aggiunge l'11,4% rispetto a Humming da sola.

• Predizione multi-token NEXTN. Lo strato NEXTN integrato nel modello genera tre token in bozza e verifica una finestra di quattro token. Su GSM8K, la lunghezza media della bozza accettata è di 2,68 token per round.

C'è un secondo numero, più eclatante, nello stesso post: un carico di lavoro sintetico da 32K in input / 2K in output con batch size 1 sale da 36,09 a 102,88 tok/s, +185,1%. NVIDIA stessa avverte di non generalizzarlo. Quella esecuzione usava decodifica greedy, un output fisso da 2K e testo ripetitivo; l'accettazione ha raggiunto 3,90 token per round contro 2,68 su GSM8K. La cifra del 42,5% su GSM8K è quella su cui basare la pianificazione. Il 185,1% è un tetto sintetico nel migliore dei casi.

Una trappola operativa conta più dell'aumento di velocità. La quantizzazione FP8 dell'LM-head e MTP si combinano solo se il modello bozza condivide l'intero modulo LM-head del target, non soltanto il suo tensore dei pesi. Senza quell'interfaccia, il framework ripiega silenziosamente, legge i pesi FP8 come BF16, fa scendere il tasso di accettazione a 1.00 e può finire più lento del baseline non ottimizzato. Il consiglio di NVIDIA è validare che ogni ottimizzazione sia attiva all'avvio anziché dedurla dai tempi misurati successivamente.

Che cosa cambia per chi legge: il percorso con un solo Spark non è più una slide commerciale. È una ricetta pubblicata con una baseline, un protocollo di misurazione e un modo di fallire dichiarato — abbastanza per riprodurla o scartarla sul proprio dispositivo. Che cosa non cambia: è comunque una misurazione di NVIDIA stessa, su un solo dispositivo, con batch size 1, in fase di decode. Non dice nulla sul serving concorrente, sul throughput in contesti lunghi o sull'API hosted. Ed è specifica alla build FP4; i checkpoint BF16 e FP8 hanno profili di memoria e banda diversi.

Prezzi: economici, e la promozione è finita.

Artificial Analysis elenca l'API first-party a $0,075 per 1M di token di input e $0,22 per 1M di output, con gli hit della cache a $0,015 (−80%) — tutti prezzi stabiliti dal fornitore. Il livello gratuito di lancio (500k token gratuiti/giorno, accesso API gratuito) è terminato il 3 agosto. Il periodo temporaneo di sconto del 75% su Ling Studio è durato fino al 31 agosto 2026; dal 1° settembre si applicano i prezzi di listino. Anche a listino pieno, $0,075/$0,22 colloca Ling-3.0-flash saldamente nella fascia economica per un modello con un Indice di 38 in quella valutazione.

A prezzi così bassi, il costo di switching conta più del prezzo per token. Il compito di OrcaRouter è mantenere onesto il lato hosted di questo confronto: un'unica API per oltre 200 modelli, prezzi di listino dei provider trasferiti con markup 0% e failover automatico tra provider. Un deployment locale di DGX Spark deve battere un prezzo di mercato reale e attuale, non una slide di un fornitore — e quando un provider hosted cambia prezzo, il pass-through lo mostra sulla stessa chiave lo stesso giorno.

La famiglia Ling / Ring / Ming

Ling-3.0-flash non esiste isolato — InclusionAI organizza le sue release in tre famiglie con nomi distinti, ciascuna destinata a un compito diverso. Ling è la linea MoE per uso generale, dedicata alla generazione di testo quotidiana e al tool-calling, e Ling-3.0-flash si colloca all'estremità veloce/economica, un gradino sotto il modello di punta da 1T di parametri della generazione precedente. Ring è la linea incentrata sul ragionamento, pensata per catene di pensiero a più passaggi. Ming è la linea multimodale. Se il tuo compito richiede un ragionamento più intenso o input di immagini, il modello InclusionAI giusto probabilmente non è Ling-3.0-flash — è pensato per volume e velocità nell'ambito testo-e-strumenti.

A chi è rivolto: quattro scenari

1. Pipeline di testo o di chiamata di strumenti ad alto volume e sensibili alla latenza

Questo è il terreno di casa del modello. Con licenza MIT, una ricetta single-Spark pubblicata e un Index indipendente di 38 con data, la scommessa sul fast-tier è verificabile anziché ipotetica: fai girare il tuo set di valutazione, oppure scarica i pesi e ospitalo in autonomia. Solo non costruire sul tetto di oltre 1.100 tok/s dichiarato dal fornitore finché non l'hai misurato sul tuo carico di lavoro.

2. Team che vogliono un contesto lungo con un budget limitato

Una finestra di contesto nativa di 256K (262K servita) con un percorso dichiarato verso 1M, a $0,075/$0,22, è una combinazione attraente per lavori ad alta intensità di recupero o di elaborazione documentale. I dati sul contesto lungo riportati nella model card sono forniti dal fornitore, quindi inseriscilo nella rosa dei candidati insieme alle opzioni consolidate per il contesto lungo e verificalo sul tuo corpus prima di impegnarti.

3. Osservatori che monitorano il panorama MoE della Cina e la roadmap di InclusionAI.

La domanda di luglio — InclusionAI sarebbe rimasta open? — ora ha una risposta: sì, MIT, e anche in fretta. L'approdo di Ling-3.0-flash sulla frontiera Pareto di AA con 5,1B attivi è stato un primo dato. La ricetta DGX Spark di ottobre è il secondo: un modello da 124B che decodifica a 53,89 tok/s su un'unica macchina desktop con batch size 1, con la ricetta pubblicata.

4. Team con un singolo DGX Spark sulla scrivania

Se possiedi già la macchina, la ricetta di NVIDIA è la prima configurazione che vale la pena copiare: build MXFP4, fork SGLang di InclusionAI, kernel MoE Humming, un LM head FP8 e NEXTN MTP. Considerala come la misurazione di un singolo fornitore con batch size 1, e verifica all'avvio che i componenti FP8 e MTP siano effettivamente attivi — la modalità di errore con fallback silenzioso è reale. Se non possiedi una Spark, la ricetta è un dato su ciò che 121GB di memoria unificata permettono di ottenere, non un motivo per comprarne una.

Cosa resta non verificato

Una breve lista, ora che le grandi lacune sono state colmate. Le dichiarazioni sulla velocità di punta di Ant (oltre 1.100 tok/s, TTFT inferiore a 100 ms) non hanno ancora una nuova misurazione indipendente. La tabella di benchmark della scheda modello resta riportata dal fornitore. Le build FP4/INT4 e il percorso a singolo DGX-Spark non sono più vaghi — NVIDIA ha pubblicato la configurazione e InclusionAI distribuisce il notebook — ma i valori di 53,89 tok/s e 96,82% sono misurazioni di NVIDIA stessa su un dispositivo con batch size 1, non una riproduzione di terze parti. Il punteggio indipendente è storico: la valutazione citata in questo post ad agosto gli assegnava 38, e la pagina live ora contrassegna il modello come deprecato in favore di Ling-3.1-flash. E sul fronte della conoscenza, l’Omniscience Index di quella valutazione mostrava che il miglioramento rispetto alla generazione precedente arrivava in gran parte tramite l’astensione — le allucinazioni sono diminuite (97% → 44%) mentre l’accuratezza è aumentata solo leggermente (16% → 18%) — quindi non scambiare il balzo dell’Index nel titolo per un salto di conoscenza su tutti i fronti.

Quando non usarlo

Salta Ling-3.0-flash per i compiti multimodali — quella è la linea Ming. Salta se ti serve un flagship pesante per il ragionamento anziché un esecutore rapido — quello è il campo di Ring. Se prevedi di ospitarlo in autonomia, metti in budget l'hardware reale: BF16 è circa 255GB, FP8 circa 128GB, e la build MXFP4 è quella che entra in una DGX Spark da 121GB. Se stai scegliendo un modello Ling da zero anziché mantenere un deployment esistente, confrontalo prima con Ling-3.1-flash; AA ha spostato lì la sua copertura. E se un'affermazione ti sta a cuore, verificala — i numeri sulla velocità di picco e sul contesto lungo sono di Ant finché un laboratorio indipendente non li riesegue.

Domande frequenti

Ling-3.0-flash ha pesi aperti?

Sì. I pesi sono stati resi open source il 7 agosto con licenza MIT, su Hugging Face (inclusionAI/Ling-3.0-flash) e ModelScope. Si tratta di una licenza permissiva e utilizzabile commercialmente — la stessa con cui sono stati distribuiti Ling 2.0 e Ling 2.6.

Come si comporta Ling-3.0-flash nei benchmark?

La valutazione di Artificial Analysis, citata in questo post ad agosto, gli ha assegnato 38 sull'Intelligence Index, 24 punti in più rispetto a Ling-2.6-flash, e lo ha collocato sulla frontiera di Pareto degli open-weights per intelligenza rispetto ai parametri totali. La pagina live di AA ora contrassegna il modello come deprecato in favore di Ling-3.1-flash e non mostra alcun Intelligence Index attuale, quindi 38 è un risultato storico. La tabella di benchmark sulla model card di Ant (ad esempio SWE-Bench Pro 56,6) è dichiarata dal fornitore e non è stata riprodotta in modo indipendente.

Quanto è veloce davvero?

Ci sono tre numeri diversi per tre diversi setup. AA attualmente riporta 243 token di output al secondo e un tempo al primo token di 2,79 s sull'API ospitata. NVIDIA riporta 53,89 tok/s in decodifica con batch size 1 su un DGX Spark. Ant dichiara oltre 1.100 tok/s e un TTFT inferiore a 100 ms su uno specifico hardware cluster. Solo il dato di AA è indipendente; gli altri due sono misurazioni dei fornitori su hardware diverso.

Quanto costa Ling-3.0-flash?

AA elenca l'API first-party a $0,075 per 1 mln di token di input e $0,22 per 1 mln di output, con uno sconto dell'80% per cache hit. Il livello gratuito di lancio è terminato il 3 agosto, e il periodo temporaneo di sconto del 75% su Ling Studio è terminato il 31 agosto 2026.

Qual è la differenza tra Ling, Ring e Ming?

Ling è la linea MoE general-purpose di InclusionAI per testo e tool-calling, e Ling-3.0-flash si colloca all'estremità veloce/economica. Ring è la linea incentrata sul reasoning. Ming si occupa di attività multimodali. Sono famiglie separate per compiti diversi, non livelli di un unico modello.

Ling-3.0-flash può essere eseguito su un singolo DGX Spark?

Sì. NVIDIA ha pubblicato il 27 ottobre una ricetta per la build MXFP4 su una DGX Spark (121 GB di memoria unificata), usando kernel Humming MXFP4, una testa LM FP8 e la previsione multi-token NEXTN. Riporta 53,89 tok/s in decodifica con dimensione del batch 1 su 1.319 domande GSM8K, un miglioramento del 42,5%, con un'accuratezza del 96,82%. I risultati sono di NVIDIA, non riprodotti in modo indipendente, e valgono solo con dimensione del batch 1; combinare FP8 con MTP richiede che il draft condivida l'intera testa LM, altrimenti il throughput può scendere sotto la baseline non ottimizzata.

Dovrei usare Ling-3.0-flash in produzione oggi?

È un modello open-weight maturo, ma non è più il Ling più recente: AA lo contrassegna come deprecato in favore di Ling-3.1-flash. Se esegui già Ling-3.0-flash, la ricetta DGX Spark è un'ottimizzazione concreta che vale la pena riprodurre. Se stai scegliendo da zero, confrontalo con Ling-3.1-flash ed esegui il tuo set di valutazione; la licenza MIT e il prezzo $0.075/$0.22 lo rendono comunque un livello economico credibile.

In definitiva

Ling-3.0-flash non è più il Ling più recente, e la pagina live di AA lo dice. Ciò che possiede e che la maggior parte dei modelli a pesi aperti non ottiene mai è una configurazione misurata su singolo dispositivo: una DGX Spark, 53,89 tok/s in decodifica con batch size 1, 96,82% su GSM8K, con baseline, protocollo e modalità di errore pubblicati a corredo. Interpreta il 42,5% come risultato di NVIDIA stesso anziché come verdetto indipendente, e considera l'Indice di agosto pari a 38 come storia. Entro questi limiti, il modello resta un'opzione credibile per il livello locale veloce; se stai ripartendo da zero, il confronto da eseguire per primo è Ling-3.1-flash.