Ling-3.1-flash-1019 è ora open source: 574 GB, MIT e una verifica concreta dei 256K

Alle 05:46 UTC del 27 ottobre, il team Ling di Ant Group ha creato un repository Hugging Face chiamato Ling-3.1-flash-1019 e lo ha riempito con 54 shard safetensors per un totale di 573,8 GB con licenza MIT. Accanto si trova Ling-3.1-flash-base, un checkpoint BF16 da 1,14 TB destinato a ulteriore addestramento, e dietro entrambi c'è Ling-3.1-flash, il modello di cui questa build è una revisione post-addestramento. Cinque giorni prima Ant aveva pubblicato solo il punteggio: 44 sull'Artificial Analysis Intelligence Index v4.3.2, in aumento da 41, con pesi e API promessi. Oggi la promessa si concretizza in un elenco di file, il che rende questo il primo giorno in cui chiunque al di fuori della pipeline di valutazione di Ant può verificare il numero invece di leggerlo.

Quel divario è il cuore della questione, e vale in entrambe le direzioni. Un laboratorio che annuncia un benchmark prima di rilasciare un artefatto chiede di essere preso sulla fiducia; un laboratorio che poi rilascia l’artefatto cinque giorni dopo, a 574 GB e con una licenza permissiva, ha quantomeno fornito i mezzi per dissentire. Le domande interessanti non riguardano più il punteggio. Riguardano cosa c’è dentro il download, quanto costa servirlo e se il contesto da 1M token indicato sulla model card è il contesto che si ottiene davvero.

Cosa c'è effettivamente nel repository

Il repository 1019 non è un adattatore leggero né un delta. È un checkpoint completo: 54 file di pesi da circa 10,7 GB ciascuno, un tokenizer, un template di chat e codice di modellazione personalizzato (BailingMoeV3ForCausalLM) che richiede trust_remote_code. La configurazione fornita dichiara uno schema di quantizzazione FP8 (E4M3, scaling a blocchi 128×128) sopra l'architettura MoE ibrida-lineare che la linea Ling utilizza dalla 3.1:

• Parametri totali e attivi — 560B totali, 25B attivi per token, gli stessi valori di Ling-3.1-flash.

• Livelli — 72 in totale: 63 livelli di attenzione lineare KDA e 9 livelli MLA con gating in un rapporto 7:1, più 4 livelli densi.

• Esperti — 512 instradati, 8 attivati per token, 1 condiviso.

• Vocabolario — 157.184 token; dimensione nascosta 4.096.

• Occupazione — 573,8 GB di safetensors su 54 shard, secondo il nostro conteggio basato sull'elenco dei file del repository al 27 ottobre.

Il modello base è un tipo diverso di artefatto. Ling-3.1-flash-baseè stato creato il 25 ottobre e contiene 121 file e 1,14 TB di pesi BF16 — circa il doppio delle dimensioni del checkpoint allineato perché non è stato quantizzato a FP8. La sua card lo descrive come il checkpoint base di Ling-3.1-flash, per il pre-training continuo, l'adattamento al dominio e la ricerca sul post-training, e afferma chiaramente che non è destinato alla chat diretta o a usi critici per la sicurezza senza allineamento. Entrambi i repo riportano il tag MIT.

44, e la parte che Ant non ha misurato

Artificial Analysis colloca Ling-3.1-flash-1019 a 44 sul suo Intelligence Index, al quarto posto su 122 modelli nella pagina che abbiamo consultato oggi, e la sua pagina del modello indica che le valutazioni sono state misurate in modo indipendente da Artificial Analysis. Questa è la forma più forte che il numero abbia assunto finora, e vale la pena tenerla distinta dal resto della tabella di lancio.

Le differenze per benchmark provengono dalla model card di Ant stessa, non da una riesecuzione indipendente: AA-Briefcase sale da circa 1.400 a 1.524 Elo, AutomationBench-AA dal 62% al 68%, CritPt dal 18% al 26% e SciCode dal 54% al 57%. Due di questi benchmark — AA-Briefcase e AutomationBench-AA — sono componenti dell'indice Artificial Analysis, quindi il numero dell'indice e la tabella del fornitore non costituiscono prove indipendenti l'uno dell'altra. Sono la stessa affermazione a due risoluzioni. Considera il 44 come misurato da AA e le coppie prima/dopo come riportate dal fornitore finché qualcuno non pubblica un harness e un seed.

C'è una seconda asimmetria. Al momento della misurazione, Artificial Analysis non registrava alcuna API disponibile pubblicamente per la build 1019, e il suo campo relativo alla velocità di output per il modello è ancora vuoto. Quindi oggi il benchmark è ripetibile solo scaricando 574 GB ed eseguendolo personalmente. Non è una critica al rilascio; è una descrizione di ciò che "open" cambia. Prima di oggi, nessuno poteva riprodurre il punteggio. Da oggi, chiunque abbia l'hardware può farlo.

I tre punti si acquistano con i token.

L'indice è una misura di qualità, non di efficienza, e il lato efficienza di questa versione è la parte meno lusinghiera. Artificial Analysis ha misurato 350M token di output per l'esecuzione 1019 contro 220M per Ling-3.1-flash — circa il 59% in più di token generati per completare la stessa suite — e classifica la nuova build al 48º posto su 48 per verbosità, con il modello mediano a 140M. Il suo costo per eseguire l'indice è di $1,49 per attività contro $1,01 del predecessore.

Parte di questo è aritmetica che puoi fare direttamente dalla rate card di Ant. A $0.90 per milione di token di output, 350M token equivalgono a $315 di output contro $198 per 220M — una differenza di $117 prima ancora di contare un singolo token di input o una lettura dalla cache. Per un team che pianifica il budget per attività invece che per token, l'aggiornamento "gratuito" del checkpoint è più vicino a un aumento del 47% della fattura per un guadagno di tre punti sull'indice. Se questo scambio sia vantaggioso dipende interamente da quanto ti costa un'attività fallita, una domanda a cui nessuna classifica risponde.

La finestra di contesto è di 256K nella configurazione

La scheda del modello indica una finestra di contesto di 1M token. La configurazione distribuita dice qualcosa di diverso. In tutti e tre i repository — 1019, Ling-3.1-flash e la base — config.json imposta max_position_embeddings su 262.144 e rope_scaling su null, con un theta RoPE di 6.000.000. Un caricamento standard di questi pesi con SGLang o vLLM serve quindi 256K posizioni, non un milione, a meno che l'operatore non fornisca una configurazione di scaling che il repository non contiene.

Questa è la nostra interpretazione dei file di configurazione pubblicati, non una dichiarazione fatta da Ant. È possibile che la Ling API ospitata applichi lato server uno schema di scaling e serva davvero 1M; i pesi aperti non ne includono uno. Non è neanche una nuova discrepanza — la release Ling-3.1-flash del 15 ottobre riportava la stessa rivendicazione di 1M sulla stessa impostazione di 262,144. Chiunque dimensioni l'hardware in base a un carico di lavoro da un milione di token dovrebbe testare il limite massimo sul proprio stack prima di procedere, perché il numero che conta è quello che il server accetta, non quello nell'introduzione.

Servirlo: otto H200s, quattro GB300s e una trappola del copia-incolla

Ant consiglia SGLang e pubblica un'immagine day-0, lmsysorg/sglang:dev-ling-3.1-flash, con decodifica speculativa MTP e ottimizzazioni per la decodifica su Hopper. La configurazione di riferimento documentata prevede otto GPU H200 con TP8 più EP8; su quattro GB300 la scheda indica di usare --tp 4 --ep 4. È inclusa anche una recipe vLLM, con parallelismo tensoriale pari a 8, parallelismo degli esperti, caching dei prefissi e tre token speculativi. Si sostiene che due flag di ambiente — SGLANG_ENABLE_FP8_BLOCK_GEMV e SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — rendano la decodifica batch-1 su Hopper circa il 10% più veloce.

L'ingombro spiega la lista hardware. Con 573,8 GB di pesi FP8, il checkpoint lascia circa 550 GB di margine su otto H200 (1.128 GB di HBM) e circa 578 GB su quattro GB300 (1.152 GB). È sufficiente per i pesi e una KV cache funzionante, non abbastanza per prendere alla leggera i contesti lunghi.

C’è anche una trappola nella Quickstart che vale la pena segnalare, perché a qualcuno costerà una giornata. Il comando SGLang della scheda modello 1019 passa --model-path inclusionAI/Ling-3.1-flash, e il suo esempio client invia "model": "Ling-3.1-flash". Seguita alla lettera, la ricetta carica il predecessore da 41 punti, non la build da 44 punti. Imposta esplicitamente il percorso su inclusionAI/Ling-3.1-flash-1019 e fissa il nome del modello servito, altrimenti il tuo primo benchmark di "1019" sarà un benchmark del vecchio checkpoint.

A cosa serve Ling-3.1-flash-base — e a cosa non serve

Il rilascio base è il più rilevante dei due per chiunque addestri modelli invece di limitarsi a richiamarli. Un checkpoint BF16 da 1,14 TB con licenza MIT, con la stessa architettura 560B/25B, offre a un laboratorio un punto di partenza legittimo per pre-training continuato, adattamento al dominio, fine-tuning supervisionato, ottimizzazione delle preferenze, esperimenti di distillazione e ricerca su MoE a contesto lungo, senza dover partire da un modello allineato alla chat di cui dovrebbe annullare il comportamento di rifiuto.

Quello che non ti dà è la ricetta per 44. La scheda descrive la base come il checkpoint base di Ling-3.1-flash, non come uno snapshot precedente al post-training della build 1019, e con nessuno dei due repository vengono forniti dati di post-training, set di preferenze o configurazione RL. Se vuoi il modello misurato, scarica il modello misurato. Se vuoi costruirne uno tuo, la base ti risparmia il conto del pre-training ma non il lavoro di allineamento — e il divario tra una base ben ottimizzata e il miglior checkpoint post-training di un fornitore è di solito più ampio di quanto suggerisca un delta di indice di tre punti.

Dovresti prendere i 574 GB?

• Scaricalo se già gestisci otto H200s o quattro GB300s, il tuo carico di lavoro è agentico o multi-step e una licenza MIT elimina un ostacolo legale che hai davvero.

• Scaricalo se hai bisogno di riprodurre tu stesso il 44 — ora è possibile, e non lo era il 22 ottobre.

• Saltalo se contavi su 1M di contesto fin da subito; prova prima la configurazione da 256K.

• Saltalo se la tua economia è per singola attività e sensibile alla latenza. L'aumento del 59% dei token è un costo reale in termini di throughput, e non esiste ancora alcun dato indipendente sulla velocità di output per 1019.

• Parti dal modello base solo se disponi di una pipeline di post-training. È un fondamento, non una scorciatoia.

La presentazione onesta del ruolo di OrcaRouter in questo contesto: non serviamo Ling-3.1-flash-1019. Ciò che vendiamo è l'altro lato della decisione — una sola chiave per oltre 200 modelli ospitati al prezzo di listino del provider con markup 0%, così alla domanda "1019 batte quello che già uso" si può rispondere senza firmare un contratto separato per ogni baseline. Il failover automatico e il DSL di routing contano una volta scelto un vincitore; non ti aiutano a sceglierne uno.

Cosa guardare dopo

Tre cose decideranno se questa release invecchierà bene. La prima è il throughput indipendente: Artificial Analysis non ha un dato sulla velocità di output per 1019, e il primo provider di terze parti a pubblicare i token al secondo ti dirà di più sull'idoneità alla produzione di un altro punto dell'indice. La seconda è se una configurazione di scaling a contesto 1M compare nel repository o nel cookbook di SGLang; finché non succede, il numero in evidenza della scheda è un'affermazione con sotto un'implementazione a 256K. La terza è cosa fa la community con la base — un fine-tune che batte 44 su un dominio ristretto sarebbe la prova più forte che aprire questi pesi è valso più del punteggio con cui è stato rilasciato.