Ling-3.0-flash-base: il rilascio checkpoint discreto di Ant Group, ora ufficiale

Il laboratorio inclusionAI di Ant Group ha caricatoLing-3.0-flash-base e cinque checkpoint fratelli su Hugging Face l'11 agosto 2026 senza alcun annuncio, e per un'intera settimana tutti e sei i repository sono rimasti a zero download — nessuno al di fuori del laboratorio sembrava essersene accorto. Poi, il 19 agosto, l'account ufficiale del laboratorio ha presentato pubblicamente la collezione, e ogni model card al suo interno è stata aggiornata nel giro di pochi minuti. Questo è un articolo su ciò che sappiamo finora di quella release. La versione breve, detta subito: Ling-3.0-flash-base non è un modello chat, e non è pensato per esserlo. È il checkpoint base grezzo, pre-allineamento, di Ling-3.0-flash, il modello Mixture-of-Experts da 124B parametri con 5,1B parametri attivi, rilasciato sotto licenza MIT per chi vuole continuare ad addestrarlo piuttosto che chiamarlo.

La tempistica: una settimana di silenzio, poi un annuncio

L'ordine conta, perché ti dice come leggere tutto il resto di questo articolo. I sei repository sono stati tutti creati l'11 agosto, e i pesi per Ling-3.0-flash-base — il checkpoint unito, quello che dà il nome a questo articolo — è arrivato con un commit di "initial model release" il 12 agosto. Nessun post sul blog, nessun thread social, nessun annuncio ha accompagnato il tutto. Al momento della ricerca, una settimana dopo, ciascuno dei sei repository mostrava ancora zero download.

Quel silenzio è terminato il 19 agosto. L'account ufficiale di Ant Ling ha annunciato pubblicamente la raccolta di checkpoint e le schede Hugging Face per tutti e sei i repository sono state aggiornate a pochi minuti di distanza l'una dall'altra: i timestamp coincidono quasi esattamente. Quindi la lettura onesta è: i pesi sono stati distribuiti in silenzio, l'annuncio è arrivato con una settimana di ritardo, e tutto ciò che attualmente si può sapere sul rilascio proviene dalle schede dei modelli stesse più un breve repository di ricette di addestramento. Nient'altro è stato ancora verificato in modo indipendente.

Cosa è stato effettivamente rilasciato: sei checkpoint, tre fasi di addestramento

InclusionAI descrive il rilascio come "una raccolta di checkpoint durante il processo di addestramento" per la serie Ling-3.0, la sua famiglia di modelli di base linguistici più efficiente fino ad oggi. Per ciascuna delle due dimensioni più piccole — Ling-3.0-tiny e Ling-3.0-flash — il laboratorio ha pubblicato tre checkpoint, uno per fase di addestramento:

• Pre-addestrati — Ling-3.0-flash-base-30T e Ling-3.0-tiny-base-30T: pre-addestramento su larga scala completato; nessun mid-training, nessun merging, nessun post-training.

• Addestramento intermedio — Ling-3.0-flash-base-midtrain e Ling-3.0-tiny-base-midtrain: hanno completato la fase di addestramento intermedio; nessuna fusione di checkpoint e nessun post-addestramento.

• Uniti — Ling-3.0-flash-base e Ling-3.0-tiny-base: i checkpoint di base uniti tramite WSM, prodotti dai pesi dell’addestramento intermedio e che rappresentano lo stato base finale prima del post-addestramento.

Tutti e sei sono checkpoint base. Nessuno ha superato la fase di allineamento — fine-tuning supervisionato, ottimizzazione delle preferenze, RL — che trasforma un modello base in qualcosa che puoi mettere davanti agli utenti. La scheda del modello lo afferma in termini chiari: non raccomandato per la distribuzione diretta in chat rivolta agli utenti finali, per applicazioni critiche per la sicurezza senza un ulteriore allineamento e valutazione, né per l'uso in produzione senza post-addestramento e validazione specifica per l'attività.

Cos'è un checkpoint di base — e perché la svolta WSM è importante.

Se hai consumato modelli solo tramite API, un "base checkpoint" può sembrare una versione più piccola o più vecchia di un modello che già conosci. Non è né l'una né l'altra cosa. Un base checkpoint è il file dei pesi della rete neurale non allineato che emerge dal pre-training; il comportamento di follow-up delle istruzioni e di chiamata degli strumenti che effettivamente usi viene stratificato sopra di esso successivamente. Rilasciare base checkpoint è il modo in cui un laboratorio consegna alla comunità di ricerca la materia prima per fare il proprio pre-training continuato, fine-tuning, distillazione e RL.

Ciò che rende questo rilascio più interessante di un tipico dump di pesi base è la ricetta di addestramento che c'è dietro. InclusionAI sta utilizzando una tecnica che chiama Warmup-Stable and Merge (WSM), e sostituisce il tradizionale decadimento del tasso di apprendimento alla fine dell'addestramento con il merging ponderato dei checkpoint. In termini semplici: invece di lasciare che il tasso di apprendimento diminuisca per concludere l'esecuzione, il laboratorio addestra a un tasso stabile, salva i checkpoint lungo il tratto finale e li fonde con pesi appresi. Le motivazioni dichiarate dal fornitore, dalla scheda del modello:

• Poiché non esiste una fase di decadimento per "fissare" la combinazione finale di dati, il modello base risultante è più adatto a un pre-addestramento continuo e a un'espansione dinamica dei dati.

• Poiché la ricetta di merging può essere esplorata offline, un team può confrontare diversi profili di decadimento senza dover rieseguire la costosa esecuzione dell'addestramento per ciascuno di essi.

Quel secondo punto è quello che rende il rilascio un artefatto di ricerca piuttosto che una curiosità: l'intero scopo di questi checkpoint è che sono pensati per essere addestrati ulteriormente, e la ricetta è progettata per tollerarlo.

Cosa c'è dentro Ling-3.0-flash-base

L'architettura è identica a quella del Ling-3.0-flash post-addestrato, che dovrebbe già essere familiare dalla più ampia trattazione di quel modello. Dalla scheda del modello e config.json:

• Dimensioni — 124B di parametri totali secondo il fornitore (il checkpoint completo su disco, incluse le embeddings, ammonta a circa 127B su Hugging Face), con 5.1B attivati per token.

• Sparsità — una MoE sparsa 1/64: 512 esperti instradati, con 8 esperti instradati e 1 esperto condiviso attivati per ogni token.

• Attenzione — un design ibrido-lineare nativo: 35 layer di Kimi Delta Attention (KDA) e 7 layer Gated MLA in uno schema a ripetizione 5:1 su 42 layer transformer.

• Contesto — la config include un positional embedding da 256K token (262.144), lo stesso contesto nativo del sibling post-addestrato.

• Pesi — BF16, forniti come 28 shard safetensors (~255 GB su disco), con il dedicato bailing_hybrid codice di modellazione incluso nel repository.

• Licenza — MIT, senza clausola di utilizzo accettabile.

Una nota onesta sulla cifra delle dimensioni: la scheda del modello del fornitore riporta "Total 124B", ed è quel numero che circola ovunque — ma il conteggio totale dei parametri safetensors nel repository è di circa 127.5B una volta incluso lo strato di embedding. La cifra 124B è il totale senza embedding, e i due numeri non sono in conflitto; vale la pena sapere a quale dei due ci si riferisce quando si vede "127B" in una barra laterale o in un downloader.

A cosa serve, e a cosa non serve

I casi d'uso raccomandati nella scheda del modello sono inequivocabili:

• Pre-training continuato

• Formazione intermedia

• Fine-tuning supervisionato per l'adattamento al dominio

• Ottimizzazione delle preferenze e post-addestramento RL

• Ricerca sulla distillazione

• Ricerca sui sistemi long-context e MoE

E la sua lista "non raccomandato così com'è" è altrettanto esplicita: distribuzione diretta di chat per utenti finali, applicazioni critiche per la sicurezza senza allineamento, uso in produzione senza post-addestramento. In altre parole, questa è materia prima per chi addestra modelli, non un modello che le persone distribuiscono. Se non hai intenzione di mettere a punto o pre-addestrare nulla, non c'è nulla da scaricare qui — e non c'è niente di sbagliato in questo.

L'altra metà della storia è il design che scala senza soluzione di continuità. InclusionAI afferma che Ling-3.0-tiny-base e Ling-3.0-flash-base condividono la stessa ricetta di addestramento, quindi la community può prima validare una strategia di pre-addestramento continuato o di fine-tuning sul checkpoint tiny — che richiede molta meno memoria GPU — e poi scalare la stessa ricetta validata al checkpoint flash più grande. Questa è una scelta deliberata di workflow, non un caso della logistica di rilascio, ed è la proprietà più utile della collezione per chiunque voglia davvero sperimentare.

La realtà dell'hardware e la strada che la maggior parte delle persone vuole davvero

Non si può ignorare la dimensione dei pesi base flash. BF16 a ~255 GB richiede un nodo multi-GPU serio (o una configurazione di training ottimizzata per la memoria) prima ancora di iniziare; non esiste una quantizzazione FP8 o FP4 ufficiale del checkpoint base — le varianti quantizzate presenti nel catalogo dell'organizzazione sono per il modello post-addestramento. Gli esempi di fine-tuning si trovano nel inclusionAI/ling-cookbook repository GitHub, che è esplicitamente un lavoro in corso. Se il pre-training continuato non è l'obiettivo del tuo team, i checkpoint base non sono il tuo punto di ingresso.

La maggior parte delle persone che leggono della famiglia Ling-3.0 non vuole affatto un checkpoint base: vogliono il modello che parla. Questo è il modello post-addestrato Ling-3.0-flash, disponibile tramite l'API proprietaria del fornitore e diverse piattaforme di terze parti. Quando appare un modello open-weights veloce e appena rilasciato come questo, il modo più economico per giudicarlo rispetto al tuo stack attuale è eseguirlo fianco a fianco con quello che usi già — ed è esattamente a questo che serve un router: una sola API, una sola chiave e failover automatico, così un intoppo del fornitore non interrompe la prova. OrcaRouter si collega a oltre 200 modelli in questo modo e trasmette i prezzi di listino dei fornitori direttamente con ricarico 0%, quindi il prezzo che vedi è il prezzo del fornitore, e una commissione del fornitore viene accreditata a noi lo stesso giorno.

Cosa non è ancora confermato

Poiché questo rilascio ha un giorno di vita in termini di annunci, l'elenco non confermato è lungo e dovrebbe essere letto come un elenco di cose da fare, non come una critica:

• Nessun benchmark indipendente del checkpoint di base. La scheda del modello incorpora un grafico di benchmark del fornitore che confronta Ling-3.0-flash-base con modelli pre-addestrati comparabili in suite di matematica, coding, ragionamento, multilingue e contesto lungo — ma è una valutazione del fornitore stesso, ospitata su un server di immagini interno, senza sezione di metodologia e senza riproduzione da parte di terzi.

• Nessuna riproduzione della community per ora. Al momento della ricerca, tutti e sei i repository mostravano zero download e sostanzialmente nessun coinvolgimento. La release è troppo recente perché qualcuno abbia pubblicato un fine-tuning indipendente o un run di continued pretraining su questi pesi.

• Il tooling è ancora in fase iniziale. La bailing_hybrid è un'architettura che viene fornita con codice di modellazione personalizzato, quindi dipendi da trust_remote_code o da un framework che ha aggiunto il supporto. La guida al fine-tuning è espressamente un lavoro in corso.

• L'annuncio in sé è scarno. La presentazione pubblica è avvenuta tramite un thread su X e le schede del modello; non esiste un documento di lancio autonomo che descriva i dati di addestramento, la potenza di calcolo o l'esatta ricetta di fusione oltre a quanto indicato nelle schede.

Al contrario, il gemello post-addestrato ha effettivamente uno storico indipendente: Ling-3.0-flash è monitorato da Artificial Analysis con un Intelligence Index di 38 — un dato che proviene dalla classifica, non dal fornitore. Niente di tutto ciò esiste ancora per Ling-3.0-flash-base; un checkpoint base non è servito da nessuna parte, quindi non è in nessuna classifica. I due artefatti si trovano in fasi di verifica completamente diverse, ed è utile non confonderli.

Chi dovrebbe agire ora

Tre gruppi dovrebbero leggerlo diversamente:

• I ricercatori che fanno pre-training continuato, SFT di dominio o distillazione — questa è la release che fa per te. Il checkpoint di base WSM-merged è costruito appositamente per essere addestrato ulteriormente, e la ricetta tiny-then-flash ti offre un modo economico per validare un approccio prima di scalarlo. Inizia con Ling-3.0-tiny-base, prova la ricetta, poi passa a Ling-3.0-flash-base.

• Ingegneri che vogliono un modello funzionante — vi serve il Ling-3.0-flash post-addestrato, non questa release. I checkpoint di base non seguiranno le istruzioni e non sono serviti da nessuna parte; non puntate un client API verso di loro.

• Tutti gli altri — la mossa utile è osservare. I segnali interessanti delle prossime settimane sono un primo fine-tuning indipendente costruito su questi pesi, una riproduzione da parte della community del grafico di benchmark del fornitore e se uno stack di training di terze parti aggiunge supporto di prima classe per l'bailing_hybridarchitettura

Domande frequenti

Qual è la differenza tra Ling-3.0-flash-base e Ling-3.0-flash?

Ling-3.0-flash è il modello post-addestrato — allineato tramite fine-tuning supervisionato e RL, segue le istruzioni, esegue chiamate a strumenti ed è servito tramite API. Ling-3.0-flash-base è la stessa architettura in una fase precedente: è il checkpoint base finale fuso prima di qualsiasi post-addestramento, e non si comporterà come un modello chat. La base esiste affinché i ricercatori possano fare il proprio pre-addestramento continuo, fine-tuning o distillazione piuttosto che partire da zero.

Perché un laboratorio rilascerebbe checkpoint che non sono stati post-addestrati?

Poiché il post-training è esattamente ciò che la maggior parte dei ricercatori vuole fare da sé, un checkpoint di base è il punto di partenza corretto per questo. Rilasciare separatamente i checkpoint pre-addestrati, intermedi e fusi significa che un team può scegliere la fase che corrisponde al proprio lavoro: pre-addestramento continuato dai pesi pre-addestrati, oppure fine-tuning e RL dalla base fusa — e, grazie a WSM, senza i vincoli di decadimento del tasso di apprendimento che rendono fragile un modello di base quando lo si addestra ulteriormente.

Posso eseguire Ling-3.0-flash-base su hardware di consumo?

In pratica, no. I pesi BF16 ammontano a circa 255 GB su 28 shard, senza una variante quantizzata ufficiale del checkpoint di base. Il fratello più piccolo, Ling-3.0-tiny-base, è quello pensato per la sperimentazione su hardware più modesto — e condivide la ricetta di addestramento del flash checkpoint, quindi gli esperimenti validati scalano.

Ling-3.0-flash-base è gratuito per uso commerciale?

Sì — è rilasciato sotto licenza MIT senza clausola di utilizzo accettabile. Questo copre sia l'uso per la ricerca che, in linea di principio, l'uso commerciale dei pesi e di qualsiasi fine-tuning costruito da essi. È un checkpoint di base, quindi "uso" qui significa addestramento su di esso; la licenza non dice nulla su un'API ospitata, perché non ne esiste alcuna per il modello base.

Il risultato finale

Per la maggior parte dei lettori, Ling-3.0-flash-base è un indicatore, non un prodotto: dice dove sta andando la famiglia Ling-3.0 e come il laboratorio intende che la community ci costruisca sopra, ma non c'è nulla qui da chiamare tramite un'API. Per il gruppo più ristretto che effettivamente fa pre-training continuato, fine-tuning o distillazione, è un rilascio genuinamente utile — sei checkpoint, con licenza MIT, progettati deliberatamente per essere ulteriormente addestrati, con un percorso tiny-first che rende la sperimentazione accessibile. Ciò che lo porterebbe da "rilascio utile" a "ricetta comprovata" è esattamente ciò che manca oggi: una riproduzione indipendente, da parte di qualcuno esterno al laboratorio, di ciò che i checkpoint WSM possono fare quando qualcuno continua ad addestrarli.