ERNIE Light DT 1.0 vs ERNIE 5.5 Flash Base: la licenza è il prodotto

ERNIE Light DT 1.0 e ERNIE 5.5 Flash Base sono la risposta dello stesso laboratorio a due domande diverse, pubblicate a cinque giorni di distanza nel novembre 2026. Light DT è un'API: nessun peso, nessuna model card, un prezzo di 1,13 $ per milione di token in input e un limite di output di 131.072 token. Flash Base è un download: 280 miliardi di parametri, 14 miliardi attivi per token, 33,5 trilioni di token di addestramento e nessun endpoint ospitato da Baidu. La scelta tra i due non riguarda davvero i benchmark — nessuno dei due ha un punteggio pubblicato per cui valga la pena discutere — ma se si preferisce affittare uno stack di serving o possedere una licenza su cui costruire.

E la licenza è il punto in cui questo confronto smette di essere simmetrico, perché quella di Flash Base è insolitamente precisa su dove puoi usarla e a chi devi comunicarlo.

Due reperti, un laboratorio, a cinque giorni di distanza

Flash Base è arrivato il 5 novembre 2026 con un rapporto tecnico e pesi aperti su Hugging Face in due precisioni — FP8 e BF16 — rilasciati con la ERNIE 5.5 Flash Base Model License v1.0. Si tratta di un checkpoint di pre-training, il che significa che i pesi che si ottengono sono quelli usciti dal pre-training, prima di qualsiasi instruction tuning o lavoro sulle preferenze. Non esiste un chat template degno di tale nome, né una versione instruct pubblicata insieme ad esso.

Light DT è arrivato il 10 novembre 2026 come endpoint API internazionale, descritto da Baidu come basato su modelli GLM open source con ricerca della linea "Lightning" di Search dell'azienda integrata, e costruito attorno a Baidu Sparse Attention più uno schema di compressione della cronologia guidato dal feedback che, secondo il fornitore, riduce archiviazione e calcolo della KV-cache. È stato sottoposto a post-training, risponde alle domande, chiama strumenti e non esiste come file scaricabile.

Detto così, l'abbinamento sembra sbilanciato nella direzione ovvia: uno è un prodotto finito e l'altro è un punto di partenza. Ma il prezzo dice il contrario, e la licenza dice ancora qualcos'altro.

Il tariffario che va nella direzione sbagliata

Light DT costa più per token rispetto a un modello con venti volte il suo numero di parametri attivi. Questo è il fatto da metabolizzare prima di qualsiasi altra cosa in questo articolo:

• Prezzo dell'input — ERNIE Light DT 1.0 a 1,13 $ per milione di token rispetto a ERNIE 5.5 Flash Base a 0 $, perché non esiste un endpoint Baidu e quindi nessun prezzo di listino. Lo 0 $ è reale: ospitarlo è un costo in conto capitale, non una voce su una fattura.

• Prezzo dell'output — $3,94 per milione per Light DT; per Flash Base, le proprie ore GPU.

• Input in cache — $0,113 per milione su Light DT, uno sconto di dieci volte sulle letture dalla cache. Flash Base non ha un equivalente perché l'economia della cache diventa un problema del tuo scheduler.

• {{1}}Parametri attivi per token{{/1}} — non divulgati per Light DT; 14 miliardi per Flash Base.

Contesto — 1.024.000 token per Light DT; 1.000.000 per Flash Base nel fine-tuning e nell'inferenza, con 128.000 come contesto massimo di addestramento.

• Output massimo — 131.072 token per Light DT; limitato dalla configurazione del tuo servizio per Flash Base.

Pesi — nessuno per Light DT; 280B in FP8 o BF16, suddivisi in 128 shard safetensors nel repository FP8, per Flash Base.

• Stack di serving — quello di Baidu, per Light DT; SGLang o vLLM con il plugin proprietario di Baidu, per Flash Base. La ricetta SGLang pubblicata richiede un parallelismo tensoriale pari a 4 e una dimensione data-parallel dell'attenzione pari a 4, il che rappresenta un minimo di quattro GPU prima ancora di aver caricato una singola richiesta.

Quanto costa davvero l’auto-hosting di un modello da 280B per milione di token

Questo è il calcolo che decide il matchup, e vale la pena farlo con numeri tondi piuttosto che con le sensazioni.

Quattro GPU sono il minimo per la configurazione pubblicata, ma 280B parametri in FP8 corrispondono a circa 280 GB di pesi prima di qualsiasi cache, quindi un nodo di produzione realistico è composto da otto acceleratori con spazio per la KV cache e il batching. Diciamo otto schede di classe H100 a un noleggio medio di 2 $ per scheda-ora — una cifra di fascia media del 2026, non un preventivo — e il nodo costa circa 16 $ all'ora, ovvero circa 11.700 $ al mese se funziona ininterrottamente.

Ora la {{1}}questione del throughput{{/1}}. Un MoE sparso che attiva {{2}}14 miliardi di parametri{{/2}} per token è veloce per token nel modo in cui lo sono tutti i modelli sparsi, ma è il throughput aggregato su un batch a determinare il costo unitario, e Baidu non pubblica alcun dato di token al secondo per questo checkpoint. Supponiamo, prudenzialmente, che il nodo sostenga 4.000 token di output al secondo su un batch completo. Sono 14,4 milioni di token di output all'ora, il che, a $16 l'ora, si avvicina a $1,11 per milione di token di output — prima delle perdite di utilizzo, prima dell'ingegnere che gestisce il deployment, prima delle ore di inattività quando il traffico cala.

Eseguilo a un terzo della capacità, che è ciò che fanno la maggior parte delle implementazioni reali al di fuori dei picchi, e il costo effettivo triplica. La sintesi onesta è che l'hosting autonomo di Flash Base costa all'incirca tra uno e tre dollari per milione di token di output, a seconda di quanto bene riempi il nodo — un intervallo che comprende i 3,94 $ di Light DT e può batterlo comodamente con un'elevata utilizzazione.

Il che significa che il premio di prezzo su Light DT non è una tassa sull'ignoranza. È ciò che Baidu fa pagare per non dover fare quel calcolo, e per uno schema di compressione che, secondo quanto afferma, mantiene la cache abbastanza piccola da rendere sostenibile servire una finestra da un milione di token. Se il tuo traffico è a picchi, a basso volume o prevalentemente a contesto lungo, pagare $3.94 e lasciare che qualcun altro si faccia carico del problema di utilizzo è la scelta razionale.

La licenza, ed è qui che Flash Base si complica

La licenza di Flash Base non è una licenza permissiva standard, e tre clausole contano più di qualsiasi benchmark.

• Territorio. La concessione si applica a "tutte le aree geografiche del mondo diverse dall'Unione europea, dal Regno Unito e dalla Corea del Sud". L'utilizzo dei pesi, o la distribuzione di derivati, al di fuori di tale territorio esula dai diritti concessi. Se si hanno utenti UE, una regione di inferenza UE o personale UE che interagisce con il modello, questo è un elemento bloccante da esaminare attentamente con un consulente legale, non una nota a piè di pagina.

Soglia di fatturato. L'uso commerciale è gratuito al di sotto dei 50 milioni di dollari di fatturato annuo relativo ai prodotti o servizi che utilizzano il modello, previa comunicazione una tantum a Baidu. Al di sopra di tale soglia è necessaria un'autorizzazione commerciale scritta separata prima di iniziare e, se la soglia viene superata in crescita, occorre ottenere l'autorizzazione prima di attraversarla oppure sospendere l'uso interessato.

• Attribuzione. I prodotti commerciali devono mostrare le parole esatte "Powered by ERNIE" in un luogo facilmente accessibile — un'interfaccia utente, una pagina "informazioni" o, per le API e i servizi backend, la documentazione per gli sviluppatori.

C’è anche una clausola che vale la pena segnalare a chiunque intenda distillare: la licenza vieta di usare i materiali o i loro output per migliorare qualsiasi altro modello di IA diverso dal modello stesso o dai suoi derivati. Addestrare un modello studente più piccolo sugli output di Flash Base rientra nella concessione; addestrare su di essi un’architettura diversa no.

Light DT non ha nessuno di questi problemi perché non ha pesi da concedere in licenza. Ottieni un contratto di termini di servizio e un tariffario, che rappresentano una superficie molto più ridotta per un team legale e una superficie molto più ridotta per l'ambizione.

Capacità: cosa ciascuno farà e non farà fin da subito

• Controllo del ragionamento — Light DT espone quattro livelli di sforzo (max, high, low, none), con max come impostazione predefinita. Flash Base non dispone affatto di una modalità di ragionamento; è un modello di completamento, e qualsiasi comportamento di ragionamento è qualcosa che dovresti addestrare.

• Chiamata di funzioni — Light DT supporta il function calling con scelta forzata dello strumento, output strutturati e formati di risposta JSON. Flash Base supporta tutto ciò che implementi attorno ad esso.

• Modalità — entrambi funzionano solo con testo in ingresso e testo in uscita. Nessuno dei due accetta immagini e nessuno dei due leggerà un documento scansionato al posto tuo.

• Contesto lungo: Light DT dichiara 1.024.000 token grazie al suo design con cache compressa. Flash Base supporta 1M durante fine-tuning e inferenza, ma a quella lunghezza su otto schede il budget della KV cache è il vincolo determinante, e la compressione che Baidu ha integrato nell'attention di Flash — Heavily Compressed Attention su 37 delle sue 43 layer — è ciò che la rende davvero fattibile.

• Valutazione — Flash Base pubblica una tabella completa dei fornitori: MMLU 93,3, MMLU-Pro 78,4, GPQA 60,2, HumanEval+ 82,3, LiveCodeBench 40,1, HELMET-RAG 71,5, LongBench-v2 48,7, misurati rispetto a DeepSeek-V4-Flash-Base, Hy3-preview-Base e MiMo-V2.5-Base con un'unica pipeline. Sono numeri propri di Baidu, eseguiti da Baidu, e vanno letti come tali. Light DT non pubblica proprio nulla.

Quell'ultima riga è l'asimmetria che conta di più per un acquirente. Flash Base almeno ti consente di verificare le sue dichiarazioni — scaricare i pesi, eseguire la tua valutazione e vedere se la tabella del fornitore regge sui tuoi dati. Light DT ti chiede di accettare il meccanismo per fede, perché l'unica prova disponibile è un paragrafo di testo promozionale.

Dove un router è adatto, e dove no

Nessuno di questi modelli è oggi nel catalogo di OrcaRouter, e dire il contrario sarebbe il tipo di cosa che costa a un lettore una settimana. Ciò che un router cambia è la forma della decisione.

Se scegli la strada Flash Base, stai impegnando capitali e persone su un modello di cui puoi misurare la qualità ma di cui non puoi correggere il costo di serving — e l’architettura sensata è tenere un modello ospitato dietro la stessa interfaccia come fallback per i giorni in cui il tuo nodo è pieno, il tuo batch è a freddo o un’esecuzione di valutazione sta occupando le schede. Se scegli la strada Light DT, ti impegni su un endpoint di un singolo fornitore senza un secondo provider alle spalle e senza pesi da spostare se il prezzo cambia.

In entrambi i casi la modalità di fallimento è la stessa: un carico di lavoro a contesto lungo vincolato a un solo modello, senza alcun modo di confrontare quanto sarebbe costata l'alternativa. È ciò che risolve un endpoint instradato con un listino prezzi per modello — non scegliendo al posto tuo, ma rendendo visibile il costo della scelta per singola richiesta anziché per trimestre.

Quale scegliere?

Scegli ERNIE 5.5 Flash Base se hai un problema di addestramento anziché di servizio: vuoi un punto di partenza sparso da 280B, intendi metterlo a punto, i tuoi utenti e la tua infrastruttura si trovano al di fuori di UE, Regno Unito e Corea del Sud, e sei sotto la soglia di fatturato oppure sei disposto a chiedere l'autorizzazione a Baidu. La tabella di benchmark del fornitore ti offre una base difendibile, e i pesi significano che nessuno può toglierti il modello.

Scegli ERNIE Light DT 1.0 se è la finestra di contesto che conta. Un milione di token serviti tramite una cache compressa, con un budget di ragionamento regolabile e il tool calling, è un prodotto specifico per un compito specifico — documenti recuperati lunghi, trascrizioni di agenti lunghe, sessioni di lunga durata — e pagare un sovrapprezzo per token per evitare di dover gestire in proprio il budget della cache è uno scambio legittimo.

Non scegliere nessuno dei due se i tuoi prompt sono brevi. Con 8.000 token a richiesta, l'intera storia dell'architettura da entrambe le parti è irrilevante, e 1,13 $ per milione di token di input è semplicemente un modo costoso di fare ciò che un modello a un decimo del prezzo farà altrettanto bene.