Una card di titolo generata che recita "Aion-1.0-Instruct-2.3B vs LFM2.5 2.6B Base" con il sottotitolo "Quasi la stessa dimensione, risultati completamente diversi", sopra due card di pipeline: LFM2.5 2.6B Base con "pre-addestrato, poi il tuo fine-tuning" e "2.69B, contesto 131K, LFM Open License", e Aion-1.0-Instruct-2.3B con "già ottimizzato per le istruzioni" e "2.29B, contesto 32K, MIT".
Guides & Insights

Aion-1.0-Instruct-2.3B vs LFM2.5 2.6B Base: quasi della stessa dimensione, risultati completamente diversi

Autore

Elias Hawthorne

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Sulla carta questo è il confronto più serrato nel campo dei modelli piccoli in questo momento. Aion-1.0-Instruct-2.3B ha 2,29 miliardi di parametri; LFM2.5 2.6B Base ne ha 2,69 miliardi. Entrambi sono dense, entrambi solo testo, entrambi a pesi aperti, entrambi mirano alla distribuzione su dispositivo e entrambi sono arrivati senza un evento di lancio: quello di Microsoft il 18 novembre 2026, il checkpoint base di Liquid AI il 4 agosto 2026. Se li allineassi per specifiche, concluderesti che sono concorrenti.

Non lo sono. Uno dei due è finito. L'altro è un punto di partenza che è stato deliberatamente lasciato incompleto, e Liquid AI lo dichiara sulla scheda: il checkpoint Base "è consigliato solo per attività che richiedono un fine-tuning intensivo". Quella singola frase riorganizza tutto il resto di questo confronto, perché una base preaddestrata e un assistente ottimizzato per le istruzioni non sono due prodotti della stessa categoria — sono due fasi della stessa pipeline, vendute separatamente.

Le cifre di Aion-1.0-Instruct-2.3B riportate di seguito provengono dalla model card e dalla configurazione del repository di Microsoft, lette direttamente. Le cifre di LFM2.5 2.6B Base provengono dalla model card di Liquid AI e dal relativo post sul blog. Nessuno dei due modelli dispone di una valutazione indipendente; laddove un numero è dichiarato dal fornitore, viene etichettato come tale, e laddove un numero non esiste affatto, lo si dice invece di inserirlo.

Cosa rimuove "Base" dal confronto

LFM2.5 2.6B Base è il checkpoint preaddestrato da cui è stata creata ogni variante di LFM2.5 2.6B. È stato addestrato su circa 34 trilioni di token in 16 lingue e continuerà il testo invece di seguire un'istruzione, perché il fine-tuning per istruzioni risiede nel checkpoint gemello. Caricalo e fagli una domanda: farà ciò che fa un modello linguistico senza post-addestramento, ovvero estenderà il tuo prompt in una direzione plausibile.

Questo rende invalida circa la metà del confronto abituale. Non ha senso chiedersi quale modello segua meglio le istruzioni, perché a uno dei due non è stato insegnato. Non ha senso confrontare il comportamento di rifiuto o la formattazione della chat. Ciò che resta è una domanda più ristretta e più utile: se stai costruendo un assistente invece di acquistarlo, il 2.29B finito di Microsoft è un punto di partenza migliore del 2.69B grezzo di Liquid AI — o è peggiore, perché il suo fine-tuning lo ha già vincolato a una forma che potresti non volere?

• Parametri — 2,29B con embedding condivisi per Aion; 2,69B per LFM2.5 2.6B Base.

• Architettura — Aion è un transformer convenzionale con attenzione grouped-query e un pattern di attenzione ibrido 21-sliding-plus-7-full; LFM2.5 è un ibrido di 22 blocchi a convoluzione breve con doppio gate e 8 strati GQA su un totale di 30 strati.

• Volume di addestramento — Microsoft non pubblica un conteggio dei token per Aion; Liquid AI ne pubblica circa 34.000 miliardi per LFM2.5.

• Contesto — 32.768 token per Aion, 131.072 per LFM2.5 2.6B Base, con una fase dedicata di estensione del contesto lungo a 128K durante l'addestramento intermedio.

• Vocabolario — 200.029 per Aion; 128.000 per LFM2.5, raddoppiato sul posto a partire dal tokenizer della generazione precedente anziché riaddestrato.

• Licenza — MIT per Aion; la LFM Open License v1.0 per LFM2.5 2.6B Base, che non è una licenza OSI e va letta prima di distribuire.

• Post-addestramento — un modello ottimizzato per le istruzioni, con un template di chat e un formato per la chiamata degli strumenti, rispetto a un checkpoint preaddestrato che non ha né l'uno né l'altro.

La scelta architetturale che spiega il divario di contesto

La differenza di quattro volte nella finestra di contesto non è un caso legato al budget di addestramento. Il design di LFM2.5 sostituisce la maggior parte dei layer di attenzione con blocchi a convoluzione breve: è una scommessa sul fatto che il mixing delle sequenze non richieda attenzione completa a ogni layer per funzionare, ed è proprio questa scommessa a rendere sostenibile una finestra da 131K su un telefono. Il blog di Liquid AI afferma esplicitamente che il mid-training ha incluso una fase dedicata di estensione del contesto a 128K, quindi la finestra lunga è stata addestrata, non configurata a posteriori.

Aion va nella direzione opposta. Ventuno dei suoi 28 layer usano una finestra scorrevole da 2.048 token e solo sette usano l'attenzione completa, con lo scaling YaRN di fattore 16 applicato a questi sette. Il contesto pubblicato è 32.768, e l'original_max_position_embeddings di 2.048 nella configurazione è l'indizio: la finestra viene raggiunta tramite interpolazione posizionale da un intervallo nativo breve. Questa è una tecnica normale. Anche in questo caso, però, non è misurata — Microsoft non ha pubblicato alcuna valutazione sul contesto lungo, e il modello ha un giorno di vita, quindi nessun altro ne ha eseguita una.

Traduzione pratica: LFM2.5 2.6B Base viene fornito con un contesto lungo che puoi verificare rispetto a una fase di addestramento documentata. Aion viene fornito con uno più breve che dovresti testare invece di dare per scontato.

Cosa ti offre Aion che un checkpoint di base non può darti

I vantaggi del modello finito sono concreti e noiosi, ed è proprio questo che li rende degni di essere elencati. Aion-1.0-Instruct-2.3B include un template di chat con un preambolo di sistema predefinito, un messaggio di sistema opzionale fornito dall'utente aggiunto ad esso, e variabili del template per identità del modello, data limite delle conoscenze e data corrente. Include un formato documentato per le chiamate agli strumenti. È stato allineato alla sicurezza secondo lo standard Microsoft, e la scheda riporta XPIA, DIC ed ECI come le metriche di sicurezza che intende migliorare — nominando le lacune anziché affermare che siano state colmate.

Fornisce inoltre undici punteggi di benchmark su un harness denominato, più di quanto offra LFM2.5 2.6B Base. La scheda base riporta fatti su architettura e addestramento e nessuna valutazione, che è la scelta corretta per un checkpoint che non è destinato a essere valutato su compiti per cui non è stato ottimizzato. Se ti serve un numero da inserire in un documento di progettazione, Aion ne ha uno: IFEval 83.90, MMLU 55.15, GSM8K 74.91, MMLU-Pro 33.35, GPQA 28.18, tra gli altri, tutti eseguiti dal fornitore su lm-evaluation-harness o sull'implementazione propria del benchmark.

Ma leggi le avvertenze sulla scheda di Aion stessa prima di considerarlo un limite massimo delle capacità. Si afferma che il modello «non è stato addestrato per eccellere nella conoscenza del mondo», che un modello di queste dimensioni «può trascurare dettagli minuti, fornire affermazioni errate o mostrare incapacità di seguire ragionamenti complessi a più passaggi», e che i dati multilingue costituivano circa il 6% dell'addestramento su otto lingue, con una qualità variabile da lingua a lingua. Quella è una sezione sulle limitazioni insolitamente franca, e descrive un modello ottimizzato per il riassunto, la riscrittura, la chat e le attività di sistema operativo anziché per il ragionamento aperto.

Cosa ti offre il checkpoint di base che un modello ottimizzato non può darti

Controllo, e una superficie di perdita iniziale pulita. Se il tuo prodotto necessita di un modello che scriva secondo uno stile aziendale, risponda con un vocabolario di dominio o emetta un formato strutturato rigoroso, il post-training su un checkpoint di base ti porta lì senza dover combattere con la fase di allineamento di qualcun altro. La card di Liquid AI è diretta sugli usi previsti: fine-tuning intensivo, assistenti specifici per lingua, assistenti specifici per dominio, training su dati proprietari e sperimentazione con approcci di post-training innovativi.

Ti dà anche una decisione sulla licenza da prendere anziché da ereditare. LFM2.5 2.6B Base è rilasciato con la LFM Open License v1.0 — una licenza personalizzata, non Apache 2.0 e non MIT. La sua scheda elenca la licenza come "other" con il nome "lfm1.0". Se questo sia un problema dipende interamente dal tuo modello di distribuzione, ed è il tipo di cosa che viene fuori tardi in una revisione legale se nessuno la legge in anticipo. MIT, al contrario, è pressoché la più breve che una licenza possa essere.

E c’è un argomento legato al tooling. LFM2.5 è stato rilasciato con supporto dal primo giorno su Transformers, vLLM, SGLang, llama.cpp, MLX e LM Studio, oltre a notebook di fine-tuning pubblicati per Unsloth e TRL che coprono continued pre-training, SFT, DPO e GRPO. Aion Instruct richiede trust_remote_code=True e transformers 5.x, non ha alcun file GGUF nel suo repository nonostante la card elenchi GGUF come formato, e le sue build quantizzate sono promesse anziché pubblicate. Per un modello che intendete fine-tunare, l’ecosistema che lo circonda non è un dettaglio.

Due modi per finire nello stesso posto

Considera i due percorsi realistici per un team che desidera un piccolo assistente on-device e dispone di un corpus di dati propri.

Percorso uno: prendi Aion-1.0-Instruct-2.3B, valutalo sul tuo task così come distribuito e fai fine-tuning solo se non è all'altezza. Parti con un assistente funzionante, un template di chat e un formato di tool-calling, e il tuo primo esperimento costa poco perché il modello sta già svolgendo il compito male anziché non svolgerlo affatto. Il rischio è che tu stia correggendo l'allineamento di qualcun altro invece di insegnare da zero, e a 2,29B non c'è molta capacità con cui correggere.

Percorso due: prendi LFM2.5 2.6B Base, esegui un pre-addestramento continuato sul tuo dominio, poi SFT. Ottieni un modello plasmato dai tuoi dati anziché adattato ad essi, con una finestra da 131K disponibile fin dall'inizio e una toolchain di addestramento ben documentata. Il costo è che ti fai carico dell'intero impegno di post-addestramento, incluso il comportamento di sicurezza che Microsoft ha già gestito.

Il terzo percorso è quello che la maggior parte dei team intraprende effettivamente: iniziare con il percorso uno per ottenere una baseline, e passare al percorso due solo se la baseline si stabilizza. È un ordine razionale, ed è anche un argomento per non firmare un contratto a lungo termine su nessuno dei due modelli prima di aver testato i propri dati su entrambi.

Quando hai due checkpoint in un prodotto, la superficie operativa inizia a frammentarsi: configurazioni di serving separate, modalità di guasto separate, cadenze di aggiornamento separate. Il contributo di OrcaRouter a quel livello è un unico endpoint su 200+ modelli a markup 0% con il prezzo di listino del provider trasferito invariato, failover automatico tra provider, e un DSL di routing che può esprimere una catena di fallback invece di un target hard-coded. Né Aion-1.0-Instruct-2.3B né LFM2.5 2.6B Base figurano in quel catalogo — entrambi sono pesi self-hosted, e Aion non dispone di alcuna API ospitata da nessuna parte — quindi ciò che il router ti offre è il livello sopra di loro: un posto dove inviare le richieste che il tuo modello on-device non dovrebbe gestire.

La decisione compressa

Se vuoi qualcosa in funzione questa settimana che risponda alle domande, prendi Aion-1.0-Instruct-2.3B. È finito, è MIT, è 4,6 GB in bfloat16, e i suoi limiti sono documentati nelle sue stesse parole anziché scoperti da te.

Se vuoi costruire un modello invece di adottarne uno, scegli LFM2.5 2.6B Base. Pesa 5,4 GB in bfloat16, ha una finestra da 131K che è stata addestrata anziché scalata, dispone di una vera toolchain per il fine-tuning e non ha opinioni su come dovrebbe suonare il tuo assistente, perché non gliene è stata data alcuna.

Quello che non dovresti fare è considerarli intercambiabili perché i conteggi dei parametri sono vicini. Un modello base da 2.69B e un modello instruct da 2.29B differiscono per meno dell'errore di arrotondamento sulla maggior parte delle schede tecniche e, in pratica, per un'intera pipeline di post-addestramento, e scegliere tra loro è una decisione su chi fa il lavoro.

A screenshot of Liquid AI's LFM2.5 2.6B Base model card, showing the 2.69B parameter count, 30 layers, roughly 34 trillion training tokens, a 131,072-token context with a dedicated 128K extension phase, the LFM Open License v1.0, and a statement that the base checkpoint is only recommended for tasks requiring heavy fine-tuning, with no evaluation table.

La scheda di Liquid AI elenca i numeri che contano per un obiettivo di fine-tuning — 2,69 miliardi di parametri, 30 livelli, 34 trilioni di token di addestramento, una finestra di 131.072 token — e nessuna tabella di valutazione, perché un checkpoint di base non è pensato per essere valutato su compiti per i quali non è stato messo a punto.

Le domande aperte

Per Aion: se arriveranno le build quantizzate promesse da Microsoft, se la finestra di contesto lungo reggerà a un vero needle test e cosa succederà a questo checkpoint quando la versione di Windows ulteriormente ottimizzata arriverà entro la fine di gennaio 2027. La scheda presenta questo upload come un'anteprima di quel modello, il che significa che il suo successore è già programmato.

Per LFM2.5 2.6B Base: se la community ci costruisce abbastanza sopra da rendere le sue ricette di fine-tuning il percorso di riferimento, e come la LFM Open License viene interpretata dai team legali al di fuori della consueta zona di comfort delle licenze permissive. A entrambe si può rispondere con il tempo, e a nessuna delle due si può rispondere con una tabella di benchmark.

A screenshot of the Hugging Face model card for microsoft/Aion-1.0-Instruct-2.3B, showing the description as the foundational Small Language Model for on-device Windows tasks, the 32,768-token context, the eleven published benchmarks, the safety metrics XPIA, DIC and ECI, and the note that a further optimised version becomes the Windows OS SLM by the end of January 2027.

La scheda Aion indica l'uso previsto in una riga: l'SLM fondamentale per le attività Windows sul dispositivo, con l'integrazione nel sistema operativo programmata provvisoriamente per gennaio 2027.

A generated two-column scoreboard comparing Aion-1.0-Instruct-2.3B, with 2.29B parameters, a 32,768-token context, MIT licence, an instruction-tuned checkpoint, no published training token count and 11 published benchmarks, against LFM2.5 2.6B Base, with 2.69B parameters, a 131,072-token context, the LFM Open License v1.0, a pretrained-only checkpoint, roughly 34 trillion training tokens and no published benchmarks. Footnoted that Aion figures come from Microsoft's card and LFM figures from Liquid AI's card, both vendor-reported and independently unreproduced.

Conteggi dei parametri quasi identici, ma risultati diversi: instruction-tuned e MIT contro pretrained e con licenza personalizzata, con la finestra di contesto che va nella direzione opposta.