Nemotron 3.5 Bolt E4B 4GB vs LFM2.5 2.6B Base: un carattere definito contro una tabula rasa

Uno di questi modelli sarà in grado di sostenere una conversazione non appena lo scarichi. L'altro non sarà in grado di sostenere una conversazione finché non lo addestri. Questo è l'intero confronto tra NVIDIA-Nemotron-3.5-Bolt-E4B-4GB e Liquid AI LFM2.5-2.6B-Base, e ogni differenza nella scheda tecnica che ne deriva è secondaria.

Il modello di NVIDIA è un modello linguistico di piccole dimensioni conversazionale post-addestrato: template di chat, interruttore del ragionamento, comportamento di chiamata degli strumenti, ottimizzazione della persona e una tabella di benchmark da 21 righe. Quello di Liquid è un checkpoint base pre-addestrato, pubblicato esplicitamente per un fine-tuning intenso, senza alcun comportamento conversazionale e senza punteggi di benchmark sulla sua scheda. Inserirli nello stesso insieme dei «piccoli modelli aperti» è un errore di categoria che porta le persone a scaricare l'artefatto sbagliato e a concludere che il modello sia scadente.

La risposta breve, prima dei dettagli

• Hai bisogno di un assistente vocale, con personalità o per dispositivi funzionante questo mese — prendi NVIDIA-Nemotron-3.5-Bolt-E4B-4GB. È un comportamento già pronto, non materiale grezzo.

• Hai dati di dominio, un budget per l'addestramento e la necessità che il modello sia tuo: scegli LFM2.5-2.6B-Base. È più economico da mettere a punto e offre una finestra di contesto di 128K.

• Vuoi il miglior modello conversazionale piccolo realizzato da Liquid — non vuoi nessuno dei due da solo. Vuoi l'LFM2.5-2.6B post-addestrato e poi decidere se il checkpoint Base o quello agent sia il tuo punto di partenza.

• Vuoi un benchmark testa a testa — non esiste. La scheda Base non pubblica punteggi e nessuna terza parte ha messo le due a confronto. Qualsiasi articolo che proclami un vincitore da un benchmark condiviso sta inventando il benchmark.

Perché la discrepanza è la storia

Liquid AI ha rilasciato la famiglia LFM2.5-2.6B in tre pezzi: una Base pre-addestrata, un checkpoint agente post-addestrato e un drafter per la decodifica speculativa. La Base è la prima fase di quella pipeline, non un prodotto. La sua card afferma che è «consigliata solo per attività che richiedono un fine-tuning intenso»: assistenti specifici per lingua o dominio, addestramento su dati proprietari e lavori simili. Un checkpoint base predice molto bene il token successivo e non è mai stato addestrato a rispondere a una domanda, a seguire un'istruzione o a emettere una chiamata a uno strumento secondo uno schema.

L'E4B di NVIDIA è l'estremo opposto di quella pipeline. È partito da Gemma-4-E4B-it, che era già stato ottimizzato per le istruzioni, e NVIDIA lo ha addestrato ulteriormente con l'apprendimento per rinforzo da ricompense verificabili e feedback umano. La scheda documenta i domini di ricompensa, il rapporto batch tra ragionamento e non ragionamento e le penalità di lunghezza applicate per controllare la verbosità. Qualunque altra cosa sia vera, il modello è stato plasmato in funzione di un compito.

Quindi la domanda giusta non è «quale sia più intelligente». È «quale fase della pipeline devi acquistare».

Specifiche, dimensione per dimensione

• Parametri — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB ha 8B parametri totali con 4B parametri effettivi in un'architettura Gemma-4-E4B; LFM2.5-2.6B-Base ha 2,69B parametri densi in uno stack ibrido a 30 layer composto da 22 blocchi a convoluzione breve con doppio gating e 8 blocchi di attenzione grouped-query.

• Finestra di contesto — 64K token in ingresso e 64K in uscita per Bolt; 131.072 token per la base LFM.

• Modalità — testo in ingresso, testo in uscita per entrambi. Nessuno dei due accetta immagini o audio.

• Vocabolario — 128.000 token per LFM2.5-2.6B-Base; NVIDIA non pubblica una dimensione del vocabolario per l'E4B, che eredita il tokenizer di Gemma.

• Pre-training — {{1}}34 trilioni di token{{/1}} per la base LFM, con una fase di mid-training che estende il contesto a {{2}}128K{{/2}}. NVIDIA non pubblica un conteggio dei token di pre-training per {{3}}E4B{{/3}} perché non ha pre-addestrato il modello; ha eseguito il post-training di {{4}}Gemma{{/4}}.

• Post-addestramento — ampio lavoro su RLVR e feedback umano per Bolt, con modalità di ragionamento esplicito e conversazionali. Nessuno per la base LFM, per scelta progettuale.

• Precisione pubblicata — Q4_K_M GGUF a 6,18 GB e safetensors BF16 a 15,88 GB per Bolt; un singolo file safetensors BF16 da 5,39 GB per la base LFM, con conversioni separate in GGUF, ONNX e MLX altrove nella famiglia.

• Licenza — OpenMDW-1.1 per il contributo di NVIDIA con il componente Gemma 4 sotto Apache 2.0; LFM Open License 1.0, una licenza personalizzata con termini commerciali, per il modello di Liquid.

• Lingue — 34 nei metadati E4B, con sette indicate come lingue principali post-addestramento; 16 per la base LFM.

• Rilascio — 23 ottobre 2026 per l'E4B; la famiglia LFM2.5-2.6B è stata pubblicata il 4 agosto 2026.

Il divario nei parametri è reale, ma non si traduce nel divario di download che ci si aspetta. Il Base da 2,69B è un download BF16 da 5,39 GB; l'E4B "da 4 GB" è un download a quattro bit da 6,18 GB. Confrontare il conteggio dei parametri tra un'architettura ibrida densa e una sparsa a parametri effettivi dice meno che confrontare i byte su disco.

Che cosa pubblica effettivamente ogni scheda

È qui che l'asimmetria diventa misurabile.

NVIDIA fornisce 21 righe di benchmark, quattro modelli di confronto e una colonna Q4_K_M separata. I punteggi sono eseguiti dal fornitore sotto NeMo-Gym e sono esplicitamente contrassegnati come potenzialmente diversi dai numeri autodichiarati di altri fornitori. Coprono il mantenimento della persona, la gerarchia delle istruzioni, la temporizzazione degli strumenti, il grounding, il recupero a contesto lungo e il completamento di attività agentiche.

La card Base di Liquid non include affatto una tabella di benchmark. Non è un'omissione; è proprio ciò che è un checkpoint base. I numeri che circolano per LFM2.5-2.6B — IFBench 59.17, ToolSandbox 77.83, BFCLv4 56.88, LiveCodeBench v6 59.41, AIME25 51.87 — appartengono al checkpoint agente post-addestrato, non al Base, e sono riportati dal fornitore. Artificial Analysis inserisce LFM2.5-2.6B a un Intelligence Index di 8, contrassegnato come stima con valutazione indipendente in arrivo; non ha alcuna pagina per il Bolt E4B.

Quindi il bilancio onesto è questo: un modello ha una grande tabella di fornitori non verificata, mentre l'altro non ha alcuna tabella e ha una stima indipendente associata a un checkpoint diverso della sua famiglia. Nessuna delle due colonne supporta un confronto diretto.

La memoria e la velocità si misurano su pianeti diversi

Entrambi i fornitori pubblicano dati sulla latenza, e non sono comparabili. Considerali come affermazioni distinte relative a configurazioni distinte.

Aggiungi una RTX 5070 12GB — da 3,5 a 4,3 GB di VRAM, da 548 a 1.238 ms al primo token, da 106,2 a 133,4 token al secondo, misurati da NVIDIA con llama.cpp e CUDA con batch 1.

• Montato su un Jetson Orin Nano 8GB: da 4,2 a 4,9 GB di VRAM, da 5,8 a 6,3 secondi al primo token, da 13,0 a 15,5 token al secondo. Embedded, ma non veloce come in una conversazione.

• LFM2.5-2.6B su un M5 Max — circa 220 token al secondo, decodifica CPU dichiarata dal produttore.

• LFM2.5-2.6B su un chip di classe smartphone — circa 30 token al secondo, secondo quanto dichiarato dal fornitore.

Il dato dell'M5 Max non è un confronto tra GPU, il dato dell'Orin Nano non è un confronto tra laptop, e nessuno dei due fornitori ha pubblicato le lunghezze dei prompt, le dimensioni dei batch o le impostazioni di quantizzazione in una forma che ti permetta di allinearli. L'unico numero direttamente verificabile è sul disco: 6.18GB per Q4_K_M di Bolt contro 5.39GB per la base LFM in BF16.

Licenze: entrambe aperte, nessuna delle due Apache

Il modello di NVIDIA è OpenMDW-1.1 più un componente Apache 2.0 per Gemma 4. OpenMDW è permissiva e consente l'uso commerciale, ma non è approvata dall'OSI, e l'ereditarietà di Gemma significa che i termini Apache si accompagnano a parte dello stack. La scheda di NVIDIA afferma che il modello è pronto per l'uso commerciale o non commerciale.

La LFM Open License 1.0 di Liquid è una licenza personalizzata con una soglia di ricavi annuali di 10 milioni di dollari USA per l'uso commerciale. Non è Apache né MIT, e la scheda Base rimanda a un file LICENSE invece di riassumere i termini. Per un progetto di ricerca questo raramente conta; per un prodotto con una revisione legale è la prima cosa da leggere.

La differenza pratica non è «aperto versus chiuso». Entrambi sono scaricabili ed entrambi consentono l’uso commerciale entro i propri termini. La differenza sta in quali termini il tuo consulente legale deve verificare, e se il modello che stai distribuendo incorpora al suo interno la licenza di un secondo fornitore.

Il conto del fine-tuning, che è la vera decisione

Se scegli la base LFM, il download è la parte economica. Stai acquistando 2,69 miliardi di parametri di capacità grezza pre-addestrata e poi paghi per insegnargli un lavoro: raccolta dei dati, pulizia, fine-tuning supervisionato, valutazione e il ciclo di iterazioni che ne consegue. La proposta di Liquid è che 34 trilioni di token e un contesto da 128K rendano quel punto di partenza abbastanza solido da valere il lavoro.

Se scegli il Bolt E4B, stai acquistando il post-training di NVIDIA come punto di partenza. La build BF16 è di 15,88 GB e NVIDIA pubblica due ricette per modificarlo: addestramento a parametri completi su 8× H100 80GB con FSDP2 e un learning rate di 1e-5, oppure LoRA su 2× H100 80GB con dimensione 16, alpha 32 e un learning rate di 2e-4. Entrambe le ricette congelano le torri vision e audio, il che ricorda che la base Gemma 4 E4B è multimodale anche se la release Bolt è solo testo.

È una base di partenza per il fine-tuning più impegnativa rispetto alla base LFM da 2,69B, e un lavoro di costruzione del comportamento molto più leggero. L'E4B gestisce già la personalità, la gerarchia delle istruzioni e la tempistica degli strumenti; stai adattando un modello funzionante, non creandone uno.

Se stai costruendo un prodotto anziché un modello

Il valore predefinito dovrebbe essere il checkpoint completato. Un assistente vocale, un NPC, un'interfaccia kiosk o un agente per dispositivi necessita di un comportamento fin dal primo giorno, e tra i due l'E4B è l'unico ad averne. I suoi punti deboli sono documentati e specifici: Tau2-Bench 55,10 contro 75,06 di Qwen3.5 4B, RULER 86,99 contro 95,15, LongBench v2 50,50 contro 59,93. È un modello conversazionale che può chiamare strumenti, non un agente che può pianificare.

La base LFM è l'acquisto giusto solo quando il modello stesso è il prodotto: un assistente specifico per un dominio, in una lingua o con un vocabolario che i modelli generali gestiscono male, un fine-tuning su dati proprietari, oppure una baseline di ricerca che intendi possedere. In tal caso, l'assenza di comportamento conversazionale è un vantaggio, perché non stai pagando per un comportamento che sovrascriverai.

C'è un terzo caso che nessuna delle due schede affronta: vuoi confrontarli sul tuo compito. Fallo con un set di valutazione hold-out e con le stesse impostazioni di decodifica, non con le tabelle dei fornitori. La scheda di E4B consiglia temperature 1.0 e top_p 0.95 in entrambe le modalità di pensiero; Liquid pubblica le proprie impostazioni per il checkpoint post-addestrato. Allinearle è il minimo per un test equo, e anche così stai confrontando un modello post-addestrato con un modello base, il che non è affatto un test equo.

Dove finisce il modello locale e inizia il resto dello stack

Qualunque checkpoint tu scelga, si troverà dentro un'applicazione che necessita anche di modelli che non è in grado di eseguire. Un modello base da 2,6B o un modello conversazionale da 4B gestisce il livello riflesso locale; non gestisce un documento da 200K token, un compito di programmazione complesso o una richiesta che richiede il giudizio di un modello di frontiera. Instradare quelle richieste attraverso un'unica API — oltre 200 modelli, 0% di ricarico sul prezzo di listino del fornitore, failover automatico tra i fornitori — mantiene il modello locale come percorso rapido senza obbligare a stipulare un secondo contratto per quello lento.

Quale download è il tuo?

Scegli l'E4B se oggi ti serve un modello piccolo che conversa, segue le istruzioni e chiama gli strumenti, e se puoi convivere con un download da 6,18 GB e con le debolezze documentate su contesto lungo e capacità agentiche. Scegli LFM2.5-2.6B-Base se stai avviando un progetto di fine-tuning, vuoi una finestra da 128K e un tokenizer per 16 lingue, e hai i dati e la potenza di calcolo per insegnare al modello il suo lavoro.

L'errore da evitare è scaricare la Base, usarla con un prompt come se fosse un chatbot e concludere che il 2.6B di Liquid sia peggiore il 4B di NVIDIA. Non è peggiore. È a uno stadio precedente della pipeline. Il confronto che chiarirebbe davvero la questione della famiglia è Bolt E4B rispetto a LFM2.5-2.6B post-addestrato, e nessuno ha ancora pubblicato quel test.