LFM3-Omni-2B vs Ming-3.0-audio-flash: un telefono contro un rack

È la distinta base a decidere questo confronto, prima ancora che i benchmark abbiano voce in capitolo. Ming-3.0-audio-flash conta 126 miliardi di parametri, circa 259 GB di pesi bfloat16, e un profilo di serving di riferimento basato su H800 da 80 GB in tensor parallel: quattro nella configurazione 128K, otto quando l'audio lungo esaurisce la memoria. LFM3-Omni-2B conta 2,17 miliardi di parametri, viene distribuito come normali pesi BF16 ed è progettato per girare su un telefono. Entrambi ricevono audio in input. Entrambi possono rispondere a voce. Uno dei due è un asset da datacenter, l'altro è una funzionalità che puoi inserire in un'app, e quasi tutto il resto che li riguarda discende da questo singolo fatto.

Sono arrivati anche loro senza tanta cerimonia. Liquid AI ha annunciato la famiglia LFM3 il 27 ottobre 2026, con LFM3-Omni-2B come uno di sei modelli della classe 2B in un unico post; il suo repository era pubblico dal 21 ottobre. inclusionAI ha caricato Ming-3.0-audio-flash il 3 settembre 2026 con quasi nessuna documentazione e non ha pubblicato una vera model card fino al 19 ottobre, sei settimane dopo. Nessuno dei due fornitori dispone di un benchmark indipendente e nessuno dei due modelli ha un endpoint ospitato che si possa noleggiare al token.

Due modi per mettere una bocca su un modello

La differenza architetturale non riguarda le dimensioni. Riguarda dove risiede l'audio.

Ming-3.0-audio-flash mantiene l'audio come audio il più a lungo possibile. Un encoder in stile Whisper — 32 livelli, larghezza 1.280, 128 bin mel — trasforma il suono in una rappresentazione che alimenta un backbone mixture-of-experts a 42 livelli con 512 esperti e 8 selezionati per token. Il parlato ritorna tramite un modulo Talker opzionale con voci cinesi integrate e voice prompting tramite clip di riferimento. Il contesto dichiarato è 128K, un valore che la configurazione non rivendicava fino a un commit del 13 ottobre che ha aumentato gli embedding di posizione da 8.192 a 131.072.

LFM3-Omni-2B tokenizza tutto in un unico flusso. Il video viene campionato a 2 frame al secondo, ogni patch immagine 2×2 diventa un token linguistico, e l'audio passa attraverso un encoder audio causale LFM3 nello stesso vocabolario da 128.000 token del testo. L'uscita vocale è LiquidCodec a 24 kHz; l'ingresso audio è mono a 16 kHz. L'intero modello sta in una finestra da 32K.

Questo è un argomento di compressione, e vale in entrambe le direzioni. L'approccio di LFM3-Omni-2B è ciò che rende un modello da 2,17B utilizzabile su un telefono — tutto è lo stesso tipo di token, quindi tutto è ugualmente economico. L'approccio di Ming è ciò che consente a un modello da 126B di tenere a mente una registrazione di un'ora senza scartare la prosodia. Nessuno dei due è senza costi.

I numeri che vale la pena mettere a confronto

• Parametri totali — LFM3-Omni-2B 2,17B densi; Ming-3.0-audio-flash 126B in una miscela a 512 esperti.

• Parametri attivi — circa 2,17B contro 6,5B per passo di inferenza.

• Pesi su disco — qualche gigabyte contro circa 259 GB di shard in bfloat16 più il Talker.

• Hardware di riferimento — un telefono, un laptop o una scheda edge rispetto a quattro H800 da 80 GB in tensor parallel per il profilo 128K, otto quando l'audio lungo esaurisce la memoria.

Contesto — 32K token tra input e output, rispetto ai 128K dichiarati.

• Output vocale — LiquidCodec a 24 kHz con 19 localizzazioni vocali; Ming restituisce testo o testo più voce tramite il Talker, con voci integrate e clonazione da clip di riferimento.

• Licenza — LFM Open License v1.0, una licenza con soglia di ricavi, contro la MIT.

• Prezzo — nessun prezzo per token da nessuna delle due parti, perché nessuno dei due fornitori vende inferenza per questi checkpoint.

I parametri attivi non sono un tachimetro

È allettante leggere «6,5B attivi» accanto a «2,17B dense» e concludere che Ming costi solo tre volte tanto per token. Questa lettura è sbagliata in entrambe le direzioni.

Un misto di esperti consuma larghezza di banda della memoria, non solo aritmetica. Servire 6,5 miliardi di parametri attivi su 126 miliardi significa spostare i pesi degli esperti nella cache a ogni layer e, con dimensione del batch pari a uno — il regime in cui vive un assistente vocale —, questo equivale quasi a leggere gran parte di 259 GB per ogni token. Il profilo con otto H800 non è una raccomandazione per il throughput di picco; è ciò che serve per contenere i pesi. LFM3-Omni-2B, con 2,17 miliardi, ha il problema opposto: nessun vantaggio dalla sparsità, ma anche nulla da scambiare, ed è esattamente il profilo che rende plausibile un telefono.

La conseguenza pratica è che i due modelli hanno curve di scalabilità diverse. Ming diventa più economico per token all’aumentare del batch, il che si adatta bene ai pipeline di trascrizione che smaltiscono una coda di chiamate registrate. LFM3-Omni-2B resta all’incirca costante per enunciato, il che si adatta bene a una conversazione dal vivo in cui la dimensione del batch è uno e il budget di latenza è di poche centinaia di millisecondi.

Che cosa si compra con 126 miliardi

inclusionAI pubblica le proprie valutazioni sotto forma di immagini anziché di tabelle, il che è di per sé una sorta di dichiarazione, ma i numeri sono leggibili. Sul proprio harness, Ming-3.0-audio-flash riporta un tasso medio di errore ASR in cinese pari a 3.45, in inglese 3.69, una media dialettale di 9.40 tra cantonese, shanghainese, hunanese e hokkien, e un tasso di errore di diarizzazione di 8.58 su AISHELL-4. Le righe relative al ragionamento audio includono BigBenchAudio a 99.40 e MMAU a 82.00. Questi sono numeri del fornitore su un harness del fornitore, con asterischi che contrassegnano le righe autovalutate. Nessuno li ha riprodotti.

Il punto debole che il fornitore ha comunque pubblicato è il ragionamento su audio lungo: un punteggio Long-audio Chain di 12,31 e LongAudioSpan di 41,12, entrambi ben dietro i modelli ospitati nel suo stesso confronto. Quindi il 126B non è uniformemente migliore nella "comprensione dell'audio". È migliore nel sentire con precisione ciò che è stato detto, con quale accento, da quale parlante — e considerevolmente meno bravo a tenere a mente una lunga registrazione e a ragionarci sopra.

Cosa comprano i 2,17 miliardi

LFM3-Omni-2B riporta un tasso di errore sulle parole ASR per l'inglese di 6,36 e un tasso multilingue di 6,72, un UTMOSv2 TTS di 3,80, VoiceBench 64,73, MMAR 51,40 e un punteggio di tool calling di 52,20. Il suo input audio è limitato a 16 kHz mono, il che è adatto al parlato e inutile per la musica.

Resisti all'impulso di confrontare 6,36 con il 3,69 di Ming. Non sono lo stesso test. La media inglese di Ming è calcolata sul suo stesso insieme di benchmark inglesi; il 6,36 di Liquid è un singolo numero proveniente da una sola valutazione, eseguita con i suoi prompt e con decodifica greedy. L'unica affermazione difendibile è direzionale: l'ASR di Ming è probabilmente migliore, perché un modello audio-nativo da 126B con una torre in stile Whisper ha più margine per essere migliore, e perché la gestione dei dialetti è l'aspetto con cui inclusionAI ha scelto di aprire. Se sia migliore di due punti o di mezzo punto è impossibile saperlo da queste due schede.

Quello che LFM3-Omni-2B offre non è l'accuratezza. È che il modello gira dove si trova il microfono. Per una pipeline di registrazione delle chiamate è irrilevante. Per qualsiasi cosa con un utente in tempo reale, cambia l'architettura: nessun upload, nessun round trip, nessuna tariffa al minuto e nessun audio che lascia il dispositivo.

La licenza è la differenza silenziosa

Ming-3.0-audio-flash è MIT. È quanto di più permissivo si possa avere: uso commerciale, modifica, ridistribuzione, nessun criterio basato sul fatturato, nessuna restrizione sul campo d'uso. LFM3-Omni-2B è distribuito con la LFM Open License v1.0, la licenza di famiglia che Liquid applica a LFM3, che è una licenza con soglia di fatturato anziché una licenza open source approvata dall'OSI. Leggila prima di sviluppare un prodotto basato su di essa. Per una startup sotto la soglia la differenza è accademica; per un'azienda sopra la soglia, MIT vale soldi veri.

L'integrazione è il punto in cui si vede la documentazione

La storia del serving di Ming è ancora in divenire. L'impostazione del lancio di inclusionAI suggeriva che oggi si potesse servire la famiglia con vLLM-Omni; ciò che il repository mostra in realtà sono pull request aperte: una riguarda il checkpoint tts-tiny, un'altra aggiunge il supporto audio-flash. Finché non vengono integrate, eseguire Ming-3.0-audio-flash significa usare Transformers su una macchina con memoria sufficiente, oppure il percorso SGLang-Omni documentato dal fornitore. È fattibile e non è un `pip install`.

La storia di LFM3-Omni-2B è l'opposto: una card di Hugging Face che documenta la ricetta di fine-tuning, e una build Ollama già in circolazione. Quella build dichiara un contesto di 125K contro i 32K della card, il che ti dice che il packaging si è mosso più velocemente della documentazione — una piccola cosa che conta se avevi intenzione di alimentarlo con audio lunghi.

Se nessuna di queste due è la forma giusta per te, l'alternativa è noleggiare la capacità invece di possederla, e quella è una voce di bilancio diversa. OrcaRouter è il lato hosted di questa scelta — un'unica API per oltre 200 modelli con 0% di ricarico sul prezzo di listino del fornitore, con failover automatico quando un fornitore non è disponibile — e né LFM3-Omni-2B né Ming-3.0-audio-flash sono oggi in quel catalogo. Questa è la formulazione onesta: questo pezzo riguarda due modelli che scarichi, non due che puoi chiamare.

Chi dovrebbe scegliere cosa

Scegli Ming-3.0-audio-flash se hai GPU che non stai usando per altro, il tuo audio è in cinese o inglese con accenti e più parlanti, e il tuo compito è produrre una trascrizione accurata o una risposta ragionata su una registrazione lunga. La licenza MIT lo rende il più sicuro dei due su cui costruire un prodotto commerciale, e il contesto da 128K lo rende l'unico dei due in grado di gestire una riunione in un'unica passata.

Scegli LFM3-Omni-2B se l'audio viene generato all'edge, l'utente è in attesa e la risposta deve essere pronunciata nello stesso respiro. Accetta di ottenere l'accuratezza di un modello più piccolo, un elenco di lingue più ristretto e una licenza con una clausola sui ricavi, in cambio di un deployment che sta dentro un'app.

La domanda da porsi prima di entrambe: dove va l'audio? Se la risposta è «da nessuna parte», il confronto è chiuso.