LFM3-Omni-2B contro MiniCPM-V 4.7 35B-A3B: il nuovo arrivato e il veterano

Due numeri, entrambi veri, entrambi fuorvianti se li si legge come un verdetto: MiniCPM-V 4.7 35B-A3B è stato scaricato circa 289.000 volte, e LFM3-Omni-2B è stato scaricato 83 volte. Il divario sembra una disfatta. In realtà è un calendario. I pesi di OpenBMB sono stati pubblicati il 6 ottobre 2026; quelli di Liquid AI il 21 ottobre e sono stati annunciati il 27 ottobre, un giorno prima che questi numeri venissero letti. Un modello che esiste da una settimana non può avere una cronologia di download, e un modello che parte con sei settimane di vantaggio e ha già un seguito MiniCPM ne avrà una, che se la meriti o no.

Quindi il confronto interessante non è la popolarità. È ciò che un team che sceglie un piccolo modello multimodale per un dispositivo dovrebbe davvero valutare: se deve ascoltare, se deve essere quantizzato in sei modi e quale licenza sarà ancora sostenibile quando il prodotto genererà ricavi.

Cosa è ciascun modello

MiniCPM-V 4.7 35B-A3B è il primo modello visione-linguaggio mixture-of-experts di OpenBMB: 35,2 miliardi di parametri memorizzati, con routing 8-su-256 per token, circa 3 miliardi attivi, 40 layer di testo, dietro una torre visiva da 27 layer con hidden size 1.152 che si inserisce al layer 6 dello stack testuale. Legge immagini, set multi-immagine, video e testo, e risponde in testo. Non esiste alcun percorso audio nei 70,4 GB di pesi. L'affermazione di punta della scheda non è l'accuratezza ma la fattibilità: più di 13 token al secondo su un iPhone 17 Pro Max usando circa 3 GB di memoria, reso possibile da un trucco di Lookahead Expert Scheduling che predice gli esperti del layer successivo e li precarica mentre il layer corrente calcola.

LFM3-Omni-2B è la proposta omni di Liquid AI nella famiglia LFM3: 2,17 miliardi di parametri densi su una backbone LFM3-1.7B, con un encoder visivo LFM3 e un encoder audio causale LFM3 che alimentano un unico vocabolario da 128.000 token. Legge testo, immagini, video con o senza audio e audio a 16 kHz, e scrive testo o parlato a 24 kHz, incluso testo e parlato interlacciati in un'unica risposta. È per concezione un modello non reasoning — la scheda indica che enable_thinking=True non è supportato — ed è pensato per telefoni, laptop e hardware edge.

Entrambi stanno su un telefono. Solo uno è stato progettato tenendo conto di questo.

È facile archiviare entrambi sotto "modello piccolo su un dispositivo" e passare oltre. L'ingegneria che c'è sotto è l'opposto.

Il problema di OpenBMB era la larghezza di banda della memoria su un dispositivo mobile, quindi il modello è sparso in modo da ridurre ciò che deve essere letto per token: 35,2 miliardi memorizzati, 3 miliardi toccati. Il Lookahead Expert Scheduling è la prova rivelatrice: si costruisce il prefetching degli esperti solo quando il collo di bottiglia è spostare i pesi, non moltiplicarli. LFM3-Omni-2B risolve lo stesso problema essendo davvero piccolo: 2,17 miliardi densi, nessun routing, tutto in 16 bit e comunque pochi gigabyte.

Il compromesso emerge nella quantizzazione. MiniCPM-V 4.7 offre build GGUF, AWQ, GPTQ, FP8, INT4 e BitsAndBytes, oltre a checkpoint draft DSpark per la decodifica speculativa — un menù completo per qualsiasi acceleratore su cui ti ritrovi. LFM3-Omni-2B ha pesi BF16 su Hugging Face e una build Ollama in circolazione, e quella inserzione Ollama dichiara un contesto da 125K rispetto ai 32K della model card. Al momento della stesura, non è chiaro se si tratti di un bug di packaging o di una capacità non documentata. Se devi eseguire il modello su una NPU Rockchip o su un laptop Intel, il fornitore con sei formati di quantizzazione è la scelta più sicura fin dal primo giorno.

La riga che decide la maggior parte dei deployment

MiniCPM-V 4.7 35B-A3B non può sentire. Nessuna torre audio, nessun percorso ASR, nessun head vocale. LFM3-Omni-2B può sentire e può rispondere ad alta voce, in 19 locale vocali e 16 lingue testuali.

Per un carico di lavoro su documenti, grafici, screenshot o fotogrammi video, quella differenza è irrilevante e MiniCPM è la scelta più valida su quasi ogni altro fronte — più grande, testato più ampiamente, con strumenti migliori. Per qualsiasi cosa con un microfono nel ciclo, il confronto termina immediatamente. Non puoi aggiungere la capacità di ascolto a MiniCPM-V 4.7 senza aggiungere un modello ASR separato e poi un modello TTS, e a quel punto stai eseguendo tre modelli per fare ciò che un singolo checkpoint da 2,17B fa nativamente.

Vale anche il contrario. LFM3-Omni-2B legge le immagini, ma è un modello da 2,17B che le legge: la sua scheda riporta OCRBench 806, DocVQA 92,47 e MMMU 42,44, con MMMU-Pro in calo a 27,28. Sono numeri rispettabili per la dimensione e non competitivi con un modello da 35B su layout di documenti difficili. Se il lavoro consiste in tabelle dense e moduli scansionati, il modello più grande vince sul compito ancora prima di considerare il routing 8-su-256 che lo rende economico da eseguire.

Dove finiscono i numeri

Ecco la parte scomoda: non esiste una tabella di confronto diretto onesta, perché OpenBMB pubblica i risultati di MiniCPM-V 4.7 come immagini di grafici anziché come tabelle numeriche. Non ci sono cifre MMStar, MMMU o OCRBench da citare dalla scheda del 35B-A3B. Qualunque cosa metta un numero in quella colonna proviene dal modello gemello da 1B — un modello diverso con un'architettura diversa — oppure è inventata.

La scheda di LFM3-Omni-2B, al contrario, è una tabella completa: MMStar 55.67, MMMU 42.44, MMMU-Pro 27.28, MMBench 73.68, SEEDBench 75.07, RealWorldQA 66.54, MathVista 62.50, POPE 89.34, DocVQA 92.47, InfoVQA 64.08, OCRBench 806, MVBench 58.03, Video-MME 57.70, più una colonna relativa al parlato che va dall'ASR inglese con un tasso di errore di parola di 6.36 al TTS UTMOSv2 a 3.80. Tutto è stato misurato da Liquid AI, usando per ciascun modello confrontato il proprio template di chat e la decodifica greedy, e nulla di tutto ciò è stato riprodotto.

Una tabella del fornitore è meglio di un grafico del fornitore, ma non equivale a una valutazione indipendente. Nessuno dei due modelli ne dispone. Questo è lo stato attuale dell'intera categoria small-omni in questo momento, ed è per questo che i vincoli di deployment finiscono per contare più di un punto su MMMU.

Licenze, da leggere prima che il prototipo venga spedito

MiniCPM-V 4.7 è distribuito con licenza Apache 2.0. Nessuna soglia di fatturato, nessuna clausola sul campo d'uso, nessuna negoziazione. LFM3-Omni-2B è invece soggetto alla LFM Open License v1.0, la licenza con soglia di fatturato che Liquid applica a tutto LFM3. Per un progetto hobbistico o una startup agli inizi, in pratica le due licenze sono equivalenti. Per un'azienda che supera la soglia, una delle due richiede una consulenza con un avvocato e l'altra no — ed è molto meno costoso affrontarla adesso che dopo aver integrato il modello nel prodotto.

Questo è l'asse meno affascinante del confronto, nonché quello che con maggiore probabilità risulterà decisivo in un'azienda reale.

Come i due si inseriscono in un'unica architettura

La risposta realistica per la maggior parte dei team non è «sceglierne uno». È un modello on-device per il caso comune e un modello ospitato per le richieste su cui il modello sul dispositivo inciampa. Mantenere portatile quella seconda metà è la parte che sopravvive a un cambio di modello on-device: OrcaRouter offre un'unica API su oltre 200 modelli ospitati, con 0% di ricarico sul prezzo di listino del provider, failover automatico quando un provider cade e un DSL di routing che sposta una richiesta su un modello diverso senza modificare il codice. Né LFM3-Omni-2B né MiniCPM-V 4.7 sono in quel catalogo — entrambi sono download dei pesi, e questo articolo non suggerisce il contrario. Il punto è che il livello di fallback non dovrebbe essere ricostruito ogni volta che cambia il livello on-device, e con un livello on-device che si muove ancora ogni poche settimane, cambierà.

Quale mettere sul dispositivo

Scegli MiniCPM-V 4.7 35B-A3B se ti servono qualità visiva, un formato di quantizzazione che puoi effettivamente distribuire, Apache 2.0 e un ecosistema con sei settimane di resoconti sul campo alle spalle. Il suo numero di download non è un indicatore di qualità, ma i bug report che arrivano con 289.000 download sono una forma di test che LFM3-Omni-2B non ha ancora.

Scegli LFM3-Omni-2B se il prodotto ha bisogno di una voce, se il dispositivo ha vincoli di memoria tali che 3 GB di pesi attivi sono comunque troppi, oppure se vuoi un unico checkpoint invece di uno stack ASR-plus-LLM-plus-TTS. Accetta i punteggi di visione del modello più piccolo, la licenza con soglia di ricavo e il fatto che sei un early adopter di un modello annunciato appena un giorno fa.

Ciò che lo risolverebbe sarebbe un'unica esecuzione indipendente — lo stesso harness, entrambi i modelli, OCRBench e MMMU e un compito vocale. Nessuno l'ha fatto. Finché qualcuno non lo farà, la classifica onesta è: MiniCPM per la visione, LFM3-Omni per il parlato, e un foglio di calcolo per tutto il resto.