LFM3-Omni-2B vs Moondream 3: un benchmark in comune, due compiti diversi

Metti LFM3-Omni-2B e Moondream 3 fianco a fianco e le schede tecniche sembrano quelle di due fratelli. Entrambi sono piccoli modelli multimodali pensati per telefoni, laptop, fotocamere e robot. Entrambi hanno una finestra di contesto da 32K. Entrambi mettono al lavoro circa due miliardi di parametri su ogni token. Entrambi distribuiscono pesi aperti che puoi scaricare oggi. Cerca un confronto diretto tra i due e non trovi nulla, ed è esattamente per questo che l’abbinamento continua a essere proposto.

Poi leggi attentamente le due model card e la somiglianza si sgretola in un modo facile da verificare. L'unico benchmark riportato da entrambe le card è DocVQA, dove LFM3-Omni-2B ottiene 92,47 e Moondream 3.1 9B A2B ottiene 88,6. Tutto il resto che misurano è disgiunto. Un modello restituisce frasi pronunciate. L'altro restituisce bounding box. Non sono due risposte alla stessa domanda.

Una nota sui nomi, perché la directory è confusa. Moondream 3 Preview è stato rilasciato il 18 settembre 2025 e Moondream 3.1 9B A2B il 7 luglio 2026; ogni numero di Moondream in questo articolo proviene dalla scheda del 3.1, che è il checkpoint che puoi scaricare. LFM3-Omni-2B è stato pubblicato il 27 ottobre 2026 come uno dei sei modelli della famiglia LFM3 di Liquid AI. Entrambi sono nuovissimi nell'unico senso che conta qui: nessuno dei due è stato valutato da qualcuno al di fuori dell'azienda che l'ha creato.

Che cosa restituisce effettivamente ciascun modello

La differenza più profonda non è il numero di parametri. È il contratto di output.

Moondream 3.1 espone cinque skill con forme fisse: query, caption, detect, point e segment. Il rilevamento restituisce al massimo 200 box, il pointing al massimo 64 punti e la segmentazione al massimo 50 maschere COCO-RLE, tutte in coordinate normalizzate 0–1 in formato JSON. È uno strumento di misurazione spaziale con un'interfaccia limitata e prevedibile. Puoi collegare direttamente il suo output a un UI automator o a un pianificatore robotico senza un livello di parsing LLM, perché l'output è già strutturato.

LFM3-Omni-2B non ha un contratto del genere. Accetta testo, immagini, video con o senza la relativa traccia audio e audio a 16 kHz, e genera testo, parlato a 24 kHz o entrambi interlacciati. Non esiste un percorso di output per le coordinate. Se vuoi ottenere una posizione da esso, la chiedi in prosa e analizzi la risposta, il che rappresenta una classe di affidabilità diversa rispetto a uno schema che garantisce un box.

Quella singola differenza decide più deployment di qualsiasi riga di benchmark. Sostituire un ID di modello con l'altro non è una migrazione. È una riscrittura di tutto ciò che consuma la risposta.

La scheda tecnica, fianco a fianco.

• Parametri — 2,17B totali per LFM3-Omni-2B, interamente residenti e in calcolo rispetto a 9,0B totali per Moondream 3.1 con 2,0B attivi per token.

• Memoria a riposo — circa 4,4 GB in BF16 per calcolo su 2,17 miliardi di parametri contro circa 18 GB in FP16, circa 6 GB in INT4 della community e un minimo di 10 GB NVIDIA per la build fp8 distribuita.

• Input — testo, immagini, video a 2 fps con o senza audio, e parlato a 16 kHz rispetto a immagini e testo soltanto.

• Output — testo, parlato a 24 kHz, oppure interleaved rispetto a testo, JSON, coordinate normalizzate e maschere.

• Contesto — 32.768 token conteggiando input e output rispetto a 32.768 token di testo più fino a 12 riquadri immagine, circa 2.304 token visivi.

• Budget visione — fino a 2.048 token per immagine a risoluzione nativa rispetto al tiling adattivo fino a 12 ritagli a 384–1024 px.

• Licenza — LFM Open License v1.0, uso commerciale concesso solo sotto i 10 milioni di dollari di fatturato annuo rispetto a Moondream Model License 1.0, commerciale a qualsiasi dimensione ma nessun servizio di hosting generalista.

• Pubblicato — 27 ottobre 2026 vs 7 luglio 2026, con il ramo 3 Preview risalente al 18 settembre 2025.

La riga della memoria è quella che la gente salta, e su un dispositivo edge è tutta la questione. I 2 miliardi di parametri attivi di Moondream lo rendono economico quanto LFM3-Omni-2B per token, ma il suo totale di 9 miliardi lo rende fino a quattro volte più grande in memoria alla stessa precisione. I parametri attivi governano il calcolo. I parametri totali governano se la cosa ci sta. Un modello che gira alla stessa velocità ma richiede 18 GB non compete per lo stesso slot hardware di uno che entra in 4,4 GB.

L'unico benchmark che entrambi riportano

DocVQA è il document question answering, valutato tramite ANLS, e sulle due model card riporta 92,47 per LFM3-Omni-2B contro 88,6 per Moondream 3.1. Il modello omni è avanti di 3,87 punti proprio sul terreno dello specialista della visione.

Quel risultato va letto con tre riserve, tutte determinanti. Entrambi i dati sono autodichiarati dai laboratori che hanno costruito i modelli. Nessuno dei due laboratori ha pubblicato il proprio harness di valutazione, il formato dei prompt o la selezione dei campioni. E un divario di 3,87 punti su un benchmark con così tanta varianza tra harness è indicativo più che decisivo. Ciò che la riga stabilisce è più limitato e comunque utile: LFM3-Omni-2B non crolla sul testo denso dei documenti, che è il compito in cui ti aspetteresti che un modello any-to-any da 2,17B perda.

Non estendere la stessa lettura al grounding. LFM3-Omni-2B riporta RefCOCO a 73,55 e Moondream 3.1 riporta RefCOCO-M a 87,1, e non sono la stessa misura. La scheda di Liquid nota che i box vengono letti nel formato di coordinate nativo di ciascun modello; Moondream riporta F1 con una soglia IoU di 0,5. Sottrarre l'uno dall'altro produce un numero che non significa nulla. L'affermazione onesta è che la scheda di Moondream è costruita attorno al grounding e quella di Liquid lo tratta come una riga tra diciassette.

Dove Moondream 3 non è vicino

Parte di questo è una scelta di rendicontazione più che un divario di capacità, e vale la pena essere precisi su quale. Un modello omni da 2,17 miliardi può quasi certamente individuare una regione approssimativa se glielo chiedi a parole. Ciò che non può fare è restituire 200 box in uno schema con un tasso di errore limitato, perché nulla nel suo addestramento o nel suo formato di output è stato costruito per questo. L'intero prodotto di Moondream è la garanzia che le coordinate tornino in una forma analizzabile. Quella garanzia è ciò che stai acquistando, e nessuna riga di benchmark di un altro laboratorio la misura.

La stessa logica vale al contrario per la latenza. Moondream distribuisce Photon, un motore di inferenza che compila il modello in un unico programma GPU, e il fornitore dichiara circa 34 richieste al secondo con batch 16 su una H100 con un P50 di 59 ms. Sono cifre del fornitore, non riprodotte, ma l’ingegneria che vi sta dietro è specifica di un singolo modello. LFM3-Omni-2B non dispone ancora di una soluzione di serving equivalente.

Dove LFM3-Omni-2B non è vicino

Moondream 3.1 non ha alcun percorso audio. Non uno più debole: nessuno. Il suo input è un'immagine e del testo, punto. Quindi ogni riga audio sulla scheda Liquid è incontrastata: tasso di errore di parola ASR inglese 6,36, ASR multilingue 6,72, TTS inglese UTMOSv2 3,80, VoiceBench 64,73, MMAR 51,40 e una valutazione interna di tool-calling pari a 52,20.

I numeri relativi ai video con traccia audio sono quelli che vale la pena evidenziare, perché sono la ragione per cui il modello esiste. Daily-Omni 70,09, WorldSense 47,10, AV-SpeakerBench 46,79: tutti misurati su video con la relativa traccia audio, accuratezza a scelta multipla, tutti autodichiarati. Liquid sostiene che questi superino Qwen2.5-Omni-7B e modelli fino a 10,7 miliardi di parametri, e nella sua stessa tabella è così: Qwen2.5-Omni-7B ottiene 61,32, 45,37 e 43,24 sulle stesse tre righe.

Un dettaglio su quella scheda merita più attenzione di quanta ne abbia ricevuta. Liquid riporta gli stessi benchmark visivi due volte — una con la domanda digitata, una con la domanda pronunciata. RealWorldQA scende da 66,54 a 64,68, MMStar da 55,67 a 51,79, POPE da 89,34 a 83,78. Far passare la domanda attraverso l’encoder audio costa tra due e sei punti a seconda del compito. È il prezzo del percorso vocale, detto chiaramente, ed è un numero più utile di qualsiasi singolo punteggio di punta.

Cosa succede a Moondream 3 il 13 novembre

Questa è la parte del confronto che ha una scadenza. Prime Intellect ha annunciato l'acquisizione di Moondream il 13 ottobre 2026, e Moondream l'ha confermata il 14 ottobre. Il post afferma che il 13 novembre 2026, trenta giorni dopo l'annuncio, il Moondream Cloud — sia l'inferenza ospitata sia il prodotto di fine-tuning Lens — chiude. I crediti acquistati e non utilizzati vengono rimborsati, e i clienti vengono indirizzati alla piattaforma di inferenza dell'acquirente.

Seguono tre cose, e solo la prima è rassicurante. I pesi aperti restano disponibili e la licenza è invariata, quindi il self-hosting non ne risente. Photon viene eseguito localmente gratuitamente dalla versione 1.3.0 in poi e senza chiave API. Ciò che non sopravvive in modo pulito è Lens: i checkpoint fine-tuned e le LoRA risiedono lato server e non esiste un percorso di esportazione documentato. Se il tuo prodotto dipende da un fine-tune di Lens, la migrazione non è un cambiamento di configurazione, e sedici giorni non sono molti per scoprirlo.

C'è una stranezza minore che vale la pena segnalare a chiunque controlli le fonti questa settimana. La pagina dei prezzi di Moondream elenca ancora i piani Cloud, le tariffe per token e un livello Team da $350 al mese, e non dice nulla sulla chiusura. L'annuncio si trova su una pagina diversa. Un lettore che controllasse solo la pagina dei prezzi il 28 ottobre non saprebbe che il servizio termina tra sedici giorni.

Quanto costa far funzionare ciascuno

Moondream pubblica le tariffe per token: $0,30 per milione di token in input e $1,00 per milione in output sul livello in tempo reale, dimezzate a $0,15 e $0,50 in batch. LFM3-Omni-2B non pubblica alcuna tariffa per l'hosting. Liquid afferma che la famiglia è disponibile sul suo Playground e tramite API, ma il post di lancio non riporta alcun prezzo, e la model card non riporta alcun prezzo. Questa asimmetria è il punto sui costi.

Esegui i calcoli di Moondream su una chiamata realistica. Una singola immagine costa fino a 2.304 token di visione con tiling completo; aggiungendo un prompt da 50 token e 100 token di output, una chiamata equivale a 2.354 token di input e 100 token di output, ovvero circa $0,0008. Con 10.000 chiamate al giorno sono circa $8 al giorno, ovvero $242 al mese, che scendono a circa $121 al mese con il livello batch. Se questo sia economico dipende interamente da quanto spenderesti altrimenti in hardware, ed è il confronto che LFM3-Omni-2B ti costringe a fare perché non ti offre alcun numero per token da mettere a confronto.

Sul tuo hardware, i conti si ribaltano. LFM3-Omni-2B pesa circa 4,4 GB di pesi in BF16 prima di attivazioni, decoder audio e cache KV — un calcolo basato sul numero di parametri, non un footprint misurato, dato che la scheda non pubblica alcuna cifra di memoria. Moondream 3.1 richiede una scheda NVIDIA da 10 GB per la build distribuita, o circa 6 GB con una quantizzazione INT4 della community. Un modello gira su un telefono. L'altro gira su una Jetson Orin o superiore.

OrcaRouter merita una frase qui solo perché la versione onesta è ristretta: né LFM3-Omni-2B né Moondream 3 sono nel nostro catalogo, e nulla in questo articolo afferma che ne serviamo uno. Ciò che instradiamo è il livello visione ospitato — Qwen3-VL-8B, per esempio — con prezzo di listino del provider passato con 0% di ricarico e failover automatico tra gli upstream. Se i calcoli sul self-hosting di cui sopra sono ciò che ti fa esitare, quella è l'opzione che il confronto tralascia, ed è un acquisto diverso, non migliore.

La licenza potrebbe decidere prima del benchmark

Le due licenze limitano cose diverse, e quale delle due morde dipende da come è fatta la tua azienda.

LFM Open License v1.0 definisce una soglia di $10,000,000 di ricavi annuali. Al di sotto di tale soglia, l'uso commerciale è concesso in licenza senza riserve. Al di sopra, la sezione 5 afferma chiaramente che l'uso commerciale dell'opera o di un derivato non è affatto concesso in licenza ai sensi dell'accordo. Pertanto, una startup può costruire un prodotto basato su LFM3-Omni-2B gratuitamente, mentre un'azienda che supera la soglia non può farlo senza un accordo separato, indipendentemente da quanto sia valido il modello.

La licenza Moondream Model License 1.0 non prevede alcuna soglia di fatturato. Consente l'uso commerciale a qualsiasi dimensione, l'auto-hosting, il fine-tuning, la quantizzazione e la ridistribuzione, e vieta un'attività specifica: fornire un servizio di modello ospitato general-purpose per il modello o un derivato senza una separata licenza commerciale scritta. È consentito incorporare Moondream all'interno di un prodotto più specifico. Non è consentito rivendere inferenza general-purpose su di esso.

Letti insieme, i due documenti sono quasi complementari. Liquid applica restrizioni in base a chi sei; Moondream in base a cosa vendi. Una grande azienda che pianifica un prodotto di inferenza ospitato viene bloccata da entrambi, in modi diversi.

Chi dovrebbe scegliere cosa

Scegli Moondream 3.1 se il prodotto necessita di coordinate. Automazione dello schermo, robotica, verifiche degli scaffali retail, conteggio, qualunque caso in cui la risposta sia un riquadro, un punto o una maschera e il sistema successivo la consumi programmaticamente. L'impronta totale da 9B è il prezzo di questa garanzia, e se distribuisci su hardware di classe Jetson è un prezzo che puoi pagare. Pianifica ora la migrazione dell'hosting invece che a novembre.

Scegli LFM3-Omni-2B se il prodotto prevede una persona che parla a un dispositivo, o un dispositivo che deve sentire una stanza. Un chiosco che risponde ad alta voce, uno strumento da campo in cui le mani sono occupate, una fotocamera che deve comprendere un video con la sua colonna sonora, un singolo checkpoint che sostituisce un modello ASR più un VLM più un modello TTS. I punteggi della visione sono rispettabili anziché eccezionali, la toolchain ha un giorno di vita e il percorso vocale è il motivo per accettare entrambi.

Non scegliere nessuno dei due, per ora, se la decisione è determinante. Qui nulla è stato valutato in modo indipendente. Gli strumenti di LFM3-Omni-2B si stanno evolvendo rapidamente: esiste una voce nella libreria Ollama da 2,4 GB e llama.cpp ha integrato il supporto il 27 ottobre, lo stesso giorno in cui sono comparsi i pesi; tuttavia, la voce su Ollama attualmente non concorda con la model card in due modi evidenti, mostrando un contesto da 125K e "Text, Image" come input supportati, rispetto ai 32K e alle quattro modalità della model card. È una voce non ancora allineata, non un difetto del modello, ed è il genere di cosa che viene risolta in una settimana. Inoltre, non è qualcosa da mettere in produzione questa settimana.

Cosa cambierebbe questo

Due cose. Una valutazione indipendente di LFM3-Omni-2B sulle righe audio-visive stabilirebbe se il 70,09 su Daily-Omni sopravvive a un harness che non ha scelto, e quello è l'unico numero su cui poggia l'intero caso omni. E una storia di serving per il ramo speech — la model card documenta in dettaglio la generazione testuale e dice molto meno su come il decoder audio viene servito su larga scala — ti direbbe se il messaggio "un modello ne sostituisce quattro" sopravvive al contatto con un deployment in produzione.

Fino ad allora, il confronto ha una forma chiara. Moondream 3 misura il mondo e ti consegna numeri. LFM3-Omni-2B lo ascolta e risponde. L'unico benchmark che condividono è un test di lettura di documenti, e il modello omni lo vince per meno di quattro punti. Non è una rivalità. È un promemoria che "2B multimodale" descrive un budget di memoria, non un compito.