Wygenerowana karta tytułowa z napisem „LFM3-Omni-2B vs MiniCPM-V 4.7 35B-A3B” i podtytułem „Nowy gracz i dotychczasowy lider”, przedstawiająca kartę mikrofonu z etykietami SŁYSZY I MÓWI oraz NOWE obok karty dokumentu z etykietami WIDZI, TYLKO TEKST i 289 TYS. POBRAŃ.
Guides & Insights

LFM3-Omni-2B vs MiniCPM-V 4.7 35B-A3B: Debiutant i dotychczasowy lider

Autor

Alistair Wren

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Dwie liczby, obie prawdziwe, obie mylące, jeśli odczytać je jako werdykt: MiniCPM-V 4.7 35B-A3B pobrano około 289 000 razy, a LFM3-Omni-2B pobrano 83 razy. Ta różnica wygląda jak pogrom. W rzeczywistości to kalendarz. Wagi OpenBMB opublikowano 6 października 2026 r.; wagi Liquid AI pojawiły się 21 października, a ogłoszono je 27 października, dzień przed odczytaniem tych liczb. Model istniejący od tygodnia nie może mieć historii pobrań, a model z sześciotygodniowym wyprzedzeniem i istniejącą publicznością MiniCPM będzie ją miał, niezależnie od tego, czy na nią zasługuje.

Więc interesującym porównaniem nie jest popularność. Jest nim to, co zespół wybierający mały model multimodalny do urządzenia powinien tak naprawdę brać pod uwagę: czy musi on słyszeć, czy musi być kwantyzowany na sześć sposobów i która licencja pozostanie komfortowa, gdy produkt zacznie przynosić przychody.

Czym jest każdy model

MiniCPM-V 4.7 35B-A3B to pierwszy model OpenBMB łączący język i wizję oparty na mieszaninie ekspertów: 35,2 mld przechowywanych parametrów, z których na każdy token kierowanych jest 8 z 256, około 3 mld aktywnych, 40 warstw tekstowych, za 27-warstwową wieżą wizyjną o rozmiarze ukrytym 1152, która wstawia się na warstwie 6 stosu tekstowego. Odczytuje obrazy, zestawy wielu obrazów, wideo i tekst, a odpowiada tekstem. W 70,4 GB wag nie ma nigdzie ścieżki audio. Głównym twierdzeniem karty nie jest dokładność, lecz praktyczna użyteczność: ponad 13 tokenów na sekundę na iPhone 17 Pro Max przy zużyciu około 3 GB pamięci, co umożliwia trik Lookahead Expert Scheduling, który przewiduje ekspertów następnej warstwy i pobiera ich z wyprzedzeniem, gdy bieżąca warstwa wykonuje obliczenia.

Screenshot of the openbmb/MiniCPM-V-4.7-35B-A3B model card on Hugging Face showing 289,535 downloads last month, a 35B-parameter BF16 badge, Apache-2.0 licence, an image-text-to-text tag, the Lookahead Expert Scheduling claim, and 13+ tokens/s with 3 GB of memory on an iPhone 17 Pro Max.

LFM3-Omni-2B to wszechstronna propozycja Liquid AI w rodzinie LFM3: 2,17 mld gęstych parametrów na szkielecie LFM3-1.7B, z enkoderem wizji LFM3 i przyczynowym enkoderem audio LFM3 zasilającymi jeden słownik 128 000 tokenów. Odczytuje tekst, obrazy, wideo z dźwiękiem lub bez oraz audio 16 kHz, a generuje tekst lub mowę 24 kHz, w tym przeplatany tekst i mowę w jednej odpowiedzi. To model nierozumujący z założenia — karta podaje, że enable_thinking=True nie jest obsługiwane — i jest pozycjonowany na telefony, laptopy i sprzęt brzegowy.

Screenshot of the LiquidAI/LFM3-Omni-2B model card on Hugging Face showing 83 downloads last month, a 2B-parameter BF16 safetensors badge, 23 languages, the LFM1.0 licence, and the card text stating the model understands text, images, video and audio and answers in text and speech.

Oba mieszczą się na telefonie. Tylko jeden został zaprojektowany z myślą o tym.

Łatwo jest wrzucić oba do szuflady „mały model na urządzeniu” i iść dalej. Inżynieria pod spodem jest przeciwieństwem.

Problemem OpenBMB było pasmo pamięci na telefonie, więc model jest rzadki w sposób, który zmniejsza to, co trzeba odczytać na token: 35,2 mld przechowywanych, 3 mld użytych. Lookahead Expert Scheduling to zdradzający szczegół — prefetching ekspertów buduje się tylko wtedy, gdy wąskim gardłem jest przenoszenie wag, a nie ich mnożenie. LFM3-Omni-2B rozwiązuje ten sam problem, będąc naprawdę małym: 2,17 mld gęstych parametrów, bez żadnego routingu, wszystko w 16 bitach i nadal kilka gigabajtów.

Przewaga ujawnia się w kwantyzacji. MiniCPM-V 4.7 oferuje kompilacje GGUF, AWQ, GPTQ, FP8, INT4 i BitsAndBytes oraz checkpointy DSpark draft do dekodowania spekulatywnego — pełny wybór dla dowolnego akceleratora, na jaki trafisz. LFM3-Omni-2B ma wagi BF16 na Hugging Face oraz krążącą kompilację Ollama, a ten wpis Ollama podaje kontekst 125K w porównaniu z 32K w karcie modelu. Czy jest to błąd pakowania, czy nieudokumentowana możliwość, na moment pisania pozostaje nierozstrzygnięte. Jeśli musisz uruchomić to na NPU Rockchip lub laptopie Intel, dostawca z sześcioma formatami kwantyzacji jest bezpieczniejszym wyborem od pierwszego dnia.

Linia, która decyduje o większości wdrożeń

MiniCPM-V 4.7 35B-A3B nie słyszy. Brak modułu audio, ścieżki ASR i głowicy mowy. LFM3-Omni-2B słyszy i potrafi odpowiadać na głos, w 19 lokalizacjach mowy i 16 językach tekstowych.

W przypadku obciążeń związanych z dokumentami, wykresami, zrzutami ekranu lub klatkami wideo ta różnica nie ma znaczenia, a MiniCPM jest lepszym wyborem pod niemal każdym innym względem — większy, szerzej przetestowany, lepiej wyposażony. W przypadku wszystkiego, co obejmuje mikrofon, natychmiast kończy to porównanie. Nie można dołożyć słuchu do MiniCPM-V 4.7 bez dodania osobnego modelu ASR, a następnie modelu TTS — wtedy uruchamiasz trzy modele, aby zrobić to, co jeden checkpoint 2,17B robi natywnie.

Zachodzi także sytuacja odwrotna. LFM3-Omni-2B odczytuje obrazy, ale robi to model 2.17B: jego karta podaje OCRBench 806, DocVQA 92.47 i MMMU 42.44, a MMMU-Pro spada do 27.28. To przyzwoite liczby jak na ten rozmiar, ale nie są konkurencyjne wobec modelu 35B w trudnych układach dokumentów. Jeśli zadanie dotyczy gęstych tabel i skanowanych formularzy, większy model wygrywa w tym zadaniu, jeszcze zanim weźmie się pod uwagę routing 8 z 256, który czyni jego uruchamianie tanim.

Tam, gdzie kończą się liczby

Oto niewygodna część: nie ma dostępnej rzetelnej tabeli bezpośredniego zestawienia, ponieważ OpenBMB publikuje wyniki MiniCPM-V 4.7 w formie obrazów wykresów, a nie tabel liczbowych. Nie ma żadnych liczb MMStar, MMMU ani OCRBench, które można by zacytować z karty modelu 35B-A3B. Cokolwiek umieszcza liczbę w tej kolumnie, pochodzi albo od modelu siostrzanego 1B — innego modelu o innej architekturze — albo zostało wymyślone.

Karta LFM3-Omni-2B natomiast to pełna tabela: MMStar 55,67, MMMU 42,44, MMMU-Pro 27,28, MMBench 73,68, SEEDBench 75,07, RealWorldQA 66,54, MathVista 62,50, POPE 89,34, DocVQA 92,47, InfoVQA 64,08, OCRBench 806, MVBench 58,03, Video-MME 57,70, plus kolumna mowy od angielskiego ASR przy wskaźniku błędu słów 6,36 do TTS UTMOSv2 na poziomie 3,80. Wszystko to zmierzyła Liquid AI, używając własnego szablonu czatu każdego porównywanego modelu i dekodowania zachłannego, i nic z tego nie zostało odtworzone.

Tabela dostawcy jest lepsza niż wykres dostawcy, ale to nie to samo co niezależna ocena. Żaden z modeli jej nie ma. Taki jest obecny stan rzeczy w całej kategorii small-omni i dlatego ograniczenia wdrożeniowe ostatecznie liczą się bardziej niż jeden punkt MMMU.

A comparison scoreboard for LFM3-Omni-2B and MiniCPM-V 4.7 35B-A3B listing 2.17B dense versus 35.2B MoE with 3B active, audio in and speech out versus image and video in with text out, 32K versus unstated context, LFM Open v1.0 versus Apache 2.0, 83 versus 289,535 downloads, and BF16 plus Ollama versus GGUF, AWQ, GPTQ and FP8.

Licencje — przeczytaj przed wysłaniem prototypu

MiniCPM-V 4.7 jest na licencji Apache 2.0. Bez testu przychodów, bez klauzuli dotyczącej pola użycia, bez negocjacji. LFM3-Omni-2B jest objęty licencją LFM Open License v1.0 — licencją z progiem przychodowym, którą Liquid stosuje w całej rodzinie LFM3. Dla projektu hobbystycznego lub wczesnego startupu obie są w praktyce równoważne. Dla firmy, która przekroczyła próg, jedna z nich wymaga rozmowy z prawnikiem, a druga nie — a tę rozmowę znacznie taniej jest odbyć teraz niż po tym, jak model trafi do produktu.

To najmniej efektowna oś w tym porównaniu i ta, która najprawdopodobniej przesądzi o wyniku w rzeczywistej firmie.

Jak oba elementy wpisują się w jedną architekturę

Realistyczna odpowiedź dla większości zespołów nie brzmi „wybierz jeden”. To model na urządzeniu dla typowego przypadku i model hostowany dla żądań, z którymi model na urządzeniu sobie nie radzi. Utrzymanie tej drugiej części w przenośnej formie to element, który przetrwa zmianę modelu na urządzeniu: OrcaRouter zapewnia jedno API dla ponad 200 hostowanych modeli przy 0% marży na cenniku dostawcy, automatyczne przełączanie awaryjne, gdy dostawca wypadnie, oraz DSL routingu, który przenosi żądanie do innego modelu bez zmiany kodu. Ani LFM3-Omni-2B, ani MiniCPM-V 4.7 nie znajdują się w tym katalogu — oba są do pobrania jako wagi, a ten tekst nie sugeruje inaczej. Chodzi o to, że warstwy zapasowej nie należy odbudowywać za każdym razem, gdy zmienia się warstwa urządzeniowa, a ponieważ warstwa urządzeniowa wciąż zmienia się co kilka tygodni, będzie się zmieniać.

Który z nich umieścić na urządzeniu

Wybierz MiniCPM-V 4.7 35B-A3B, jeśli potrzebujesz jakości wizji, formatu kwantyzacji, który faktycznie możesz wdrożyć, licencji Apache 2.0 oraz ekosystemu z sześcioma tygodniami raportów z praktyki. Liczba pobrań nie jest sygnałem jakości, ale raporty o błędach, które przychodzą wraz z 289 000 pobrań, są formą testowania, której LFM3-Omni-2B jeszcze nie ma.

Wybierz LFM3-Omni-2B, jeśli produkt potrzebuje głosu, jeśli urządzenie ma tak ograniczoną pamięć, że 3 GB aktywnych wag to wciąż za dużo, lub jeśli chcesz jeden checkpoint zamiast stosu ASR-plus-LLM-plus-TTS. Zaakceptuj niższe wyniki mniejszego modelu w zadaniach wizyjnych, licencję z progiem przychodowym oraz fakt, że jesteś wczesnym użytkownikiem modelu, który został ogłoszony zaledwie dzień temu.

Rozstrzygnąłby to pojedynczy niezależny przebieg — ten sam harness, oba modele, OCRBench i MMMU oraz zadanie związane z mową. Nikt tego nie zrobił. Dopóki ktoś tego nie zrobi, uczciwy ranking przedstawia się tak: MiniCPM do zadań wizualnych, LFM3-Omni do mówienia, a arkusz kalkulacyjny do wszystkiego innego.