MiniCPM-V 4.7 35B-A3B kontra Qwen2.5-Omni: dziewiętnaście miesięcy później jedno z nich wciąż cię słyszy

Postaw MiniCPM-V 4.7 35B-A3B obok Qwen2.5-Omni na karcie specyfikacji, a nowszy model wygrywa niemal w każdym wierszu. Ma ośmiokrotnie większy kontekst, rzadką architekturę, która aktywuje jedną dwunastą swoich parametrów na token, oraz dekadę narzędzi do wnioskowania, których nie było, gdy starszy model został wydany. Potem dochodzisz do wiersza audio i MiniCPM-V 4.7 35B-A3B nie ma tam zupełnie nic. Qwen2.5-Omni, wydany pod koniec marca 2025, przyjmuje dźwięk i strumieniuje z powrotem naturalną mowę; MiniCPM-V 4.7, którego wagi pojawiły się w październiku 2026, przyjmuje tekst, obrazy i wideo, a zwraca tekst. Dziewiętnaście miesięcy postępu w tej konkretnej parze nie dało lepszego modelu omni. Dało lepszy model wizyjny, który nie robi tego, wokół czego zbudowano starszy model.

To ujęcie nie jest przytykiem do żadnego z nich. To jest cały kształt tego porównania i powód, dla którego czytelnik potrzebujący głosu oraz czytelnik, który musi przeczytać tysiąc zeskanowanych stron, powinni wyjść z różnymi odpowiedziami. Co do źródeł: wyniki Qwen2.5-Omni pochodzą od dostawcy z marca 2025 r., mają już dziewiętnaście miesięcy i zostały częściowo potwierdzone przez szerokie wdrożenie. Wyniki MiniCPM-V 4.7 35B-A3B należą do OpenBMB, opublikowano je na karcie modelu 12 października 2026 r. — to jego pierwsza karta, dziesięć dni po tym, jak po raz pierwszy pojawiły się wagi — i żaden z nich nie został odtworzony poza laboratorium.

Czym tak naprawdę był starszy model

Qwen2.5-Omni był pierwszym modelem omnimodalnym typu end-to-end w tej serii, a ówczesna narracja producenta była jednoznaczna: miał być odpowiedzią na problem „zoo specjalistów”, w którym transkrypcja, wizja i głos wymagały każde osobnego modelu i osobnej warstwy łączącej. Model 7B przyjmował jako dane wejściowe tekst, obrazy, dźwięk i wideo, a odpowiadał tekstem lub strumieniową naturalną mową, z dwoma stałymi głosami: Chelsie i Ethan. Miał osiągać najlepsze w swojej klasie wyniki w benchmarku fuzji OmniBench, wyprzedzając Gemini-1.5-Pro, oraz wynik jakości generowania mowy na poziomie 4,51, który producent określił jako ludzki.

Inżynieria się obroniła, ponieważ została zaprojektowana pod to ograniczenie, a nie wokół niego. Podział Thinker-Talker rozdzielił zadanie na dwie części: transformer Thinkera łączył kodery audio i obrazu oraz generował semantykę i tekst, podczas gdy Talker strumieniował tokeny mowy ze stanów ukrytych Thinkera i współdzielił pełną historię rozmowy. Dopasowane czasowo multimodalne RoPE przeplatało pozycje wideo i audio, dzięki czemu oba strumienie pozostawały zsynchronizowane, a strumieniowanie blokowe pozwalało koderom wykonywać pracę percepcji, podczas gdy model językowy obsługiwał długie sekwencje — co w ogóle umożliwiło niskolatencyjne odpowiedzi mówione.

Ograniczenia były równie realne, a dotyczyły pamięci, a nie kontekstu. Własne dane dostawcy określały wnioskowanie BF16 z FlashAttention-1 na około 31 GB pamięci GPU dla 15-sekundowego wideo, 42 GB dla 30 sekund i 60 GB dla pełnej minuty, przy oknie kontekstu wynoszącym 32 768 tokenów. Minuta wideo na modelu 7B, na jednym z największych pojedynczych GPU, jakie można było wynająć, to liczba, którą trzeba mieć na uwadze — liczba, którą wszystko, co powstało później, zbudowano, by zniszczyć.

Co nowy model robi zamiast tego

MiniCPM-V 4.7 35B-A3B idzie zupełnie inną drogą. To pierwszy MoE OpenBMB w serii MiniCPM-V: 256 ekspertów, z których 8 jest aktywnych na token w 40 warstwach, okno kontekstu 262 144 tokenów i słownik 248 144 tokenów, co daje około 3 mld aktywnych parametrów z 35,2 mld łącznie. Wizja działa przez moduł SigLIP2 z wczesną kompresją intra-ViT w LLaVA-UHD v4 i wybieralnym mieszanym trybem kompresji tokenów 4x/16x — domyślnie 16x, 4x, gdy drobne szczegóły są warte tokenów. Obsługuje pojedyncze obrazy, zestawy wielu obrazów i wideo. Odpowiada tekstem.

Głównym twierdzeniem karty jest to, że jest to pierwszy otwartoźródłowy model MoE z bezstratnym, płynnym wnioskowaniem na urządzeniu, osiągniętym dzięki Lookahead Expert Scheduling, drobnoziarnistej kwantyzacji warstwowej i próbkowaniu spekulatywnemu poprzez oddzielne drafty DSpark, przy raportowanych ponad 13 tokenach na sekundę na iPhone 17 Pro Max. Ta liczba została podana przez dostawcę, nie została odtworzona i nie jest poparta żadnymi szczegółami — brak formatu kwantyzacji, brak kompilacji, brak promptu, brak metody pomiaru. Karta twierdzi również, że osiąga wyższy ogólny wynik w trybie Instruct niż Qwen3.6 35B-A3B przy krótszym czasie wnioskowania, a twierdzenie to jest przedstawione na obrazie wykresu, a nie w tabeli, więc nie można go przytaczać jako liczby i nie należy go tak traktować.

Siedem wymiarów, obie strony

• Modalności wejściowe — Qwen2.5-Omni przyjmuje tekst, obrazy, dźwięk i wideo; MiniCPM-V 4.7 35B-A3B przyjmuje tekst, obrazy i wideo, bez żadnej ścieżki audio.

• Dane wyjściowe — tekst plus naturalna mowa przesyłana strumieniowo w dwóch stałych głosach, w porównaniu z samym tekstem.

• Kontekst — 32 768 tokenów wobec 262 144, ośmiokrotny wzrost.

• Parametry — liczba 7B, którą dostawca wpisał w nazwę modelu, w zestawieniu z 35,2B łącznie i 3B aktywnymi po stronie MiniCPM. Samo repozytorium podaje 11B parametrów dla checkpointu, ponieważ 7B obejmuje model językowy, a nie enkodery wizyjne i audio znajdujące się obok niego — użyteczne przypomnienie, że „7B” jest tu w równym stopniu nazwą, co miarą.

• Zapotrzebowanie na pamięć — własne tabele producenta pokazują około 31 GB dla 15-sekundowego wideo i 60 GB dla minuty; MiniCPM-V 4.7 to około 70 GB wag BF16 przed jakąkolwiek pamięcią podręczną KV, dlatego jego skwantyzowane wersje i narracja o działaniu na urządzeniu odgrywają tak dużą rolę w tej karcie.

• Licencja — Apache-2.0 w obu, i to jest jedyny punkt, w którym zgadzają się bez zastrzeżeń.

• Narzędzia do wdrażania — dziewiętnaście miesięcy społecznościowych kwantyzacji i narzędzi dla obsługi SGLang, vLLM, llama.cpp, Ollama i OpenVINO, kompilacji GGUF/BNB/AWQ/GPTQ/FP8 oraz aplikacji na iOS, Androida i HarmonyOS.

• Publiczna ocena — dziewiętnastomiesięczna pozycja OmniBench na poziomie 0,561, która była szeroko cytowana, w porównaniu z kartą niemającą żadnej tabeli oceny, którą można by zacytować.

Dziura audio to cała decyzja

Jeśli Twój pipeline potrzebuje modelu, który coś usłyszy, to porównanie kończy się już na pierwszym akapicie. Qwen2.5-Omni jest jedynym z tej dwójki, który przyjmuje dźwięk, jedynym, który mówi, i jedynym, za którym stoi ugruntowany stos przetwarzania mowy — Thinker-Talker, TMRoPE, strumieniowanie blokowe, dwa stałe głosy. Jest też jedynym z tej dwójki, który ktokolwiek wdrożył na dużą skalę, a dziewiętnaście miesięcy społecznościowych kwantyzacji i narzędzi jest warte więcej niż karta specyfikacji, gdy próbujesz wprowadzić model do aplikacji w tym kwartale.

To, co MiniCPM-V 4.7 oferuje w zamian, to znacznie dłuższa pamięć i znacznie tańszy profil obliczeń na token w przypadku długich dokumentów wizualnych. Okno 262K i 3B aktywnych parametrów to zupełnie inne narzędzie niż okno 32K w gęstym modelu 7B — a w przypadku obciążenia obejmującego tysiące obrazów stron, zrzutów ekranu lub długich transkrypcji wideo właściwy jest kształt nowszego modelu. Po prostu nie może być modelem, który odbiera telefon.

Taki jest ten kompromis, ujęty wprost: zasięg przeciw szerokości. Starszy model obejmuje więcej znaczeń. Nowszy obejmuje więcej stron.

Dwie bardzo różne ścieżki dowodowe

Tutaj asymetria działa w drugą stronę i warto być pod tym względem dokładnym.

Wartości Qwen2.5-Omni są już na tyle stare, że zostały częściowo zweryfikowane przez użycie. Dziewiętnastomiesięczny model z szeroko cytowaną pozycją w benchmarkach, dekadą późniejszych kwantyzacji i dużą bazą instalacyjną nie jest sprawdzoną wielkością w żadnym formalnym sensie, ale jego twierdzenia miały dużo czasu, by zostać zaprzeczone, i nie zostały. W szczególności dane dotyczące pamięci zostały opublikowane jako ograniczenia inżynierskie, a nie jako marketing, i zachowywały się jak ograniczenia inżynierskie.

Liczby MiniCPM-V 4.7 mają za sobą dwa tygodnie i zero zewnętrznej weryfikacji. Model pojawił się bez dokumentacji 6 października, a karta, licencja i sekcja z twierdzeniami pojawiły się 12 października. Nadal nie ma tabeli ewaluacyjnej, raportu technicznego ani żadna strona trzecia nie opublikowała wyniku. Jedynym miejscem z prawdziwymi opublikowanymi liczbami jest oddzielny szkicowy checkpoint DSpark, którego wskaźniki akceptowanych tokenów na krok pochodzą od samego OpenBMB, a których laboratorium nie opublikowało dla modelu nadrzędnego.

Zatem właściwa postawa wobec nowego modelu jest następująca: architekturę traktuj jako odczytaną (znajduje się w pliku konfiguracyjnym), dystrybucję traktuj jako rzeczywistą (wagi istnieją w sześciu formatach), a każdy wskaźnik wydajności traktuj jako twierdzenie czekające na drugą opinię. Ten ostatni element nie jest stanem trwałym. To po prostu stan rzeczy na 13 października.

Uruchamianie któregokolwiek z nich i do czego służy router

Oba te pliki serwujesz samodzielnie. Ani MiniCPM-V 4.7 35B-A3B, ani Qwen2.5-Omni nie znajdują się w hostowanym katalogu OrcaRouter, a nic tutaj nie powinno być odczytywane jako twierdzenie, że je routujemy — MiniCPM-V 4.7 to dwutygodniowy checkpoint, do uruchomienia którego bez kwantyzacji potrzebne byłyby dwa akceleratory, a Qwen2.5-Omni to pochodzący z 2025 r. model o otwartych wagach, którego praktycznym domem jest instancja vLLM, którą obsługujesz.

To, gdzie router zasługuje na swoje miejsce, znajduje się po drugiej stronie tej granicy. Większość zespołów korzystających z samodzielnie hostowanego modelu wizyjnego nadal potrzebuje modelu hostowanego w przypadkach, których lokalny nie jest w stanie obsłużyć — długodystansowego rozumowania, korzystania z narzędzi, wejść audio, których MiniCPM-V 4.7 nie przyjmuje. OrcaRouter umieszcza ponad 200 hostowanych modeli za jednym kluczem, przekazuje cenę cennikową każdego dostawcy bez żadnej naszej marży, i automatycznie przełącza się awaryjnie, gdy dostawca zaczyna działać gorzej, co oznacza, że dodanie tego drugiego modelu to zmiana routingu, a nie drugi kontrakt. Najbliższym hostowanym odpowiednikiem modelu MiniCPM jest Qwen3.6 35B A3B — 35B łącznie, 3B aktywnych, kontekst 262K, wejście tekst-obraz-wideo — w cenie 0,25 USD za milion tokenów wejściowych i 1,48 USD za milion tokenów wyjściowych, co jest uczciwym punktem odniesienia dla tego, ile faktycznie oszczędza samodzielny hosting.

Który i kiedy

Wybierz Qwen2.5-Omni, jeśli w ogóle potrzebujesz obsługi audio lub mowy, jeśli chcesz model, za którym stoi dziewiętnaście miesięcy wdrożeń, albo jeśli 32K tokenów i limit 60 GB na minutę wideo mieszczą się w Twoim budżecie. Jego ograniczenia są znane i udokumentowane, co jest zaletą, gdy wypuszczasz produkt.

Weź MiniCPM-V 4.7 35B-A3B, jeśli twoim problemem jest długi kontekst wizualny i generowanie tekstu, jeśli chcesz permisywnej licencji i jeśli jesteś gotowy być wcześnie — bo wczesnym użytkownikiem właśnie byś był. Żadna strona trzecia go nie uruchomiła, twierdzenie o działaniu na urządzeniu nie zostało zreprodukowane, a benchmarki nie istnieją. W zamian dostajesz udokumentowany, kwantyzowalny model obsługujący wiele środowisk uruchomieniowych, z oknem 262K i wiarygodną historią efektywności, a przy tym to ty będziesz tym, kto przekona się, czy ta historia się broni.

Co zmieniłoby odpowiedź: tabela benchmarków od OpenBMB albo odtworzona długość akceptacji z draftu DSpark — wciąż najtańsza droga do zewnętrznego wyniku dla tej rodziny. Więcej czasu nie zmieni odpowiedzi. Dziewiętnaście miesięcy nie dało MiniCPM-V 4.7 zdolności słyszenia, a nic w mapie drogowej nie sugeruje, że nadchodzi.