MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: Nitton månader senare, en av dem hör dig fortfarande

Ställer man MiniCPM-V 4.7 35B-A3B bredvid Qwen2.5-Omni i ett specifikationsblad vinner den nyare modellen nästan varje rad. Den har åtta gånger så lång kontext, en gles arkitektur som aktiverar en tolftedel av sina parametrar per token och ett decennium av inferensverktyg som inte fanns när den äldre modellen lanserades. Sedan kommer man till ljudraden, och där har MiniCPM-V 4.7 35B-A3B ingenting alls. Qwen2.5-Omni, som släpptes i slutet av mars 2025, tar emot ljud och strömmar tillbaka naturligt tal; MiniCPM-V 4.7, vars vikter dök upp i oktober 2026, tar emot text, bilder och video och returnerar text. Nitton månader av framsteg i just detta par gav inte en bättre omni-modell. Det gav en bättre visionsmodell som inte gör det den äldre modellen byggdes kring.

Den inramningen är inte en kritik av någon av dem. Det är hela jämförelsens form, och det är anledningen till att en läsare som behöver röst och en läsare som behöver läsa tusen skannade sidor bör gå därifrån med olika svar. Om källhänvisning: Qwen2.5-Omnis siffror är leverantörens från mars 2025, nu nitton månader gamla och delvis validerade genom bred driftsättning. MiniCPM-V 4.7 35B-A3B:s siffror är OpenBMB:s, publicerade på ett modellkort den 12 oktober 2026 – dess första kort, tio dagar efter att vikterna först dök upp – och ingen av dem har reproducerats utanför labbet.

Vad den äldre modellen faktiskt var

Qwen2.5-Omni var den första end-to-end-omnimodala modellen i den serien, och leverantörens formulering då var tydlig: den var svaret på problemet med en "zoo av specialister", där transkription, vision och röst var och en krävde en separat modell och ett separat limlager. 7B-modellen tog text, bilder, ljud och video som indata och svarade i text eller i strömmande naturligt tal, med två fasta röster, Chelsie och Ethan. Den hävdade toppmoderna resultat på fusionsbenchmarken OmniBench, före Gemini-1.5-Pro, och en kvalitetspoäng på 4,51 för talgenerering som leverantören beskrev som mänsklig nivå.

Konstruktionen höll måttet eftersom den var designad för begränsningen snarare än runt den. Thinker-Talker delade upp jobbet i två delar: en Thinker-transformerare slog samman ljud- och bildkodarna och producerade semantik och text, medan en Talker strömmade taltokens från Thinkerns dolda tillstånd och delade hela samtalshistoriken. Tidsjusterad multimodal RoPE flätade samman video- och ljudpositioner så att de två strömmarna förblev synkroniserade, och blockvis strömning lät kodarna utföra perceptionsarbete medan språkmodellen hanterade långa sekvenser – vilket var det som gjorde talade svar med låg latens möjliga överhuvudtaget.

Begränsningarna var precis lika verkliga, och de gällde minne snarare än kontext. Leverantörens egna tabeller angav BF16-inferens med FlashAttention-2 till ungefär 31 GB GPU-minne för en 15-sekundersvideo, 42 GB för 30 sekunder och 60 GB för en hel minut, mot ett kontextfönster på 32 768 token. En minut video på en 7B-modell, på en av de största enskilda GPU:er du kunde hyra, är talet att hålla i sikte — det är talet som allt efter det byggdes för att förstöra.

Vad den nya modellen gör i stället

MiniCPM-V 4.7 35B-A3B går i en helt annan riktning. Det är OpenBMB:s första MoE i MiniCPM-V-serien: 256 experter med 8 aktiva per token över 40 lager, ett kontextfönster på 262 144 token och en vokabulär på 248 144 token, vilket ger ungefär 3B aktiva parametrar av totalt 35,2B. Visionen körs genom en SigLIP2-modul med LLaVA-UHD v4 tidig komprimering i ViT och ett valbart blandat tokenkomprimeringsläge på 4x/16x — 16x som standard, 4x när fina detaljer är värda tokensen. Den hanterar enstaka bilder, uppsättningar med flera bilder och video. Den svarar i text.

Kortets huvudpåstående är att detta är den första MoE-modellen med öppen källkod med förlustfri, smidig inferens på enheten, uppnådd genom Lookahead Expert Scheduling, finkornig lagervis kvantisering och spekulativ sampling via de separata DSpark-utkasten, vid en rapporterad hastighet på 13+ tokens per sekund på en iPhone 17 Pro Max. Den siffran är tillverkarrapporterad, icke-reproducerad och utan närmare precisering – inget kvantiseringsformat, ingen build, ingen prompt, ingen mätmetod. Kortet hävdar också en högre totalpoäng i Instruct-läge än Qwen3.6 35B-A3B på kortare inferenstid, och det påståendet återges i en diagrambild i stället för i en tabell, så det kan inte citeras som en siffra och bör inte behandlas som en sådan.

Sju dimensioner, båda sidorna

• Indatamodaliteter — Qwen2.5-Omni tar emot text, bilder, ljud och video; MiniCPM-V 4.7 35B-A3B tar emot text, bilder och video, helt utan ljudväg.

• Utdata – text plus strömmande naturligt tal i två fasta röster, jämfört med enbart text.

• Kontext — 32 768 tokens mot 262 144, en åttafaldig ökning.

• Parametrar — 7B-siffran som leverantören namnger modellen efter, mot 35,2B totalt med 3B aktiva på MiniCPM-sidan. Själva repositoryt listar 11B parametrar för checkpointen, eftersom 7B räknar språkmodellen och inte bild- och ljudkodarna som sitter bredvid — en användbar påminnelse om att "7B" här är ett namn lika mycket som ett mått.

• Minnesfotavtryck — tillverkarens egna tabeller visar cirka 31 GB för en video på 15 sekunder och 60 GB för en minut; MiniCPM-V 4.7 är omkring 70 GB BF16-vikter innan någon KV-cache, vilket är anledningen till att dess kvantiserade byggen och berättelsen om körning på enheten utgör så mycket av kortet.

• Licens — Apache-2.0 på båda, vilket är den enda punkten där de är överens utan förbehåll.

• Driftsättningsverktyg — nitton månaders community-kvantiseringar och verktyg för SGLang, vLLM, llama.cpp, Ollama och OpenVINO-stöd, GGUF/BNB/AWQ/GPTQ/FP8-byggen samt appar för iOS, Android och HarmonyOS.

• Offentlig utvärdering — en nitton månader gammal OmniBench-position på 0,561 som har citerats flitigt, mot ett kort utan någon citerbar utvärderingstabell alls.

Ljudhålet är hela beslutet

Om din pipeline behöver en modell som kan höra något, slutar den här jämförelsen i första stycket. Qwen2.5-Omni är den enda av de två som tar emot ljud, den enda som talar, och den enda med en etablerad talstack — Thinker-Talker, TMRoPE, blockvis streaming, två fasta röster — bakom sig. Det är också den enda av de två som någon har driftsatt i stor skala, och nitton månader av community-kvantiseringar och verktyg är värt mer än ett specifikationsblad när man försöker få in en modell i en applikation det här kvartalet.

Vad MiniCPM-V 4.7 erbjuder i utbyte är ett mycket längre minne och en mycket billigare beräkningsprofil per token för långa visuella dokument. Ett 262K-fönster och 3B aktiva parametrar är ett genuint annat instrument än ett 32K-fönster över en 7B tät modell – och för en arbetsbelastning som består av tusentals sidbilder, skärmdumpar eller långa videotranskript är den nyare modellens form den rätta. Den kan bara inte vara modellen som svarar i telefon.

Det är avvägningen, uttryckt rakt ut: räckvidd mot bredd. Den äldre modellen täcker fler sinnen. Den nyare täcker mer sida.

Två väldigt olika beviskedjor

Här går asymmetrin åt andra hållet, och det är värt att vara noggrann med.

Qwen2.5-Omnis siffror är tillräckligt gamla för att delvis ha validerats genom användning. En nitton månader gammal modell med en flitigt citerad benchmark-position, ett decennium av nedströms kvantiseringar och en stor installerad bas är inte en bevisad kvantitet i någon formell mening, men dess påståenden har haft lång tid på sig att motbevisas och har inte blivit det. Särskilt minnessiffrorna publicerades som tekniska begränsningar, inte som marknadsföring, och de betedde sig som tekniska begränsningar.

MiniCPM-V 4.7:s siffror har funnits i två veckor och noll extern verifiering. Modellen kom odokumenterad den 6 oktober, och modellkortet, licensen och avsnittet med påståenden kom den 12 oktober. Det finns fortfarande ingen utvärderingstabell, ingen teknisk rapport, och ingen tredje part har publicerat ett resultat. Den enda platsen med verkliga publicerade siffror är den separata DSpark-draftcheckpointen, vars siffror för accepterade tokens per steg är OpenBMB:s egna och som labbet inte har publicerat för föräldramodellen.

Så den korrekta hållningen till den nya modellen är: betrakta arkitekturen som redan läst (den finns i konfigurationsfilen), betrakta distributionen som verklig (vikterna finns i sex format) och betrakta varje prestandasiffra som ett påstående som väntar på en andra åsikt. Den sista delen är inte ett permanent tillstånd. Det är bara så läget är den 13 oktober.

Att köra endera av dem, och vad routern är till för

Båda dessa är filer som du själv serverar. Varken MiniCPM-V 4.7 35B-A3B eller Qwen2.5-Omni finns i OrcaRouters hostade katalog, och inget här bör läsas som ett påstående att vi routar dem — MiniCPM-V 4.7 är en två veckor gammal checkpoint som du skulle behöva två acceleratorer för att köra okvantiserad, och Qwen2.5-Omni är en modell med öppna vikter från 2025 vars praktiska hem är en vLLM-instans som du kör.

Där en router förtjänar sin plats är på andra sidan den gränsen. De flesta team som kör en självhostad synmodell behöver fortfarande en hostad modell för de fall den lokala inte klarar av — långsiktigt resonemang, verktygsanvändning, de ljudindata som MiniCPM-V 4.7 inte tar emot. OrcaRouter samlar över 200 hostade modeller bakom en enda nyckel, för vidare varje leverantörs listpris utan något påslag från oss, och växlar automatiskt över när en leverantör försämras, vilket innebär att lägga till den där andra modellen är en routingändring och inte ett andra avtal. Den hostade modell som ligger närmast MiniCPM-modellen är Qwen3.6 35B A3B — 35B totalt, 3B aktiva, 262K kontext, text-bild-video in — till $0,25 per miljon indatatokens och $1,48 per miljon utdatatokens, vilket är ett rimligt riktmärke för vad självhostning faktiskt sparar dig.

Vilken, och när?

Välj Qwen2.5-Omni om du överhuvudtaget behöver ljud eller tal, om du vill ha en modell med nitton månaders driftsättning bakom sig, eller om 32K tokens och ett tak på 60 GB för en minut video ryms inom din budget. Dess begränsningar är kända och dokumenterade, vilket är en fördel när du levererar.

Ta MiniCPM-V 4.7 35B-A3B om ditt problem är lång visuell kontext och textutdata, om du vill ha den tillåtande licensen och om du är beredd att vara tidig – för tidig är vad du skulle vara. Ingen tredje part har kört den, påståendet om körning på enheten har inte reproducerats, och det finns inga benchmarks. I utbyte får du en dokumenterad, kvantiserbar modell med flera runtime-miljöer och ett fönster på 262K samt en trovärdig effektivitetsberättelse, och du får bli den som tar reda på om berättelsen håller.

Det som skulle ändra svaret: en benchmarktabell från OpenBMB, eller en reproducerad acceptanslängd från DSpark-utkastet – fortfarande den billigaste vägen till en extern siffra för den här familjen. Det som inte skulle ändra svaret är mer tid. Nitton månader har inte gett MiniCPM-V 4.7 förmågan att höra, och inget i färdplanen tyder på att den är på väg.