MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: Negentien maanden later hoort een van hen je nog steeds

Zet MiniCPM-V 4.7 35B-A3B naast Qwen2.5-Omni op een specificatieblad en het nieuwere model wint bijna elke regel. Het heeft acht keer zoveel context, een sparse architectuur die per token een twaalfde van zijn parameters activeert, en een decennium aan inferentietools die niet bestonden toen het oudere model uitkwam. Dan kom je bij de audiorij, en MiniCPM-V 4.7 35B-A3B heeft daar helemaal niets. Qwen2.5-Omni, uitgebracht eind maart 2025, accepteert audio als invoer en streamt natuurlijke spraak terug naar buiten; MiniCPM-V 4.7, waarvan de gewichten in oktober 2026 verschenen, accepteert tekst, afbeeldingen en video en geeft tekst terug. Negentien maanden vooruitgang in dit specifieke paar heeft geen beter omni-model opgeleverd. Het heeft een beter visiemodel opgeleverd dat niet doet waarvoor het oudere model was gebouwd.

Die framing is geen afkeuring van een van beide. Het is de hele vorm van de vergelijking, en het is de reden dat een lezer die spraak nodig heeft en een lezer die duizend gescande pagina's moet lezen, met verschillende antwoorden weg zouden moeten gaan. Over sourcing: de cijfers van Qwen2.5-Omni zijn die van de leverancier uit maart 2025, inmiddels negentien maanden oud en deels gevalideerd door brede uitrol. Die van MiniCPM-V 4.7 35B-A3B zijn van OpenBMB, gepubliceerd op een modelkaart op 12 oktober 2026 — hun eerste kaart, tien dagen nadat de gewichten voor het eerst verschenen — en geen ervan is buiten het lab gereproduceerd.

Wat het oudere model eigenlijk was

Qwen2.5-Omni was het eerste end-to-end omni-modale model in die reeks, en de framing van de leverancier was destijds expliciet: het was het antwoord op de "zoo van specialisten"-problematiek, waarbij transcriptie, visie en stem elk een apart model en een aparte lijmlaag nodig hadden. Het 7B-model nam tekst, afbeeldingen, audio en video als invoer en antwoordde in tekst of in streaming natuurlijke spraak, met twee vaste stemmen, Chelsie en Ethan. Het claimde state-of-the-art resultaten op de OmniBench fusion-benchmark, vóór Gemini-1.5-Pro, en een kwaliteitsscore voor spraakgeneratie van 4,51 die de leverancier als menselijk niveau beschreef.

De engineering hield stand omdat deze voor de beperking was ontworpen in plaats van eromheen. Thinker-Talker splitste de taak in tweeën: een Thinker-transformer versmolt de audio- en beeldencoders en produceerde semantiek en tekst, terwijl een Talker spraaktokens streamde vanuit de verborgen toestanden van de Thinker en de volledige gespreksgeschiedenis deelde. Tijd-uitgelijnde multimodale RoPE verweefde video- en audioposities, zodat de twee streams synchroon bleven, en blokgewijze streaming liet de encoders perceptiewerk doen terwijl het taalmodel lange sequenties verwerkte — wat gesproken antwoorden met lage latentie überhaupt mogelijk maakte.

De limieten waren net zo reëel, en het ging om geheugen in plaats van context. de eigen tabellen van de leverancier zetten BF16-inference met FlashAttention-2 op ongeveer 31 GB GPU-geheugen voor een video van 15 seconden, 42 GB voor 30 seconden en 60 GB voor een volledige minuut, tegenover een contextvenster van 32.768 tokens. Een minuut video op een 7B-model, op een van de grootste enkele GPU's die je kon huren, is het getal om in het oog te houden — het is het getal dat alles wat erna kwam, gebouwd was om te vernietigen.

Wat het nieuwe model in plaats daarvan doet

MiniCPM-V 4.7 35B-A3B gaat een heel andere kant op. Het is OpenBMB's eerste MoE in de MiniCPM-V-serie: 256 experts met 8 actieve per token verspreid over 40 lagen, een contextvenster van 262.144 tokens en een vocabulaire van 248.144 tokens, wat neerkomt op ongeveer 3 miljard actieve parameters van in totaal 35,2 miljard. Beeldverwerking loopt via een SigLIP2-module met LLaVA-UHD v4 intra-ViT vroege compressie en een selecteerbare gemengde 4x/16x-tokencompressiemodus — standaard 16x, 4x wanneer fijn detail de tokens waard is. Het verwerkt afzonderlijke afbeeldingen, sets met meerdere afbeeldingen en video. Het antwoordt in tekst.

De hoofdclaim van de kaart is dat dit het eerste open-source-MoE-model is met verliesvrije, soepele inferentie op het apparaat, bereikt via Lookahead Expert Scheduling, fijnmazige kwantisatie per laag en speculatieve sampling via de afzonderlijke DSpark-draftmodellen, met naar verluidt meer dan 13 tokens per seconde op een iPhone 17 Pro Max. Dat aantal is door de leverancier opgegeven, niet gereproduceerd en niet nader gespecificeerd — geen kwantisatieformaat, geen build, geen prompt, geen meetmethode. De kaart beweert ook een hogere algemene Instruct-modusscore dan Qwen3.6 35B-A3B in minder inferentietijd, en die bewering staat in een grafiekafbeelding in plaats van in een tabel, dus het kan niet als cijfer worden aangehaald en moet ook niet als zodanig worden behandeld.

Zeven dimensies, beide zijden

• Invoermodaliteiten — Qwen2.5-Omni verwerkt tekst, afbeeldingen, audio en video; MiniCPM-V 4.7 35B-A3B verwerkt tekst, afbeeldingen en video, met helemaal geen audiopad.

• Uitvoer — tekst plus streaming natuurlijke spraak in twee vaste stemmen, tegenover alleen tekst.

• Context — 32.768 tokens tegen 262.144, een achtvoudige toename.

• Parameters — het 7B-getal waarmee de leverancier het model aanduidt, tegenover 35,2B totaal met 3B actief aan de MiniCPM-kant. De repository zelf vermeldt 11B parameters voor het checkpoint, omdat de 7B het taalmodel meetelt en niet de vision- en audio-encoders die ernaast staan — een nuttige herinnering dat "7B" hier net zozeer een naam als een meting is.

• Geheugengebruik — de eigen tabellen van de leverancier tonen ongeveer 31 GB voor een video van 15 seconden en 60 GB voor een minuut; MiniCPM-V 4.7 is ongeveer 70 GB aan BF16-gewichten vóór enige KV-cache, wat verklaart waarom de gekwantiseerde builds en het on-device-verhaal zo'n groot deel van de kaart innemen.

• Licentie — Apache-2.0 op beide, wat de enige regel is waar ze zonder enig voorbehoud overeenstemmen.

• Implementatiegereedschap — negentien maanden aan community-kwantisaties en tooling voor SGLang-, vLLM-, llama.cpp-, Ollama- en OpenVINO-ondersteuning, GGUF/BNB/AWQ/GPTQ/FP8-builds, en iOS-, Android- en HarmonyOS-apps.

• Openbare evaluatie — een negentien maanden oude OmniBench-positie van 0,561 die op grote schaal is geciteerd, tegenover een kaart met helemaal geen citeerbare evaluatietabel.

Het audiogat is de hele beslissing

Als je pipeline een model nodig heeft dat iets moet horen, eindigt deze vergelijking al in de eerste alinea. Qwen2.5-Omni is de enige van de twee die audio accepteert, de enige die spreekt, en de enige met een gevestigde spraakstack — Thinker-Talker, TMRoPE, bloksgewijze streaming, twee vaste stemmen — erachter. Het is ook de enige van de twee die iemand op schaal heeft uitgerold, en negentien maanden aan community-quantisaties en tooling zijn meer waard dan een specificatieblad wanneer je dit kwartaal een model in een applicatie probeert te krijgen.

Wat MiniCPM-V 4.7 daarvoor in ruil biedt, is een veel langer geheugen en een veel goedkoper rekenprofiel per token voor lange visuele documenten. Een venster van 262K en 3B actieve parameters is een wezenlijk ander instrument dan een venster van 32K bovenop een dense model van 7B — en voor een werklast van duizenden pagina-afbeeldingen, screenshots of lange videotranscripties is de vorm van het nieuwere model de juiste. Het kan alleen niet het model zijn dat de telefoon opneemt.

Dat is de afweging, ronduit gezegd: bereik tegenover breedte. Het oudere model bestrijkt meer zintuigen. Het nieuwere bestrijkt meer pagina.

Twee heel verschillende bewijssporen

Hier loopt de asymmetrie de andere kant op, en het is de moeite waard daar precies over te zijn.

De cijfers van Qwen2.5-Omni zijn oud genoeg om deels door gebruik te zijn gevalideerd. Een negentien maanden oud model met een breed geciteerde benchmarkpositie, een decennium aan downstream-kwantisaties en een grote geïnstalleerde basis is in geen enkele formele zin een bewezen grootheid, maar zijn beweringen hebben lang de tijd gehad om te worden weersproken en zijn dat niet. De geheugencijfers in het bijzonder werden gepubliceerd als technische beperkingen, niet als marketing, en ze gedroegen zich als technische beperkingen.

De cijfers van MiniCPM-V 4.7 hebben twee weken en nul externe verificatie gehad. Het model arriveerde op 6 oktober zonder documentatie, en de modelkaart, de licentie en de claimsectie verschenen op 12 oktober. Er is nog steeds geen evaluatietabel, geen technisch rapport, en geen enkele derde partij heeft een resultaat gepubliceerd. De enige plek met echt gepubliceerde cijfers is het afzonderlijke DSpark-conceptcheckpoint, waarvan de cijfers voor geaccepteerde tokens per stap van OpenBMB zelf zijn en die het lab niet voor het bovenliggende model heeft gepubliceerd.

Dus de juiste houding ten aanzien van het nieuwe model is: behandel de architectuur als gelezen (die staat in het configuratiebestand), behandel de distributie als reëel (de gewichten bestaan in zes formaten) en behandel elk prestatiecijfer als een claim die op een second opinion wacht. Dat laatste is geen blijvende toestand. Het is alleen de stand van zaken op 13 oktober.

Een van beide uitvoeren, en waar de router voor dient

Het zijn beide bestanden die u zelf serveert. Noch MiniCPM-V 4.7 35B-A3B noch Qwen2.5-Omni staat in de gehoste catalogus van OrcaRouter, en niets hier mag worden opgevat als een claim dat wij ze routeren — MiniCPM-V 4.7 is een twee weken oude checkpoint waarvoor u twee accelerators nodig hebt om hem ongekwantiseerd te draaien, en Qwen2.5-Omni is een open-weightmodel uit 2025 waarvan de praktische thuisbasis een vLLM-instantie is die u zelf beheert.

Waar een router zijn plek verdient, is aan de andere kant van die grens. De meeste teams die een zelfgehost vision-model draaien, hebben nog steeds een gehost model nodig voor de gevallen die het lokale model niet aankan — langetermijnredeneringen, toolgebruik, de audio-inputs die MiniCPM-V 4.7 niet accepteert. OrcaRouter zet meer dan 200 gehoste modellen achter één sleutel, geeft de lijstprijs van elke provider door zonder dat wij daar een marge op leggen, en schakelt automatisch over wanneer een provider verslechtert, wat betekent dat het toevoegen van dat tweede model een routeringswijziging is en niet een tweede contract. De dichtstbijzijnde gehoste vorm bij het MiniCPM-model is Qwen3.6 35B A3B — 35B totaal, 3B actief, 262K context, tekst-afbeelding-video in — voor $0,25 per miljoen inputtokens en $1,48 per miljoen outputtokens, wat een eerlijke maatstaf is voor wat zelfhosting je daadwerkelijk bespaart.

Welke, en wanneer?

Kies Qwen2.5-Omni als je überhaupt audio of spraak nodig hebt, als je een model wilt dat al negentien maanden in productie is, of als 32K tokens en een plafond van 60 GB voor een minuut video binnen je budget passen. De beperkingen zijn bekend en gedocumenteerd, wat een voordeel is wanneer je uitbrengt.

Kies MiniCPM-V 4.7 35B-A3B als je probleem een lange visuele context en tekstoutput is, als je de permissieve licentie wilt, en als je bereid bent vroeg te zijn — want vroeg is wat je dan bent. Geen enkele derde partij heeft het gedraaid, de bewering over on-device is niet gereproduceerd, en de benchmarks bestaan niet. Wat je in ruil daarvoor krijgt, is een gedocumenteerd, kwantificeerbaar multi-runtimemodel met een 262K-venster en een geloofwaardig efficiëntieverhaal, en jij mag degene zijn die erachter komt of dat verhaal standhoudt.

Wat het antwoord zou veranderen: een benchmarktabel van OpenBMB, of een gereproduceerde acceptatielengte uit het DSpark-concept — nog steeds de goedkoopste route naar een extern getal voor deze familie. Wat het antwoord niet zou veranderen, is meer tijd. Negentien maanden hebben MiniCPM-V 4.7 niet het vermogen gegeven om te horen, en niets op de roadmap wijst erop dat dit eraan komt.