MiniCPM-V 4.7 vs NVIDIA Nemotron 3.5 Super VL: de goedkoopste box die elk van beide daadwerkelijk draait

Beide zijn open-weight vision-language-modellen, beide zijn mixture-of-experts en beide comprimeren visuele tokens voordat het taalmodel ze ziet. De keuze tussen MiniCPM-V 4.7 35B-A3B en NVIDIA Nemotron 3.5 Super VL is daarom geen keuze over architectuur. Het is een keuze over de kleinste machine die je bereid bent te kopen, en over wat die machine je oplevert in pagina's per uur. Zo geprijsd belanden de twee modellen in volledig verschillende inkoopgesprekken: de ene draait op een download van 21 GB op hardware die je waarschijnlijk al bezit, de andere wil vier H100's in BF16 of één H200 in FP4. Dit stuk maakt de rekensom die de specsheets aan jou overlaten — geheugenniveau na geheugenniveau, en pagina na pagina. De vision-stack blijft op je hardware. De orkestratie eromheen hoeft dat niet.Bekijk de gehoste catalogus Meer dan 200 gehoste modellen op één sleutel, lijstprijs doorgegeven tegen 0% opslag. De gedocumenteerde AI-fouten en agentincidenten achter releases zoals deze zijn verzameld in het OrcaRouter AI Incident Archive waarbij elke vermelding zijn eigen bronnen, ernstniveau, betrouwbaarheidsgraad en betwiststatus heeft.

Twee kwantisatieladders, twee heel verschillende ondergrenzen

OpenBMB en NVIDIA hebben hetzelfde probleem — een model dat te groot is voor het apparaat waarop je het wilt draaien — in tegengestelde richtingen opgelost. MiniCPM-V 4.7 35B-A3B houdt een kleine actieve set resident en streamt experts vanuit opslag naar binnen, en levert het geheel vervolgens in elke GGUF-grootte, zodat je je ondergrens kunt kiezen. Nemotron 3.5 Super VL houdt het volledige model resident en traint in plaats daarvan een 4-bit-tier (NVFP4) die de geheugenvereiste ruwweg vier keer verkleint zonder een post-hoc kwantisatiepenalty.

• MiniCPM-V 4.7 35B-A3B, Q4_K_M — 21,2 GB op schijf. Past op een consumenten-GPU van 24 GB met een krappe marge, of op een Mac van 32 GB met ruimte over.

• {{1}}MiniCPM-V 4.7 35B-A3B{{/1}}, {{2}}Q8_0 / F16{{/2}} — {{3}}36.9 GB / 69.4 GB{{/3}}. Een 48 GB-kaart of een 96 GB-workstation, afhankelijk van hoeveel context je naast de gewichten wilt.

• Nemotron 3.5 Super VL, BF16 — ongeveer 231,8 GiB aan gewichten verdeeld over 64 shards. Het eigen servingrecept van NVIDIA is tensor-parallel 4 op 4x H100, of TP2 op 2x GB200.

• Nemotron 3.5 Super VL, NVFP4 — wordt volgens de bijbehorende modelkaart geïmplementeerd op 1x DGX Spark, 1x H200, 2x H100 of 1x GB200.

Die laatste regel is het getal dat het inkoopgesprek verandert. Een model van 120B op één H200 in plaats van vier H100's is geen marginale besparing; het is het verschil tussen een clusterreservering en één node. En omdat NVIDIA de 4-bitconversie tijdens de training uitvoert met kwantisatiebewuste distillatie in plaats van achteraf, beweert het geen inferentieoverhead te hebben — een bewering die de kaart wel doet, maar niet onderbouwt met een gepubliceerde BF16-versus-NVFP4-nauwkeurigheidsdelta.

Pagina's per uur, het getal dat alles bepaalt

Doorvoer in tokens per seconde is een slechte maatstaf voor documentwerk, omdat de kosten van een pagina vooral worden bepaald door het aantal visuele tokens dat de encoder produceert voordat het taalmodel ook maar één woord zegt. Dit is waar de twee ontwerpen het scherpst uiteenlopen, en waar de marketingtaal het minst bruikbaar is.

MiniCPM-V 4.7 35B-A3B comprimeert in de visietoren, met een vroege-compressietechniek die OpenBMB toeschrijft aan LLaVA-UHD v4, met gemengde 4x- en 16x-downsampling. Standaard is dat 16x; 4x is het pad voor fijne details, per afbeelding gekozen. Een dichtbeschreven tekstpagina krijgt het goedkope pad, een onderdelendiagram het dure. De compressie vindt plaats voordat het taalmodel erbij betrokken is, en dat is precies wat een 35B-model op een telefoon haalbaar maakt.

Nemotron 3.5 Super VL zet niet in op compressie. Het antwoord is context: tot een miljoen tokens, video-invoer tot twee minuten en een hybride Mamba-2-laag om te voorkomen dat een zeer lange sequentie kwadratisch wordt. De videoaanpak bemonstert standaard op 2 FPS en 256 frames, en zakt bij 1080p naar 1 FPS en 128 frames — een bemonsteringsbeleid in plaats van een compressietruc, en een die je naar boven kunt bijstellen als de workload veel beweging bevat.

De praktische consequentie: MiniCPM-V 4.7 geeft je vaste, lage tokenkosten per pagina en vraagt je het detailverlies te accepteren; Nemotron 3.5 Super VL laat je de details behouden en vraagt je voor de context te betalen. Voor een contractreview van honderd pagina's is de eerste goedkoper per pagina en de tweede beter op de pagina waar de clausule in een 6-punts voetnoot staat. Voor een chirurgische video van twee minuten komt alleen de tweede überhaupt ter sprake.

Een van deze releases levert cijfers; de andere levert grafieken.

Dit is het deel van de vergelijking dat geen enkele hoeveelheid hardware-rekenwerk kan oplossen, dus het hoort hier thuis in plaats van begraven in een voetnoot.

De modelkaart van NVIDIA bevat een benchmarktabel van ongeveer veertig rijen, en is ongewoon openhartig: hij noemt de baselines, en meerdere rijen laten zien dat het model verliest. Tegenover Qwen3.5-122B-A10B zetten NVIDIA's eigen cijfers MMLU-ProX op 76,91 tegenover 83,2, tau2-bench telecom op 73,19 tegenover 87,2, OCRBench v2 Chinese op 59,15 tegenover 67,3, en MathVision op 78,16 tegenover 83,3. Het wint GPQA-Diamond met 89,52 tegen 86,7, SWE-bench Pro met 51,78 tegen 44,9 en CritPt met 10,86 tegen 1,1. Elk cijfer, inclusief de baselines, is verzameld via NVIDIA's eigen NeMo Gym-harness — de kaart zegt dat direct, en publiceert reproduceerbaarheidsnotities. Door de leverancier uitgevoerd, eerlijk gelabeld, met de verliezen erin gelaten.

De modelkaart van MiniCPM-V 4.7 bevat vijf evaluatiegrafieken en geen numerieke tabel. De vergelijkende beweringen zijn richtinggevend: een hogere totaalscore in minder inferentietijd dan Qwen3.6 35B-A3B in Instruct-modus, en aanzienlijke verbeteringen ten opzichte van Qwen3.5 0.8B voor de 1B-variant. Er is geen score per benchmark om te citeren, geen lijst met baselines om te inspecteren, en geen gepubliceerde weging voor de samengestelde score die wordt uitgezet. Dat is niet hetzelfde als een slecht model — de engineering is gedocumenteerd in config.json en de gewichten zijn byte voor byte controleerbaar — maar het betekent wel dat de nauwkeurigheidshelft van deze vergelijking niet kan worden opgebouwd. Iedereen die een tabel met MiniCPM-V 4.7-scores naast Nemotron 3.5 Super VL-cijfers presenteert, leest de grafiek van de ene leverancier alsof het een meting is en de tabel van de andere alsof die neutraal is.

De runtime-paden, en welke je later zal bijten

Het deploymentverhaal van MiniCPM-V 4.7 is een menu: SGLang, vLLM, llama.cpp en Ollama, een OpenVINO-pad voor Intel CPU, GPU en NPU, fine-tuning via SWIFT en LLaMA-Factory, kwantisatie in GGUF, BNB, AWQ, GPTQ en FP8, en day-0-ondersteuning naar verluidt voor Rockchip, Houmo, Intel, AMD en Arm-silicon, naast iOS, Android en HarmonyOS. Breedte is het product. De prijs van die breedte is dat niemand jouw specifieke combinatie heeft gevalideerd, en het huidige upstream llama.cpp-pad heeft een actief defect: posities van afbeeldingsmarkeringen worden onjuist berekend, waardoor geretourneerde coördinaten systematisch te laag uitvallen wanneer je vraagt waar iets zich bevindt. Een geteste fix is open en nog niet samengevoegd per 20 oktober.

Het verhaal van Nemotron 3.5 Super VL is smal en diep: vLLM op een vastgezette image-tag en SGLang op een vastgezette tag, met Multi-Token Prediction ingebouwd in de architectuur, zodat er geen aparte drafter nodig is. De kaart specificeert versies omdat de versies de gevalideerde combinatie zijn. Afwijken daarvan is hoe een werkende deployment een debugsessie wordt.

Als je hardware kiest die bij het model past, neem dan MiniCPM-V 4.7. Als je een model kiest dat bij de hardware past die je al hebt, neem dan Nemotron 3.5 Super VL en volg exact de versies op de bijbehorende kaart.

Waar een router thuishoort in een twee-boxarchitectuur

Het patroon dat in productie opduikt, is geen keuze tussen deze twee. Het is een klein model op het apparaat of de lokale box dat werk doet dat direct en privé moet zijn, en een groot model dat werk afhandelt dat correct moet zijn. MiniCPM-V 4.7 35B-A3B is gebouwd voor de eerste rol; Nemotron 3.5 Super VL is gebouwd voor de tweede, met een venster van een miljoen tokens en 12B actieve parameters om lange documenten en agentische loops te dragen.

Beide draaien betekent twee modelstacks, twee sets storingsmodi en — zodra je een tekstmodel toevoegt voor de orkestratie eromheen — drie. Dat is waar OrcaRouter helpt zonder te overdrijven wat het is: geen van beide checkpoints staat in onze catalogus, want beide zijn open weights die je zelf host, maar de tekst- en codemodellen eromheen wel. Eén sleutel voor meer dan 200 gehoste modellen, de lijstprijs van de provider doorgegeven met 0% marge, en automatische failover wanneer een upstream verslechtert. De visiestack blijft op je eigen hardware; de rest van de pipeline heeft geen nieuw contract meer nodig telkens wanneer je een fase toevoegt.

Wat het je kost om het bij elk ervan mis te hebben

Koop de kleine box en ontdek dat je redeneervermogen voor lange documenten nodig had, en je hebt een paar duizend dollar en een week besteed. Koop vier H100's en ontdek dat de workload bonnetjes waren, en je hebt veel meer besteed aan capaciteit die je nooit gebruikt. Die asymmetrie is het echte argument om op de goedkope tier te beginnen en op te schalen — en daarom verdient de on-device release de aandacht die ze krijgt, ook al is het benchmarkverhaal dunner.

De beslissende factor, als je beide boxes beschikbaar hebt, is waar de pixels leven. Frames die het gebouw niet kunnen verlaten, gaan naar het model dat erbinnen draait. Frames die een miljoen tokens context en een reasoning-loop nodig hebben, gaan naar het model dat daarvoor is gebouwd, en je accepteert de vastgepinde runtimeversies als de toegangsprijs.