MiniCPM-V 4.7 har fått ett modellkort: OpenBMB publicerade benchmarks, licensen och påståendet om körning på enheten

Under de första sex dagarna av sitt liv var MiniCPM-V 4.7 en mapp på 70 GB med bfloat16-tensorer utan README — inget modellkort, ingen licensmärkning, ingen benchmark-tabell, inget som berättade vad den var till för. Det ändrades den 12 oktober 2026, när OpenBMB checkade in ett fullständigt modellkort i openbmb/MiniCPM-V-4.7-35B-A3B, deklarerade en Apache-2.0-licens, skrev om README-filen för MiniCPM-o-repositoriet så att den inleds med den nya serien, och annonserade den som ett släpp av en MLLM med öppen källkod, riktat mot iOS-, Android- och HarmonyOS-enheter. Samma dokumentationsomgång berörde 1B-syskonmodellen, som nu har identisk kortstruktur. Den här artikeln handlar om deltat — vad kortet faktiskt påstår, vilka av dessa påståenden du själv kan kontrollera, och vilka av dem som i dag bara finns som pixlar i en PNG från leverantören.

Vad anlände den 12 oktober, och vad fanns redan där?

Vikterna rörde sig inte. openbmb/MiniCPM-V-4.7-1B skapades den 6 oktober 2026 kl. 17:40 UTC och openbmb/MiniCPM-V-4.7-35B-A3B den 7 oktober kl. 07:07 UTC; båda rapporterar fortfarande en tidsstämpel för senaste ändring den 12 oktober, eftersom den sista dagen ägnades åt prosa, inte åt parametrar. Commit-loggen i 35B-repositoriet för den 12 oktober är en dokumentationssprint: lägg till modellkort kl. 16:08, uppdatera modellkort kl. 16:15, byt namn på 35BA3B kl. 16:23, lägg till metadata kl. 16:26, absoluta tillgångs-URL:er kl. 16:50, fyra lägg till kom igång-commits fram till 17:07, och länka LES-doc kl. 17:09. Allt nedanför den raden i historiken är init. Repositoriet gick från arton filer och inget modellkort till en dokumenterad release med bilder, utvärderingsdiagram, distributionsinstruktioner och en licens, på ungefär en timme.

Det spelar roll för hur du läser tillkännagivandet, eftersom ett lanseringsinlägg inte är samma sak som en lansering. Ingenting med checkpointen förändrades den 12 oktober. Det som förändrades är att MiniCPM-V 4.7 slutade vara en oförklarad uppladdning och blev en produkt som du kan utvärdera på papper.

De två varianterna, och varför de inte är samma utgåva

Tillkännagivandet beskriver två modeller, och de är arkitektoniskt obesläktade nedanför visionstornet — den ena är en gles mixture-of-experts, den andra en liten tät modell.

• MiniCPM-V 4.7 35B-A3B — 35,2 miljarder totala parametrar som en gles MoE, 256 experter med 8 aktiva per token, 40 textlager, dold storlek 2 048, 16 query-huvuden mot 2 key/value-huvuden, maximal position på 262 144 token, vokabulär 248 144.

• MiniCPM-V 4.7 1B — en tät qwen3_5_text-stomme, 24 lager med dold storlek 1 024, 8 query-huvuden mot 2 key/value-huvuden, samma kontext på 262 144 token, vokabulär 248 094, en enda safetensors-fil på 3,1 GB.

• Delat visionstorn — minicpmv4_7_vision, 27 lager med dold storlek 1 152, patchstorlek 14, bildstorlek 980, infogat vid lager 6 i textstacken.

• Komprimering — blandad 4x- och 16x-nedsampling av visuella tokens, med den tidiga komprimeringstekniken intra-ViT som OpenBMB tillskriver LLaVA-UHD v4; standard är 16x, och 4x är inställningen för finare detaljer.

• Attention-form — ett mönster som upprepas tre mot ett i båda varianterna: tre linear_attention-lager följt av ett full_attention-lager, tio gånger över de 40 textlagren i 35B-modellen.

• Licens — Apache-2.0 för båda, deklarerad i kortets front matter, vilket är första gången något av repositorierna överhuvudtaget har angett villkor.

35B-A3B är den som tillkännagivandet inleder med, och det är den med den intressanta ingenjörshistorien: hela säljargumentet är att en gles MoE med 35 miljarder lagrade parametrar kan fås att köra smidigt på en telefon.

Påståendet om körning på enheten är den egentliga nyheten, och det är ett schemaläggningsproblem.

Den som har försökt köra en MoE på en mobiltelefon känner till felmoden. Det totala antalet parametrar finns i lagringsminnet, bara en handfull aktiveras per token, och på en enhet som saknar RAM eller bandbredd för att hålla varje expert, växlas vikterna in och ut. Resultatet avkodas i en hastighet som gör konversation omöjlig. Den uppenbara kringlösningen – lås routern till en fast delmängd experter för hela prompten – gör den snabb och tar i tysthet bort kapacitet, eftersom tokens inte längre kan nå experter som modellen annars skulle ha valt.

OpenBMB:s svar är tre tekniker staplade på varandra, och kortet är ovanligt specifikt om vad var och en av dem gör:

• Lookahead Expert Scheduling (LES) — en routingprediktor över lager förladdar experter som sannolikt behövs av nästa lager, prioriterar bland de experter som den riktiga routern faktiskt valde och överlappar deras beräkning med inläsningen av vad som än annars fortfarande krävs. Kortet är noga med att säga att förutsägelsen bara driver förhämtning och schemaläggning; beräkningen följer fortfarande modellens egen routing på tokennivå, och experter som förutsägelsen missade laddas och utvärderas som vanligt.

• Finkornig kvantisering per lager — krymper expertvikternas minnesavtryck och minnestrafik så att laddningsmönstret ryms inom enhetens minne och bandbredd.

• DSpark spekulativ sampling — integrerar draft-modellens väg i enhetens inferensloop, vid sidan av schemaläggning och kvantisering.

Siffran i rubriken är 13+ tokens per sekund på en iPhone 17 Pro Max för 35B-A3B. Det är en leverantörsmätning, på en enhet vi inte har sett, med en app vi inte har kört, och det är den enskilda siffra i detta släpp som är mest värd att hålla löst tills någon utanför labbet reproducerar den. Det är också påståendet som hela inramningen "första MoE med öppen källkod som kör smidigt på enheten utan att kompromissa med prestandan" vilar på – ett påstående som per definition är svårt att falsifiera, eftersom "utan att kompromissa med prestandan" mäts mot en baslinje som leverantören väljer.

Den del av kortet som verkligen är ny information: ekosystemlistan

Före den 12 oktober fanns det överhuvudtaget inget publicerat serveringsrecept. Kortet namnger nu de ramverk som modellen förväntas arbeta med, och listan är tillräckligt omfattande för att vara användbar oavsett hur benchmarkarna utfaller:

• Inferens — SGLang, vLLM, llama.cpp och Ollama, med en transformers serveväg för en OpenAI-kompatibel lokal slutpunkt och en OpenVINO-väg för Intel CPU, GPU och NPU.

• Finjustering — SWIFT och LLaMA-Factory, plus ett träningsrecept som OpenBMB kallar Self-Replay Fine-Tuning, positionerat som ett billigt sätt att utöka kapaciteten samtidigt som glömska begränsas.

• Kvantisering — GGUF, BNB, AWQ, GPTQ och FP8, med separata repositorier publicerade för AWQ-, GPTQ-, int4-, FP8- och GGUF-varianter av 35B-modellen.

• Hårdvara — dag-0-stöd uppges finnas för chipplattformarna från Rockchip, Houmo, Intel, AMD och Arm, tillsammans med driftsättning för iOS, Android och HarmonyOS.

• Verktyg — en kokbok med uppgiftsguider för chatt med en enskild bild, chatt med flera bilder, video, OCR, PDF-tolkning och visuell grundning, samt ett arkiv för edge-driftsättning som innehåller telefonapparna.

• Spekulativ avkodning — separata DSpark-utkastcheckpoints för både 35B- och 1B-målen.

Den praktiska effekten är att MiniCPM-V 4.7 har gått från ”du skulle behöva skriva inläsaren själv” till ”det finns en dokumenterad väg i minst fyra serving-stackar.” Om du väntade på kortet innan du lade tid på ett lokalt prov, är väntan över; om du väntade på oberoende bevis för att siffrorna på enheten är verkliga, är väntan inte över.

Vad benchmarkarna fastställer och inte fastställer

Kortets utvärderingsavsnitt är ärligt om vad det är: leverantörsrapporterat, inte oberoende reproducerat. Två jämförelsepåståenden görs uttryckligen, och båda anges som jämförelser snarare än absoluta poäng. I Instruct-läge påstås 35B-A3B nå en högre totalpoäng på kortare inferenstid än Qwen3.6 35B-A3B – ett påstående om prestanda kontra latens, inte ett påstående om rå kvalitet. 1B-varianten påstås förbättra MiniCPM-V 4.6:s kärnkapaciteter och avsevärt överträffa Qwen3.5 0.8B både i totalpoäng och inferenseffektivitet.

Här är den del som är värd att flagga. De faktiska siffrorna finns inte i texten. Utvärderingsavsnittet består av fem länkade bilder — ett övergripande prestandadiagram för 35B-modellens vision-language-uppgifter, ett språkdiagram, 1B-diagrammet, en plot över fronten för prestanda och effektivitet, och en GIF som jämför hastighet på enheten — och texten runt dem bär berättelsen, inte siffrorna. Det finns ingen tabell per benchmark i README, så det finns ingen maskinläsbar poäng att citera, och följaktligen inget för den här artikeln att åberopa som en siffra. "Högre totalpoäng än Qwen3.6 35B-A3B" är så exakt som de offentliga uppgifterna för närvarande kan bli.

Två konsekvenser följer. För det första har MiniCPM-V 4.7 ingen post på de neutrala tredjepartsto pplistorna som vi normalt skulle vända oss till för en granskad jämförelse – inget resonemangsindex, inget agentiskt index, ingen oberoende betygsatt multimodal poäng. För det andra är det aggregerade mått som OpenBMB plottar leverantörens egen sammansatta poäng över benchmarkgrupper som den själv har valt, vilket innebär att påståendet om "högre övergripande poäng" bara är lika meningsfullt som viktningen bakom det, och den viktningen är inte heller publicerad. Inget av detta gör siffrorna felaktiga. Det gör dem ogranskade, vilket är en annan sak, och åtskillnaden har störst betydelse precis där siffrorna är som starkast.

Vad du kan verifiera själv, idag

Skala bort marknadsföringen och det finns en solid, kontrollerbar kärna, allt läsbart från repositoriet utan att behöva lita på någon:

• Viktbyte — sexton safetensors-shards på 35B-modellen med totalt 70 425 903 448 byte, förenligt med en BF16 35,2B-checkpoint; 1B-modellen är en enda fil på 3,1 GB.

• Arkitektur – varje strukturell siffra ovan finns i config.json, publicerad öppet, och stämmer med kortets text.

• Licens — Apache-2.0, deklarerad i kortets frontmatter och nu entydig. För kommersiell användning är detta den enskilt viktigaste raden i utgåvan, och den är ny.

• Kvantiserade varianter — AWQ-, GPTQ-, int4-, FP8- och GGUF-repositorier finns och går att ladda ner, så driftsättningen är inte bara teoretisk på viktnivå.

• Adoptionssignaler — 35B-repositoriet har ungefär 166 nedladdningar och 38 likes per den 13 oktober, en uppgång från de nästan obefintliga siffror det hade när det var en oförklarad uppladdning, men fortfarande ett litet antal för en påstådd release vid Pareto-fronten.

Det du inte kan verifiera är påståendet som bär upp releasen: att detta är den första MoE med öppen källkod som körs på en telefon utan att göra avkall på något, med 13+ tokens per sekund. Det hänger på en tredje part med en iPhone och ett tidtagarur.

Var en router passar in, och var den inte gör det

MiniCPM-V 4.7 serveras inte av OrcaRouter. Det är en checkpoint med öppna vikter, vilket innebär att modellen i sig är något du själv hostar — på en arbetsstation, i en GPU-burk eller på telefonen som kortet riktar sig mot. Platsen där ett routinglager gör nytta är på andra sidan av det arrangemanget: punkten där en självhostad visionsmodell avgör att den är över sin nivå och lämnar över den svåra bildrutan till något större. OrcaRouter ställer över 200 hostade modeller bakom en enda nyckel, för vidare varje leverantörs listpris med 0 % påslag så att en leverantörs prisändring slår igenom samma dag, och växlar automatiskt över när en leverantör försämras — vilket är precis den form en hybridlösning behöver, där den billiga lokala modellen gör rutinarbetet och en hostad modell tar hand om de fall den inte klarar.

Vad du ska titta på härnäst

Tre saker skulle förvandla den här utgåvan från ett dokumenterat påstående till ett fastställt faktum. En oberoende mätning på enheten av 35B-modellen – någon med en iPhone 17 Pro Max, den publicerade appen och sin egen tidtagning – skulle fastställa den siffra som hela pitchen vilar på. En tabell per benchmark med faktiska poäng, i stället för diagram, skulle göra det möjligt att kontrollera Pareto-påståendet mot den baslinje det anger. Och en körning på en neutral resultattavla skulle placera MiniCPM-V 4.7 bredvid modeller som utvärderats under förhållanden som den inte själv valde. Fram till dess är den ärliga sammanfattningen att OpenBMB har släppt en verklig, Apache-2.0, väldokumenterad modell med en trovärdig och obevisad effektivitetsberättelse, och att skillnaden mellan dessa två saker är exakt skillnaden mellan ett kort och en benchmark.