Ett genererat hero-kort med titeln "En modell som hör och en modell som får plats i fickan" och underrubriken "Ming-3.0-audio-flash vs MiniCPM-V 4.7 35B-A3B". Två paneler med linjegrafik under titeln är märkta "åtta GPU:er" och "en telefon". OrcaRouter-logotypen är kompositerad i det nedre högra hörnet.
Guides & Insights

Ming-3.0-audio-flash vs MiniCPM-V 4.7: En modell som hör och en modell som får plats i fickan

Författare

Elias Hawthorne

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Om du väljer mellan Ming-3.0-audio-flash och MiniCPM-V 4.7 35B-A3B, är beslutet inte nära på någon axel du normalt skulle väga, eftersom de inte konkurrerar om samma plats. Den ena är en ljudspråklig mixture-of-experts-modell med 126 miljarder parametrar – 6,5 miljarder aktiva – som inclusionAI laddade upp den 3 september 2026 och dokumenterade sex veckor senare, och som kräver åtta GPU:er med 80 GB i sin referenskonfiguration. Den andra är en gles visuell-språklig modell med 35,2 miljarder parametrar som OpenBMB släppte på Hugging Face på kvällen den 6 oktober 2026 helt utan modellkort, och OpenBMB publicerade modellkortet den 12 oktober; modellen uppges avkoda i mer än 13 tokens per sekund på en iPhone 17 Pro Max med cirka 3 GB minne. Den ena lyssnar och står i ett rack. Den andra tittar och får plats i en hand. Det som gör dem värda att ställa på samma sida är att båda släpptes tyst av kinesiska labb under samma sex veckor, att båda har öppna vikter och att båda utvärderas av team som har exakt en plats i sin arkitektur. De dokumenterade AI-felen och driftsättningsincidenterna bakom jämförelser som denna samlas i OrcaRouter AI Incident Archive där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsklass och flagga för omstridd status.

Här är beslutsregeln först, sedan underlaget för den. Om indata är ljud – samtal, möten, dialekter, musik, en genererad berättarröst som du behöver verifiera – kan bara en av dessa modeller starta. Om indata är en bild, ett dokument, ett diagram, en skärmbild eller en bildruta från en video kan bara den andra starta. Överlappningen är en pipeline som hanterar båda, och i den pipelinen är de två steg snarare än två kandidater. Varje siffra nedan är leverantörsrapporterad: inclusionAI:s från dess egna utvärderingsbilder, OpenBMB:s från ett kort publicerat den 12 oktober, och ingen av dem har reproducerats av en tredje part.

Vad var och en vägrar att göra

Det snabbaste sättet att se skillnaden är att lista de saker som varje modell inte accepterar, eftersom specifikationslistor är skrivna för att dölja detta.

• Ming-3.0-audio-flash kommer inte att titta på någonting. Dess indata är ljud och textinstruktioner; det finns ingen bildkodare i kodförrådet, inget visionstorn i konfigurationen och ingen videoväg sedan återuppladdningen den 15 oktober tog bort video-språkvarianten och dess patch-token. Om en bildruta har betydelse är den här modellen blind för den.

• MiniCPM-V 4.7 35B-A3B lyssnar inte på något. Den är taggad som image-text-to-text, dess processor hanterar bilder och videorutor, och det finns inget ljudtorn, ingen ASR-väg och inget TTS-huvud någonstans i de 70,4 GB vikter. En WAV-fil är inte en indata som den har en representation för.

• Ming-3.0-audio-flash genererar inte en bild, en redigering eller en 3D-tillgång. Dess valfria utdata utöver text är tal, via en Talker-modul med inbyggda röster och referensröster.

• MiniCPM-V 4.7 35B-A3B talar inte. Den läser en sida och svarar i text. För röst skulle du behöva lägga till en separat syntetiserare, vilket är ett annat produktbeslut.

Det är hela jämförelsens form. Allt annat – kontext, gleshet, licensiering, hårdvara – är sekundärt i förhållande till att modalitetsmängderna inte skär varandra.

Två väldigt olika sätt att vara gles

Båda modellerna är mixture-of-experts-konstruktioner, och ordet döljer motsatta tekniska satsningar.

Ming-3.0-audio-flash är gles eftersom den är enorm: 42 lager, dold storlek 2 560, 512 experter med 8 valda per token, 126B totalt och 6,5B aktiva, plus en Whisper-liknande ljudkodare med 32 lager och bredd 1 280 med 128 mel-bins. Glesheten ger genomströmning på en modell som annars skulle vara omöjlig att träna och omöjlig att serva. Den ger inte litenhet. Tjugofem bfloat16-shards plus ett Talker- och VAE-par uppgår till ungefär 259 GB på disk, och leverantörens 128K-serveringsprofil är tensorparallellism över åtta 80 GB H800.

MiniCPM-V 4.7 35B-A3B är gles av motsatt anledning: 35,2 miljarder lagrade parametrar som routar 8 av 256 per token, över 40 textlager med ett uppmärksamhetsmönster där tre linjära lager följs av ett fullt, bakom ett 27-lagers visionstorn med dold storlek 1 152 som infogas vid lager 6 i textstacken. Påståendet som hör till den designen är inte genomströmning i ett kluster utan genomförbarhet på en telefon. OpenBMB:s Lookahead Expert Scheduling förutspår vilka experter nästa lager behöver, förhämtar dem och överlappar inläsningen med beräkningen — den sorts knep man bara uppfinner när flaskhalsen är minnesbandbredd på en handenhet, inte FLOPs i ett datacenter.

• Totala parametrar — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35,2B.

• Aktiva parametrar — 6.5B mot ungefär 3B (8 av 256 experter plus en delad expert).

• Kontext — 131 072 tokens mot 262 144.

• Vikter på disk – ungefär 259 GB mot 70,4 GB fördelat på 16 shardar.

• Referenshårdvara – åtta 80 GB H800 mot en iPhone 17 Pro Max på 13+ tokens per sekund och cirka 3 GB.

• Licenser — MIT mot Apache-2.0, båda deklarerade i respektive kort.

A generated two-column infographic titled 'Ming-3.0-audio-flash vs MiniCPM-V 4.7 35B-A3B — the scoreboard'. The left column, headed 'Ming-3.0-audio-flash', reads 'Modality: audio in, text out', 'Total / active: 126B / 6.5B', 'Context: 131,072 tokens', 'Weights on disk: about 259 GB', 'Reference hardware: 8x 80 GB H800', 'Licence: MIT'. The right column, headed 'MiniCPM-V 4.7 35B-A3B', reads 'Modality: image in, text out', 'Total / active: 35.2B / about 3B', 'Context: 262,144 tokens', 'Weights on disk: 70.4 GB', 'Reference hardware: iPhone 17 Pro Max', 'Licence: Apache-2.0'. The footer reads 'Vendor-reported specs; no independent benchmark of either model.' The OrcaRouter logo is composited in the bottom-right corner.

Där det kinesiskspråkiga arbetet faktiskt skiljer sig

Båda modellerna är byggda av kinesiska labb och båda är starkast på kinesiska, men de är starka på olika saker, och leverantörernas tabeller gör det ovanligt tydligt.

Ming-3.0-audio-flash är starkast precis där tal blir svårt. I sina egna utvärderingsbilder rapporterar den ett genomsnittligt fel på 3,45 för kinesisk ASR och ett dialektgenomsnitt på 9,40 – kantonesiska 4,09, shanghainesiska 11,15, hokkien 12,84, Hubei 9,46, Hunan 8,76 – mot en referens på 48,41 i dialektgenomsnitt för Gemini 3.8 Flash. Samma bilder visar att den är svagare på talardiarisering (AMI 25,29 mot 11,16 för MiMo-V2.6 Pro) och på resonemang över långt ljud (Chain-poäng 12,31 mot 34,54 för Qwen3.8-Omni Flash). Så den ärliga tolkningen är: utmärkt på transkribering av tal med brytning, medelmåttig på att avgöra vem som talade och vad inspelningen betydde.

MiniCPM-V 4.7 35B-A3B är starkast på tät visuell kinesiska: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv reasoning 75.60, TextVQA 84.99 – allt från OpenBMB:s eget diagram, allt utan att ha reproducerats, och flera rader markerade som att de slår 35B-klassens Qwen- och Gemma-modeller med knappa marginaler. Visionstornets blandade 4x/16x-nedsampling av tokens är mekanismen: 16x slår samman tokens för hastighet, 4x behåller fyra gånger så många för fin detalj, och inställningen måste skickas till både processorn och generate() annars går de två isär.

Överlappningen i kinesisk förmåga är därför smal och verklig: ett skannat kinesiskt dokument med en bifogad röstanteckning är ett problem som kräver två modeller, och ingen av modellerna hanterar den andra halvan.

A screenshot of the Hugging Face model card for inclusionAI/Ming-3.0-audio-flash, showing an MIT licence, 22 downloads last month, a model-size badge reading 128B params, and a model summary table listing inclusionAI as developer, a native audio-language mixture of experts as model type, 126B total parameters with 6.5B activated per inference step, audio and text instructions as input, text or optional synthesized speech as output, and Chinese and English with varied accents and dialects as primary languages. The Inference Providers panel states the model isn't deployed by any provider.

Vad det kostar att sätta endera av dem i produktion

Det här är inte jämförbara siffror, och att låtsas något annat är det vanliga felet i den här typen av artikel.

Ming-3.0-audio-flash kostar en nod. Åtta 80 GB H800s är leverantörens profil för 128K-kontext; det validerade SGLang-alternativet använder fyra GPU:er och returnerar endast text. Det 9,3B-totala, 2,7B-aktiva syskonet, Ming-3.0-audio-tiny, får plats på ett stort kort, men dess publicerade siffror är konsekvent sämre i samma tabeller — long-audio Chain 10,56 mot 12,31, LongAudioSpan 35,45 mot 41,12, URO-Bench-Pro 54,15 mot 81,92 — så det är en annan produkt, inte en billigare.

MiniCPM-V 4.7 35B-A3B kostar en telefon, eller en enda GPU, eller ingenting alls om dina användare tar med enheten. Det har ett aktivt ekosystem som Ming inte har: GGUF-, FP8-, int4-, GPTQ- och AWQ-varianter publicerade inom dagar, en DSpark-utkastmodell för spekulativ avkodning, stöd i llama.cpp och Ollama samt vLLM och SGLang, 76 000 nedladdningar och över tusen gillningar i huvudrepot. Vad som än annars är sant är detta en modell som andra redan kör.

Den skillnaden i adoption är det mest beslutsrelevanta faktumet i artikeln och den har inget med kvalitet att göra. En modell med 76 000 nedladdningar har en community som redan har stött på din bugg. En modell med 22 nedladdningar har ett repository och ett kort.

A screenshot of the Hugging Face model card for openbmb/MiniCPM-V-4.7-35B-A3B, tagged image-text-to-text, Transformers, Safetensors, multimodal, on-device, lightweight, mixture of experts and conversational under an Apache-2.0 licence, with 105k likes and 5.83k followers. The card body describes Lookahead Expert Scheduling with fine-grained layer-wise quantization and DSpark speculative sampling, claiming 13+ tokens per second with just 3 GB of memory on an iPhone 17 Pro Max, and lists support for SGLang, vLLM, llama.cpp and Ollama inference frameworks, GGUF, BNB, AWQ and GPTQ formats, and chip platforms from Rockchip, Houmo, Intel, AMD and Arm.

Var möts de då?

I exakt en arkitektur: en applikation som måste både höra och se. Det uppenbara fallet är en support- eller compliance-pipeline — ett inspelat samtal på mandarin med en dialekttalare, plus ett inscannat formulär som uppringaren laddade upp, och en sammanfattning som måste koppla samman de två. Ming transkriberar och svarar på frågor om ljudet; MiniCPM läser formuläret och extraherar fält. Ingen av dem kan göra den andras halva, och sammanfogningen mellan dem är text.

Den sammankopplingen är den del som de flesta team underskattar. Två checkpoints med öppna vikter innebär två licensgranskningar, två driftsättningshistorier, två felmoder och ett modellanrop till för att avgöra vilket dokument som ska vart. Mings väg är Transformers med trust_remote_code=True och ett minsta minneskrav på hundratals gigabyte; MiniCPMs är en kvantiserad fil på en laptop. Den operativa kontrasten mellan de två halvorna av samma pipeline är större än kontrasten mellan de flesta konkurrerande modeller.

Routningslagret och dess begränsningar

OrcaRouter är inte värd för någon av checkpointarna. Båda är öppna vikter som du kör själv, ingen av dem finns i vår katalog, och ingen mening här bör läsas som ett erbjudande om en slutpunkt. Det en router faktiskt når är bindväven: klassificeraren som avgör om en inkommande tillgång är ljud eller en bild och skickar den till rätt nod, prompten som ramar in extraktionen, sammanfattaren som slår samman de två utdata till en rapport.

Det där är vanliga textanrop, och argumentet för att lägga dem bakom ett enda API för fler än 200 modeller med 0 % påslag är enkelt – leverantörens listpris förs vidare, så en leverantörs prissänkning slår igenom hos oss samma dag, en nyckel i stället för tre avtal. Routnings-DSL:en är den del som passar just det här problemet: en pipeline med en gren för ljud och en gren för bilder är ett routningsproblem innan det är ett modellproblem, och automatisk failover håller dispatchern vid liv när klassificeringsmodellen hackar, vilket är det enda anropet i kedjan som du inte har råd att förlora.

Gränsen är lika enkel. Routing gör inte att en 259 GB checkpoint blir hostad, och det gör inte en telefonstor visionsmodell till ett ASR-system.

Den korta versionen

Ming-3.0-audio-flash är den mer ambitiösa modellen och den mindre användbara i dag: bättre dialektal kinesisk taligenkänning än något annat med publicerade siffror i sin klass, ingen oberoende verifiering, ingen serving-integration mergad och ett hårdvarukrav som gör den ouppnåelig för alla utan en GPU-nod. MiniCPM-V 4.7 35B-A3B är den mer färdiga produkten: ett model card, kvantiseringar, ramverksstöd, en genuint nyskapande satsning på körning på enheten och en community. Den är också en visionsmodell, vilket innebär att den inte kan göra det som den andra finns till för.

Välj utifrån modalitet och jämförelsen tar trettio sekunder. Välj utifrån ambition och du kommer att lägga en månad på att upptäcka att den ambitiösa har 22 nedladdningar.