Eine generierte Hero-Card mit dem Titel „Ein Modell, das hört, und ein Modell, das in Ihre Tasche passt“ und dem Untertitel „Ming-3.0-audio-flash vs MiniCPM-V 4.7 35B-A3B“. Zwei Panels mit Strichzeichnungen unter dem Titel sind mit „acht GPUs“ und „ein Telefon“ beschriftet. Das OrcaRouter-Logo ist in der unteren rechten Ecke eingeblendet.
Guides & Insights

Ming-3.0-audio-flash vs. MiniCPM-V 4.7: Ein Modell, das hört, und ein Modell, das in die Hosentasche passt

Autor

Elias Hawthorne

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Wenn Sie sich zwischen Ming-3.0-audio-flash und MiniCPM-V 4.7 35B-A3B entscheiden, ist die Entscheidung auf keiner der Achsen, die Sie normalerweise abwägen würden, knapp, weil sie nicht um denselben Slot konkurrieren. Das eine ist ein Audio-Sprach-Mixture-of-Experts mit 126 Milliarden Parametern – 6,5 Milliarden davon aktiv –, das inclusionAI am 3. September 2026 hochgeladen und sechs Wochen später dokumentiert hat und das in seiner Referenzkonfiguration acht 80-GB-GPUs benötigt. Das andere ist ein Sparse-Vision-Sprache-Modell mit 35,2 Milliarden Parametern, das OpenBMB am Abend des 6. Oktober 2026 ganz ohne Model Card auf Hugging Face veröffentlichte, die Model Card am 12. Oktober nachreichte und angibt, auf einem iPhone 17 Pro Max mit etwa 3 GB Arbeitsspeicher mehr als 13 Tokens pro Sekunde zu dekodieren. Das eine hört zu und steht in einem Rack. Das andere sieht und passt in eine Hand. Was es lohnend macht, sie auf derselben Seite zu behandeln, ist, dass beide in denselben sechs Wochen von chinesischen Laboren still veröffentlicht wurden, beide offene Gewichte sind und beide von Teams evaluiert werden, die genau einen Slot in ihrer Architektur haben. Die dokumentierten KI-Ausfälle und Deployment-Vorfälle hinter Vergleichen wie diesem sind im OrcaRouter AI Incident Archive gesammelt, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Vertrauensgrad und seine Kennzeichnung als umstritten trägt.

Hier vorab die Entscheidungsregel, dann die Belege dafür. Wenn es sich bei der Eingabe um Ton handelt – Anrufe, Besprechungen, Dialekte, Musik, ein generiertes Voiceover, das Sie prüfen müssen –, kann nur eines dieser Modelle starten. Wenn es sich bei der Eingabe um ein Bild, ein Dokument, ein Diagramm, einen Screenshot oder ein Videoframe handelt, kann nur das andere starten. Die Schnittmenge ist eine Pipeline, die beides verarbeitet, und in dieser Pipeline sind sie zwei Stufen statt zwei Kandidaten. Alle folgenden Zahlen stammen vom Anbieter: die von inclusionAI aus ihren eigenen Evaluationsbildern, die von OpenBMB aus einer am 12. Oktober veröffentlichten Karte, und keine davon wurde von einem Dritten reproduziert.

Was jeder Einzelne zu tun verweigert

Der schnellste Weg, den Unterschied zu erkennen, ist, die Dinge aufzulisten, die jedes Modell nicht akzeptiert, weil Spezifikationslisten so geschrieben sind, dass sie genau das verbergen.

• Ming-3.0-audio-flash sieht sich nichts an. Seine Eingaben sind Audio- und Textanweisungen; es gibt keinen Bildencoder im Repository, keinen Vision-Tower in der Konfiguration und keinen Videopfad, seit der erneute Upload vom 15. Oktober die Video-Sprach-Variante und ihr Patch-Token entfernt hat. Wenn es auf ein Einzelbild ankommt, ist dieses Modell dafür blind.

• MiniCPM-V 4.7 35B-A3B hört auf nichts. Es ist mit image-text-to-text getaggt, sein Prozessor verarbeitet Bilder und Videoframes, und es gibt keinen Audio-Tower, keinen ASR-Pfad und keinen TTS-Head irgendwo in den 70,4 GB Gewichten. Eine WAV-Datei ist keine Eingabe, für die es eine Repräsentation besitzt.

• Ming-3.0-audio-flash generiert weder ein Bild noch eine Bearbeitung noch ein 3D-Asset. Seine optionale Ausgabe über Text hinaus ist Sprache – über ein Talker-Modul mit integrierten Stimmen und Referenzstimmen.

• MiniCPM-V 4.7 35B-A3B spricht nicht. Es liest eine Seite und antwortet in Textform. Für Sprachausgabe würde man einen separaten Synthesizer ergänzen, was eine andere Produktentscheidung wäre.

Das ist die gesamte Gestalt des Vergleichs. Alles andere — Kontext, Sparsität, Lizenzierung, Hardware — ist zweitrangig gegenüber der Tatsache, dass sich die Modalitätenmengen nicht überschneiden.

Zwei sehr unterschiedliche Arten, spärlich zu sein

Beide Modelle sind Mixture-of-Experts-Designs, und das Wort verbirgt gegensätzliche Engineering-Wetten.

Ming-3.0-audio-flash ist sparse, weil es riesig ist: 42 Schichten, Hidden Size 2.560, 512 Experten mit 8 pro Token ausgewählt, 126B insgesamt und 6,5B aktiv, plus ein Audio-Encoder im Whisper-Stil mit 32 Schichten und Breite 1.280 mit 128 Mel-Bins. Die Sparsity bringt Durchsatz bei einem Modell, das sonst weder trainierbar noch bedienbar wäre. Klein bringt sie nicht. Fünfundzwanzig bfloat16-Shards plus ein Talker- und ein VAE-Paar kommen auf rund 259 GB auf der Festplatte, und das 128K-Serving-Profil des Anbieters ist Tensor-Parallelität über acht 80-GB-H800s.

MiniCPM-V 4.7 35B-A3B ist aus dem umgekehrten Grund sparse: 35,2 Milliarden gespeicherte Parameter, von denen pro Token 8-von-256 geroutet werden, über 40 Textschichten mit einem Muster aus drei linearen auf eine volle Attention, hinter einem 27-schichtigen Vision-Tower mit Hidden Size 1.152, der sich an Schicht 6 des Text-Stacks einfügt. Die mit diesem Design verbundene Behauptung ist nicht Durchsatz auf einem Cluster, sondern Nutzbarkeit auf einem Smartphone. OpenBMBs Lookahead Expert Scheduling sagt voraus, welche Experten die nächste Schicht benötigen wird, lädt sie vorab und überlappt das Laden mit der Berechnung – die Art von Trick, die man sich nur einfallen lässt, wenn der Engpass die Speicherbandbreite auf einem Handheld ist und nicht die FLOPs in einem Rechenzentrum.

• Gesamtparameter — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35,2B.

• Aktive Parameter — 6,5 Mrd. gegenüber etwa 3 Mrd. (8 von 256 Experten plus ein gemeinsamer Experte).

• Kontext — 131.072 Token gegenüber 262.144.

• Gewichte auf der Festplatte — etwa 259 GB gegenüber 70,4 GB verteilt auf 16 Shards.

• Referenzhardware — acht H800 mit 80 GB gegenüber einem iPhone 17 Pro Max mit 13+ Tokens pro Sekunde und etwa 3 GB.

• Lizenzen — MIT gegenüber Apache-2.0, beide in den jeweiligen Karten angegeben.

A generated two-column infographic titled 'Ming-3.0-audio-flash vs MiniCPM-V 4.7 35B-A3B — the scoreboard'. The left column, headed 'Ming-3.0-audio-flash', reads 'Modality: audio in, text out', 'Total / active: 126B / 6.5B', 'Context: 131,072 tokens', 'Weights on disk: about 259 GB', 'Reference hardware: 8x 80 GB H800', 'Licence: MIT'. The right column, headed 'MiniCPM-V 4.7 35B-A3B', reads 'Modality: image in, text out', 'Total / active: 35.2B / about 3B', 'Context: 262,144 tokens', 'Weights on disk: 70.4 GB', 'Reference hardware: iPhone 17 Pro Max', 'Licence: Apache-2.0'. The footer reads 'Vendor-reported specs; no independent benchmark of either model.' The OrcaRouter logo is composited in the bottom-right corner.

Wo sich die chinesischsprachige Arbeit tatsächlich unterscheidet

Beide Modelle werden von chinesischen Laboren entwickelt und sind beide im Chinesischen am stärksten, aber sie sind bei unterschiedlichen Dingen stark, und die Anbietertabellen machen das ungewöhnlich deutlich.

Ming-3.0-audio-flash ist genau dort am stärksten, wo Sprache schwierig wird. In den eigenen Evaluationsgrafiken meldet es eine durchschnittliche chinesische ASR-Fehlerrate von 3,45 und einen Dialektdurchschnitt von 9,40 — Kantonesisch 4,09, Shanghainesisch 11,15, Hokkien 12,84, Hubei 9,46, Hunan 8,76 — gegenüber einem Gemini-3.8-Flash-Referenzwert von 48,41 beim Dialektdurchschnitt. Dieselben Grafiken zeigen, dass es bei der Sprecherdiarisierung unterlegen ist (AMI 25,29 gegenüber 11,16 bei MiMo-V2.6 Pro) und beim Reasoning für lange Audiodateien (Chain-Wert 12,31 gegenüber 34,54 bei Qwen3.8-Omni Flash). Die ehrliche Lesart ist also: hervorragend bei akzentbehafteter Transkription, durchschnittlich darin, herauszufinden, wer gesprochen hat und was die Aufnahme bedeutete.

MiniCPM-V 4.7 35B-A3B ist am stärksten bei dichtem visuellem Chinesisch: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv Reasoning 75.60, TextVQA 84.99 — alle aus OpenBMBs eigener Tabelle, alle nicht reproduziert, und mehrere Zeilen sind so markiert, dass sie Q​wen- und G​emma-Modelle der 35B-Klasse knapp schlagen. Das gemischte 4x/16x-Token-Downsampling des Vision-Towers ist der Mechanismus: 16x fasst Token für Geschwindigkeit zusammen, 4x behält viermal so viele für feine Details, und die Einstellung muss sowohl an den Prozessor als auch an generate() übergeben werden, sonst stimmen die beiden nicht überein.

Die Überschneidung bei der chinesischen Fähigkeit ist daher schmal und real: Ein gescanntes chinesisches Dokument mit angehängter Sprachnotiz ist ein Zwei-Modell-Problem, und keines der beiden Modelle übernimmt die andere Hälfte.

A screenshot of the Hugging Face model card for inclusionAI/Ming-3.0-audio-flash, showing an MIT licence, 22 downloads last month, a model-size badge reading 128B params, and a model summary table listing inclusionAI as developer, a native audio-language mixture of experts as model type, 126B total parameters with 6.5B activated per inference step, audio and text instructions as input, text or optional synthesized speech as output, and Chinese and English with varied accents and dialects as primary languages. The Inference Providers panel states the model isn't deployed by any provider.

Was es kostet, eines der beiden in Produktion zu bringen

Das sind keine vergleichbaren Zahlen, und so zu tun, als wären sie es, ist der übliche Fehler bei dieser Art von Text.

Ming-3.0-audio-flash belegt einen Node. Acht 80-GB-H800 sind das Profil des Anbieters für 128K Kontext; die validierte SGLang-Alternative nutzt vier GPUs und liefert ausschließlich Text. Das Schwestermodell mit insgesamt 9,3B und 2,7B aktiven Parametern, Ming-3.0-audio-tiny, passt auf eine große Karte, doch seine veröffentlichten Werte sind auf denselben Tabellen durchgängig schlechter – long-audio Chain 10,56 gegenüber 12,31, LongAudioSpan 35,45 gegenüber 41,12, URO-Bench-Pro 54,15 gegenüber 81,92 – es ist also ein anderes Produkt, kein günstigeres.

MiniCPM-V 4.7 35B-A3B kostet so viel wie ein Handy oder eine einzelne GPU – oder gar nichts, wenn Ihre Nutzer das Gerät selbst mitbringen. Es hat ein aktives Ökosystem, das Ming nicht hat: GGUF-, FP8-, int4-, GPTQ- und AWQ-Varianten, die innerhalb weniger Tage veröffentlicht wurden, ein DSpark-Draft-Modell für spekulatives Decoding, Unterstützung in llama.cpp und Ollama sowie vLLM und SGLang, 76.000 Downloads und über tausend Likes im Haupt-Repository. Was auch immer sonst zutrifft: Dies ist ein Modell, das andere bereits ausführen.

Dieser Unterschied bei der Verbreitung ist die entscheidungsrelevanteste Tatsache im Artikel, und er hat nichts mit Qualität zu tun. Ein Modell mit 76.000 Downloads hat eine Community, die bereits auf Ihren Bug gestoßen ist. Ein Modell mit 22 Downloads hat ein Repository und eine Modellkarte.

A screenshot of the Hugging Face model card for openbmb/MiniCPM-V-4.7-35B-A3B, tagged image-text-to-text, Transformers, Safetensors, multimodal, on-device, lightweight, mixture of experts and conversational under an Apache-2.0 licence, with 105k likes and 5.83k followers. The card body describes Lookahead Expert Scheduling with fine-grained layer-wise quantization and DSpark speculative sampling, claiming 13+ tokens per second with just 3 GB of memory on an iPhone 17 Pro Max, and lists support for SGLang, vLLM, llama.cpp and Ollama inference frameworks, GGUF, BNB, AWQ and GPTQ formats, and chip platforms from Rockchip, Houmo, Intel, AMD and Arm.

Wo treffen sie sich dann?

In genau einer Architektur: eine Anwendung, die sowohl hören als auch sehen muss. Der offensichtliche Fall ist eine Support- oder Compliance-Pipeline – ein aufgezeichnetes Telefonat auf Mandarin mit einem Dialekt sprechenden Anrufer sowie ein vom Anrufer hochgeladenes eingescanntes Formular und eine Zusammenfassung, die beide miteinander verbinden muss. Ming transkribiert das Audio und beantwortet Fragen dazu; MiniCPM liest das Formular und extrahiert Felder. Keines kann den Teil des anderen übernehmen, und die Verbindung zwischen ihnen ist Text.

Dieser Join ist der Teil, den die meisten Teams unterschätzen. Zwei Open-Weight-Checkpoints bedeuten zwei Lizenzprüfungen, zwei Deployment-Geschichten, zwei Fehlermodi und einen weiteren Modellaufruf, um zu entscheiden, welches Dokument wohin gehört. Mings Weg ist Transformers mit trust_remote_code=True und einer Speicheruntergrenze im Bereich hunderter Gigabyte; MiniCPMs Weg ist eine quantisierte Datei auf einem Laptop. Der operative Kontrast zwischen den beiden Hälften derselben Pipeline ist größer als der Kontrast zwischen den meisten konkurrierenden Modellen.

Die Routing-Schicht und ihre Grenzen

OrcaRouter hostet keinen der beiden Checkpoints. Beide sind offene Gewichte, die Sie selbst ausführen, keines befindet sich in unserem Katalog, und kein Satz hier sollte als Angebot eines Endpunkts verstanden werden. Was ein Router tatsächlich abdeckt, ist das verbindende Gewebe: der Klassifikator, der entscheidet, ob ein eingehendes Asset Audio oder ein Bild ist, und es an den richtigen Knoten weiterleitet, der Prompt, der die Extraktion einrahmt, der Summarizer, der die beiden Ausgaben zu einem Bericht zusammenführt.

Das sind normale Textaufrufe, und das Argument, sie hinter einer API für mehr als 200 Modelle bei 0 % Aufschlag zu legen, ist einfach — der Listenpreis des Anbieters wird durchgereicht, sodass eine Preissenkung eines Anbieters bei uns noch am selben Tag live ist, ein Schlüssel statt drei Verträge. Die Routing-DSL ist der Baustein, der zu diesem konkreten Problem passt: Eine Pipeline mit einem Zweig für Audio und einem Zweig für Bilder ist ein Routing-Problem, bevor sie ein Modell-Problem ist, und automatisches Failover hält den Dispatcher am Leben, wenn das Klassifizierungsmodell stockt, und das ist der eine Aufruf in der Kette, den Sie sich nicht leisten können zu verlieren.

Die Grenze ist ebenso einfach. Routing macht aus einem 259-GB-Checkpoint kein gehostetes Modell, und es macht aus einem Vision-Modell in Telefongröße kein ASR-System.

Die Kurzfassung

Ming-3.0-audio-flash ist das ambitioniertere Modell und heute das weniger nutzbare: bessere dialektale chinesische Spracherkennung als alles andere mit veröffentlichten Zahlen in seiner Klasse, keine unabhängige Überprüfung, keine gemergte Serving-Integration und eine Hardwareanforderung, die es für jeden ohne GPU-Knoten unerreichbar macht. MiniCPM-V 4.7 35B-A3B ist das fertigere Produkt: eine Model Card, Quantisierungen, Framework-Unterstützung, eine On-Device-Story, die wirklich neuartig ist, und eine Community. Es ist außerdem ein Vision-Modell, was bedeutet, dass es nicht das tun kann, wofür das andere existiert.

Wähle nach Modalität, und der Vergleich dauert dreißig Sekunden. Wähle nach Ambition, und du wirst einen Monat damit verbringen, herauszufinden, dass der Ambitionierte 22 Downloads hat.