MiniCPM-V 4.7 35B-A3B vs. Qwen2.5-Omni: Neunzehn Monate später hört dir eines von ihnen noch zu

Stellt man MiniCPM-V 4.7 35B-A3B auf einem Datenblatt neben Qwen2.5-Omni, gewinnt das neuere Modell fast jede Zeile. Es hat achtmal so viel Kontext, eine spärliche Architektur, die pro Token ein Zwölftel ihrer Parameter aktiviert, und ein Jahrzehnt an Inferenz-Tooling, das es nicht gab, als das ältere Modell erschien. Doch dann kommt man zur Audio-Zeile, und MiniCPM-V 4.7 35B-A3B hat dort überhaupt nichts. Qwen2.5-Omni, veröffentlicht Ende März 2025, nimmt Audio entgegen und streamt natürliche Sprache zurück; MiniCPM-V 4.7, dessen Gewichte im Oktober 2026 erschienen, nimmt Text, Bilder und Video entgegen und gibt Text zurück. Neunzehn Monate Fortschritt bei diesem speziellen Paar brachten kein besseres Omni-Modell hervor. Es brachte ein besseres Vision-Modell hervor, das nicht das tut, worauf das ältere Modell ausgelegt war.

Diese Darstellung ist kein Seitenhieb gegen eines der beiden. Sie macht die gesamte Gestalt des Vergleichs aus, und sie ist der Grund, warum ein Leser, der Stimme braucht, und ein Leser, der tausend eingescannte Seiten lesen muss, mit unterschiedlichen Antworten herausgehen sollten. Zur Quellenlage: Die Zahlen von Qwen2.5-Omni stammen vom Anbieter aus März 2025, sind inzwischen neunzehn Monate alt und teilweise durch breiten Einsatz validiert. Die von MiniCPM-V 4.7 35B-A3B stammen von OpenBMB, veröffentlicht auf einer Modellkarte am 12. Oktober 2026 – der ersten Karte des Modells, zehn Tage nachdem die Gewichte erstmals erschienen – und keine davon wurde außerhalb des Labors reproduziert.

Was das ältere Modell tatsächlich war

Qwen2.5-Omni war das erste durchgängige omnimodale Modell dieser Reihe, und die Darstellung des Anbieters war damals eindeutig: Es war die Antwort auf das Problem des „Zoos der Spezialisten“, bei dem Transkription, Bildverarbeitung und Stimme jeweils ein eigenes Modell und eine eigene Verbindungsschicht benötigten. Das 7B-Modell nahm Text, Bilder, Audio und Video als Eingabe entgegen und antwortete in Textform oder in gestreamter natürlicher Sprache, mit zwei festen Stimmen: Chelsie und Ethan. Es beanspruchte Spitzenergebnisse im OmniBench-Fusions-Benchmark vor Gemini-1.5-Pro sowie einen Qualitätswert von 4,51 bei der Spracherzeugung, den der Anbieter als menschliches Niveau beschrieb.

Die Technik hielt stand, weil sie für die Einschränkung entworfen wurde und nicht um sie herum. Thinker-Talker teilte die Aufgabe in zwei Teile: Ein Thinker-Transformer fusionierte die Audio- und Bild-Encoder und erzeugte Semantik und Text, während ein Talker Sprach-Token aus den verborgenen Zuständen des Thinkers streamte und die vollständige Gesprächshistorie teilte. Zeitlich ausgerichtetes multimodales RoPE verschränkte Video- und Audiopositionen, sodass die beiden Streams synchron blieben, und blockweises Streaming ermöglichte es den Encodern, Wahrnehmungsarbeit zu leisten, während das Sprachmodell lange Sequenzen verarbeitete — was gesprochene Antworten mit geringer Latenz überhaupt erst möglich machte.

Die Grenzen waren genauso real, und sie betrafen den Speicher, nicht den Kontext. Die eigenen Tabellen des Anbieters beziffern BF16-Inferenz mit FlashAttention-2 auf etwa 31 GB GPU-Speicher für ein 15-Sekunden-Video, 42 GB für 30 Sekunden und 60 GB für eine volle Minute – gegenüber einem Kontextfenster von 32.768 Token. Eine Minute Video auf einem 7B-Modell, auf einer der größten Einzel-GPUs, die man mieten konnte, ist die Zahl, die man im Blick behalten muss – sie ist die Zahl, zu deren Vernichtung alles danach gebaut wurde.

Was das neue Modell stattdessen tut

MiniCPM-V 4.7 35B-A3B geht einen ganz anderen Weg. Es ist OpenBMBs erstes MoE in der MiniCPM-V-Reihe: 256 Experten mit 8 aktiven pro Token über 40 Layer hinweg, ein Kontextfenster von 262.144 Token und ein Vokabular von 248.144 Token, was auf ungefähr 3B aktive Parameter von insgesamt 35,2B hinausläuft. Die Vision läuft über ein SigLIP2-Modul mit früher intra-ViT-Kompression von LLaVA-UHD v4 und einem wählbaren gemischten Token-Kompressionsmodus mit 4x/16x — standardmäßig 16x, 4x, wenn feine Details die Token wert sind. Es verarbeitet einzelne Bilder, Multi-Bild-Sets und Videos. Es antwortet in Textform.

Die zentrale Behauptung der Karte ist, dass dies das erste Open-Source-MoE-Modell mit verlustfreier, flüssiger On-Device-Inferenz ist, erreicht durch Lookahead Expert Scheduling, feingranulare schichtweise Quantisierung und spekulatives Sampling über die separaten DSpark-Drafts, bei berichteten mehr als 13 Tokens pro Sekunde auf einem iPhone 17 Pro Max. Diese Zahl wurde vom Anbieter angegeben, ist nicht reproduziert und nicht näher spezifiziert – kein Quantisierungsformat, kein Build, kein Prompt, keine Messmethode. Die Karte behauptet außerdem einen höheren Gesamtwert im Instruct-Modus als Qwen3.6 35B-A3B bei geringerer Inferenzzeit, und diese Behauptung wird in einem Diagrammbild statt in einer Tabelle dargestellt, sodass sie nicht als Zahl zitiert werden kann und auch nicht als solche behandelt werden sollte.

Sieben Dimensionen, beide Seiten

• Eingabemodalitäten — Qwen2.5-Omni verarbeitet Text, Bilder, Audio und Video; MiniCPM-V 4.7 35B-A3B verarbeitet Text, Bilder und Video, ohne jeglichen Audio-Pfad.

• Ausgabe — Text plus gestreamte natürliche Sprache in zwei festen Stimmen, gegenüber nur Text.

• Kontext — 32.768 Token gegenüber 262.144, eine achtfache Steigerung.

• Parameter — die 7B-Angabe, nach der der Anbieter das Modell benennt, gegenüber 35,2B insgesamt mit 3B aktiv auf der MiniCPM-Seite. Das Repository selbst führt 11B Parameter für den Checkpoint auf, weil sich die 7B auf das Sprachmodell beziehen und nicht auf die daneben stehenden Vision- und Audio-Encoder — eine nützliche Erinnerung daran, dass „7B“ hier ebenso sehr ein Name wie eine Messgröße ist.

• Speicherbedarf — die eigenen Tabellen des Anbieters zeigen rund 31 GB für ein 15-Sekunden-Video und 60 GB für eine Minute; MiniCPM-V 4.7 umfasst etwa 70 GB an BF16-Gewichten, bevor überhaupt ein KV-Cache hinzukommt, weshalb seine quantisierten Builds und die On-Device-Story einen so großen Teil der Karte ausmachen.

• Lizenz — Apache-2.0 bei beiden, der einzige Punkt, in dem sie vorbehaltlos übereinstimmen.

• Deployment-Tooling — neunzehn Monate Community-Quantisierungen und Tooling für SGLang-, vLLM-, llama.cpp-, Ollama- und OpenVINO-Unterstützung, GGUF/BNB/AWQ/GPTQ/FP8-Builds sowie iOS-, Android- und HarmonyOS-Apps.

• Öffentliche Evaluation — eine neunzehn Monate alte OmniBench-Position von 0,561, die weithin zitiert wurde, gegenüber einer Karte, die überhaupt keine zitierbare Evaluationstabelle enthält.

Das Audioloch ist die ganze Entscheidung.

Wenn Ihre Pipeline ein Modell braucht, das etwas hört, endet dieser Vergleich schon im ersten Absatz. Qwen2.5-Omni ist das einzige der beiden Modelle, das Audio entgegennimmt, das einzige, das spricht, und das einzige mit einem etablierten Speech-Stack – Thinker-Talker, TMRoPE, blockweises Streaming, zwei feste Stimmen – dahinter. Es ist außerdem das einzige der beiden, das irgendjemand im großen Maßstab eingesetzt hat, und neunzehn Monate Community-Quantisierungen und -Tooling sind mehr wert als ein Datenblatt, wenn man versucht, ein Modell noch in diesem Quartal in eine Anwendung zu bekommen.

Was MiniCPM-V 4.7 dafür bietet, ist ein deutlich längeres Gedächtnis und ein wesentlich günstigeres Rechenprofil pro Token für lange visuelle Dokumente. Ein 262K-Fenster und 3B aktive Parameter sind ein wirklich anderes Instrument als ein 32K-Fenster bei einem dichten 7B-Modell – und für eine Arbeitslast, die aus Tausenden Seitenbildern, Screenshots oder langen Video-Transkripten besteht, ist die Form des neueren Modells die richtige. Es kann nur nicht das Modell sein, das ans Telefon geht.

Das ist der Kompromiss, klar ausgedrückt: Reichweite gegen Breite. Das ältere Modell deckt mehr Bedeutungen ab. Das neuere deckt mehr Seiten ab.

Zwei sehr unterschiedliche Beweisspuren

Hier verläuft die Asymmetrie in die andere Richtung, und es lohnt sich, dabei genau zu sein.

Die Zahlen von Qwen2.5-Omni sind alt genug, um durch Nutzung teilweise validiert worden zu sein. Ein neunzehn Monate altes Modell mit einer viel zitierten Benchmark-Position, einem Jahrzehnt nachgelagerter Quantisierungen und einer großen installierten Basis ist in keinem formalen Sinne eine bewiesene Größe, aber seine Behauptungen hatten lange Zeit, widerlegt zu werden, und wurden es nicht. Insbesondere die Speicherwerte wurden als technische Einschränkungen veröffentlicht, nicht als Marketing, und sie verhielten sich wie technische Einschränkungen.

Die Zahlen von MiniCPM-V 4.7 stehen seit zwei Wochen im Raum, und es gibt null externe Verifizierung. Das Modell kam am 6. Oktober ohne Dokumentation, und die Modellkarte, die Lizenz und der Abschnitt mit den Behauptungen kamen am 12. Oktober hinzu. Nach wie vor gibt es keine Evaluierungstabelle, keinen technischen Bericht, und keine dritte Partei hat ein Ergebnis veröffentlicht. Die einzige Stelle mit echten veröffentlichten Zahlen ist der separate DSpark-Draft-Checkpoint, dessen Werte für akzeptierte Tokens pro Schritt von OpenBMB selbst stammen und die das Labor nicht für das übergeordnete Modell veröffentlicht hat.

Die richtige Haltung zum neuen Modell ist also: die Architektur als gelesen zu behandeln (sie steht in der Konfigurationsdatei), die Distribution als real zu behandeln (die Gewichte existieren in sechs Formaten) und jede Leistungsangabe als eine Behauptung zu behandeln, die auf eine Zweitmeinung wartet. Der letzte Punkt ist kein Dauerzustand. Es ist nur der Stand vom 13. Oktober.

Eines der beiden ausführen, und wofür der Router gedacht ist

Bei beiden handelt es sich um Dateien, die Sie selbst ausliefern. Weder MiniCPM-V 4.7 35B-A3B noch Qwen2.5-Omni ist im gehosteten Katalog von OrcaRouter enthalten, und nichts hier sollte als Behauptung gelesen werden, dass wir sie routen — MiniCPM-V 4.7 ist ein zwei Wochen alter Checkpoint, für den Sie zwei Beschleuniger benötigen würden, um ihn unquantisiert auszuführen, und Qwen2.5-Omni ist ein Open-Weight-Modell aus 2025, dessen praktische Heimat eine vLLM-Instanz ist, die Sie betreiben.

Wo ein Router seinen Platz verdient, ist auf der anderen Seite dieser Grenze. Die meisten Teams, die ein selbst gehostetes Vision-Modell betreiben, brauchen weiterhin ein gehostetes Modell für die Fälle, die das lokale nicht abdeckt – Reasoning über lange Horizonte, Tool-Nutzung, die Audioeingaben, die MiniCPM-V 4.7 nicht akzeptiert. OrcaRouter stellt über 200 gehostete Modelle hinter einen einzigen Schlüssel, gibt den Listenpreis jedes Anbieters ohne Aufschlag unsererseits weiterund schaltet automatisch um, wenn ein Anbieter schlechter wird – das heißt, dieses zweite Modell hinzuzufügen ist eine Routing-Änderung und kein zweiter Vertrag. Die nächste gehostete Entsprechung zum MiniCPM-Modell ist Qwen3.6 35B A3B – 35B gesamt, 3B aktiv, 262K Kontext, Text-Bild-Video-Eingabe – zu 0,25 $ pro Million Eingabe-Tokens und 1,48 $ pro Million Ausgabe-Tokens, ein fairer Maßstab dafür, was Self-Hosting tatsächlich einspart.

Welches, und wann

Nimm Qwen2.5-Omni, wenn du überhaupt Audio oder Sprache brauchst, wenn du ein Modell mit neunzehn Monaten Deployment im Rücken willst oder wenn 32K Token und eine 60-GB-Obergrenze für eine Minute Video in dein Budget passen. Seine Einschränkungen sind bekannt und dokumentiert, was ein Vorteil ist, wenn man ausliefert.

Nimm MiniCPM-V 4.7 35B-A3B, wenn dein Problem ein langer visueller Kontext und Textausgabe sind, wenn du die permissive Lizenz willst und wenn du bereit bist, früh dabei zu sein – denn früh dabei wärst du. Kein Drittanbieter hat es ausgeführt, die On-Device-Behauptung ist nicht reproduziert, und die Benchmarks existieren nicht. Was du dafür bekommst, ist ein dokumentiertes, quantifizierbares Multi-Runtime-Modell mit einem 262K-Fenster und einer plausiblen Effizienzgeschichte, und du darfst derjenige sein, der herausfindet, ob die Geschichte hält.

Was die Antwort ändern würde: eine Benchmark-Tabelle von OpenBMB oder eine reproduzierte Acceptance-Length aus dem DSpark-Entwurf – nach wie vor der günstigste Weg zu einer externen Zahl für diese Familie. Was die Antwort nicht ändern würde, ist mehr Zeit. Neunzehn Monate haben MiniCPM-V 4.7 nicht die Fähigkeit zu hören verliehen, und nichts auf der Roadmap deutet darauf hin, dass sie kommt.