Karte mit dem Titel MiniCPM5-15B-A2.5B, untertitelt „Von vier Runtimes portiert, von keiner herunterladbar“, mit abgehakten Karten für SGLang, llama.cpp, OpenVINO und InfiniLM neben einer Karte „Kein Repository“ sowie Badges mit der Aufschrift „15B gesamt“, „A2.5B aktiv“ und „DSpark-Draft vorhanden“
Engineering & Research

MiniCPM5-15B-A2.5B: Von vier Runtimes portiert, von keiner herunterladbar

Autor

Gideon Frost

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Am 16.11.2026 erschien in llama.cpp ein Pull Request mit dem Titel „xcy/models: add MiniCPM5 MoE inference support“. Es ist eine sorgfältige Arbeit – ein neuer Architektureintrag, ein Konvertierungspfad, Tests – und sie enthielt eine Zeile in ihrem Validierungsabschnitt, bei der ein Maintainer stutzte: Der Autor hatte sie gegen „pre-existing MiniCPM5-15B-A2.5B GGUFs“ auf einer H800 ausgeführt. CISC stellte die naheliegende Frage. Noch nicht öffentlich, soweit ich das beurteilen kann? tc-mb, in dessen GitHub-Profil eine Mitgliedschaft in den Projekten MiniCPM-V und MiniCPM-o angegeben ist, antwortete mit einem Wort: „ok“. Der Pull Request wurde zwei Tage später ungemergt geschlossen, und das Modell, zu dem diese GGUFs gehören – MiniCPM5-15B-A2.5B, der Sparse-Mixture-of-Experts-Eintrag in OpenBMBs MiniCPM5-Reihe –, hat weiterhin kein Repository, keine Modellkarte, keine Lizenzdatei und keine Ankündigung, die wir irgendwo finden konnten.

Das hier ist also ein Beitrag zum bisherigen Wissensstand, und die Beschaffenheit der Belege ist wichtiger als sonst. Es gibt keine Produktseite zum Lesen und keinen Hersteller-Benchmark, mit dem man sich auseinandersetzen könnte. Was es gibt, ist eine Reihe von Engine-Patches aus vier separaten Inferenz-Stacks, geschrieben von Leuten, die den Checkpoint vor sich hatten, plus ihre Testlogs. Das reicht, um die Architektur von MiniCPM5 MoE ziemlich präzise zu beschreiben und etwas Ehrliches darüber zu sagen, wie ausgereift die Unterstützung ist. Es reicht nicht, um dir zu sagen, wie das Modell abschneidet, was es kostet oder wann du es ausführen kannst.

Was der Name Ihnen sagen darf

Der Checkpoint-Name ist das einzige Spezifikationsblatt, das jemand außerhalb von ModelBest veröffentlicht hat. MiniCPM5-15B-A2.5B liest sich als 15B Gesamtparameter mit 2,5B aktiven Parametern pro Token — die Konvention aus Gesamt- und Aktivparametern, die jedes sparse MoE dieser Größenklasse seit Mixtral verwendet hat. Nichts in irgendeinem Patch widerspricht dem, und die eigenen Testnotizen des SGLang-Ports beziehen sich auf „die ursprüngliche 15B-Checkpoint-Konfiguration“, die sich ohne Änderung auflösen lässt, was konsistent ist.

Alles darüber hinaus ist Spekulation, und es lohnt sich, klar und direkt zu sagen, warum. Der SGLang-Patch fügt eine MiniCPM5Config-Klasse hinzu, deren Standardwerte 32 Layer, 4.096 Hidden-Dimensionen, 32 Heads, 64 geroutete Experten, 2 geteilte Experten und ein Experten-FFN mit 1.407 Breite angeben. Das sind Klassenstandardwerte, die von einer GLM-4-Vorlage geerbt wurden, nicht die Werte des Checkpoints — dieselbe Datei hat standardmäßig ein Vokabular von 32.000 Tokens, mit dem kein Modell aus dem Frontier-Umfeld von 2026 ausgeliefert wurde. Lies sie nicht als Spezifikationen. Die eine Zahl, die echt wirken könnte, ist der Skalierungsfaktor für geroutete Experten von 3,66, der im llama.cpp-Architekturtest und in der Konvertierungs-Test-Fixture auftaucht; eine Fixture ist immer noch eine Fixture, behandle 3,66 also als „die Zahl, um die herum die Tests geschrieben wurden“, und nicht als bestätigte Konstante.

Architektur, abgelesen an vier Patches

Vier unabhängige Ports kommen auf dieselbe Beschreibung, was das Beruhigendste an diesem Leak ist. Der SGLang-Patch ist am explizitesten: Das Modell „folgt GLM-4.5 MoE, mit drei Unterschieden“ – gated Attention, vollständige Rotary-Embeddings ohne q/k-Normalisierung und ein Router, der in der eigenen dtype des Modells berechnet statt upcast wird.

• Gated Attention — die Query-Projektion gibt zusammen mit dem Query ein Sigmoid-Gate pro Head aus, verschränkt innerhalb der Zeilen jedes Heads. Die llama.cpp-Konvertierung muss sie Tensor für Tensor auseinanderdividieren, weshalb beide Ports es ausdrücklich erwähnen.

• Dichter Einstieg, dann Experten – die ersten first_k_dense_replace Schichten sind gewöhnliche FFNs; nur die Schichten danach routen. Der Fork-Patch von tc-mb merkt an, dass weder die bestehenden qwen35moe noch minicpm-Architekturen diese Form abbilden, weshalb MiniCPM5 MoE einen eigenen Architektureintrag benötigte statt eines Flags an einer bestehenden.

• Geroutete plus geteilte Experten — Sigmoid-Gating, normalisierte Top-k-Gewichte und ein Zweig für geteilte Experten neben den gerouteten. llama.cpp liest pro MoE-Schicht einen FP32-Router-Korrekturbias (e_score_correction_bias), denselben Bias-Term, den Router im DeepSeek-Stil verwenden, um die Expertenlast ausgeglichen zu halten.

• Vollständige Rotation, keine Q/K-Norm – ein einfaches RoPE über die Kopfdimension, wobei die Konvertierung die Kopfdimension explizit beibehält, anstatt sie aus der Hidden-Size geteilt durch die Anzahl der Köpfe abzuleiten.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark ist die zweite Hälfte der Geschichte und der Grund, warum dieses Leck interessant und nicht bloß ordentlich ist. DSpark ist spekulatives Decoding mit einem trainierten Draft-Modell – derselbe Algorithmus, den OpenBMB bereits für MiniCPM5-2B und MiniCPM-V 4.7 veröffentlicht hat – und sowohl die SGLang- als auch die llama.cpp-Patches fügen MiniCPM5 MoE als DSpark-Ziel hinzu. Ein separater Draft-Checkpoint namens MiniCPM5-15B-A2.5B-DSpark wird im llama.cpp-Dokumentationsbeispiel referenziert, was bedeutet, dass der Draft ebenfalls existiert, in welchem privaten Speicher das Ziel auch immer liegt.

Vier Engines, ein unveröffentlichter Checkpoint

Die zeitliche Abfolge ist es, die das hier erwähnenswert macht. Normalerweise liegen Portierungen nicht so weit vor einer Veröffentlichung – und das über so viele Stacks hinweg:

• 2026-09-17 — Megatron-LM-Patches auf einem MUSA-Fork ermöglichen die Behandlung des MoE-Kapazitätsfaktors und dropless Routing als Standard für "minicpm5". Auf der Trainingsseite und die früheste Spur, die wir gefunden haben.

• 2026-10-14 — InfiniTensors InfiniLM eröffnet einen Patch, der MiniCPM5 MoE auf dem Denglin-QY-Backend mit FlashAttention- und Long-Context-MoE/RoPE-Kernels ermöglicht; ein Follow-up am 2026-11-12 ergänzt CUDA-Graph-Capture-Sicherheit und einen bf16-Decode-Pfad.

• 2026-11-13 — Der llama.cpp-omni-Fork von tc-mb fügt die MiniCPM5-MoE-Architektur hinzu, und ein zweiter Patch am selben Tag verdrahtet Expertenregionen in den Quantizer. Der Verifikationsabschnitt meldet Die Hauptstadt von Frankreich ist vervollständigt zu Paris. und 17×23 ergibt 391.

• 2026-11-16 — der Upstream-Pull-Request für llama.cpp. Am 2026-11-18 geschlossen, nicht gemergt, wobei der Konvertierungspfad als außerhalb des Geltungsbereichs eingestuft und drei Tage später im Fork erneut aufgegriffen wurde.

• 2026-11-19 — SGLang öffnet um 09:39 einen Port, schließt ihn und öffnet ihn um 10:19 unter einem umbenannten Branch erneut. Am selben Morgen öffnet ein Intel-Ingenieur einen optimum-intel-Patch, dessen allererster Codeblock ein Exportbefehl ist, der openbmb/MiniCPM5-15B-A2.5B als Eingabe benennt.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Der letzte Punkt kommt einem eindeutigen Beweis am nächsten. Der optimum-intel-Patch beschreibt kein hypothetisches Modell – er führt optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 aus und meldet die Genauigkeit gegenüber dem Original. Wer ihn geschrieben hat, hatte die Gewichte. Der Hub-Pfad, den er nennt, liefert bei einer anonymen Anfrage nichts zurück, und die MiniCPM-README von OpenBMB selbst führt weiterhin 2026-09-07 und das 2B als neueste Veröffentlichung auf, ohne irgendeinen MoE-Eintrag in ihrer Modelltabelle.

Was die Testprotokolle tatsächlich zeigen

Dies ist der Teil, den man langsam lesen sollte, denn die Zahlen in diesen Patches sind technische Prüfungen, keine Benchmarks, und zwei davon sind Fehlschläge.

Der llama.cpp-Lauf ist der umfassendste. Die Gewichte BF16, Q8_0 und Q4_K_M erzeugten allesamt DSpark-Draft-Tokens, die auf einem H800 akzeptiert wurden, wobei der Draft auf --spec-draft-n-max 2 gesetzt war. Acht Tokenizer-Stichproben stimmten exakt mit dem Tokenizer von Hugging Face überein. Die NMSE von CPU gegenüber CUDA beim synthetischen Architekturtest betrug 1,00e-06. Und dann der Vorbehalt, in den Worten des Autors: gewöhnliches Greedy-Decoding und DSpark-Decoding „zeigten Unterschiede auf Token-Ebene“, die Ursache „sei nicht vollständig charakterisiert“, und die Ausgabeäquivalenz „sei nicht nachgewiesen“. Es gibt keinen Logits-Paritäts-Lauf gegen den ursprünglichen Checkpoint, keine Qualitätsbewertung und keine Performanzkennzahl. Der Autor stellt unmissverständlich klar, dass keine Geschwindigkeitssteigerung beansprucht wird.

Der SGLang-Lauf ist aussagekräftiger, weil er eine Variable isoliert. Mit Triton-Attention führte DSpark 93 Verifikationsschritte über vier Generierungen mit jeweils 64 Tokens aus und wich bei jedem Prompt vom gewöhnlichen Decoding ab. Mit FA3-Attention erzeugten derselbe 15B-Checkpoint und derselbe Draft bei allen vier übereinstimmende Greedy-Token-IDs. Die Triton-Abweichung ist im Patch in der vorliegenden Form weiterhin ungeklärt. Das sollte man als das lesen, was es ist: eine Kernel-Pfad-Differenz, die jemand gefunden und noch nicht erklärt hat, keine Aussage über das Modell.

Die OpenVINO-Zahlen sind das einzige quantitative Qualitätssignal im gesamten Set, und sie sind bescheiden. Im Vergleich zum Originalmodell in FP32 über 26 Prompts und 128 neue Tokens hinweg betrug der WWB-Textähnlichkeitswert 0,9934 für bf16 auf der CPU, 0,9455 für int8 und 0,8710 für int4 unter dem GenAI-SDPA-Backend; auf einer B70-GPU 0,9498 für int8 und 0,8646 für int4. Eine int4-Konvertierung, die bei 0,87 landet, ist ein Ergebnis der Konvertierungstreue – es besagt, dass der quantisierte Graph von der Referenz abweicht, nicht dass die Referenz gut ist. Niemand hat einen Benchmark-Wert für MiniCPM5-15B-A2.5B veröffentlicht, und solange das niemand tut, gibt es keine Grundlage dafür, es als stark oder schwach zu bezeichnen.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Wo es stehen würde, wenn es ausgeliefert wird

OpenBMBs MiniCPM5-Reihe ist bislang ein Argument für Dichte. Das 1B-Modell erschien am 2026-05-19 und das 2B-Modell am 2026-09-07, beide dense, beide Apache-2.0, beide für den On-Device-Einsatz gebaut — das 2B ist ein reines LlamaForCausalLM ohne eigene Kernel, weshalb es innerhalb von Wochen auf llama.cpp, MLX, ONNX und ein halbes Dutzend NPU-Toolchains portiert wurde. Ein Geschwistermodell mit insgesamt 15B und 2,5B aktiven Parametern wäre das erste MiniCPM5, das kein Edge-Modell ist: dasselbe aktive Budget wie das 2B, etwa sechsmal so viele gespeicherte Gewichte und eine Routing-Schicht, die gut bedient werden muss, damit sie ihren Speicher wert ist.

Diese Einordnung erklärt auch die seltsame Form dieses Leaks. Wenn MiniCPM5 MoE auf Serving statt auf Smartphones abzielt, dann sind die Engine-Portierungen kein Nice-to-have, das erst nach dem Launch geliefert wird – sie sind die Voraussetzung für den Launch, und jemand erledigt sie frühzeitig. Dass derselbe GitHub-Account sowohl die llama.cpp- als auch die SGLang-Portierung eröffnet hat, dass ein Mitglied des MiniCPM-Projekts die Fork-Patches einspielt und dass bereits ein Draft-Checkpoint für DSpark existiert, deutet alles in dieselbe Richtung: Dies ist ein Modell, das von Leuten mit Zugriff darauf für die Veröffentlichung vorbereitet wird, kein aus Changelogs zusammengesetztes Gerücht.

Was würde dieses Bild verändern?

Drei Dinge, geordnet danach, wie viel sie klären würden.

Zunächst einmal ein Repository. Eine Hub- oder ModelScope-Seite mit einer Konfiguration, einer Lizenz und einer Model-Card würde den größten Teil des obigen Absatzes von einer Vermutung zu einer Tatsache machen und den Konfigurationsdefaults, vor denen ich gewarnt habe, sofort eine Vergleichsgrundlage liefern.

Zweitens: ein Benchmark aus Primärquellen. Die MiniCPM5-2B-Modellkarte wies einen Suite-Durchschnitt von 53,9 sowie Einzelaufgaben-Werte für LiveCodeBench, AIME und SWE-bench auf; ein 15B-A2.5B ohne entsprechende Tabelle ist ein Modell, dessen gesamtes Wertversprechen ungemessen bleibt. Ein Eintrag bei Artificial Analysis würde das leisten, da dieser unabhängig vom Anbieter ist.

Drittens: ein zusammengeführter Port. Jeder hier beschriebene Patch ist entweder geschlossen, ein Entwurf oder liegt in einem privaten Fork. Support, den es nur in einem nicht zusammengeführten Pull Request gibt, ist Support, den man nicht installieren kann, und – wie die Divergenz zwischen Triton und FA3 zeigt – wird die Korrektheit auf dieser Architektur noch Kernel für Kernel etabliert.

Die praktische Konsequenz für Leserinnen und Leser heute ist einfach: nichts herunterzuladen, nichts aufzurufen, nichts zu migrieren. Was ein Modell wie dieses ändert, wenn es tatsächlich erscheint, ist die Entscheidung darüber, wo eine Workload läuft, und diese Entscheidung wird meist unter Zeitdruck und mit unvollständiger Evidenz getroffen — genau die Situation, für die es eine Routing-Schicht gibt. OrcaRouter bringt 200+ gehostete Modelle hinter einer API zum Listenpreis des Anbieters ohne Aufschlag, sodass der Vergleich, den man anstellen möchte – dieser Checkpoint gegen das, was man heute aufruft –, nichts kostet, sobald ihn jemand hostet; automatisches Failover bedeutet, dass ein Modell in seiner ersten Woche nie allein einen Produktionspfad tragen muss. Nichts davon setzt voraus, dass MiniCPM5-15B-A2.5B verfügbar ist, und wir bieten es nicht an — es ist das Sicherheitsnetz um die Modelle, auf die man bereits setzt, während ein unveröffentlichtes Modell sich erst beweisen muss.

Bis dahin ist die ehrliche Zusammenfassung die, die uns der llama.cpp-Thread gegeben hat: Die GGUFs existieren, und sie sind nicht öffentlich. Vier Runtimes haben bereits den Code geschrieben, um sie zu laden. Beobachte die Organisationsseite von OpenBMB und die beiden offenen Pull Requests, in dieser Reihenfolge — ein erscheinendes Repository ist das Signal, und ein gemergter Port ist die Bestätigung dafür, dass die Architektur das ist, was diese Patches sagen.