MiniCPM5-2B-DSpark: OpenBMB veröffentlicht still und leise die MiniCPM5-2B-Gewichte mit einem auf Geschwindigkeit ausgelegten Draft-Modell

Vor sechs Wochen war MiniCPM5-2B ein Versprechen. Vorgestellt auf der WAIC-Konferenz in Shanghai am 2026-07-19 als Sub-4B-Modell, das an der Spitze des Artificial Analysis Index steht, kam es mit einem Roadmap-Hinweis, dass offene Gewichte „soon“ verfügbar sein würden. Das „Soon“ kam diese Woche – ganz ohne Tamtam. Am 2026-09-06 veröffentlichte OpenBMB das Flaggschiff-Repository MiniCPM5-2B auf Hugging Face unter einer Apache-2.0-Lizenz, und einundzwanzig Minuten später folgte MiniCPM5-2B-DSpark – ein Draft-Checkpoint mit 323,8 Millionen Parametern, dessen einzige Aufgabe es ist, das Decoding von MiniCPM5-2B unter dem spekulativen Decoding-Algorithmus DSpark zu beschleunigen. Ein GPTQ-Build folgte am 2026-09-07. Zum Zeitpunkt des Verfassens gibt es keine Ankündigung, keinen Launch-Beitrag und keinen Changelog-Eintrag, den wir finden konnten; die Veröffentlichung zeigte sich dadurch, dass Repositories über einen Zeitraum von elf Tagen stillschweigend öffentlich wurden.

Dies ist ein Beitrag zum aktuellen Wissensstand, und die Einordnung ist wichtig. MiniCPM5-2B-DSpark ist kein eigenständiger Chatbot und kein neues Flaggschiff, sondern ein Beschleuniger: ein kleines, schnelles Modell, das Tokens vor MiniCPM5-2B vorschlägt, die dieses dann parallel verifiziert. Ohne sein Zielmodell ist es nutzlos, und genau dieses Zielmodell ist der Grund, sich damit zu befassen. Die Open-Weights-Veröffentlichung von MiniCPM5-2B, die OpenBMB im Juli versprochen hat, ist jetzt tatsächlich auf Hugging Face verfügbar, und das zusammen damit ausgelieferte Draft-Modell ist der Mechanismus, den der Anbieter empfiehlt, um es mit nützlicher Geschwindigkeit auszuführen. Alles, was im Folgenden nicht ausdrücklich anders angegeben ist, stammt direkt aus den beiden Modellkarten und ihren Repositories.

Was wurde ausgeliefert, und wann

Die 2B-Familie ging als fortlaufender, unangekündigter Drop live, neueste Einträge zuerst:

• 2026-08-27 — MiniCPM5-2B-Base und MiniCPM5-2B-SFT erscheinen, die rohen vorab trainierten bzw. überwacht feinabgestimmten Checkpoints.

• 2026-09-01 — MiniCPM5-2B-Midtrain, die agentische Midtraining-Phase.

• 2026-09-05 — MiniCPM5-2B-MLX und MiniCPM5-2B-GGUF, die Formate für Apple Silicon und llama.cpp.

• 2026-09-06 — das Flaggschiff-Repository MiniCPM5-2B, dann einundzwanzig Minuten später MiniCPM5-2B-DSpark.

• 2026-09-07 — MiniCPM5-2B-GPTQ, das quantisierte Serving-Format.

Alle tragen die Apache-2.0-Lizenz, die ModelBest im Mai für die MiniCPM5-1B-Familie verwendet hat, und die früheren Checkpoints in der Sequenz zeigen weiterhin praktisch kein Community-Signal – jeweils nur eine Handvoll Downloads und Likes. Das ist das Kennzeichen eines laufenden Weight-Drops statt eines koordinierten Starts: Die Artefakte erscheinen in Abhängigkeitsreihenfolge (Basis und SFT zuerst, quantisierte und Draft-Formate zuletzt), ohne dass ein einzelner Tag als Veröffentlichungsdatum dient.

Was MiniCPM5-2B-DSpark tatsächlich ist

Spekulative Dekodierung teilt die Generierung in einen günstigen Vorschlagsgeber und einen teuren Prüfer auf. Ein kleines Draft-Modell rät die nächsten mehreren Token vor; das große Modell prüft alle Vermutungen in einem einzigen Vorwärtsdurchlauf und akzeptiert diejenigen, mit denen es übereinstimmt. Ist der Draft gut kalibriert, erhält man die Ausgabe des großen Modells zu einem Bruchteil der Kosten, und liegt er falsch, verschwendet man nur einen Verifizierungsschritt. DSpark ist ein konkretes Rezept für diese Idee, aus einem am 6. Juli 2026 veröffentlichten Paper (arXiv 2607.05147, „Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation“). Zwei Designentscheidungen zeichnen es aus: Es koppelt ein paralleles Drafter-Backbone mit einem leichten sequenziellen Modul, sodass Token innerhalb eines vorgeschlagenen Blocks voneinander abhängen, statt gegen Ende des Blocks an Genauigkeit zu verlieren, und es dimensioniert jeden Verifizierungslauf pro Anfrage anhand von Konfidenzschätzungen und Engine-Durchsatz, statt immer einen Block fester Länge zu verifizieren.

Der von OpenBMB veröffentlichte DSpark-Draft ist ein fünfschichtiger Transformer mit 323,8M Parametern in BF16 (etwa 648 MB). Er basiert auf der Qwen3-Architekturfamilie, bringt aber DSpark-spezifische Ergänzungen mit: einen Projektor, der die Hidden States von MiniCPM5-2B aus fünf Schichten des Zielmodells (1, 10, 20, 30 und 39) liest, einen Confidence-Head und einen kleinen Markov-Head, der die Verteilung des nächsten Tokens modelliert. Seine Konfiguration schlägt einen Block von sieben Tokens pro Forward-Pass vor. Mit ungefähr einem Achtel der 2,5B Parameter von MiniCPM5-2B ist es eines der kleinsten Draft-Modelle, die für einen Mainstream-Open-Checkpoint veröffentlicht wurden — und genau darum geht es bei einem Edge-orientierten Modell, bei dem der Draft günstig genug sein muss, dass das Ausführen von zwei Modellen auf einem Gerät immer noch besser ist als das Ausführen von nur einem.

Das oben genannte Repository ist die gesamte öffentliche Oberfläche des Draft-Modells: eine README, eine Konfiguration, eine einzelne Safetensors-Datei und eine Modellkarte, deren Trainingsbeschreibung 1.959.525 Sequenzen (7,05 Mrd. Token) zeigt, die von MiniCPM5-2B aus allgemeinen, mathematischen und Code-Prompts generiert und sechs Epochen lang mit einer kombinierten Zielfunktion aus Kreuzentropie, L1 und Konfidenz trainiert wurden. Es gibt keine Verwendung des Checkpoints als eigenständiges generatives Modell.

Die von OpenBMB veröffentlichten Zahlen, ehrlich beschriftet

Die Modellkarte des Draft-Modells nennt eine entscheidende Kennzahl – die Akzeptanzlänge, also die durchschnittliche Anzahl der vorgeschlagenen Tokens, die das Zielmodell aus jedem Block von sieben Tokens akzeptiert. Die Auswertung wurde auf Ausgaben von MiniCPM5-2B in drei Domänen bei bis zu 4.096 generierten Tokens durchgeführt:

• Mathematik — durchschnittlich 6,05 akzeptierte Tokens bei Greedy (T=0); 4,61 beim Sampling mit T=1,0.

• Code — 6,11 greedy; 4,44 gesampelt.

• Allgemein — 4.16 greedy; 3.10 gesampelt.

• Gesamt — 5,52 Greedy; 4,05 Sampled, von maximal sieben.

Diese Zahlen sind vom Anbieter in der Modellkarte angegeben und wurden nicht unabhängig reproduziert. Sie beschreiben außerdem die Trefferquote des Draft-Modells, nicht einen tatsächlichen Geschwindigkeitsgewinn in realer Laufzeit: Geschwindigkeit ist eine Messgröße im Serving, die davon abhängt, was der Verifikationsdurchlauf des Zielmodells gegenüber dem Vorschlagsdurchlauf des Draft-Modells kostet, von der Batch-Auslastung und davon, dass der Confidence-Scheduler von DSpark die Verifikationslänge kürzt. OpenBMB hat für das Paar keinen Tokens-pro-Sekunde-Wert veröffentlicht. Um ein Gefühl dafür zu bekommen, wo die Obergrenze des Verfahrens liegt: Das DSpark-Paper berichtet von 60–85 % schnellerer Generierung pro Nutzer bei gleichem Durchsatz gegenüber der MTP-1-Baseline im Live-Serving-System von DeepSeek – ein nützlicher Referenzpunkt dafür, was der Algorithmus anderswo geleistet hat, keine Aussage über MiniCPM5-2B auf Ihrer Hardware.

Die oben stehende Anzeigetafel ist das eigene Spezifikationsblatt des Releases. Lies die Akzeptanzzahl als vorläufige Trefferquote; den Multiplikator für den realen Durchsatz muss erst noch ein unabhängiger SGLang-Lauf messen.

Das Modell, das der Entwurf beschleunigt

MiniCPM5-2B ist ein dichter Transformer mit 2,5 Mrd. Parametern – insgesamt 2.516.756.480 – mit 42 Schichten, 16 Query-Heads und 2 KV-Heads, einem Vokabular von 130.560 Tokens und einem Kontextfenster von 131.072 Tokens, in BF16 bei etwa 5 GB. Architektonisch ist er bewusst langweilig: ein Standard-LlamaForCausalLM ohne eigene Kernel und ohne Fork des Modellcodes – genau deshalb lässt er sich auf so viele Runtimes und Chip-Ziele portieren. Auf der internen Benchmark-Suite von OpenBMB kommt die Model Card auf einen Durchschnitt von 53,9 über Aufgaben zu Reasoning, Instruction-Following, Wissen, langem Kontext, Tool-Nutzung, Coding und Search-Agent – vor Qwen3.5-4B mit 51,1 und granite-4.2-3B mit 42,7 in derselben Tabelle, wobei mehrere Zellen (GPQA-Diamond 70,2, HLE 8,9 sowie diverse Long-Context- und Agentic-Zeilen) als von Artificial Analysis stammend gekennzeichnet sind statt intern reproduziert. Zu den herausragenden Einzelwerten pro Aufgabe gehören MATH-500 mit 94,6, AIME 2025 und 2026 mit 86,5, IFEval mit 86,7, MMLU-Pro mit 70,8 und SWE-bench Verified mit 46,4. Das sind die Zahlen des Herstellers auf der Suite des Herstellers, und die Model Card sagt ausdrücklich, dass einige Zeilen aus Drittquellen stammen; diese Mischung sollte entsprechend eingeordnet werden.

Bei der Vorstellung im Juli nannten ModelBests Launch-Materialien einen Artificial Analysis Index von 17 – den ersten Platz unter Modellen mit weniger als 4B Parametern – und die Berichterstattung im Juli verwies auf ein 512K-Token-Fenster. Die tatsächlich ausgelieferten Checkpoints sind auf 131.072 Tokens Kontext konfiguriert. Wenn eine Marketingangabe vom Launchtag und eine ausgelieferte Konfiguration voneinander abweichen, ist die Konfiguration die maßgebliche Zahl dafür, was Sie ausführen können, und es lohnt sich, diese Diskrepanz zu kennen, bevor Sie eine Long-Context-Workload anhand der Marketingangabe planen.

MiniCPM5-2B mit seinem Draft ausführen

Der vorgesehene Pfad ist SGLang, das den DSpark-Algorithmus seit v0.5.16 upstream unterstützt – die Mindestversion, die die Model Card verlangt. Der vollständige Serving-Befehl aus der Model Card:

python -m sglang.launch_server --model-path openbmb/MiniCPM5-2B --speculative-algorithm DSPARK --speculative-draft-model-path openbmb/MiniCPM5-2B-DSpark --speculative-dspark-block-size 7

Beim Greedy-Decoding (T=0) ist die DSpark-Verifikation verlustfrei: Die Ausgabe ist identisch mit dem alleinigen Serving von MiniCPM5-2B, wodurch der Draft zu einer reinen Latenzmaßnahme wird. Bei aktiviertem Sampling greift SGLang DSpark standardmäßig auf Target-only-Sampling zurück, mit optionalem Rejection-Sampling. OpenBMB dokumentiert außerdem das einfache Laden mit Transformers (transformers ≥ 5.6) und das eigenständige Serving des Targets mit vLLM ≥ 0.21 sowie einen minicpm5-Tool-Call-Parser für agentische Workloads; der spekulative DSPARK-Pfad ist speziell SGLang eigen.

Der Hardware-Bedarf ist bei einem Paar der Edge-Klasse die eigentliche Geschichte: etwa 5 GB für MiniCPM5-2B in BF16 plus rund 0,65 GB für das Entwurfsmodell. Die Kombination aus Entwurfs- und Zielmodell passt bequem überall dorthin, wo das 2B-Modell allein bereits lauffähig war – und genau das ist der Grund, ein so kleines Entwurfsmodell statt eines zweiten, größeren Modells auszuliefern.

Was ist nicht bestätigt?

• Es gibt keine Ankündigung, die wir finden konnten – weder einen Blogbeitrag von OpenBMB oder ModelBest noch einen Social-Media-Beitrag auf Englisch oder Chinesisch. Die Formulierung „quietly shipped“ ist wörtlich gemeint, und die einzige öffentliche Präsenz ist die Hugging-Face-Collection.

• Keine unabhängige Evaluierung. Die Akzeptanzlängen des Entwurfs und der Suite-Durchschnitt von 53,9 von MiniCPM5-2B sind vom Anbieter gemeldet und nicht reproduziert; die mit AA markierten Zellen stammen von Dritten, sind aber Momentaufnahmewerte, keine Läufe mit genau diesen Gewichten.

• Nirgends eine gehostete API zu finden, daher bedeutet Adoption heute, die Checkpoints selbst auszuführen. Ein ModelScope-Mirror, der in der Juli-Berichterstattung über die Enthüllung versprochen wurde, war zum Zeitpunkt des Schreibens nicht sichtbar.

• Keine Wall-Clock-Beschleunigungsangabe für das DSPARK-Paar. Eine Akzeptanzlänge von 5,52 ist eine starke Trefferquote, aber „um wie viele Male schneller“ auf einer bestimmten GPU ist genau die Zahl, die OpenBMB nicht veröffentlicht hat.

• Die obige Mehrdeutigkeit beim Kontextfenster: Marketingmaterialien nannten 512K, die ausgelieferte Konfiguration sagt 131,072, und nichts in den Repos schlägt die Brücke zwischen beiden.

Wo ein stiller Open-Weight-Drop in einen Stack passt

Die ehrliche Lesart von MiniCPM5-2B ist heute, dass es eine Wette ist: starke Herstellerangaben, null unabhängige Läufe, keine Serving-Historie und ein Draft-Modell, dessen realer Speedup ungemessen ist. Genau für diese Situation gibt es eine Routing-Schicht. Ein Team, das testen möchte, ob die Ausgabe eines kleinen offenen Modells ein gehostetes Modell ersetzen kann, das es bereits aufruft, kann diesen Vergleich über eine einzige API durchführen – OrcaRouter stellt 200+ gehostete Modelle zum Listenpreis des Anbieters ohne Aufschlag bereit, sodass eine Evaluierungswoche nichts kostet, um sie aufzusetzen, und automatisches Failover bedeutet, dass ein nur wenige Tage alter Checkpoint niemals einen Produktionspfad als Geisel halten muss, während er sich beweist. Nichts davon erfordert, dass MiniCPM5-2B irgendwo gehostet wird; es ist das Sicherheitsnetz um die Modelle, auf die Sie bereits angewiesen sind, während Sie entscheiden, ob ein selbst gehostetes 2B die GPU wert ist.

Achten Sie in der Reihenfolge ihrer Wichtigkeit auf Folgendes: einen unabhängigen SGLang-DSPARK-Lauf, der echte Tokens pro Sekunde für das Paar meldet, da die Akzeptanzlänge eher ein Proxy als ein Benchmark ist; eine offizielle Ankündigung oder einen ModelScope-Mirror, der bestätigt, dass die Veröffentlichung final ist; und einen Hosting-Anbieter, der MiniCPM5-2B aufnimmt — falls einer dies tut, ist der Preis, den Sie auf unserer Seite zahlen, der eigene Listenpreis des Anbieters, am selben Tag, denn genau das bedeutet Pass-through. In der Zwischenzeit ist das Draft-Modell das interessantere der beiden Artefakte. Ein fünfschichtiger Proposer, bei dem das Zielmodell fünfeinhalb von sieben Tokens akzeptiert, ist der Unterschied zwischen einem kleinen Edge-Modell, das sich klein anfühlt, und einem, das sich wie ein größeres Modell anfühlt, das auf demselben Gerät läuft.