MiniCPM5-2B-Gewichte sind verfügbar: Das kleine Modell, das sich die Sub-4B-Krone holte, wird Open Source

Das Modell selbst ist sieben Wochen alt. MiniCPM5-2B wurde am 19. Juli auf der World Artificial Intelligence Conference 2026 vorgestellt, wo ModelBest und OpenBMB es als das bestplatzierte Modell unter 4B Parametern auf der Rangliste von Artificial Analysis bezeichneten und versprachen, dass die Gewichte „in naher Zukunft“ folgen würden. Was an diesem Wochenende geschah, ist, dass die nahe Zukunft ohne jede Veröffentlichungsfanfare eintraf: Das MiniCPM5-2B-Repository ging am 6. September auf Hugging Face live, und das Änderungsprotokoll von OpenBMB datiert die Veröffentlichung auf den 7. September, unter einer Apache-2.0-Lizenz, mit dem vollständigen Paket — BF16-Gewichte, GGUF-, MLX- und GPTQ-Quantisierungen, Basis- und SFT-Checkpoints, ein DSpark-Entwurfsmodell für spekulative Dekodierung und die dazugehörigen Trainingsdatensätze.

Es gab keine Pressemitteilung dazu und keine Launch-Veranstaltung. Es tauchte einfach auf: eines Tages ein Hugging-Face-Repo, am nächsten eine Zeile im Changelog. Das macht dies zu einem „Was-wir-bisher-wissen“-Beitrag — wobei die ersten externen Prüfungen bereits vorliegen. Das Repo verrät eine ganze Menge: Das Modell ist heute tatsächlich herunterladbar und lauffähig, und das Datenblatt ist öffentlich. Ein externer Wert ist eingetroffen: Artificial Analysis listet MiniCPM5-2B in seinem Intelligence Index v4.2 mit 15 — das beste Open-Weights-Ergebnis unter 4B Gesamtparametern in diesem Index. Die Sub-4B-Einstufung stützt sich also nicht mehr allein auf das Wort des Anbieters. Noch in derselben Woche folgte eine Serving-Bestätigung: Das vLLM-Projekt lieferte Day-0-Support für MiniCPM5-2B im stabilen vLLM. Damit ist der im Modellblatt versprochene Stock-Llama-Ladepfad in einer Mainstream-Engine live. Was noch nicht bestätigt ist, sind die wichtigsten Kennzahlen der Modellkarte, die OpenBMB in einer eigenen Testumgebung reproduziert hat und die außerhalb des Labors noch niemand nachgerechnet hat. Im Folgenden: was sich aus dem Repo ableiten lässt, was inzwischen unabhängig gemessen wurde und was noch verifiziert werden muss, bevor man darauf aufbaut.

Was ist gerade passiert?

MiniCPM5-2B ist das zweite Modell der MiniCPM5-Serie, nach MiniCPM5-1B, das OpenBMB am 19. Mai als Open Source veröffentlichte. Als die 2B als Produkt auf der WAIC ausgeliefert wurde, war die Geschichte ebenso eine Chip-Geschichte wie eine Modell-Geschichte — ModelBest präsentierte sie als On-Device-Agent-Basis für Telefone, PCs und intelligente Cockpits und nannte neun Chips mit Unterstützung ab dem ersten Tag durch seine FlagOS-Community, von Huawei Ascend über NVIDIA bis hin zu einer Reihe einheimischer Beschleuniger. Das Open-Sourcing wurde als unmittelbar bevorstehend dargestellt. Sieben Wochen vergingen.

Am 6. September erschien das Repository openbmb/MiniCPM5-2B. Zum Zeitpunkt dieses Schreibens ist die Modellkarte die Veröffentlichungsankündigung, und sie ist für einen stillen Release ungewöhnlich vollständig:

• Gewichte — der finale RL + OPD post-trainierte Checkpoint in BF16, lizenziert unter Apache-2.0 und nicht zugriffsbeschränkt — jeder kann ihn herunterladen.

Begleitende Checkpoints — MiniCPM5-2B-SFT, -Midtrain und -Base für alle, die das Modell vor RL/OPD möchten, sowie -GGUF, -MLX, -GPTQ und ein -DSpark-Draftmodell, alle aufgeführt in der MiniCPM5-Kollektion auf Hugging Face.

• Daten – die Trainingskorpora sind ebenfalls offen und werden als Teil der UltraData-Familie veröffentlicht: Ultra-FineWeb, UltraX, UltraData-Code, UltraData-Math, UltraData-SFT-Agent-2609 und UltraData-RL-2609.

• Spiegel — die README verweist sowohl auf Hugging Face als auch auf ModelScope.

Eine Zeile auf der Modellkarte ist wichtiger, als es den Anschein hat: „keine eigenen Kernel, kein Fork des Modellcodes." MiniCPM5-2B verwendet die Standardarchitektur LlamaForCausalLM, sodass jede Engine, die bereits Modelle der Llama-Familie unterstützt, es laden kann, ohne auf eine maßgeschneiderte Implementierung warten zu müssen.

Warum ein 2.5B-Modell einen zweiten Blick wert ist

Der WAIC-Pitch war ein Ranking-Pitch. ModelBest gab an, MiniCPM5-2B habe einen Artificial Analysis Intelligence Index von 17 erreicht und damit beim Start auf dem AA-Ranglistenersten Platz unter den Modellen mit weniger als 4B Parametern belegt. Zu dieser Zahl gehören zwei Einschränkungen. Erstens sind Indexwerte nur innerhalb einer Methodikversion vergleichbar: Die frühere 17,9 von MiniCPM5-1B stammt aus einem früheren AA-Snapshot, ist also kein Beleg dafür, dass das kleinere Modell „höhere Werte erzielt“; nach derselben Regel ist ein neuerer Wert nach einer neueren Methodik kein Rückschritt. Zweitens fließen die AA-Werte in die Modellkarte ein, aber der hervorgehobene Durchschnittswert auf der Karte stammt von OpenBMB selbst und wurde in OpenBMBs eigener Testumgebung erzeugt. Diese Unterscheidung ist wichtig, weil AA inzwischen auf eine neuere Methodik umgestellt und einen frischen Wert veröffentlicht hat – die erste unabhängige Überprüfung des Pitch seit der Veröffentlichung der offenen Gewichte.

Eine externe Zahl traf in derselben Woche ein wie die Gewichte. Am 4. September veröffentlichte Artificial Analysis den Intelligence Index v4.2, eine Methodikrevision, die das Gewicht auf private, zurückgehaltene Tests auf 40 % erhöht und zwei neue Komponenten hinzufügt – AA-Briefcase, eine agentische Evaluierung, und Surge's GDP.pdf, eine Aufgabe zum Verständnis langer Kontexte. Der AA-Indexeintrag für MiniCPM5-2B weist nun einen v4.2-Score von 15 auf: das beste Ergebnis unter Open-Weights-Modellen mit weniger als 4B Gesamtparametern und das erste der 47 offenen Modelle dieser Größenklasse auf der AA-Liste. Das hält das Modell dort, wo die Ankündigung vom Juli es platziert hat, diesmal auf einer Methodik, die schwerer zu manipulieren ist, und mit Gewichten, die jeder herunterladen und erneut überprüfen kann. Die 15 ist nicht mit der 17 aus der Einführungszeit vergleichbar, die von v4.1 stammte – die Methodik ist strenger, nicht das Modell schwächer – und der zusammengesetzte Wert verifiziert nicht die einzelnen Zeilen der Karte neu, die OpenBMB größtenteils in seiner eigenen Testumgebung reproduzierte. Was es tatsächlich tut, ist, auf den beiden Achsen zu landen, für die OpenBMB laut eigenen Angaben optimiert hat: v4.2 stützt sich stärker auf agentische Aufgaben, und AAs Verfolgung der Ausführlichkeit zeigt, dass MiniCPM5-2B über die Indexaufgaben hinweg 57 Mio. Ausgabetokens erzeugt – das prägnanteste Modell seiner Klasse gegenüber einem Median von 72 Mio. OpenBMB bedankte sich bei AA für den Durchlauf und formulierte es genau in diesen Worten – agentische Leistung und Tokeneffizienz bei 2,6B, so das Unternehmen, seien es, worauf das Modell optimiert wurde.

Der eigentliche Anspruch war agentische Leistungsfähigkeit in kompakter Form: nativ Tool-Aufrufe, tiefgehende Suche und Codegenerierung – von Grund auf eintrainiert statt nachträglich aufgesetzt. Die Modellkarte beschreibt eine dreistufige Pipeline: Basistraining, Mid-Training und schließlich Post-Training mit SFT auf 400 Milliarden Tokens Deep-Thinking-Daten, spezialisierten RL-Lehrern sowie On-Policy-Distillation (OPD), die sechzehn RL-Expertenmodelle – fünf davon agentisch – wieder in einem kleinen, dichten Netzwerk vereint. OpenBMB schreibt der RL+OPD-Stufe einen durchschnittlichen Zugewinn von 10,96 Punkten bei Reasoning- und allgemeinen Aufgaben und 6,96 Punkten bei agentischen Aufgaben zu – interne Deltas, die allerdings die ungewöhnliche Form dieses Modells erklären: ein Netzwerk mit 2,5 Milliarden Parametern, konstruiert wie ein Reasoning-Modell und ausgerichtet auf die Nutzung von Tools.

Was das Repo tatsächlich enthält

Das Datenblatt ist eindeutig, denn es ist die Konfigurationsdatei. MiniCPM5-2B hat 2.516.756.480 Parameter, von denen 1.981.982.720 Nicht-Embedding-Parameter sind – wenn Anbieter von der „2B-Klasse“ sprechen, zählen sie die Parameter ohne Embeddings. Es ist ein dichter Transformer mit 42 Schichten, einer verborgenen Dimension von 2048, Grouped-Query-Attention mit 16 Query-Köpfen und nur 2 KV-Köpfen, einem Vokabular von 130.560 sowie BF16-Tensoren. Das Ganze wird als ein einzelner safetensors-Shard ausgeliefert, klein genug, um es über eine Laptop-Internetverbindung herunterzuladen und auf einer einzelnen Mittelklasse-GPU oder einer NPU der Smartphone-Klasse auszuführen.

Parameter — 2.516.756.480 gesamt; 1.981.982.720 ohne Einbettung.

• Architektur — dichte LlamaForCausalLM, 42 Schichten, verborgen 2048, GQA 16 Query-Köpfe / 2 KV-Köpfe, Vokabular 130.560.

• Kontext — 131.072 Token konfiguriert (max_position_embeddings), kein RoPE-Scaling in der Konfiguration.

• Lizenz — Apache-2.0, sowohl für das Modell als auch für die veröffentlichten Trainingsdaten.

• Format — BF16; GGUF-, MLX- und GPTQ-Varianten separat veröffentlicht.

Eine Zahl aus dem Juli-Deck taucht im Checkpoint nicht auf. Die WAIC-Materialien priesen ein Kontextfenster von 512K Token an; die veröffentlichte Konfiguration setzt max_position_embeddings jedoch auf 131.072 (128K), ohne rope_scaling-Eintrag. Möglicherweise soll die 512K-Angabe über eine Inferenzzeit-Erweiterung erreicht werden, so wie mehrere kleine Modelle ihren Kontext ausdehnen — doch in der ausgelieferten Version dokumentiert das Repository 131.072, und daran muss sich das Design orientieren, bis OpenBMB ein Rezept für die Erweiterung veröffentlicht.

Die Zahlen, sortiert danach, wer sie gemessen hat.

Die Model Card legt großen Wert auf die Provenienz der Ergebnisse, und es lohnt sich, die Fußnoten zu lesen. Die mit einem † markierten Ergebnisse „stammen aus der offiziellen Artificial-Analysis-Veröffentlichung“ – etwa die Zeilen GPQA-Diamond 70,2, HLE 8,9, AA-LCR 59,0, Terminal-Bench v2.1 8,6 und GDPval-AA v2 19,6. Alles andere wird als „intern reproduziert“ beschrieben, was bedeutet, dass OpenBMB diese Auswertungen in seiner eigenen Testumgebung durchgeführt hat. Zu dieser Kategorie gehören auch die Aufsehen erregenden Zahlen: ein interner Durchschnitt von 53,9 über das Vergleichsset der Karte, AIME 2025/2026 bei 86,5, MATH-500 bei 94,6, LiveCodeBench v6 bei 69,1, SWE-bench Verified bei 46,4, BFCL v4 bei 66,6, τ²-Bench Telecom bei 97,1, GAIA (Text-103) bei 88,7 und MMLU-Pro bei 70,8.

Drei Dinge sorgen dafür, dass diese Zahlen ehrlich zu lesen sind. Der Durchschnitt von 53,9 ist ein relativer Wert, kein absoluter – die Datenkarte normalisiert jede Radarachse, sodass das beste Modell im Vergleich 100 Punkte erhält. Der Vergleichssatz ist vom Anbieter ausgewählt: andere offene Modelle mit 2B bis 4B Parametern, darunter Qwen3.5-2B, Qwen3.5-4B, Gemma-4-E2B-it, granite-4.2-3B, LFM2.5-2.6B und LFM2.5-8B-A1B. Innerhalb dieses Satzes zeigt die Datenkarte, wie MiniCPM5-2B den Nächstbesten, Qwen3.5-4B, mit 51,1 übertrifft – ein wirklich bemerkenswertes Ergebnis für ein halb so großes Modell, und genau die Art von Ergebnis, die erst unabhängig reproduziert werden muss, bevor jemand darauf aufbaut. Und einige der einzelnen Zeilen lassen sich nur schwer mit dem Marketing in Einklang bringen: Ein SWE-bench Verified von 46,4 bei einem dichten 2,5B-Modell wäre bemerkenswert, wenn es sich reproduziert, während ein HLE-Wert von 8,9 daran erinnert, dass ‚Sub-4B-Spitzenreiter‘ und ‚Frontier‘ verschiedene Ligen sind. Das Repo widerspricht keiner dieser Angaben, und der v4.2-Gesamtwert von AA hat die Gesamtplatzierung des Modells an der Spitze der Open-Weight-Klasse unter 4B inzwischen bestätigt – aber diese spezifischen Zeilen stammen von OpenBMB selbst und sind weiterhin von niemandem außerhalb des Labors verifiziert.

MiniCPM5-2B heute ausführen

Da die Architektur reines Llama ist, laden gängige Engines das Modell direkt. Die README von OpenBMB bietet Schnellstartanleitungen für vLLM (0.21 oder neuer), SGLang (0.5.16 oder neuer) und Transformers (5.6 oder neuer), und das vLLM-Projekt hat die erste davon offiziell gemacht: Das stabile vLLM bietet Day-0-Unterstützung für MiniCPM5-2B, inklusive eines eigenen Deployment-Rezepts, das zusammen mit dem Release veröffentlicht wurde. Das Rezept listet dieselbe native Kontextlänge von 131.072 Token wie die Konfigurationsdatei und bestätigt, dass die Trennung zwischen Think und No-Think mit dem Checkpoint mitgeliefert wird – in vLLM wird der Modus über das enable_thinking-Flag des Chat-Templates gesteuert, das pro Anfrage über chat_template_kwargs gesetzt oder beim Start des Dienstes fest integriert werden kann. So lassen sich mit denselben Gewichten entweder der schnelle No-Think-Assistent oder der überlegte Think-Durchlauf ausführen. Empfohlenes Sampling: Temperatur 1,0 mit Top-p 0,95; das Rezept schlägt vor, bei aktiviertem enable_thinking auf 0,9 zu senken. Die GGUF- und MLX-Varianten decken llama.cpp, Ollama, LM Studio und Apple Silicon ab; die Modellkarte listet außerdem die ArcLight-Runtime und die üblichen Fine-Tuning-Stacks (TRL + PEFT, LLaMA-Factory, ms-swift, unsloth) auf.

Zwei Bereitstellungsdetails solltest du kennen, bevor du loslegst. Für Tool- und Funktionsaufrufe hast du jetzt die Wahl zwischen nativen Backends: Das Modell erzeugt XML-artige Tool-Aufrufe, und sowohl SGLang als auch vLLM liefern einen minicpm5-Parser mit, der sie in OpenAI-kompatible tool_calls umwandelt – SGLangs Parser ist integriert, und vLLMs Parser, Teil der Stable-Unterstützung ab Tag 0, verarbeitet dasselbe XML-Format (aktivierbar mit --tool-call-parser minicpm5 --enable-auto-tool-choice). Standard-Clients für Tool-Aufrufe funktionieren auf beiden Backends ohne benutzerdefinierten Shim. Und das DSpark-Draft-Modell existiert, um den Reasoning-Durchlauf günstiger zu machen: In SGLang mit dem DSPARK-speculative-decoding-Algorithmus gestartet, beschleunigt es die Dekodierung, während die Ausgaben des Zielmodells unverändert bleiben – die Art von Faktor, die darüber entscheidet, ob eine 128K-Kontext-Agentenschleife auf einem Laptop nutzbar oder nur möglich ist.

Wenn Sie lieber einen Stapel kleiner offener Modelle evaluieren möchten, statt ein einzelnes manuell abzustimmen, zahlt sich hier die Routing-Schicht aus: Wenn ein Anbieter MiniCPM5-2B listet, ist ein Router der preiswerte Weg, es per A/B gegen Qwen3.5-2B und die anderen offenen Checkpoints unter 4B bei derselben Aufgabe zu testen – ohne eine zweite Integration. Bei OrcaRouter bedeutet das eine API über 200+ Modelle, durchgereichte Listenpreise der Anbieter mit 0% Aufschlag und automatisches Failover, falls ein brandneuer Checkpoint auf einem Produktionspfad hängen bleibt oder sich in einer Schleife verfängt. Das Repository ist kaum zwei Tage alt, und noch keine gehostete API, auf die wir verweisen können, führt MiniCPM5-2B bereits auf – daher ist die ehrliche Standardannahme heute, es als Selbsthost-Experiment zu behandeln, nicht als Abhängigkeit.

Wer sollte diese Gewichte ziehen?

Zieht sie euch heute herunter, wenn eure Arbeit an On-Device-Agenten, Edge-Tool-Calling oder Coding- und Reasoning-Experimenten mit kleinen Modellen hängt und ihr die am aggressivsten trainierte Option der 2B-Klasse auf dem Tisch haben wollt. Die Apache-2.0-Lizenz und die offenen Trainingsdaten beseitigen die zwei Gründe, warum die meisten Teams bei einem kleinen Modell aus einem chinesischen Labor zögern: keine kommerzielle Nutzungsbeschränkung und kein Black-Box-Korpus. Zieht sie euch mit Vorsicht herunter, wenn ihr ein Produktionsmodell allein aufgrund der Benchmark-Tabelle auswählt: Die hervorgehobenen Zeilen der Modellkarte sind OpenBMBs eigene Reproduktionen, und der v4.2-Gesamtwert von AA — die bisher einzige externe Messung — verbürgt sie nicht. Ein 2.5B-Modell, das Berichten zufolge Qwen3.5-4B übertrifft, ist eine Behauptung, die die zwei Stunden verdient, die es braucht, um SWE-bench selbst zu reproduzieren.

Was als Nächstes zu beobachten ist. Das Repository ist kaum zwei Tage alt, und ein Check mit einer Mainstream-Engine ist bereits erfolgreich: Die stabile vLLM-Version stellt MiniCPM5-2B am Tag null bereit, der serverseitige Selbsthosting-Pfad ist also real, nicht hypothetisch. Die übrigen kurzfristigen Signale bleiben mechanischer Natur: ob llama.cpp und die Ollama-Bibliothek das GGUF aufnehmen, ob der ModelScope-Spiegel und die FlagOS-Chip-Builds sauber live gehen und ob eine gehostete API MiniCPM5-2B listet – das ist der Moment, in dem es nicht mehr nur selbst gehostet werden kann. Das substanzielle Signal, das dieser Beitrag als fehlend markiert hatte – ein unabhängiger Lauf von Artificial Analysis oder einem Universitätslabor – ist nun in Form des v4.2-Indexwerts eingetroffen, und der hält MiniCPM5-2B auf Platz eins unter den Open-Weights-Modellen unter 4B. Was weiterhin aussteht, ist die Verifikation auf Zeilenebene: Niemand außerhalb von OpenBMB hat die internen Zahlen der Modellkarte reproduziert, insbesondere SWE-bench Verified mit 46,4 und den internen Durchschnitt von 53,9. Bis diese konkreten Zeilen erneut ausgeführt werden, behandeln Sie MiniCPM5-2B so, wie Sie jedes unauffällig veröffentlichte Modell mit einer beeindruckenden Modellkarte behandeln würden: als eine sehr vielversprechende Hypothese, die Sie heute Abend lokal ausführen können, und als ein Modell, dessen auffälligste Zahlen Sie verifizieren sollten, bevor Sie ihm echte Arbeit anvertrauen.