Granite 4.2 3B ist da: IBMs laptopgroßes Reasoning-Modell beansprucht 78,33 bei AIME 2025

Sie können Granite 4.2 3B heute Abend auf einem Laptop ausführen. Das ist die praktische Tatsache hinter der Schlagzeile: IBM veröffentlichte Granite 4.2 3B am 25. August 2026 unter einer Apache-2.0-Lizenz, als das kleinste der drei dichten Reasoning-Modelle in der neuen Granite-4.2-Familie – Granite 4.2 3B, Granite 4.2 8B und Granite 4.2 30B – und sein Modellkarte beansprucht 78,33 auf AIME 2025, ein Mathematik-Reasoning-Wert, der vor einigen Jahren nur Modellen gehörte, die hundertmal so groß waren. Die Gewichte umfassen etwa 3 Milliarden Parameter: sechs bis acht Gigabyte in bfloat16, unter zwei Gigabyte bei einer praktischen Quantisierung. Das ist der ganze Sinn dieser Veröffentlichung – ein Reasoning-Modell, das früher eine Rechenzentrums-Anschaffung war, passt jetzt in eine Tasche.

Die ehrliche Einordnung muss danebenstehen. Jede Zahl auf der Karte stammt von IBM selbst, aufgedruckt an dem Tag, an dem die Gewichte veröffentlicht wurden, und kein unabhängiges Labor hat auch nur eine davon reproduziert. Es gibt noch keine gehostete API – die Karte listet keinen Inferenz-Anbieter auf –, der einzige Weg, dieses Modell heute kennenzulernen, ist es also selbst auszuführen oder auf ein gehostetes Angebot zu warten. Dies ist eine Bestandsaufnahme nach aktuellem Kenntnisstand des kleinsten Mitglieds der Familie, was bedeutet, präzise zu sein, welche Behauptungen das Repository tatsächlich stützt.

Was ausgeliefert wurde, und wie leise.

Granite 4.2 ist IBMs Reasoning-Generation — die erste Granite-Familie, die um explizites Chain-of-Thought herum aufgebaut ist, und die erste, die bei ihren größeren Mitgliedern agentisches Training in großem Maßstab einführt. Alle drei Größen sind dichte, Decoder-only-Transformer unter Apache 2.0, vortrainiert auf rund 15 Billionen Tokens in fünf Phasen, und alle laufen mit nativem 128K-Kontext und einer Long-Context-Erweiterung auf 512K. Die Ankündigung war kein Presse-Rollout: Die primäre Quelle ist der technische Blog von Hugging Face, „Granite 4.2 LLMs: How They're Built", der am 25. August zusammen mit den Model Cards veröffentlicht wurde. Die chinesische Tech-Presse griff die Familie innerhalb von Stunden auf, und Ollama listet bereits einen granite4.2:3b-Build.

Was macht die 3B zum Randbauteil?

Das 3B wird aus Granite-4.1-3B-Base nachtrainiert, und was es von seinen Geschwistermodellen unterscheidet, ist das, was es nicht hat. Das Granite 4.2 8B und das Granite 4.2 30B haben beide IBMs agentisches Reinforcement Learning erhalten – ein Training, das einem Modell beibringt, ein Terminal zu bedienen, Code auszuführen und in Sandbox-Umgebungen im Web zu suchen, weshalb diese beiden SWE-Bench- und Terminal-Bench-Werte vorweisen. Das 3B überspringt diesen Block vollständig; sein Datenblatt weist keine SWE-Bench- oder Terminal-Bench-Ergebnisse aus, weil die Agentic-RL-Trainingsumgebung nie in es eintrainiert wurde.

Was die 3B behält, ist der Reasoning-Kern und die Schnittstelle:

• Parameter — 3B (insgesamt etwa 4B mit Embeddings laut den Safetensors-Metadaten), dichter Decoder-only-Transformer auf Basis von Granite-4.1-3B-Base.

• Architektur — Grouped-Query-Attention (40 Köpfe, 8 KV-Köpfe), RoPE bei θ=10.000.000, SwiGLU-MLP (verborgene Dimension 8.192), RMSNorm, bfloat16.

Kontext — nativ 131.072 Token; eine fünfte Vortrainingsphase erweitert das Fenster auf 512K.

• Denkmodi – standardmäßig vollständiges Denken (<think>...</think>), Nicht-Denken per enable_thinking=False, und ein Modus mit geringem Aufwand, der ein kurzes Denkbudget für einfache Fragen aufwendet.

• Tool-Aufruf — OpenAI-kompatibler Funktionsaufruf, dasselbe Schema, das die größeren Geschwister verwenden, bereitgestellt über einen vLLM-Endpunkt; Integrationen für OpenHands, OpenCode und Pi sind dokumentiert.

• Sprachen — 12 getestet: Englisch, Deutsch, Spanisch, Französisch, Japanisch, Portugiesisch, Arabisch, Tschechisch, Italienisch, Koreanisch, Niederländisch, Chinesisch.

• Serving — Hugging Face Transformers, vLLM (v0.20+ mit einem dedizierten Thinking-Parser), SGLang, GGUF-Builds für llama.cpp, FP8/NVFP4/MXFP4-Quantisierungen und Ollama.

Die vom Anbieter gemeldeten Zahlen

Die Modellkarte listet starke Reasoning-Ergebnisse auf, und jedes davon stammt von IBM selbst. Bei den Mathe- und Reasoning-Evaluierungen listet das 3B-Modell 78,33 bei AIME 2025, 66,67 bei HMMT Februar 2025, 54,80 bei GPQA und 69,71 bei LiveCodeBench v6. Bei der Befolgung von Anweisungen: 67,84 bei MMLU-Pro und 74,33 bei IFBench. Bei langem Kontext liegen die RULER-Werte bei 67,52 bei 64K und 55,30 bei 128K. Bei den Agentic-General-Evaluierungen, die das 3B-Modell durchführt — grundlegende Tool-Nutzung, ohne den Agentic-RL-Block — listet es 52,41 bei BFCL v4.

Nichts davon wurde bisher unabhängig reproduziert. Das Modell wurde am 25. August ausgeliefert; Artificial Analysis hat noch keinen Eintrag dazu, und es wurde keine Drittanbieter-Bewertung veröffentlicht. Die AIME-Zahl von 78.33 ist die, auf die es ankommt: Bei einem dichten Modell der 3B-Klasse liegt sie weit über dem Bereich, den kleine offene Modelle in der Vergangenheit erreicht haben, und eine solche Zahl auf dem Papier ist genau das, was ein Reproduktionslauf entweder bestätigt oder stillschweigend zurücknimmt. Betrachten Sie jede Zahl in diesem Abschnitt als IBMs Behauptung.

Was ist bestätigt, und was nicht

Durch die Artefakte bestätigt: Die Gewichte sind herunterladbar; die Lizenz ist Apache 2.0; Architektur, Kontextlängen, Reasoning-Modi und die Tool-Calling-Schnittstelle stimmen mit der Karte überein; und das Trainingsrezept ist ungewöhnlich detailliert dokumentiert, bis hin zu den Datenanteilen und dem NVIDIA GB200 NVL72-Cluster (gehostet von CoreWeave), der zum Training der Familie verwendet wurde. Durch die Integrationsarbeit am Veröffentlichungstag bestätigt: Ollama listet bereits granite4.2:3b, und die Karte dokumentiert vLLM-, SGLang-, Transformers- und GGUF-Serving-Pfade.

Noch nicht bestätigt: unabhängige Benchmark-Ergebnisse; ob eine gehostete API — IBMs eigenes watsonx oder ein Drittanbieter — erscheinen wird und zu welchem Preis; wie sich die 512K-Erweiterung bei realen Langdokument-Workloads verhält, anstatt bei RULER-Nadeltests; und wie sich die grundlegende Tool-Calling-Funktion des 3B in Produktions-Agenten-Schleifen bewährt, wo es kein agentisches RL-Training gibt, auf das es sich stützen kann.

Wo die 3B konkurriert, und wie man sie testet

Die 3B setzt darauf, dass klein und lokal ein Feature ist, kein Kompromiss. Darunter endet die Familie – die 3B ist die Untergrenze der Granite-4.2-Reihe – und rundherum ist das Feld der Budget-Reasoning-Modelle auf der gehosteten Seite dicht besetzt, wobei DeepSeek V4 Flash und Gemini 3.5 Flash-Lite die günstigen gehosteten Reasoning-Stufen verankern und das ganze Jahr über kleine Open-Weight-Reasoning-Modelle erscheinen. Die 3B unterscheidet sich in einer spezifischen Hinsicht von allen anderen: Sie ist dicht, Apache-2.0-lizenziert und klein genug, dass die Grenzkosten einer Anfrage dem Stromverbrauch einer bescheidenen GPU entsprechen – und sie ist außerdem neu, unerprobt und ohne eine einzige Bewertung durch Dritte.

Genau in dieser Kombination macht sich eine Routing-Ebene bezahlt. OrcaRouter routet Granite 4.2 3B nicht — die ehrliche Antwort zur Verfügbarkeit lautet: Self-Hosting über vLLM, SGLang oder Ollama oder IBMs eigene Kanäle, sobald diese verfügbar sind —, aber die gehosteten Modelle, mit denen es konkurriert, sind bei OrcaRouter zum Listenpreis des Anbieters verfügbar, mit 0 % Aufschlag durchgereicht, hinter einem einzigen API-Schlüssel. Wenn Sie die Vergleichsumgebung bauen, die entscheidet, ob das lokale Denken des 3B besser ist als das Mieten eines gehosteten Budget-Modells, zeigt ein Schlüssel auf das gehostete Feld, Sie testen es per A/B gegen ein selbst gehostetes Granite über einen einzigen Endpoint, und automatisches Failover absorbiert die Stunden, in denen Ihr eigener GPU-Pool ausgelastet ist. Eine Preissenkung bei diesen gehosteten Alternativen erscheint noch am selben Tag im durchgereichten Preis.

Was zu sehen

Drei Dinge werden entscheiden, wie man sich an diese Veröffentlichung erinnert. Erstens: eine unabhängige Reproduktion der AIME- und GPQA-Zahlen – die Kluft zwischen 78,33 auf einer Karte und 78,33 bei einem Drittanbieter-Lauf ist der Punkt, an dem Behauptungen kleiner Modelle stehen oder fallen. Zweitens: ob watsonx oder ein anderer Host das 3B-Modell aufnimmt und zu welchem Preis pro Token; ein quantisiertes Reasoning-Modell mit weniger als 2 Gigabyte könnte eine auffallend günstige gehostete Stufe ermöglichen. Drittens: ob der Low-Effort-Reasoning-Modus die Qualität bei einfachen Fragen hält, denn dieser Modus macht ein laptopgroßes Reasoning-Modell im echten Produktbetrieb nutzbar. Granite 4.2 3B ist ein wirklich offenes, gut dokumentiertes Reasoning-Modell, das still ausgeliefert wurde und bis morgen auf Ihrer Hardware laufen kann; die offenen Fragen haben alle Antworten, die in den kommenden Wochen kommen.