Granite 4.2 3B is uit: IBM's laptopformaat redeneermodel claimt 78,33 op AIME 2025

Je kunt Granite 4.2 3B vanavond op een laptop draaien. Dat is het praktische feit achter het kopcijfer: IBM bracht Granite 4.2 3B op 25 augustus 2026 uit onder een Apache-2.0-licentie, als het kleinste van de drie dense redeneringsmodellen in de nieuwe Granite 4.2-familie — Granite 4.2 3B, Granite 4.2 8B en Granite 4.2 30B — en de modelkaart claimt 78,33 op AIME 2025, een wiskundig-redeneringsscore die een paar jaar geleden alleen was weggelegd voor modellen die honderd keer zo groot waren. De gewichten tellen ongeveer 3 miljard parameters: zes tot acht gigabyte in bfloat16, onder twee gigabyte bij een praktische kwantisering. Dat is precies het punt van deze release — een redeneringsmodel dat vroeger een datacenter-aankoop was, past nu in een tas.

De eerlijke framing moet daarnaast staan. Elk getal op de kaart is van IBM zelf, afgedrukt op de dag dat de gewichten werden gepubliceerd, en geen enkel onafhankelijk laboratorium heeft er ook maar één gereproduceerd. Er is nog geen gehoste API — de kaart vermeldt geen inferentieprovider — dus de enige manier om dit model vandaag te gebruiken is door het zelf te draaien of te wachten tot er een gehoste laag verschijnt. Dit is een wat-we-nu-weten-verslag van het kleinste lid van de familie, wat betekent dat we precies moeten zijn over welke beweringen de repository daadwerkelijk ondersteunt.

Wat er werd uitgebracht, en hoe geruisloos

Granite 4.2 is IBM's redeneringsgeneratie — de eerste Granite-familie die is gebouwd rond expliciete chain-of-thought, en de eerste die op schaal agentische training toevoegt aan de grotere modellen. Alle drie de formaten zijn dense, decoder-only Transformers onder Apache 2.0, voorgetraind op ongeveer 15 biljoen tokens in vijf fasen, en draaien allemaal op 128K native context met een long-context-uitbreiding naar 512K. De aankondiging was geen persbericht: de primaire bron is de technische blog van Hugging Face, "Granite 4.2 LLMs: How They're Built," gepubliceerd naast de modelkaarten op 25 augustus. De Chinese techpers pikte de familie binnen enkele uren op, en Ollama vermeldt al een granite4.2:3b-build.

Wat maakt de 3B tot het randprofiel

De 3B is nagetraind vanuit Granite-4.1-3B-Base, en wat het onderscheidt van zijn zuster-modellen is wat het niet heeft. De Granite 4.2 8B en Granite 4.2 30B hebben beide IBM's agentische reinforcement learning ontvangen — training die een model leert om een terminal te bedienen, code uit te voeren en op het web te zoeken in sandboxomgevingen, en daarom dragen die twee SWE-Bench- en Terminal-Bench-scores. De 3B slaat dat blok volledig over; zijn modelkaart rapporteert geen SWE-Bench- of Terminal-Bench-resultaten omdat de agentic-RL-harness er nooit in is getraind.

Wat de 3B behoudt, is de redeneerkern en de interface:

• Parameters — 3B (ongeveer 4B in totaal met embeddings volgens de safetensors-metadata), een dense decoder-only Transformer gebaseerd op Granite-4.1-3B-Base.

• Architectuur — gegroepeerde query-aandacht (40 koppen, 8 KV-koppen), RoPE bij θ=10.000.000, SwiGLU MLP (verborgen grootte 8.192), RMSNorm, bfloat16.

• Context — 131,072 tokens native; een vijfde pre-trainingsfase breidt het venster uit tot 512K.

• Denkmodi — standaard volledig denken (<think>...</think>), niet-denken via enable_thinking=False, en een modus met lage inspanning die een kort denkbudget besteedt aan eenvoudige vragen.

• Tool calling — OpenAI-compatibele function calling, hetzelfde schema dat de grotere zustermodellen gebruiken, geleverd via een vLLM-endpoint; OpenHands-, OpenCode- en Pi-integraties zijn gedocumenteerd.

• Talen — 12 getest: Engels, Duits, Spaans, Frans, Japans, Portugees, Arabisch, Tsjechisch, Italiaans, Koreaans, Nederlands, Chinees.

• Serving — Hugging Face Transformers, vLLM (v0.20+ met een speciale denkparser), SGLang, GGUF-builds voor llama.cpp, FP8/NVFP4/MXFP4-kwantiseringen, en Ollama.

De door de leverancier gerapporteerde cijfers.

De kaart vermeldt sterke redeneerscores, en die zijn allemaal van IBM zelf. Bij de wiskunde- en redeneerevals scoort de 3B 78.33 op AIME 2025, 66.67 op HMMT februari 2025, 54.80 op GPQA en 69.71 op LiveCodeBench v6. Voor instructie-opvolging: 67.84 op MMLU-Pro en 74.33 op IFBench. Bij lange context zijn de RULER-scores 67.52 op 64K en 55.30 op 128K. Bij de agentic-general-evals scoort de 3B — basis-toolgebruik, zonder het agentic-RL-blok — 52.41 op BFCL v4.

Niets hiervan is onafhankelijk gereproduceerd. Het model werd op 25 augustus uitgebracht; Artificial Analysis heeft er nog geen vermelding voor, en er is geen evaluatie door derden gepubliceerd. Het AIME-cijfer van 78,33 is het cijfer om in de gaten te houden: voor een dicht model van de 3B-klasse ligt het ver boven het bereik dat kleine open modellen historisch hebben bereikt, en zo'n cijfer op papier is precies wat een reproductierun bevestigt of stilletjes terugneemt. Beschouw elk cijfer in deze sectie als de claim van IBM.

Wat is bevestigd, en wat niet

Bevestigd door de artefacten: de gewichten zijn downloadbaar; de licentie is Apache 2.0; de architectuur, contextlengtes, redeneermodi en tool-calling-interface komen overeen met de kaart; en het trainingsrecept is in ongebruikelijk detail gedocumenteerd, tot aan de dataproporties en het NVIDIA GB200 NVL72-cluster (gehost door CoreWeave) dat is gebruikt om de familie te trainen. Bevestigd door integratiewerk op de releasedag: Ollama vermeldt al granite4.2:3b, en de kaart documenteert vLLM, SGLang, Transformers en GGUF-servingpaden.

Nog niet bevestigd: onafhankelijke benchmarkresultaten; of er een gehoste API — IBM's eigen watsonx of een derde partij — zal verschijnen en tegen welke prijs; hoe de 512K-uitbreiding zich gedraagt bij echte workloads met lange documenten in plaats van RULER-naaldtesten; en hoe de basale tool calling van de 3B standhoudt in productie-agentloops waar het geen agentic-RL-training heeft om op te leunen.

Waar de 3B concurreert, en hoe je het test

De gok van de 3B is dat klein en lokaal een functie is, geen compromis. Daaronder stopt de familie — de 3B is de ondergrens van de Granite 4.2-lijn — en eromheen is het budget-redeneringsveld dichtbezet aan de gehoste kant, met DeepSeek V4 Flash en Gemini 3.5 Flash-Lite die de goedkope gehoste redeneringslagen verankeren, terwijl er het hele jaar door kleine open-weight redeneringsmodellen verschijnen. De 3B verschilt op één specifiek punt van allemaal: hij is dense, Apache-2.0 en klein genoeg dat de marginale kosten van een verzoek de elektriciteit van één bescheiden GPU zijn — en hij is ook nieuw, onbewezen en zonder een enkele evaluatie door derden.

Die combinatie is precies waar een routeringslaag zijn bestaansrecht bewijst. OrcaRouter routeert Granite 4.2 3B niet — het eerlijke antwoord over beschikbaarheid is self-hosting via vLLM, SGLang of Ollama, of IBM's eigen kanalen zodra die verschijnen — maar de gehoste modellen waarmee het concurreert, staan op OrcaRouter tegen de lijstprijs van de provider, doorgegeven met 0% opslag, achter één API-sleutel. Als je de vergelijkingsopstelling bouwt die bepaalt of de lokale redenering van de 3B het wint van het huren van een goedkoop gehost model, wijst één sleutel naar de gehoste kant, test je het A/B tegen een self-hosted Granite via één endpoint, en absorbeert automatische failover de uren waarin je eigen GPU-pool verzadigd is. Een prijsverlaging op die gehoste alternatieven verschijnt dezelfde dag in de doorgegeven prijs.

Wat te kijken

Drie dingen bepalen hoe deze release herinnerd zal worden. Ten eerste een onafhankelijke reproductie van de AIME- en GPQA-cijfers — de kloof tussen 78,33 op een kaart en 78,33 in een externe run is waar claims over kleine modellen staan of vallen. Ten tweede of watsonx of een andere host de 3B oppikt en tegen welke prijs per token; een sub-2-gigabyte gekwantiseerd redenerend model zou een opvallend goedkoop gehost niveau kunnen opleveren. Ten derde of de modus voor weinig moeite redeneren de kwaliteit bij eenvoudige vragen behoudt, want die modus is wat een redenerend model op laptopformaat bruikbaar maakt in echt productverkeer. Granite 4.2 3B is een écht open, goed gedocumenteerd redenerend model dat stil is uitgebracht en morgen al op jouw hardware kan draaien; de open vragen hebben allemaal antwoorden die binnen enkele weken komen.