Granite 4.2 3B är ute: IBMs laptopstora resonemangsmodell hävdar 78.33 på AIME 2025

Du kan köra Granite 4.2 3B på en bärbar dator i kväll. Det är det praktiska faktumet bakom rubriksiffran: IBM släppte Granite 4.2 3B den 25 augusti 2026 under en Apache-2.0-licens, som den minsta av de tre täta resonemangsmodellerna i den nya Granite 4.2-familjen — Granite 4.2 3B, Granite 4.2 8B och Granite 4.2 30B — och dess modellkort anger 78,33 på AIME 2025, ett matematikresonemangsresultat som för några år sedan bara tillhörde modeller hundra gånger så stora. Vikterna uppgår till ungefär 3 miljarder parametrar: sex till åtta gigabyte i bfloat16, under två gigabyte vid en praktisk kvantisering. Det är hela poängen med den här releasen — en resonemangsmodell som brukade vara ett datacenterinköp får nu plats i en väska.

Den ärliga inramningen måste ligga intill det. Varje siffra på kortet är IBMs egen, tryckt den dag vikterna publicerades, och inget oberoende labb har återskapat någon av dem. Det finns ännu inget värdbaserat API – kortet listar ingen inferensleverantör – så det enda sättet att möta den här modellen idag är att köra den själv eller vänta på att en värdbaserad nivå dyker upp. Detta är en vad-vi-vet-nu-avläsning av den minsta medlemmen i familjen, vilket innebär att vara precis om vilka påståenden som repositoryt faktiskt stöder.

Vad som släpptes, och hur tyst

Granite 4.2 är IBMs resonemangsgenerering – den första Granite-familjen som byggts kring explicit kedja-av-tanke, och den första som lägger till agentisk träning i stor skala på sina större medlemmar. Alla tre storlekarna är täta, decoder-only Transformers under Apache 2.0, förtränade på ungefär 15 biljoner token över fem faser, och alla körs på 128K nativ kontext med en långkontextutökning till 512K. Tillkännagivandet var ingen presslansering: den primära källan är Hugging Face-teknikbloggen, "Granite 4.2 LLMs: How They're Built," publicerad tillsammans med modellkorten den 25 augusti. Kinesisk teknikpress plockade upp familjen inom några timmar, och Ollama listar redan en granite4.2:3b-bygge.

Vad gör 3B till kantelementet?

3B-modellen är posttränad från Granite-4.1-3B-Base, och det som skiljer den från sina syskon är det den inte har. Både Granite 4.2 8B och Granite 4.2 30B tränades med IBMs agentiska förstärkningsinlärning – träning som lär en modell att använda en terminal, köra kod och söka på webben i sandlådemiljöer, vilket är anledningen till att dessa två har SWE-Bench- och Terminal-Bench-poäng. 3B-modellen hoppar över det blocket helt; dess modellkort rapporterar inga SWE-Bench- eller Terminal-Bench-resultat eftersom den aldrig tränades med agentisk RL.

Vad 3B behåller är resonemangskärnan och gränssnittet:

• Parametrar — 3B (cirka 4B totalt med embeddings enligt safetensors-metadata), tät decoder-only Transformer byggd på Granite-4.1-3B-Base.

• Arkitektur — grouped-query attention (40 huvuden, 8 KV-huvuden), RoPE vid θ=10 000 000, SwiGLU MLP (dold storlek 8 192), RMSNorm, bfloat16.

• Kontext — 131,072 token nativt; en femte förträningsfas utökar fönstret till 512K.

• Resonemangslägen — fullständigt tänkande som standard (<think>...</think>), icke-tänkande via enable_thinking=False, och ett läge med låg ansträngning som använder en kort resonemangsbudget på enkla frågor.

Verktygsanrop — OpenAI-kompatibelt funktionsanrop, med samma schema som de större syskonen använder, serveras via en vLLM-endpoint; integrationer med OpenHands, OpenCode och Pi är dokumenterade.

• Språk — 12 testade: engelska, tyska, spanska, franska, japanska, portugisiska, arabiska, tjeckiska, italienska, koreanska, nederländska, kinesiska.

• Servering — Hugging Face Transformers, vLLM (v0.20+ med en dedikerad tankeparser), SGLang, GGUF-byggen för llama.cpp, FP8/NVFP4/MXFP4-kvantiseringar och Ollama.

De leverantörsrapporterade siffrorna

Modellkortet listar starka resonemangsresultat, och varenda en av dem är IBMs egna. På matematik- och resonemangsutvärderingar listar 3B-modellen 78,33 på AIME 2025, 66,67 på HMMT februari 2025, 54,80 på GPQA och 69,71 på LiveCodeBench v6. Gällande instruktionsföljning: 67,84 på MMLU-Pro och 74,33 på IFBench. På lång kontext är RULER-poängen 67,52 vid 64K och 55,30 vid 128K. På de agentiska generella utvärderingar som 3B-modellen bär — grundläggande verktygsanvändning, utan agentic-RL-blocket — listar den 52,41 på BFCL v4.

Inget av detta har oberoende reproducerats. Modellen släpptes den 25 augusti; Artificial Analysis har ännu ingen post för den, och ingen tredjepartsutvärdering har publicerats. AIME-siffran 78.33 är den att hålla ögonen på: för en tät modell i 3B-klassen ligger den långt över det intervall som små öppna modeller historiskt har nått, och en sådan siffra på pappret är exakt vad en reproduceringskörning antingen bekräftar eller tyst tar tillbaka. Betrakta varje siffra i detta avsnitt som IBMs påstående.

Vad är bekräftat, och vad är inte

Bekräftat av artefakterna: vikterna är nedladdningsbara; licensen är Apache 2.0; arkitekturen, kontextlängderna, resonemangslägena och gränssnittet för verktygsanrop matchar kortet; och träningsreceptet är dokumenterat i ovanlig detalj, ända ner till dataproportionerna och NVIDIA GB200 NVL72-klustret (värd av CoreWeave) som användes för att träna familjen. Bekräftat genom integrationsarbetet på releasedagen: Ollama listar redan granite4.2:3b, och kortet dokumenterar vLLM, SGLang, Transformers och GGUF:s serveringsvägar.

Ännu inte bekräftat: oberoende benchmarkresultat; huruvida ett värdbaserat API — IBM:s egen watsonx eller någon tredje part — kommer att erbjudas och till vilket pris; hur 512K-tillägget beter sig på verkliga långdokumentarbetsbelastningar snarare än RULER-nålstest; och hur 3B:ns grundläggande verktygsanrop håller måttet i produktionsagentloopar där den inte har någon agentisk RL-träning att luta sig mot.

Där 3B konkurrerar, och hur man testar det

3B:ns satsning är att liten och lokal är en funktion, inte en kompromiss. Nedanför den slutar familjen — 3B är golvet i Granite 4.2-serien — och runtomkring är budget-resonemangsfältet tätt på den värdbaserade sidan, med DeepSeek V4 Flash och Gemini 3.5 Flash-Lite som ankare för de billiga värdbaserade resonemangsnivåerna och små open-weight-resonemangsmodeller som anländer året runt. 3B skiljer sig från alla dem på ett specifikt sätt: den är tät, Apache-2.0, och tillräckligt liten för att marginalkostnaden för en förfrågan ska vara elen från ett modest GPU — och den är också ny, oprövad och utan en enda tredjepartsutvärdering.

Det är precis i den kombinationen som ett routningslager gör skäl för sig. OrcaRouter routar inte Granite 4.2 3B – ärligt talat är modellen tillgänglig via självhysning med vLLM, SGLang eller Ollama, eller via IBMs egna kanaler när de dyker upp – men de hostade modeller som den konkurrerar med ligger på OrcaRouter till leverantörens listpris, vidarefakturerat med 0 % påslag, bakom en enda API-nyckel. Om du bygger den jämförelsemiljö som avgör om 3B:ans lokala resonemang är bättre än att hyra en hostad budgetmodell, ger en enda nyckel tillgång till de hostade modellerna, du A/B-testar budgetmodellen mot en självhysad Granite genom en enda slutpunkt, och automatisk failover absorberar timmarna när din egen GPU-pool är mättad. En prissänkning på de hostade alternativen syns i det vidarefakturerade priset samma dag som den sker.

Vad du ska titta på

Tre saker kommer att avgöra hur den här releasen blir ihågkommen. För det första, en oberoende reproduktion av AIME- och GPQA-siffrorna — gapet mellan 78,33 på ett kort och 78,33 i en tredjepartskörning är där småmodellers anspråk står eller faller. För det andra, om watsonx eller en annan värd plockar upp 3B och till vilket pris per token; en kvantiserad resonemangsmodell på under 2 gigabyte skulle kunna bli en påfallande billig värdnivå. För det tredje, om läget för låg ansträngning behåller kvaliteten på enkla frågor, eftersom det läget är det som gör en resonemangsmodell i laptopstorlek användbar i riktig produkttrafik. Granite 4.2 3B är en genuint öppen, väldokumenterad resonemangsmodell som släpptes i tysthet och kan köras på din hårdvara redan i morgon; alla öppna frågor har svar på väg inom några veckor.