Granite 4.2 3B telah rilis: model penalaran seukuran laptop milik IBM mengklaim skor 78.33 pada AIME 2025

Anda dapat menjalankan Granite 4.2 3B di laptop malam ini. Itulah fakta praktis di balik angka utama: IBM merilis Granite 4.2 3B pada 25 Agustus 2026 dengan lisensi Apache-2.0, sebagai model terkecil dari tiga model penalaran padat dalam keluarga Granite 4.2 yang baru — Granite 4.2 3B, Granite 4.2 8B, dan Granite 4.2 30B — dan kartu modelnya mengklaim skor 78.33 pada AIME 2025, skor penalaran matematika yang beberapa tahun lalu hanya dimiliki model seratus kali lebih besar. Bobotnya mencapai sekitar 3 miliar parameter: enam hingga delapan gigabyte dalam bfloat16, di bawah dua gigabyte pada kuantisasi praktis. Itulah inti dari rilis ini — model penalaran yang dulu merupakan pembelian pusat data kini muat di dalam tas.

Kerangka yang jujur harus diletakkan di samping itu. Setiap angka di kartu adalah milik IBM sendiri, dicetak pada hari bobotnya dirilis, dan tidak ada laboratorium independen yang mereproduksi satu pun di antaranya. Belum ada API yang dihosting — kartu tersebut tidak mencantumkan penyedia inferensi — jadi satu-satunya cara untuk mengakses model ini saat ini adalah menjalankannya sendiri atau menunggu tingkatan hosting tersedia. Ini adalah paparan tentang apa yang kita ketahui saat ini dari anggota terkecil keluarga ini, yang berarti harus presisi tentang klaim mana yang benar-benar didukung oleh repositori.

Apa yang dirilis, dan seberapa diam-diamnya

Granite 4.2 adalah generasi penalaran IBM — keluarga Granite pertama yang dibangun di sekitar rantai pemikiran eksplisit, dan yang pertama menambahkan pelatihan agentik berskala besar pada anggota-anggota yang lebih besar. Ketiga ukurannya adalah Transformer padat, decoder-only, di bawah Apache 2.0, dilatih sebelumnya pada sekitar 15 triliun token dalam lima fase, dan semuanya berjalan pada konteks native 128K dengan ekstensi konteks panjang hingga 512K. Pengumuman itu bukan peluncuran pers: sumber utamanya adalah blog teknis Hugging Face, "Granite 4.2 LLMs: How They're Built," yang diterbitkan bersama kartu model pada 25 Agustus. Pers teknologi Tiongkok mengangkat keluarga ini dalam hitungan jam, dan Ollama sudah mencantumkan build granite4.2:3b.

Apa yang membuat 3B menjadi anggota tepi

3B dilatih lanjut dari Granite-4.1-3B-Base, dan yang membedakannya dari saudara-saudaranya adalah apa yang tidak dimilikinya. Granite 4.2 8B dan Granite 4.2 30B sama-sama menerima pembelajaran penguatan agen IBM — pelatihan yang mengajarkan model untuk mengoperasikan terminal, menjalankan kode, dan mencari di web di dalam lingkungan sandbox, itulah sebabnya keduanya memiliki skor SWE-Bench dan Terminal-Bench. 3B melewati blok itu sepenuhnya; kartunya tidak melaporkan hasil SWE-Bench atau Terminal-Bench karena harness RL-agen tidak pernah dilatih ke dalamnya.

Yang dipertahankan 3B adalah inti penalaran dan antarmuka:

Parameter — 3B (sekitar 4B total dengan embedding menurut metadata safetensors), Transformer padat khusus decoder yang dibangun di atas Granite-4.1-3B-Base.

• Arsitektur — atensi kueri-berkelompok (40 kepala, 8 kepala KV), RoPE pada θ=10,000,000, MLP SwiGLU (ukuran tersembunyi 8,192), RMSNorm, bfloat16.

• Konteks — 131.072 token secara native; fase pra-pelatihan kelima memperluas jendela hingga 512K.

• Mode penalaran — pemikiran penuh secara default (<think>...</think>), non-berpikir melalui enable_thinking=False, dan mode upaya rendah yang menghabiskan anggaran penalaran singkat untuk pertanyaan mudah.

• Pemanggilan alat — pemanggilan fungsi yang kompatibel dengan OpenAI, skema yang sama yang digunakan oleh saudara-saudaranya yang lebih besar, dilayani melalui endpoint vLLM; integrasi OpenHands, OpenCode, dan Pi didokumentasikan.

• Bahasa — 12 yang diuji: Inggris, Jerman, Spanyol, Prancis, Jepang, Portugis, Arab, Ceko, Italia, Korea, Belanda, Tionghoa.

• Penyajian — Hugging Face Transformers, vLLM (v0.20+ dengan parser pemikiran khusus), SGLang, build GGUF untuk llama.cpp, kuantisasi FP8/NVFP4/MXFP4, dan Ollama.

Angka yang dilaporkan vendor

Kartu tersebut mencantumkan skor penalaran yang kuat, dan semuanya milik IBM sendiri. Pada evaluasi matematika dan penalaran, 3B mencantumkan 78.33 pada AIME 2025, 66.67 pada HMMT Februari 2025, 54.80 pada GPQA, dan 69.71 pada LiveCodeBench v6. Pada kepatuhan instruksi: 67.84 pada MMLU-Pro dan 74.33 pada IFBench. Pada konteks panjang, skor RULER adalah 67.52 pada 64K dan 55.30 pada 128K. Pada evaluasi agen-umum yang 3B bawa — penggunaan alat dasar, tanpa blok agentic-RL — ia mencantumkan 52.41 pada BFCL v4.

Tidak ada satu pun dari ini yang telah direproduksi secara independen. Model tersebut dirilis pada 25 Agustus; Artificial Analysis belum memiliki entri untuknya, dan belum ada evaluasi pihak ketiga yang dipublikasikan. Angka 78.33 AIME adalah yang perlu diperhatikan: untuk model dense kelas 3B, angka tersebut jauh di atas rentang yang secara historis dicapai oleh model terbuka kecil, dan angka di atas kertas seperti itu persis seperti yang akan dikonfirmasi atau diam-diam ditarik kembali oleh uji reproduksi. Perlakukan setiap angka di bagian ini sebagai klaim IBM.

Apa yang dikonfirmasi, dan apa yang tidak

Confirmed by the artifacts: the weights are downloadable; the license is Apache 2.0; the architecture, context lengths, reasoning modes, and tool-calling interface match the card; and the training recipe is documented in unusual detail, down to data proportions and the NVIDIA GB200 NVL72 cluster (hosted by CoreWeave) used to train the family. Confirmed by release-day integration work: Ollama already lists granite4.2:3b, and the card documents vLLM, SGLang, Transformers, and GGUF serving paths.

Belum dikonfirmasi: hasil benchmark independen; apakah API yang dihosting — watsonx milik IBM sendiri atau pihak ketiga mana pun — akan hadir dan dengan harga berapa; bagaimana ekstensi 512K berperilaku pada beban kerja dokumen panjang nyata dibandingkan uji jarum RULER; dan bagaimana pemanggilan alat dasar 3B bertahan dalam loop agen produksi yang tidak memiliki pelatihan RL agenik untuk diandalkan.

Di mana 3B bersaing, dan cara mengujinya

Taruhan 3B adalah bahwa kecil dan lokal adalah sebuah fitur, bukan kompromi. Di bawahnya, keluarga itu berhenti — 3B adalah lantai dari lini Granite 4.2 — dan di sekitarnya, bidang penalaran hemat biaya sangat padat di sisi terhosting, dengan DeepSeek V4 Flash dan Gemini 3.5 Flash-Lite menjadi andalan tingkatan penalaran terhosting yang murah, serta model penalaran open-weight kecil yang bermunculan sepanjang tahun. 3B berbeda dari semuanya dalam satu hal yang spesifik: ia padat, Apache-2.0, dan cukup kecil sehingga biaya marjinal sebuah permintaan hanyalah listrik dari satu GPU yang sederhana — dan ia juga baru, belum terbukti, dan tanpa satu pun evaluasi pihak ketiga.

Justru pada kombinasi seperti itulah sebuah lapisan routing membuktikan nilainya. OrcaRouter tidak merutekan Granite 4.2 3B — jawaban jujur soal ketersediaannya adalah self-hosting melalui vLLM, SGLang, atau Ollama, atau saluran IBM sendiri seiring tersedianya — tetapi model hosted yang menjadi pesaingnya ada di OrcaRouter dengan harga daftar penyedia, diteruskan dengan markup 0%, cukup dengan satu kunci API. Jika Anda membangun kerangka pembanding untuk menentukan apakah penalaran lokal 3B mengungguli menyewa model hosted murah, satu kunci mengarah ke sisi hosted, Anda menguji A/B-nya melawan Granite yang di-host sendiri melalui satu endpoint, dan failover otomatis menutupi jam-jam ketika pool GPU Anda sendiri jenuh. Penurunan harga pada alternatif hosted tersebut langsung terlihat pada harga yang diteruskan di hari yang sama saat penurunan itu terjadi.

Apa yang harus ditonton

Tiga hal akan menentukan bagaimana rilis ini dikenang. Pertama, {{1}}reproduksi independen atas angka AIME dan GPQA — kesenjangan antara 78.33 di kartu dan 78.33 pada pengujian pihak ketiga{{/1}} adalah tempat klaim model kecil hidup atau mati. Kedua, {{2}}apakah watsonx atau host lain yang mengadopsi model 3B dan pada harga per-token berapa{{/2}}; {{3}}model penalaran terkuantisasi berukuran di bawah 2 gigabyte dapat menjadi tier hosted yang sangat murah{{/3}}. Ketiga, {{4}}apakah mode penalaran upaya-rendah tetap menjaga kualitas pada pertanyaan mudah{{/4}}, karena {{5}}mode itulah yang membuat model penalaran seukuran laptop dapat digunakan dalam lalu lintas produk nyata{{/5}}. Granite 4.2 3B adalah model penalaran yang benar-benar terbuka dan terdokumentasi dengan baik, dirilis secara senyap dan dapat berjalan di perangkat keras Anda besok; semua pertanyaan terbuka akan terjawab dalam hitungan minggu.