Granite 4.2 3B יצא: מודל החשיבה בגודל מחשב נייד של IBM משיג 78.33 ב-AIME 2025

אתה יכול להריץ את Granite 4.2 3B על מחשב נייד כבר הערב. זו העובדה המעשית שמתחת למספר שבכותרת: IBM שחררה את Granite 4.2 3B ב-25 באוגוסט 2026 תחת רישיון Apache-2.0, כמודל הקטן מבין שלושת מודלי ההיגיון הצפופים במשפחת Granite 4.2 החדשה — Granite 4.2 3B, Granite 4.2 8B ו-Granite 4.2 30B — וכרטיס המודל שלה טוען לציון 78.33 ב-AIME 2025, ציון היגיון מתמטי שלפני כמה שנים היה שייך רק למודלים גדולים ממנו פי מאה. המשקולות מסתכמות בכ-3 מיליארד פרמטרים: שישה עד שמונה גיגה-בייט ב-bfloat16, ופחות משני גיגה-בייט בקוונטיזציה מעשית. זו כל הנקודה של השחרור הזה — מודל היגיון שפעם היה רכישה של מרכז נתונים עכשיו נכנס לתיק.

המסגור הכנה צריך לשבת ליד זה. כל מספר בכרטיס הוא של IBM עצמה, שהודפס ביום שבו עלו המשקלים, ואף מעבדה עצמאית לא שחזרה אף אחד מהם. אין עדיין API מתארח — הכרטיס לא מציין ספק הסקה — כך שהדרך היחידה לפגוש את המודל הזה היום היא להריץ אותו בעצמך או לחכות שיופיע דרגה מתארחת. זו קריאה של מה-אנחנו-יודעים-עכשיו של החבר הקטן ביותר במשפחה, מה שאומר שצריך להיות מדויקים לגבי אילו טענות המאגר באמת תומך בהן.

מה שוחרר, וכמה בשקט

Granite 4.2 הוא דור החשיבה (reasoning) של IBM — משפחת Granite הראשונה שנבנתה סביב שרשרת חשיבה מפורשת (chain-of-thought), והראשונה שהוסיפה אימון אייג'נטי בקנה מידה גדול לחברים הגדולים יותר שלה. כל שלושת הגדלים הם טרנספורמרים צפופים, מבוססי-דקודר בלבד, תחת רישיון Apache 2.0, מאומנים מראש על כ־15 טריליון טוקנים בחמישה שלבים, וכולם רצים עם קונטקסט מקורי של 128K והרחבת קונטקסט ארוך ל־512K. ההכרזה לא הייתה השקה לעיתונות: המקור הראשי הוא הבלוג הטכני של Hugging Face, "Granite 4.2 LLMs: How They're Built," שפורסם יחד עם כרטיסי המודל ב־25 באוגוסט. עיתונות הטכנולוגיה הסינית אספה את המשפחה תוך שעות, ו־Ollama כבר מציגה build של granite4.2:3b.

מה הופך את ה-3B לאיבר הקצה?

ה-3B נוצר באמצעות אימון המשך מ-Granite-4.1-3B-Base, ומה שמבדיל אותו מאחיו הוא דווקא מה שאין לו. ה-Granite 4.2 8B וה-Granite 4.2 30B קיבלו שניהם את למידת החיזוק האייג'נטית של IBM — אימון שמלמד מודל להפעיל טרמינל, להריץ קוד ולחפש באינטרנט בתוך סביבות מבודדות (sandbox), ולכן לשני אלה יש ציוני SWE-Bench ו-Terminal-Bench. ה-3B מדלג על החסימה הזו לחלוטין; גיליון הנתונים שלו אינו מדווח על תוצאות SWE-Bench או Terminal-Bench, משום שמסגרת ה-agentic-RL מעולם לא אומנה בתוכו.

מה שה-3B שומר הוא ליבת ההיגיון והממשק:

• פרמטרים — 3B (כ-4B בסך הכול עם embeddings לפי מטא-נתוני safetensors), Transformer צפוף מסוג decoder-only המבוסס על Granite-4.1-3B-Base.

ארכיטקטורה — קשב מקובץ-שאילתות (40 ראשים, 8 ראשי KV), RoPE ב-θ=10,000,000, SwiGLU MLP (גודל חבוי 8,192), RMSNorm, bfloat16.

• הקשר — 131,072 טוקנים במקור; שלב חמישי של אימון מקדים מרחיב את החלון ל-512K.

• מצבי חשיבה — חשיבה מלאה כברירת מחדל (<think>...</think>), ללא חשיבה באמצעות enable_thinking=False, ומצב מאמץ נמוך שמשקיע תקציב חשיבה קצר על שאלות קלות.

• קריאת כלים — קריאת פונקציות התואמת ל-OpenAI, באותה סכמה שבה משתמשים האחים הגדולים יותר, מוגשת דרך נקודת קצה של vLLM; האינטגרציות עם OpenHands, OpenCode ו-Pi מתועדות.

• שפות — 12 שנבדקו: אנגלית, גרמנית, ספרדית, צרפתית, יפנית, פורטוגזית, ערבית, צ'כית, איטלקית, קוריאנית, הולנדית, סינית.

• שירות — Hugging Face Transformers, vLLM (v0.20+ עם מפענח חשיבה ייעודי), SGLang, בניות GGUF עבור llama.cpp, קוונטיזציות FP8/NVFP4/MXFP4, ו-Ollama.

המספרים המדווחים על ידי הספק

הכרטיס מציג ציוני חשיבה חזקים, וכל אחד מהם הוא של IBM עצמה. בהערכות מתמטיקה וחשיבה, ה-3B מציג 78.33 ב-AIME 2025, 66.67 ב-HMMT פברואר 2025, 54.80 ב-GPQA, ו-69.71 ב-LiveCodeBench v6. במעקב אחר הוראות: 67.84 ב-MMLU-Pro ו-74.33 ב-IFBench. בהקשר ארוך, ציוני RULER הם 67.52 ב-64K ו-55.30 ב-128K. בהערכות הסוכן הכלליות, ה-3B אכן כולל — שימוש בסיסי בכלים, ללא בלוק ה-agentic-RL — הוא מציג 52.41 ב-BFCL v4.

אף אחד מזה לא שוחזר באופן עצמאי. המודל שוחרר ב-25 באוגוסט; ל-Artificial Analysis אין עדיין ערך עבורו, ואף הערכה של צד שלישי לא פורסמה. הנתון 78.33 ב-AIME הוא זה שצריך לעקוב אחריו: עבור מודל צפוף מסוג 3B, הוא נמצא הרבה מעל הטווח שמודלים פתוחים קטנים הגיעו אליו היסטורית, ומספר על-נייר שכזה הוא בדיוק מה שריצת שכפול או מאשרת או חוזרת בו בשקט. התייחס לכל נתון בסעיף זה כטענה של IBM.

מה מאומת, ומה לא

אושר על ידי הממצאים: המשקלים ניתנים להורדה; הרישיון הוא Apache 2.0; הארכיטקטורה, אורכי הקונטקסט, מצבי החשיבה וממשק קריאת הכלים תואמים לכרטיס; ומתכון האימון מתועד בפירוט יוצא דופן, עד לפרופורציות הנתונים ולאשכול NVIDIA GB200 NVL72 (באירוח של CoreWeave) ששימש לאימון המשפחה. אושר על ידי עבודת האינטגרציה ביום ההשקה: Ollama כבר מציג granite4.2:3b, ובכרטיס מתועדים נתיבי ההגשה של vLLM, SGLang, Transformers ו-GGUF.

עדיין לא אושר: תוצאות בדיקות בלתי תלויות; האם תחריש API מתארח — watsonx של IBM עצמה או כל צד שלישי — יופיע ובאיזה מחיר; כיצד ההרחבה של 512K מתנהגת במטלות אמיתיות של מסמכים ארוכים, במקום מבחני המחט של RULER; וכיצד קריאות הכלים הבסיסיות של ה-3B מחזיקות מעמד בלולאות ייצור של סוכן, שבהן אין לה אימון RL אגנטי להישען עליו.

היכן שה-3B מתחרה, וכיצד לבדוק אותו.

ההימור של ה-3B הוא שקטן ומקומי הוא תכונה, לא פשרה. מתחתיו המשפחה נעצרת — ה-3B הוא הרצפה של קו Granite 4.2 — ומסביבו תחום ההיגיון התקציבי צפוף בצד המארח, כאשר DeepSeek V4 Flash ו-Gemini 3.5 Flash-Lite מעגנים את שכבות ההיגיון המארחות הזולות, ומודלי היגיון קטנים בעלי משקלים פתוחים מגיעים כל השנה. ה-3B שונה מכולם בדרך אחת ספציפית: הוא דחוס, בעל רישיון Apache-2.0, וקטן מספיק כך שהעלות השולית של בקשה היא החשמל של GPU אחד צנוע — והוא גם חדש, לא מוכח, וללא הערכת צד שלישי אחת.

השילוב הזה הוא בדיוק המקום שבו שכבת ניתוב מוכיחה את ערכה. OrcaRouter אינו מנתב את Granite 4.2 3B — קו הזמינות הכנה הוא אירוח עצמי דרך vLLM, SGLang או Ollama, או דרך הערוצים של IBM עצמה ככל שיופיעו — אבל המודלים המתארחים שמתחרים ב-Granite נמצאים ב-OrcaRouter במחיר המחירון של הספק, מועברים עם 0% תוספת, תחת מפתח API אחד. אם אתה בונה את מערך ההשוואה שמכריע האם ההיגיון המקומי של ה-3B עדיף על השכרה של מודל תקציבי מתארח, מפתח אחד מצביע על הצד המתארח, אתה מריץ בדיקת A/B בין המודל המתארח לבין Granite באירוח עצמי דרך נקודת קצה אחת, ו-failover אוטומטי מכסה את השעות שבהן מאגר ה-GPU שלך רווי. הורדת מחיר באותן חלופות מתארחות משתקפת במחיר המועבר באותו יום שבו היא מתרחשת.

מה לצפות

שלושה דברים יכריעו כיצד ייזכר השחרור הזה. {{1}}ראשית, שכפול בלתי תלוי של מספרי ה-AIME וה-GPQA — הפער בין 78.33 על כרטיס ל-78.33 בריצה של צד שלישי הוא המקום שבו טענות על מודלים קטנים חיות או מתות.{{/1}} {{2}}שנית, האם watsonx או מארח אחר יאמץ את ה-3B ובאיזה מחיר לטוקן; מודל חשיבה מכומת של מתחת ל-2 ג'יגה-בייט יכול ליצור שכבת אירוח זולה להפליא.{{/2}} {{3}}שלישית, האם מצב החשיבה במאמץ נמוך ישמור על איכות בשאלות קלות, כי המצב הזה הוא מה שהופך מודל חשיבה בגודל מחשב נייד לשימושי בתעבורת מוצר אמיתית.{{/3}} Granite 4.2 3B הוא מודל חשיבה פתוח באמת ומתועד היטב, שיצא בשקט ויכול לרוץ על החומרה שלך כבר מחר; כל השאלות הפתוחות יקבלו תשובות תוך שבועות.