SubQ Snap 1.1 מול Granite 4.2 3B: המחיר לכל טוקן הוא החשבון השגוי

של IBMGranite 4.2 3B מתומחר ב-$0.03 למיליון טוקני קלט. SubQ Snap 1.1 מתומחר ב-$0.04. אילו התעריף לפי טוקן היה החשבון, המודל בעל 3 מיליארד פרמטרים ברישיון Apache-2.0 היה מנצח את מודל קבלת ההחלטות שהתחלק במקום הראשון ב-Artificial Analysis Decision Index v1.0, והמאמר הזה היה קצר. התעריף אינו החשבון. ברגע שמתמחרים החלטה ולא טוקן — כולל מה שכל מודל חייב לפלוט כדי לייצר אחת — הדירוג מתהפך, מתהפך בחזרה בהתאם להגדרת תצורה אחת, ומסתיים במקום שאף אחד מהספקים לא מפרסם.

Granite 4.2 3B הוא מודל ההיסק הדחוס והקטן של IBM, שיצא ב-25 באוגוסט 2026 לצד אחיו 8B ו-30B, עם מעט הד תקשורתי באופן חריג — פוסט בלוג טכני ולא אירוע השקה. Snap 1.1 הוא מודל ההחלטות של Subquadratic, פעיל מאז 22 באוקטובר 2026, שמחזיר בחירה מתוך קבוצת תשובות קבועה במקום לייצר טקסט. הם חופפים בדיוק בעומס עבודה אחד: לקחת קטע טקסט ולהחליט מה הוא. כל השאר בהם שונה, כולל המשמעות של "זול".

ראשית, מהם למעשה שני המודלים

Granite 4.2 3B הוא מפענח צפוף עם שלושה מיליארד פרמטרים, הבנוי על Granite-4.1-3B-Base. זהו מודל הסקה עם שלושה מצבים: מצב חשיבה שמייצר שרשרת מחשבות, מצב מאמץ נמוך, ומצב ללא חשיבה שעונה ישירות. IBM מדווחת על AIME 2025 בתוצאה 78.33, GPQA בתוצאה 54.80, LiveCodeBench v6 בתוצאה 69.71, MMLU-Pro בתוצאה 67.84, IFBench בתוצאה 74.3 ו-τ³-Bench בתוצאה 45.8 — כל הנתונים הם של הספק, ואף אחד מהם לא שוחזר באופן עצמאי. בהקשר ארוך היא מדווחת על RULER של 67.52 ב-64K ו-55.30 ב-128K. Artificial Analysis מציבה את מדד האינטליגנציה שלה ב-9, נתון שאינו בולט במונחים מוחלטים אך גבוה מהחציון עבור מחלקת הגודל שלה.

סיפור החומרה הוא החלק המעניין. הוא פועל ב-6 עד 8 ג'יגה-בייט ב-bf16 ובפחות מ-2 ג'יגה-בייט בכימות, מה שאומר מחשב נייד, כרטיס מסך צרכני בודד, או מעבד עם מספיק זיכרון RAM. הוא מיועד לטקסט בלבד, מכסה שתים-עשרה שפות, תומך בקריאה לכלים תואמת OpenAI, וזמין ב-vLLM, SGLang, Transformers, GGUF, llama.cpp, MLX ו-Ollama. אם האילוץ שלך הוא "חייב לרוץ במקום שאני שולט בו", המודל הזה עומד בו.

SubQ Snap 1.1 הוא סוג ההפוך של מוצר כמעט בכל ממד. אין לו משקלים. הוא פועל רק דרך ה-API של Subquadratic. הוא קולט עד 384K טוקנים של טקסט ותמונות וכן קבוצת תשובות של שתיים עד 255 חלופות, ומחזיר בחירה עם הסתברות מכוילת. הוא אינו יכול לכתוב משפט, וזו הנקודה: אין פלט לנתח ואין פלט לשלם עליו.

מלכודת טוקן הפלט

הנה החשבון שההשוואה לפי טוקן מסתירה. קחו מיליון החלטות ניתוב, שכל אחת קוראת 6,000 טוקנים של טקסט פנייה — נפח חודשי סביר לפעילות תמיכה בגודל בינוני, או אחר צהריים עמוס לפעילות גדולה. זה שישה מיליארד טוקני קלט.

• Granite 4.2 3B במצב ללא חשיבה — 6 מיליארד טוקנים בקלט ב-$0.03 למיליון הם $180, ובנוסף בערך חמישה טוקנים בפלט לכל החלטה, או 5 מיליון טוקנים בפלט ב-$0.12 למיליון, תמורת $0.60. סה"כ: כ-$180.60.

• Granite 4.2 3B במצב חשיבה — קלט של 6B ב-$180, ואולי 800 אסימוני הסקה לכל החלטה, או 800M אסימוני פלט ב-$0.12/M, תמורת $96. סה"כ: כ-$276.

• SubQ Snap 1.1 — 6B אסימוני קלט במחיר $0.04/M מסתכמים ב-$240, ואין כלל שורת פלט.

אז התשובה הכנה היא שלוש תשובות שונות. כאשר Granite מוגדר להשיב ישירות, הוא זול ב-25% מ-Snap, והמאמר באמת היה מסתיים שם. כאשר Granite מוגדר לחשוב, הוא יקר ב-15% מ-Snap, מפני שטוקני חשיבה הם הדבר היקר ביותר בצינור העיבוד ואיש לא מתקצב אותם. היתרון של Snap מעולם לא היה תעריף הקלט שלו — הוא גבוה ב-33% מזה של Granite — אלא בכך שלארכיטקטורה אין שום דרך להוציא טוקנים על התלבטות.

זה אינו סיכון תיאורטי. הפרופיל העצמאי של Artificial Analysis של Granite 4.2 3B מכנה את המודל "מילולי מאוד" ומתעד שהוא יצר 92 מיליון טוקני פלט בזמן שהוערך במדד Intelligence Index, לעומת חציון של 67 מיליון עבור מודלים דומים. המילוליות היא תכונה מדודה של המודל במצב חשיבה, והיא התכונה שקובעת אם יתרון המחיר לכל טוקן מחזיק מעמד מול עומס ניתוב.

זה גם מסביר מספר שנראה שגוי במבט ראשון. Artificial Analysis מציגה את Snap 1.1 בכ-30 דולר למיליון משימות, לעומת 8.4 דולר ל-Elephant 9B. שלושים דולר למיליון משימות מרמזים על משימה ממוצעת קצרה מאוד, בסדר גודל של כמה אלפי טוקנים. תמהיל הבנצ'מרק של Decision Index קצר. הטיקטים, החוזים והלוגים שלכם אינם כאלה, והעלות גדלה ליניארית עם אורך הקלט משם והלאה. התייחסו לנתוני עלות למשימה כאל מאפיין של הבנצ'מרק, לא כאל הצעת מחיר.

איפה ה-3B באמת מנצח

אסימונים זולים יותר הם הדבר הפחות חשוב כאן. אפשר לארח את Granite 4.2 3B באחסון עצמי תחת Apache 2.0, מה שאומר שאין עלות לכל קריאה כלל ברגע שהחומרה שולמה, שום נתון לא יוצא מהרשת שלך, אין הגבלת קצב, ואין ספק שיכול לשנות לך את המחיר או את המודל מתחת לרגליים. עבור תהליך עבודה כפוף לדרישות ציות זו אינה העדפה, זו דרישה, ו-Snap 1.1 פשוט לא יכול להיכנס לחדר הזה.

זה גם עושה יותר. הוא כותב את הסיכום לאחר החלטת הניתוב. הוא מטפל בקריאות לכלים עם סכימה. הוא תומך בהרחבת הקשר אופציונלית ל-512K, שנוספה בשלב קדם-אימון חמישי, שארוך על הנייר מ-384K של Snap — אם כי ציון ה-RULER שלו שיורד מ-67.52 ב-64K ל-55.30 ב-128K הוא אזהרה הוגנת לגבי כמה מהחלון הזה שמיש. והוא קטן מספיק כדי לרוץ בקצה, בקונטיינר לצד היישום שלך, בלי קפיצת רשת בין ההחלטה לפעולה.

איפה Snap 1.1 באמת מנצח

שלושה דברים שמודל גנרטיבי של 3B גרוע בהם מעצם הגדרתו.

כיול הוא הדבר הראשון. Snap 1.1 מדווח על שגיאת כיול צפויה של 0.014, ירידה מ-0.108 בגרסת התצוגה המקדימה, ועל שיעור הימנעות של 86% בשאלות שאין ביכולתו לענות עליהן — לעומת ציון אי-הזיה של 0.7% עבור מהדורת 1.0 שלו עצמו בפרוקסי של הספק. אלו מספרי ספק ויש לקרוא אותם ככאלה, אך הם מתארים מודל שאומן עם הימנעות כיעד מפורש. למודל הסקה בגודל 3B אין מטרה כזו. שאלו אותו אם פנייה ניתנת למענה והוא יפיק משפט סביר כך או כך.

התנהגות חד-מעברית בהקשר ארוך היא השנייה. Snap מעבדת 384K טוקנים במעבר קדימה אחד עם חישוב קבוע לכל טוקן, וזהו כל הנימוק ל-Subquadratic Sparse Attention. דעיכת ה-RULER של Granite היא ההתנהגות הרגילה של מודל צפוף באורך גדול פי עשרה מהאורך הנוח שלו. אם ההחלטה שלך תלויה במשהו שקבור במיקום 200,000 בחבילת לוגים, ההבדל הארכיטקטוני אינו אקדמי.

הדטרמיניזם של צורת הפלט הוא השלישי, והוא לא מוערך מספיק. Snap מחזיר מספר מתוך רשימת האפשרויות שלך. Granite מחזיר טקסט שאותו אתה מנתח לאחר מכן, וכל מנתח הוא מקום שבו תשובה פגומה הופכת להשבתה. פענוח מוגבל סוגר את רוב הפער הזה, וכדאי לומר זאת — זה לא יתרון מהותי, זה הבדל בכמה פיגום אתה כותב.

שאלת התצורה שאיש לא שואל

אם אתם מריצים את Granite 4.2 3B כראוטר, השינוי היחיד בעל הערך הרב ביותר שתוכלו לעשות הוא לכבות את החשיבה. IBM מספקת את המצב הזה בדיוק מהסיבה הזו, והחשבון שלמעלה מראה מדוע: מודל חשיבה שמתבקש לבחור באחת מחמש תוויות יבזבז לעיתים קרובות שמונה מאות טוקנים על הצדקת החלטה שהרצה ללא חשיבה מזהה נכון. מדדו את שני המצבים על הנתונים שלכם לפני שאתם מניחים שזה עם החשיבה טוב יותר. במשימה עם קבוצת תשובות קבועה, לעיתים קרובות זה לא המצב.

המנוף המקביל של Snap הוא ההפך: נותנים לו פחות אפשרויות, חדות יותר. ה-API שלו מגביל שאלות לשש־עשרה וחלופות ל-255 לכל שאלה, והדיוק שלו במדד ההחלטה (Decision Index) הוא 20% — נמוך מ-32% של d1-ultra — כשאת ציון המדד נושאת ההימנעות. תצמצמו את מערך התשובות ובעיית הדיוק תקטן; תגישו לו שיפוט פתוח והוא יסרב, ובצדק, ולעיתים קרובות.

מה שהייתי בונה בפועל

עבור צינור תמיכה או מסמכים בנפח משמעותי, העיצוב הזול ביותר שניתן להצדיק הוא עיצוב דו-שלבי. Granite 4.2 3B פועל במצב ללא חשיבה כמסווג ראשוני על הרוב הקל — הפניות שהן בבירור החזר כספי, בבירור תקלה, בבירור ספאם — שבהן מודל 3B מדויק ולא עולה דבר בשוליים. Snap 1.1 מטפל בשארית: השרשורים הארוכים, המקרים הדו-משמעותיים, אלה שבהם התשובה הנכונה עשויה להיות "להסלים" וניחוש בטוח גרוע מסירוב. אתה משלם $0.04 למיליון טוקנים רק על החלק שזקוק לכך, ומקבל הסתברות מכוילת בדיוק על ההחלטות שבהן כיול חשוב.

אף אחד מהספקים לא מוכר את העיצוב הזה, מפני שכל אחד מהם רוצה להיות השכבה כולה. Granite 4.2 3B אינו בקטלוג של OrcaRouter — הוא ברישיון Apache 2.0, ולכן אירוח עצמי הוא המסלול הרגיל, והוא גם מוצע על ידי מספר ספקי inference. Snap 1.1 גם הוא לא שלנו; הוא פועל דרך ה-API של Subquadratic עצמה. מה ש-OrcaRouter תורם לעיצוב כזה הוא שכבת היצירה שמאחוריו: למעלה מ-200 מודלים מאחורי מפתח אחד, מחיר המחירון של הספק מועבר הלאה ללא תוספת של 0%, ו-failover אוטומטי, כך שהמודל שכותב את סיכום ההסלמה אינו אותה תלות כמו המודל שמחליט להסלים.

הדבר שכדאי לשים לב אליו הוא אם הכיול של Snap 1.1 מחזיק מעמד כשמישהו אחר מריץ אותו. הדיוק של 20% הוא המספר החלש ביותר בחומר ההשקה שלו עצמו, והוא זה שקובע אם התכנון הדו-שלבי שלמעלה זול ממה שהוא נראה — ככל ש-Snap נמנע לעתים קרובות יותר, כך יותר עבודה נופלת חזרה לשלב שצריך לענות בפועל.