Nemotron 3.5 Bolt מול GPT-5.6 Sol: לאחד משני המודלים האלה יש מחיר

אי אפשר להשוות את שני המודלים האלה לפי עלות, וזה הדבר השימושי ביותר בהשוואה הזו. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB הוא קובץ בנפח 24GB: מורידים אותו, והמחיר השולי של הטוקן המיליון הוא החשמל. GPT-5.6 Sol הוא דגל מתארח שמחויב ב-4.00 דולר למיליון טוקני קלט וב-20.00 דולר למיליון טוקני פלט, עם זמן מפורסם של p50 עד לטוקן הראשון של 1.63 שניות ו-535.5 מיליון טוקנים של תעבורה בשבעת הימים האחרונים. לאחד משני אלה יש מחירון. לשני יש דרישת חומרה מוקדמת, שזה סוג אחר של חשבון שמגיע פעם אחת.

שני המודלים אמיתיים ושניהם נשלחים. ה-checkpoint של NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ישב על Hugging Face מ-7 באוקטובר 2026 עם שום דבר מלבד כרטיס דגם, וההכרזה של היצרן עצמו על קו Bolt הגיעה ב-15 באוקטובר — שמונה ימים לאחר מכן, בפוסט שמזכיר גם את המודל הזה וגם אח בנפח 4GB. GPT-5.6 Sol נמצא ברשימת המחירים של OpenAI מאז 9 ביולי 2026. אם אתם בוחרים ביניהם השבוע, ההחלטה היא לא איזה מהם חכם יותר. אלא האם עומס העבודה יכול לצאת מהמכונה שלכם.

מה מודד הפער של עשרים ואחד מול חמישים ותשע

Artificial Analysis נותנת ל-Nemotron 3.5 Bolt 74B-A9B ציון 21 במדד ה-Intelligence Index שלה, ומדרגת אותו במקום הרביעי מבין 67 מודלים בקבוצת ההשוואה שאליה הוא משויך. GPT-5.6 Sol נמצא בשנות ה-50 הגבוהות באותה גרסה של המדד. פער של קרוב לארבעים נקודות הוא עצום, וכשהוא מנוסח כך הוא מסיים את הוויכוח לפני שהוא מתחיל.

הפער הוא גם שתי מדידות שונות שמסתתרות מאחורי מספר אחד. ה-21 הוא הציון הטוב ביותר שהשיג מודל במשקלים פתוחים בטביעת הזיכרון הזו — Artificial Analysis רושמת חציון של 8 עבור מודלים ברי-השוואה במשקלים פתוחים, ומציינת ש-Bolt נמנה "בין המודלים המובילים באינטליגנציה בהשוואה למודלים אחרים במשקלים פתוחים בגודל דומה". ה-59 בקירוב הוא מה שמפיקה מעבדה בחזית כשהזיכרון אינו אילוץ. אף אחד מהמספרים אינו שגוי. הם עונים על שאלות שונות: כמה אינטליגנציה נכנסת ב-24GB, וכמה אינטליגנציה כסף יכול לקנות.

מה שהפאנל לא הצליח למדוד מעניין יותר ממה שהוא כן הצליח למדוד. בעמוד של Artificial Analysis עבור Bolt, המהירות רשומה כ-N/A והעלות לכל משימת Intelligence Index רשומה כ-N/A, מהסיבה הפשוטה שאין נקודת קצה מתארחת שאליה אפשר לפנות. כל נתון מהירות שקיים עבור המודל הזה מגיע מהספסל של NVIDIA עצמה: פתק המחקר מציין יעד תכנון של לפחות 80 טוקנים לשנייה בפענוח, ומדווח על 84 טוקנים לשנייה ב-AIPerf SPEED-Bench על RTX Spark, עם 83.99 טוקנים לשנייה בהרצת llama.cpp על Surface Laptop Ultra עם 128GB. בהחלט ייתכן שאלה מדויקים. אף אחד מחוץ ל-NVIDIA לא שחזר אותם, וכדאי להתייחס אליהם כאל טענה של ספק עד שמישהו יעשה זאת.

היכן שהמודל המתארח נמצא ביתרון מבני

שלושה הבדלים אינם עוסקים באינטליגנציה כלל, וכל אחד מהם פוסל את הקובץ המקומי עבור סוג מסוים של עבודה.

• הקשר — GPT-5.6 Sol מספק חלון של 1,050,000 טוקנים עם פלט מקסימלי של 128,000 טוקנים; Nemotron 3.5 Bolt מספק עד 262,144 טוקנים. חלון רחב פי ארבעה אינו תכונת מותרות כאשר המשימה היא מאגר קוד או ארכיון חוזים בבקשה אחת. החלון של Bolt גם צריך לחלוק 24GB עם ה-KV cache, התמונות, פריימי הווידאו והיסטוריית השיחה, מה שאומר שהתקרה המעשית מגיעה מוקדם יותר ממה שהמפרט מרמז.

• סוגי קלט — GPT-5.6 Sol מקבל טקסט, תמונות וקבצים; Nemotron 3.5 Bolt מקבל טקסט, תמונות וווידאו ומחזיר טקסט. זהו יתרון אמיתי של Bolt בתחום הווידאו ופער ממשי במסמכים, מכיוון שקובץ PDF שמועבר כקובץ אינו צריך לעבור רסטריזציה, עימוד או הסקה פריים-אפריים.

• זמינות — GPT-5.6 Sol הוא כתובת URL. Nemotron 3.5 Bolt הוא פריסת vLLM הדורשת סיליקון Ampere, Hopper או Blackwell, או הרצת llama.cpp על מכשיר RTX Spark או DGX Spark. באחד מאלה תוכלו להשתמש בתוך ארבע דקות.

יש הבדל רביעי שהוא פחות עניין של יכולת ויותר עניין של מדידת שימוש: כל קריאה למודל המתארח מייצרת שורת חיוב, ואילו כל קריאה למודל המקומי לא. עבור לולאת סיווג או חילוץ בנפח גבוה, ההיפוך הזה חשוב יותר מארבעים נקודות מדד.

מה שהבעלות על הקובץ למעשה מקנה

Nemotron 3.5 Bolt 74B-A9B הוא מודל תערובת-מומחים דליל (sparse mixture-of-experts) עם 74 מיליארד פרמטרים ו-9 מיליארד פעילים לכל טוקן, הבנוי על עמוד שדרה היברידי של Mamba-2 ו-Transformer שאותו NVIDIA מכנה LatentMoE, עם מקודד חזותי C-RADIO v4-H שהוצמד לו לצורך העבודה הרב-מודלית. זהו ארטיפקט דחיסה במובן המילולי ביותר: NVIDIA לקחה את מודל Nemotron 3.5 Super VL 120B-A12B, הפעילה עליו חיפוש מונחה-ראוטר שהיא מכנה Star Elastic כדי לכווץ אותו ל-74B-A9B, ואז הריצה זיקוק מודע-קוונטיזציה (quantization-aware distillation) עד ל-2.0625 ביטים לכל משקל מומחה — פורמט IQ2_XXS — כדי להיכנס אל תוך 24GB בלי אימון מחדש מאפס. הרישיון הוא OpenMDW-1.1, המתיר שימוש מסחרי ולא-מסחרי.

שתי השלכות נובעות מכך. הראשונה היא שהמודל פועל לצד יישומים אחרים על תחנת עבודה ולא במקומם, וזה מה שמאפשר בכלל סוכן מקומי בר-קיימא. השנייה היא שהוא מגיע עם ספקולציה מובנית: מנסח LiLiCorr שמופעל דרך DFlash מציע שבעה טוקנים קדימה, ומכאן מגיע חלק משמעותי מאותם 84 טוקנים לשנייה.

טבלת הבנצ'מרק של הספק עצמו, שאיש מחוץ ל-NVIDIA לא שחזר, מציבה את הצ'קפוינט של 24GB מעל כל קו בסיס באותה טבלה — Qwen3.6 35B, Gemma 4 26B ו-Nemotron 3.5 Lightning 30B-A3B של NVIDIA עצמה — ב-GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) ו-BrowseComp (66.75). יש לקרוא את אלה כטענות על האופן שבו 74B דחוס משתווה למודלים לא דחוסים בגודל שליש ממנו, וזה בדיוק מה שהן נועדו להראות, ולא כהשוואה מול דגל מתארח.

לתמחר את שני החצאים בכנות

למחצית המאוחסנת יש מחיר חד-משמעי. GPT-5.6 Sol נמצא בקטלוג של OrcaRouter כ-openai/gpt-5.6-sol במחיר המחירון של OpenAI ומועבר הלאה עם 0% תוספת — $4.00 למיליון טוקני קלט ו-$20.00 למיליון טוקני פלט, אותם מספרים בעמוד שלנו כמו אצל הספק, מה שאומר ששינוי מצד הספק נוחת אצלנו באותו יום ולא בחידוש החוזה הבא. קלט של 20,000 טוקנים עם 3,000 טוקנים של פלט עולה $0.08 בקלט ו-$0.60 בפלט, או כ-$0.68 לקריאה.

למחצית המקומית אין מחיר שאנחנו מוכנים להמציא. אין נקודת קצה מתארחת עבור Nemotron 3.5 Bolt, אין מחירון, ואין פלטפורמה של צד שלישי שמודדת אותו ושנוכל להפנות אתכם אליה. לתמחר אותו פירושו לתמחר GPU, צריכת חשמל ותקופת פחת — חשבון ששייך לגיליון האלקטרוני שלכם ולא לשלנו, כי התשובה תלויה לחלוטין בכמה תריצו אותו.

הא-סימטריה הזו היא המקום שבו שכבת ניתוב עושה משהו ממשי ולא דקורטיבי. Nemotron 3.5 Bolt אינו בקטלוג שלנו ואיננו מספקים אותו; אין כאן הצעה לארח את הצ׳קפוינט של NVIDIA. מה שנקודת קצה אחת כן נותנת הוא היכולת להחזיק את החצאים המקומיים והמתארחים של תהליך עבודה תחת מפתח אחד, כך שניתן לשלוח בקשה אל GPT-5.6 Sol כשהיא זקוקה לחלון של מיליון טוקנים או לקלט קובץ, ואל פריסת Bolt משלך כשהיא אינה זקוקה לכך — כשהכלל שמחליט מה מתאים למה נכתב פעם אחת במקום להיות מקודד-קשיח בכל שירות. אם הספק המתארח מתדרדר, מעבר כשל אוטומטי מעביר את הבקשה במקום שהבקשה תיכשל.

איזה אחד לבחור?

• בחרו ב-Nemotron 3.5 Bolt 74B-A9B 24GB כאשר הנתונים אינם יכולים לצאת מהבניין, כאשר עומס העבודה כולל וידאו, כאשר הנפח גבוה מספיק עד שחיוב לפי טוקן הוא העלות הדומיננטית, או כאשר אתם רוצים סוכן שיפעל על חומרה שכבר בבעלותכם. הסתפקו בחלון של 262K ובציון אינדקס שהוא כשליש מזה של המודל המתארח. אמתו את טענות התפוקה במכשיר שלכם לפני שאתם מתכננים קיבולת לפיהן.

בחרו ב-GPT-5.6 Sol כשהמשימה דורשת את חלון ההקשר הרחב ביותר, קלט קבצים, את יכולת החשיבה החזקה ביותר שקיימת, וחוזה תמיכה מאחוריה. שלמו 4$ ו-20$ למיליון טוקנים עבור הזכות הזו, וזכרו שהפלט המ�ксиמלי של 128K הוא תגובה בודדת ארוכה יותר ממה שמעטפת זיכרון של 24GB תאפשר בנוחות.

• הרץ את שניהם כאשר זרימת העבודה מתפצלת באופן נקי, מה שקורה ברוב מערכות הסוכנים. הקובץ המקומי מטפל בחצי בעל התדירות הגבוהה, הסיכון הנמוך והרגישות לפרטיות; המודל המתארח מטפל בבקשות שזקוקות להגעה רחבה.

השאלה הפתוחה היא אותה שאלה שהעלה ה-Nemotron הדחוס האחרון שאיש לא ענה עליה: מדידה עצמאית ראשונה של תפוקה והשהיה של המשקולות בגודל 24GB, שתבוצע על ידי מישהו שאינו עובד ב-NVIDIA. עד שדבר כזה יתקיים, רצפת האינטליגנציה של המודל הזה מאומתת חיצונית ואילו תקרת המהירות שלו לא — ובפריסה מקומית, המהירות היא החצי שמרגישים.