Nemotron 3.5 Bolt מול Kimi K3: הורדה של 24GB לעומת קורא עם 2.8 טריליון פרמטרים

התשובה הקצרה והכנה היא ששני המודלים האלה לא מתחרים על אותה עבודה, והסיבה ניתנת למדידה במספר אחד. Kimi K3 מחזיק 1,048,576 טוקנים של הקשר. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB מחזיק 262,144. אם המשימה שלך היא "לקרוא את כל הקורפוס הזה ולענות במעבר אחד", הצ'קפוינט של 24GB נפסל עוד לפני שכל דבר אחר בו רלוונטי — ואם המשימה שלך היא "להפעיל על תחנת עבודה בלי רשת, בלי מונה ובלי ספק בתמונה", גם Kimi K3 לא עולה לדיון. Kimi K3 הוא מודל תערובת-מומחים בעל 2.8 טריליון פרמטרים, שפורסם על ידי Moonshot AI ב-15 ביולי 2026 תחת API מתארח קנייני. Nemotron 3.5 Bolt 74B-A9B 24GB הוא קובץ במשקלים פתוחים שמשתמש ב-9 מיליארד מתוך 74 מיליארד הפרמטרים שלו על כל טוקן נתון, ונכנס לזיכרון של 24GB.

הצ'ק-פוינט של Bolt עלה ל-Hugging Face ב-7 באוקטובר 2026 ללא הודעה שצורפה לו. הפוסט של NVIDIA עצמה שמנקב בשם המודל — ואת אחיו בן ה-4GB, Nemotron 3.5 Bolt E4B — הגיע ב-15 באוקטובר, שמונה ימים לאחר מכן. סדר הדברים הזה שווה להכיר כי הוא קובע מה ניתן לבדוק: שמונה ימים של התיעוד הציבורי מורכבים מקובץ להורדה וכרטיס מודל, והפרוזה שמסבירה זאת הגיעה לאחר מכן.

מה כל מודל בנוי לעשות

Kimi K3 הוא מוצר הדגל של Moonshot והגרסה היכולתית ביותר שלו עד כה: מודל תערובת מומחים דלילה עם 2.8 טריליון פרמטרים, שבו כ-104 מיליארד פרמטרים פעילים לכל טוקן, שנבנה לכתיבת קוד לטווח ארוך ולעבודת ידע מקצה לקצה, מקבל טקסט ותמונות ומחזיר טקסט. הוא מוגש כשירות, לא נשלח. אין הורדה, אין גרסה מכומתת להרצה מקומית, ואין גרסה שלו קטנה מספיק למחשב נייד.

Nemotron 3.5 Bolt הוא המבנה ההפוך. NVIDIA לקחה את המודל 120B-A12B Nemotron 3.5 Super VL שלה, יישמה דחיסה מונחית-ראוטר שהיא מכנה Star Elastic כדי להגיע ל-74B-A9B, ולאחר מכן כימתה את התוצאה ל-2.0625 סיביות לכל רכיב מומחה — בפורמט IQ2_XXS — עם זיקוק מודע לכימות כדי לשחזר את הדיוק שהתמחור גובה. עמוד השדרה הוא שילוב היברידי של Mamba-2 ו-Transformer שהיצרן מכנה LatentMoE, עם מקודד חזותי C-RADIO v4-H לקלט תמונה ווידאו. הוא פועל תחת vLLM על רכיבי Ampere, Hopper ו-Blackwell, ועל חומרת RTX Spark ו-DGX Spark דרך llama.cpp, תחת רישיון OpenMDW-1.1 המתיר שימוש מסחרי.

קריאת קורפוס ארוך, מתומחר

כאן ההשוואה הופכת לחשבון ולא להעדפה. Kimi K3 מנותב ב-OrcaRouter במחיר המחירון של Moonshot ללא תוספות: $3.00 למיליון אסימוני קלט, $15.00 למיליון אסימוני פלט, וקריאות מהמטמון ב-$0.30. זמן ה-p50 שלו עד לאסימון הראשון בקטלוג שלנו הוא 7.02 שניות, עם p95 של 10.00 שניות, והוא נשא 990.6 מיליון אסימונים של תעבורה מנותבת בקטלוג שלנו בשבעת הימים האחרונים — קריאה בהקשר ארוך בהיקף רחב היא עומס עבודה ממשי ולא ניסוי מחשבתי.

ל-Nemotron 3.5 Bolt אין מחיר, כי אין מה לתמחר. אין עבורו נקודת קצה מתארחת, אין API של ספק, אין טבלת תעריפים, ו-Artificial Analysis רושמת גם את מהירותו וגם את עלותו לכל משימת Intelligence Index כ-N/A בדיוק מהסיבה הזו. מה שיש לו במקום זה הוא תקרת זיכרון שקונים פעם אחת, ועלות שולית שמתעגלת לחשבון החשמל. עבור צינור עיבוד שקורא קורפוס קבוע בכל לילה, ההבדל בין $3 למיליון טוקני קלט לבין אפס אינו הנחה — זה מודל חשבונאי אחר, ונקודת האיזון היא שאלת הוצאות הון שצוות הכספים שלך עונה עליה, לא המאמר הזה.

חזון הוא לא שובר השוויון שאנשים מניחים

שני המודלים מקבלים תמונות. שם מסתיים הדמיון.

• קלט — Kimi K3 מקבל טקסט ותמונות; Nemotron 3.5 Bolt מקבל טקסט, תמונות וווידאו. עבור סוכן שצופה בהקלטת מסך או דוגם פריימים מפיד מצלמה, רק לאחד מאלה ניתן למסור את הקובץ ישירות.

• דיוק נתיב הראייה — Bolt נושא מקודד ראייה C-RADIO v4-H ייעודי, ויורש את ההתנהגות הרב-מודלית שלו מלקוח Super VL שממנו נדחס; ההבנה החזותית של Kimi K3 מתועדת כנייטיב אך אינה החלק של המודל ש-Moonshot מובילה איתו. הטבלה של NVIDIA עצמה מפרטת ציון ראייה של WebArena של 50.86 עבור Bolt; התייחס לכך כאל דיווח ספק.

• שליטה בהיסק — Kimi K3 אינו חושף temperature,‏ top_p או seed, כאשר עומק ההיסק נקבע על ידי פרמטר reasoning-effort בלבד; מצב ההיסק של Bolt הוא מתג בתבנית הצ'אט, enable_thinking true או false, שעובר בירושה מאותו לקוח Super VL.

• ספקולציה — Bolt מגיע עם מודל טיוטה LiLiCorr המונע באמצעות DFlash, שמציע שבעה טוקנים קדימה בכל צעד, וזהו המנגנון שמאחורי הטענה של NVIDIA על 84 טוקנים לשנייה ב-AIPerf SPEED-Bench. אין מנוף מקביל בנקודת קצה מתארחת; אתה מקבל את מה שהמפעיל מספק.

הפער הנמדד, וממה הוא עשוי

Artificial Analysis מציבה את Kimi K3 על 43.6 במדד האינטליגנציה שלה ואת Nemotron 3.5 Bolt על 21. אין שום דרך לפרש זאת כקרוב. השורות התומכות של Kimi K3 חזקות במקומות שקורא עם הקשר ארוך זקוק להן — מדד AA Coding של 76.2 במקום התשיעי מתוך 138 מודלים שנמדדו, ציון GPQA Diamond של 93.5, ונתון שליפה בהקשר ארוך של 88.7, שהוא המספר שאומר לך שחלון מיליון הטוקנים שמיש ולא רק מוצהר.

ה-21 של Bolt הוא סוג אחר של תוצאה. זהו הציון הרביעי בגובהו מבין 67 מודלים במחלקה המסוננת לפי טביעת רגל, לעומת חציון מחלקה של 8, ו-Artificial Analysis מתארת אותו כאחד המודלים המובילים עם משקולות פתוחות בגודל דומה. הדרך הנכונה להתייחס לשני המספרים היא שאחד מודד מה שמעבדת חזית יכולה לעשות ללא אילוץ זיכרון, והשני מודד מה 24GB יכול להכיל. עשרים ושתיים נקודות מדד הן המחיר של האילוץ, לא עדות לכך שהמודל הקטן נבנה בצורה גרועה.

מה שחסר בצד של Bolt הוא מדידה בלתי תלויה כלשהי של המהירות שלו. NVIDIA מדווחת על לפחות 80 טוקנים לשנייה בפענוח כיעד התכנון, ועל 84 בבנצ'מרק שלה עצמה, עם 83.99 טוקנים לשנייה בהרצת llama.cpp על Surface Laptop Ultra עם 128GB. נכון לזמן כתיבת הדברים, אף גורם שלישי לא פרסם נתון תפוקה או השהיה עבור המשקולות בגודל 24GB. ההשהיה של Kimi K3, לעומת זאת, נמדדת ופומבית — 7.02 שניות p50 עד לטוקן הראשון, 10.00 שניות p95 — ואלה המספרים שלפיהם יש לתכנן, ולא אלה של הספק.

כאשר שכבת ניתוב משנה את התשובה

Kimi K3 נמצא בקטלוג שלנו בתור kimi/kimi-k3 במחיר המחירון של Moonshot עם תוספת של 0%, יושב מאחורי אותו מפתח כמו יותר מ-200 מודלים אחרים, עם מעבר אוטומטי בין ספקים במעלה הזרם כאשר אחד מהם מתדרדר. Nemotron 3.5 Bolt אינו בקטלוג שלנו — איננו מארחים שום נקודת ביקורת של NVIDIA ואין נקודת קצה של Bolt לפנות אליה — כך ששאלת הניתוב כאן אינה איזה מהשניים אנחנו משרתים. היא כיצד שני החצאים של צינור עיבוד אמיתי מדברים זה עם זה.

התבנית שעובדת היא קורא מקומי ומנוע הסקה מתארח. Bolt יושב על החומרה שלך ומטפל במעברים תכופים שבהם אסור לנתונים לצאת מהבניין, והנפח יהפוך את החיוב לפי טוקן למכביד. Kimi K3 מטפל בבקשות שזקוקות לחלון של מיליון טוקנים או להסקה בקנה מידה חזיתי, ב-$3 ו-$15 למיליון טוקנים. הצב כלל ניתוב לפני שניהם, והפיצול הופך לשורת תצורה ולא לריפקטור: בקשה שחורגת מתקציב ההקשר המקומי עוברת ל-Kimi K3, כל השאר נשאר בתחנת העבודה. מיזוג מודלים הוא הווריאנט שכדאי להכיר אם הקריאות היקרות הן החשובות — מספר מודלים עונים יחד על אותה הנחיה, ואתה לוקח את ההסכמה.

מה לצפות

הראיות הספציפיות שיכריעו את הזיווג הזה הן מצומצמות וקרובות לבוא. הרצת תפוקה ושהיה ראשונה ובלתי־תלויה על משקולות Bolt בנפח 24GB תאשר את 84 הטוקנים לשנייה של NVIDIA או תכווץ אותם; מחיר אירוח מפורסם עבור Bolt יהפוך את מחצית העלות של ההשוואה הזו לחשבון פשוט; ומדידת זכירה שנייה בהקשר ארוך עבור Kimi K3 תאשר ש-88.7 הוא תכונה של המודל ולא תכונה של ארנס אחד.

עד אז, הסיכום צר יותר מהמסגור של כל אחד מהספקים. Kimi K3 הוא המודל הטוב יותר בכל ציר שבנצ'מרק יכול למדוד, והוא היחיד מבין השניים שאפשר לפנות אליו היום אחר הצהריים. Nemotron 3.5 Bolt הוא היחיד מבין השניים שממשיך לעבוד כשהרשת לא עובדת, והיחיד שהעלות השולית שלו לכל טוקן היא אפס. בחרו בשני לעבודה שמעולם לא היה צריך לשלוח לשום מקום, ובראשון לעבודה שזקוקה לתפוצה.