Nemotron 3.5 Bolt 74B מול Kimi K3: קובץ של 24GB נגד מודל הדגל עם 2.8 טריליון פרמטרים

שני המודלים בהשוואה הזו אינם מתחרים על אותו מקום, והמספרים מבהירים זאת היטב עוד לפני שאחד היצרנים מוציא מילה.NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBהוא מודל ראייה-ושפה עם 74 מיליארד פרמטרים, שאותו דחסה NVIDIA לנקודת ביקורת של 2 סיביות — קטנה מספיק כדי לשבת בזיכרון של 24 גיגה-בייט לצד מערכת ההפעלה.Kimi K3הוא דגם הדגל של Moonshot AI עם 2.8 טריליון פרמטרים, מודל במשקלים פתוחים שהפריסה הישימה הקטנה ביותר שלו היא ארון שרתים. הראשון הוא קובץ שאפשר להעתיק למחשב נייד, ש-NVIDIA החלה לשלוח ב-15 באוקטובר 2026. השני הוא עומס עבודה ששוכרים לפי טוקן. קריאת הציונים שלהם זה לצד זה מועילה בדיוק מפני שהפער כל כך גדול שאיש אינו יכול להעמיד פנים שהקטן יותר הוא תחליף.

מה שבאמת שווה לעשות בעמוד הזה הוא להבין לאן הולכות 22 הנקודות של Intelligence Index, והאם חלקן נוחתות על המשימות שסוכן מקומי מבצע בפועל.

מה שוחרר, ומתי

מאגר Bolt הופיע ב-Hugging Face ב-7 באוקטובר 2026; פוסט ההשקה של NVIDIA עצמה, שמכנה אותו, "פתוח ממרכז הנתונים לשולחן העבודה: NVIDIA מרחיבה את משפחת Nemotron עם המודלים היעילים ביותר Super VL ו-Bolt", מתוארך ל-15 באוקטובר. כרטיס המודל עצמו נושא תאריך שחרור של 10/15/2026. סדר זה — המשקלים תחילה, ההכרזה שמונה ימים לאחר מכן — חשוב לכל מי שקורא סיקור של המודל הזה, מכיוון ששבוע של התיעוד הציבורי מורכב מצ'קפוינט להורדה וכרטיס מודל בלי הודעה לעיתונות מצורפת.

שני המודלים מופרדים בכל דבר אחר. Kimi K3 נחשף ב-16 ביולי 2026, כשהמשקלים פורסמו ב-27 ביולי, מה שהופך אותו למבוגר בכשלושה חודשים ובעל תיעוד טוב בהרבה מצד צדדים שלישיים.

• ארכיטקטורה — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB הוא LatentMoE היברידי מסוג Mamba-2–Transformer עם מקודד ראייה C-RADIO v4-H. Kimi K3 הוא תערובת מומחים דלילה (sparse mixture-of-experts) בעלת 2.8 טריליון פרמטרים, המפעילה 104B פרמטרים לכל טוקן ב-16 מתוך 896 מומחים, הבנויה על M​oonshot's K​imi Delta Attention.

• פרמטרים — 74B סה״כ, 9B פעילים עבור המודל של N​VIDIA; 2.8T סה״כ, 104B פעילים עבור Kimi K3. המודל הקטן מפעיל פחות מעשירית מהחישוב לכל טוקן של המודל הגדול.

• תפוסת זיכרון — 24GB בכימות של 2 סיביות (IQ2-XXS בקצב 2.0625 סיביות לכל אלמנט עבור משקולות המומחים, NVFP4 עבור שכבות Mamba, Q8_0 עבור הטמעות ופלט) לעומת מה שתעלה פריסה של 2.8T פרמטרים, וזה לא מספר שהעמוד הזה יכול לנקוב בו בג'יגה-בייט.

• הקשר — 262,144 טוקנים עבור המודל של NVIDIA; 1,048,576 עבור Kimi K3, עם תמחור אחיד ללא תלות באורך.

• קלטים — טקסט, תמונות ווידאו נכנסים, טקסט יוצא עבור שניהם.

• רישיון — OpenMDW-1.1 עבור נקודת הביקורת של N​VIDIA; רישיון Kimi K3 עבור המשקלים של M​oonshot, מתירני עבור רוב השימושים עם דרישה להסכם נפרד מעל 20 מיליון דולר בהכנסות שנתיות.

המספרים העצמאיים, והאחד שלא קיים

Artificial Analysis הריצה את שני המודלים, וזה מה שמאפשר בכלל לענות על ההשוואה הזו. לא כל מה שבלוח נמדד עבור שניהם, והפערים מלמדים לא פחות מהציונים.

• Intelligence Index — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB מקבל ציון 21.4, רביעי מבין 67 מודלים בקטגוריית הגודל שלו במערך ההשוואה של הפאנל עצמו. Kimi K3 מקבל ציון 43.6 במצב החשיבה המרבי שלו ו-30.1 במצב הנמוך שלו. שני הנתונים נמדדו באופן עצמאי, ולא דווחו על ידי הספק.

• עלות לכל משימת Intelligence Index — למודל של NVIDIA אין נתון משום שאין לו מחיר מדוד: Artificial Analysis לא מפרטת כלל תעריף קלט או פלט עבורו. Kimi K3 עולה $2.00 מהוצאות API לכל משימת Intelligence Index, בתעריף של $3.00 למיליון טוקני קלט ו-$15.00 למיליון פלט, לעומת $0.30 עבור קלט במטמון.

• מהירות פלט — Kimi K3 מייצר 43.8 טוקנים לשנייה, עם 3.6 שניות עד לטוקן הראשון על המערכת של הפאנל. אין נתון תפוקה בלתי־תלוי עבור המודל של N​VIDIA; עמוד המחקר של N​VIDIA עצמה מפרסם 83.99 טוקנים לשנייה ב-AIPerf SPEED-Bench-Coding עם ה-drafter LiLiCorr מופעל, וזו מדידה של ספק על בנצ'מרק אחר ומכונה אחרת.

• Terminal-Bench 2.1 — 85.0 עבור Kimi K3, הרצה בלתי תלויה, לעומת הטענה של M​oonshot עצמה בדבר 88.3. N​VIDIA מדווחת על 50.98 עבור מודל Bolt בכרטיס המודל שלה, כך ששני המספרים אינם באותו מעמד: מספר אחד שוחזר מחוץ למעבדה, והאחר לא.

• GPQA Diamond — 93.5 עבור Kimi K3 באופן עצמאי; 86.43 עבור מודל NVIDIA כפי שפורסם על ידי NVIDIA, ללא נתון עצמאי בפאנל.

• אחזור הקשר ארוך (AA-LCR) — 88.7 עבור Kimi K3 לעומת 69.7 עבור מודל N​VIDIA, שניהם נמדדו.

• קידוד מדעי (SciCode) — 59.5 עבור Kimi K3 לעומת 39.7 עבור מודל N​VIDIA, שניהם נמדדו.

• דיוק ידע והזיות — ב-AA-Omniscience, Kimi K3 מגיע ל-47.6 אחוזי דיוק עם 46.8 אחוזי אי-הזיה; המודל של N​VIDIA מגיע ל-17.1 אחוזי דיוק עם 56.3 אחוזי אי-הזיה. הצירוף הזה הוא השורה המעניינת ביותר בלוח והפחות מחמיאה לקריאה פשוטה של המדד: המודל הדחוס יודע פחות ומודה בכך לעתים תכופות יותר.

המדידה החסרה היא זו שקונה היה רוצה בה יותר מכול. איש מחוץ ל-N​VIDIA לא פרסם הרצת תפוקה או השהיה על צ'קפוינט ה-24GB, וזו כל המטרה של שחרור צ'קפוינט 24GB.

לאן 22 הנקודות בעצם הולכות

פער של 22 נקודות במדד נשמע כמו הבדל של קטגוריה, ובחלק מהמשימות הוא אכן כך. Kimi K3 טוב יותר בקידוד מדעי בעשרים נקודות, טוב יותר באחזור בהקשר ארוך בתשע עשרה, וטוב יותר בשאלות מדע ברמת תואר שני ביותר משבע. אלה אינן שגיאות עיגול, והן אינן תוצרי לוואי של מערך ההשוואה.

אולם סיפור הדחיסה שמאחורי מודל N​VIDIA ספציפי מספיק כדי להסביר את צורת הגירעון. נקודת הביקורת הופקה על ידי Star Elastic, חיפוש הארכיטקטורה מונחה-הראוטר של N​VIDIA, שלקח את מודל האב 120B-A12B Super VL וחיפש את מספר המומחים ורוחב ה-MoE לכל שכבה שיתאימו תחת 24GB בגודל אצווה של אחד ובהקשר של 128K, כשהוא מוריד את ה-top-K של המומחים מ-22 ל-9 ואז כימת את המומחים ל-2.0625 סיביות לרכיב עם זיקוק מודע לכימות כדי לשחזר את הדיוק. זהו סחר מכוון של ידע מאוחסן בתמורה לטביעת רגל. מודל שנדחס ל-2 סיביות לכל משקל מומחה שומר על הפרוצדורה שלו ומאבד את העובדות שלו, ולכן שורת ההזיות משתפרת בעוד ששורת הדיוק קורסת.

טבלת הבנצ'מרקים של N​VIDIA עצמה מציגה את אותה טענה בכיוון ההפוך. החברה מפרסמת את מודל Bolt כשהוא מנצח את Qwen3.6-35B-A3B, Gemma4 26B-A4B ואת N​emotron 3.5 Lightning 30B-A3B שלה עצמה ב-Terminal-Bench 2.1, GPQA Diamond, BrowseComp ו-WebArena vision — כלומר, במשימות סוכניות ושימוש בכלים — בעוד שהוא מפסיד ל-Gemma4 בדיוק של AA-Omniscience ול-Qwen3.6 ב-PinchBench. ביצוע סוכני הוא מה שהדחיסה שימרה.

שניהם בעלי משקלים פתוחים, מה שהופך את הבחירה לשאלה של חשמל

זה החלק שמבדיל בין ההתמודדות לבין השוואה מול API סגור. המשקולות של Kimi K3 ניתנות להורדה. אם יש לך את החומרה, אתה יכול להריץ את מודל ה-2.8T בעצמך ולא לשלם כלום לכל טוקן — אותו רעיון כמו קובץ ה-24GB, בקנה מידה שונה לחלוטין. אף אחד מהמודלים כאן אינו כפוף לספק שיכול לשנות את דעתו לגבי הגישה.

החלוקה המעשית היא גיאוגרפיית פריסה. צ'קפוינט IQ2 בנפח 24GB רץ תחת vLLM על שבב A100, H100 או Blackwell בודד, והמתכון הרשמי של NVIDIA עצמה מזכיר גם את llama.cpp והמרת GGUF, וכך הוא מגיע אל תוך רתמות סוכנים מקומיות במכונות RTX ו-DGX Spark. פקודת ההגשה המומלצת אינה מתג של שורה אחת: היא נועלת build nightly של vLLM, דורשת תוסף מנתח חשיבה שהורד, זקוקה לליבות b12x עבור ה-backends של linear ו-MoE, מגדירה backends מפורשים של Mamba וקשב, ומפעילה פענוח ספקולטיבי עם שבעה אסימוני טיוטה של LiLiCorr. זהו מתכון למי שמתכוון להחזיק בבעלותו את המכונה, לא למי שרוצה תמלול.

Kimi K3 הולך בכיוון ההפוך. כל התכנון שלו מבוסס על ההנחה שאתם שוכרים שירותי הסקה, ומחירו נקבע בהתאם — $3.00 בקלט ו-$15.00 בפלט למיליון טוקנים הוא מיצוב מכוון בצמרת שוק המשקלים הפתוחים.

להריץ את ההשוואה במקום לקרוא אותה

אם אתם רוצים לדעת אם פער של 22 נקודות במדד משנה משהו לעומס העבודה שלכם, הניסוי הזול הוא לפנות אל החצי היקר. Kimi K3 נמצא בקטלוג של OrcaRouter בתור kimi/kimi-k3, תחת אותו מפתח כמו שאר יותר מ-200 המודלים שאנחנו מנתבים, בתשלום לפי מחיר המחירון של הספק Moonshot בלי תוספת — כך ששינוי מחיר של Moonshot נכנס לתוקף אצלנו באותו יום ולא במחזור החיוב הבא. הפנו אליו סט פרומפטים שנראה כמו התעבורה האמיתית שלכם ומדדו את ההבדל מול מה שאתם מריצים באופן מקומי. OrcaRouter לא מארח שום מודל של NVIDIA ואין לו נקודת קצה Bolt להציע; משפחת Nemotron לא נמצאת בקטלוג שלנו, והחצי המקומי של ההשוואה הזו נשאר שאלה של חומרה בכל מקרה.

המקום שבו ניתוב כן מצדיק את מקומו כאן הוא מסלול הגיבוי. Kimi K3 הוא התחייבות למודל יחיד בנקודת מחיר גבוהה, ואופן הכשל של סוכן בסביבת ייצור המחובר למודל יחיד בעל יכולות גבוהות הוא שבעיית קיבולת במעלה הזרם הופכת לתקרית. מעבר אוטומטי בין ספקים מאחורי נקודת קצה אחת הופך זאת לניסיון חוזר.

איך להחליט

הכלל קצר יותר מכפי שהפער מרמז.

אם הדרישה שלך כוללת את המילים אופליין, פרטי, על המכשיר או ללא עלות לכל טוקן, Kimi K3 אינו מועמד וההשוואה הסתיימה — מודל עם 2.8 טריליון פרמטרים לא ירוץ על המכונה שעליה אתה קורא את זה, ואילו הצ'קפוינט של 24GB כן ירוץ. קנה את המחשב הנייד, הסתפק ב-21.4 באינדקס, וכוון אותו לשימוש בכלים ולא לשאלות על ביוכימיה.

אם הדרישה שלך היא דיוק בהסקה קשה, עבודה עם הקשר ארוך על פני מאות אלפי טוקנים, או קידוד בקנה מידה של מאגר קוד, מודל ה-24GB הוא הכלי הלא נכון, ופער האינדקס אומר לך את האמת. שלם עבור Kimi K3.

מה שאף ספק לא הכריע הוא מקרה הביניים, מפני שהוא תלוי במספר שאיש לא פרסם: כמה מהר באמת רץ צ'קפוינט 2-bit על חומרה שאפשר לקנות. עד שתתקיים הרצת תפוקה עצמאית, התשובה הכנה לשאלה "האם קובץ 24GB יכול להחליף דגם דגל 2.8T עבור לולאת הסוכן שלי" היא שפער האינטליגנציה ניתן למדידה, ואילו מקרה ההשהיה עדיין לא.

עבור מודל שאופני הכשל שלו עדיין אינם מתועדים, המקבילה המועילה היא התיעוד של מה שכבר השתבש במקומות אחרים: תקריות ה-AI המתועדות וכשלי סוכנים סביב מודלים בסוג הזה נאספים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה נושאת את המקורות שלה, את דרגת החומרה, את דירוג המהימנות ואת דגל המחלוקת.