Nemotron 3.5 Super מול Claude Opus 5.5: 12 מיליארד פרמטרים פעילים מול מד

הנה המספר שמכריע בהשוואה הזו, והוא אינו מופיע באף אחת משתי טבלאות הבנצ'מרק. NVIDIA Nemotron 3.5 Super — שמפורסם על ידי NVIDIA בשם המלא יותר NVIDIA Nemotron 3.5 Super VL, ומופיע בספריית Ollama בשם nemotron-3.5-super/ — מפעיל כ-12 מיליארד מתוך 120 מיליארד הפרמטרים שלו עבור כל טוקן שהוא מייצר. Claude Opus 5.5 אינו מפרסם מספר פרמטרים כלל, וגובה 4 דולר למיליון טוקני קלט ו-20 דולר למיליון טוקני פלט. לכן למודל אחד מהם יש עלות שולית לטוקן שהיא פונקציה של חשמל, ולאחר יש עלות שולית לטוקן שהיא סעיף בתקציב. שני המספרים אמיתיים. אף אחד מהם לא אומר לך איזה מודל זול יותר להפעלה, מפני שהם מתומחרים במטבעות שונים.

הסיבה ששווה לכתוב על זה עכשיו: המשקולות של N​VIDIA עלו ל-Hugging Face ב-12 באוקטובר 2026, בשקט, במאגר בשם N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, שלושה ימים לפני שהפוסט של N​VIDIA בחדר החדשות ב-15 באוקטובר הפך את זה לרשמי. לפני ההכרזה ההיא, האישור הציבורי היחיד לכך שN​emotron 3.5 Super קיים כדבר שאפשר להריץ היה קבוצה של ארטיפקטים של registry — והעובדה שחלק מהמפרט בארטיפקטים האלה אינו תואם את המפרט בכרטיס של הספק. מה שאפשר לדעת מהמאגר הוא כמות לא מבוטלת: ספירות בתים, פורמטי קוונטיזציה, שער גרסה, רישיון. מה שאי אפשר לדעת מאף מאגר הוא איך הוא מתנהג מול מודל frontier מתארח בעומס העבודה שלך. הפער הזה הוא מה שהדף הזה עוסק בו.

מה שהמאגר באמת מכיל, לפני כל דבר אחר

שלושה צ'קפוינטים שמישים נחתו בתוך שישים שניות זה מזה ב-12 באוקטובר: משקולות הייחוס BF16, גרסת Base, ובנייה NVFP4. מאגר מנסח LiLiCorr נפרד עלה יום קודם לכן, ב-11 באוקטובר, שזו טביעת הרגל הציבורית המוקדמת ביותר של השכבה. הכרטיס מתאר תערובת מומחים היברידית של Mamba-2 ו-Transformer עם 512 מומחים מנותבים לכל שכבת MoE, מקודד חזותי C-RADIO ומחבר חזותי-לשוני, 120 מיליארד פרמטרים סה"כ עם 12 מיליארד פעילים, הקשר של עד מיליון טוקנים, קלט טקסט, תמונה ווידאו עם פלט טקסט, ופענוח ספקולטיבי מובנה באמצעות ראש חיזוי רב-טוקנים. הרישיון הוא OpenMDW-1.1, המתיר שימוש מסחרי. הפריסה מוגדרת כארבעה H100s או שני GB200s עבור BF16.

הרשומה של Ollama היא הגרסה שרוב האנשים יפגשו ראשונה, וכאן המפרט מתחיל לסטות. היא חושפת תשעה תגים. ארבעה מהם — :latest/, :120b/, :120b-a12b/ וגם :120b-a12b-q4_K_M/ — ממופים לאותה שכבה q4_K_M, כך שהמשיכה המוגדרת כברירת מחדל היא קוונטיזציה של 4 סיביות והשם "120b" אינו הקובץ שמקבלים. כל תג, כולל הקטן ביותר, נושא מקרן ראייה של 1.6 GiB, כי נתיב התמונה אינו אופציונלי. דגימת ברירת המחדל המסופקת היא temperature 1.0 עם top_p 0.95, שזו ההמלצה של הכרטיס לטקסט — הגדרת הראייה של הכרטיס היא temperature 0.6. ושער זמן הריצה נאכף: התצורה מצהירה requires: 0.40.5/, לכן ב-Ollama ישן יותר המשיכה לא עובדת כלל.

שום דבר מזה אינו פגם. זהו הפער הרגיל בין הערות השחרור של הספק לבין אריזה קהילתית שלהן, וזו הסיבה לקרוא את שני המסמכים ולא רק אחד.

החשבון הכנה של 12B אקטיבי

הפעלה דלילה היא הטיעון המסחרי כולו עבור המודל הזה, וכדאי לדייק לגבי מה היא כן נותנת ומה היא לא.

מה זה נותן: בזמן הסקה (inference), טוקן נוגע בכעשירית בלבד מן הרשת. התפוקה (throughput) על חומרה קבועה אפוא קרובה הרבה יותר לזו של מודל צפוף (dense) בן 12B מאשר לזו של מודל בן 120B, וטביעת הזיכרון היא המקום היחיד שבו כל 120 מיליארד הפרמטרים מופיעים במלואם. הכרטיס של NVIDIA עצמה טוען לתפוקה מהירה עד פי 5 מזו של אחרים במחלקה שלו, ובהגשה על מחסנית ה-Dynamo של הספק — עד פי 8 יותר משתמשים במקביל ובעיכוב נמוך ב-85%. אלה נתוני ספק שהופקו על חומרת הספק, והם מפרט (specification), לא ביקורת (audit) — אבל כיוון הטענה הוא תוצאה ישירה של הארכיטקטורה, וזה לכל הפחות סיפור קוהרנטי.

מה זה לא נותן לך: המשקולות עדיין חייבות לשהות בזיכרון במלואן. שכבת ה-BF16 GGUF היא 230.4 GiB. ברירת המחדל של q4_K_M היא 82.3 GiB בתוספת הפרוג'קטור. אף אחד מהמספרים האלה לא קטן משום שרק 12 מיליארד פרמטרים מופעלים לכל טוקן. לכן רצפת החומרה נקבעת לפי הזיכרון, בעוד שקצב התפוקה נקבע לפי האקטיבציה — וזו הסיבה שכרטיס בודד של 96 GB יכול להכיל את מודל 4-הביט בנוחות ועדיין להפיק טוקנים בקצב שיבייש מודל צפוף באותו גודל כולל, וגם הסיבה שאותו כרטיס לא יכול להכיל בכלל את המודל בדייקנות מלאה.

עכשיו שים את Opus 5.5 ליד זה. המודל של Anthropic מציע מיליון טוקנים של חלון הקשר, 128,000 טוקנים של פלט מרבי, מקבל קלט מסוג טקסט, תמונה וקובץ, ומתומחר ב-$4/$20 עם קריאות מטמון ב-$0.20 למיליון. אין הורדה, אין החלטת כימות, אין ברירת מחדל של דגימה לתקן, ואין גרסה לנעוץ. הוא גם מודל שעבר ביקורת יסודית: הוא נמצא בראש פאנל של צד שלישי שרוב האנשים משתמשים בו כדי להשוות את הדברים האלה, הרחק מעל שכבת ה-Nemotron הזו.

אז ההשוואה היא לא „מה טוב יותר”. ביכולת כללית נמדדת, דגם הדגל המתארח מנצח, ולהעמיד פנים אחרת יהיה עוול לקורא שעומד לקבל החלטת רכישה. ההשוואה היא היכן ששתי עקומות העלות מצטלבות.

היכן שהמודל הפתוח עם 120 מיליארד פרמטרים מצדיק את מקומו

שלושה מקומות, והם ספציפיים.

• נפח עם חיוב קבוע. צ'קפוינט באירוח עצמי ממיר עלות שולית לעלות קבועה. בתעבורה נמוכה המונה מנצח outright — ארבעה H100 עולים בחודש יותר ממה שרוב הצוותים מוציאים על טוקנים. בתעבורה גבוהה ויציבה העלות הקבועה נפרסת לאורך זמן ואילו המונה לא. נקודת ההצטלבות היא החישוב היחיד שחשוב כאן, והיא פונקציה של נפח הטוקנים שלכם, לא של האיכות של אף אחד מהמודלים.

• עבודת ראייה שבה מספר העמודים הוא הגורם שקובע את העלות. הכרטיס של N​VIDIA מדווח על 62.82 ב-MMLongBench-Doc, 78.16 ב-MathVision, 80.82 ב-CharXiv reasoning ו-68.12 ב-OCRBench v2 באנגלית לעומת 59.15 בסינית, הכול לפי דיווחי היצרן. ב-Opus 5.5 אותם קלטים מחויבים לפי טוקן, ועמוד של דוח סרוק הוא הרבה טוקנים. אם עומס העבודה שלכם מסתכם באלפי עמודי מסמכים ביום, החשבון משתנה מהר יותר מכל הבדל באיכות.

• נעיצה. נקודת ביקורת על דיסק שבשליטתך אינה משתנה לך מתחת לרגליים. זה שווה כסף אמיתי בפייפליין מוסדר, וזו תכונה שהמודל המתארח לא יכול להציע בשום מחיר.

שני מקומות שבהם הוא לא מצדיק את מקומו, ושניהם ראויים להיאמר בקול. הראשון הוא עבודה סוכנית לטווח ארוך: הכרטיס של NVIDIA מדווח 66.70 ב-Terminal-Bench 2.1, 71.10 ב-SWE-bench Verified ו-51.78 ב-SWE-bench Pro — מכובד, לא משוחזר, ומאחורי החזית המתארחת. השני הוא כל דבר שבו בקשה שנכשלה היא יקרה, מפני שלמודל שהמשקולות שלו בנות ארבעה ימים יש ארבעה ימים של תשומת הלב של העולם מאחוריו, וכלל לא היסטוריה תפעולית.

המספרים שאסור לסמוך עליהם עדיין, ולמה

כל טבלת הבנצ'מרק שפורסמה עבור N​emotron 3.5 Super היא של הספק עצמו, ונאספה באמצעות מערכת ההרצה NeMo Gym של N​VIDIA. GPQA-Diamond 89.52. Humanity's Last Exam בטקסט בלבד 31.79. LiveCodeBench v6 88.22. IFBench 70.86. tau2-bench 69.24 קמעונאות, 76.50 תעופה, 73.19 טלקום. BrowseComp 78. LMArena v3 פרוקסי 52.67. כל אחד מאלה הוא טענה של ספק שצורף לה מתכון לשחזור, וזה טוב יותר מטענה יבשה, ועדיין לא מדידה בלתי תלויה.

התמונה הבלתי־תלויה דלה בהרבה, וזו בעצמה העובדה השימושית ביותר בעמוד הזה. הפאנל של צד שלישי שמדרג את המודלים האלה מציב את הצ'קפוינט הזה במדד Intelligence Index באזור אמצע שנות העשרים — בערך 26 — לעומת כ־58 עבור Opus 5.5. הפאנל הזה גם מתעד צריכת טוקני פלט גבוהה באופן חריג עבור הרצת המדד, שאותה הוא מפרש כרברבנות, ורברבנות היא שורת עלות ולא הערת שוליים בכל פריסה שבה משלמים לפי טוקן או ממתינים לפי טוקן. נקודת נתונים בלתי־תלויה אחת אינה פסק דין, אבל היא היחידה שלא הופקה בידי החברה שמוכרת את המודל.

מה שאיש לא פרסם: כיצד הקוונטיזציה של 4 סיביות מזיזה את הציונים האלה. תג ברירת המחדל של Ollama הוא q4_K_M. כל נתון שפורסם הוא עבור BF16 או NVFP4. המספר שרוב האנשים יחוו בפועל הוא אפוא לא מדוד, והוא זה שכדאי לשים לב אליו בשבועות הקרובים.

מה אפשר ומה אי אפשר לכנות היום

שווה לומר זאת באופן חד-משמעי, כי זו אי-ההבנה הנפוצה ביותר בעמודים כמו זה. Nemotron 3.5 Super לא נמצא ב-OrcaRouter. אנחנו מנתבים קצת יותר ממאתיים מודלים ואין ביניהם רשומה של NVIDIA Nemotron, אז אם אתם צריכים את הצ'קפוינט הספציפי הזה, הנתיבים שלכם הם ערוצי הבנייה וההפצה של הספק עצמו ומשיכת ה-runtime המקומית — לא אנחנו.

Opus 5.5, לעומת זאת, זמין דרך המפתח שלנו, במחיר המחירון של הספק כפי שהוא, בלי תוספת מחיר לכל טוקן, מה שאומר ששינוי מחיר של הספק נכנס לתוקף אצלנו באותו יום, ולא בחידוש החוזה הבא. האסימטריה הזו באמת מועילה להחלטה שלפניכם: המהלך הראשון הזול הוא לקחת את עומס העבודה שהתכוונתם להריץ על ארבעה H100s ולהריץ אותו קודם מול המודל המתארח, דרך API אחד, בלי רכש. אם המודל המתארח עושה את העבודה במחיר סביר, חסכתם לעצמכם את הקלאסטר. אם הוא לא — וקריאה שגויה של מסמך טכני צפוף בקנה מידה גדול היא דרך סבירה לכך שהוא לא יצליח — יש לכם עכשיו ראיות ולא טבלת בנצ'מרק, ואתם יכולים להשקיע את ההורדה במקרים ששרדו.

מה העלות של מתכון הפריסה, באופן קונקרטי

מתכון ה-vLLM של הכרטיס עצמו שווה קריאה כמסמך תקציב. מקביליות טנזורית של 4, ניצול זיכרון GPU של 0.85, מקסימום של 32 רצפים במקביל, תמונה אחת וסרטון אחד לכל פרומפט, גיזום וידאו ב-0.5, ופענוח ספקולטיבי דרך ראש ה-MTP עם שלושה טוקנים ספקולטיביים. ארבעה H100 בניצול של 0.85 עם תקרה של 32 רצפים אינו שירות גדול — זו פריסה רצינית של צומת בודד, ותקרת המקביליות אומרת לך מה הספק מצפה שרפליקה בודדת תטפל בו.

שני פרטים במתכון הזה חשובים יותר ממה שהם נראים. תצורת הווידאו מקבלת סרטון אחד לכל פרומפט עם גיזום בקצב של חצי, וזה רמז חזק להיכן תקציב הראייה הולך בקלטים ארוכים. ומפענח החשיבה נקרא nemotron_v3/ ואילו מפענח קריאות הכלים הוא qwen3_coder/ — הספק עושה שימוש חוזר בפורמט של קריאות כלים שהוא לא המציא, וזו בשורה טובה לכל מי שיש לו קוד קיים לקריאות כלים, וכדאי לדעת זאת לפני שכותבים לוגיקת פענוח חדשה.

לעומת זאת, המשטח התפעולי של המודל המתארח הוא מפתח API. ההשוואה בין "ארבעה H100s ומתכון vLLM" לבין "מפתח ומד" אינה צמודה מבחינת מאמץ. היא צמודה רק מבחינת עלות, ורק בהיקף.

עוד דבר שניתן ללמוד ממאגר קוד וקל להחמיץ: הדגימה המומלצת שונה לפי מודאליות. טקסט דורש temperature 1.0 עם top_p 0.95; ראייה דורשת 0.6 עם 0.95. פריסה שמגדירה זוג אחד באופן גלובלי ואז מעבדת תרשימים ועמודים סרוקים מריצה את חצי הראייה של מודל ראייה על ההגדרות של חצי הטקסט. אם הרושם הראשוני שלך מהמודל הזה על מסמכים גרוע, זהו הכפתור הראשון שכדאי לבדוק — לפני שאתה מסיק מסקנות כלשהן לגבי נקודת הביקורת.

אז איזה אחד?

אם העבודה שלך היא קידוד סוכני לטווח ארוך, או כל דבר שבו ההיסק חייב להיות ברמה המובילה כבר בניסיון הראשון, Claude Opus 5.5 הוא התשובה, ורמת N​emotron אינה תחליף לו. זו אינה החלטה גבולית, והשורות הסוכניות שפרסם הספק עצמו אינן טוענות אחרת.

אם העבודה שלך היא הבנת מסמכים ותמונות בהיקף גבוה, שבה הגורם העיקרי לעלות הוא מספר העמודים ולא מורכבות ההסקה, זהו אחד הצ'קפוינטים הפתוחים היותר מעניינים שהופיעו השנה: 120 מיליארד פרמטרים מתוכם 12 מיליארד פעילים, רישיון מתירני, מסלול ראייה שנוכח באופן ממשי ולא מחובר בדיעבד, וברירת מחדל של 4 סיביות שנכנסת לכרטיס בודד של 96 GB. המלכוד הוא שלגרסה שכולם יריצו בפועל — ברירת המחדל q4_K_M — אין הערכה מפורסמת בשום מקום, המודל בן ארבעה ימים, והמפרט שפורסם על ידי סביבת ההרצה אינו תואם לחלוטין את המפרט שפורסם על ידי הספק.

שני אלה הם סיבות לנסות את זה, לא סיבות לסמוך על זה. הצב את עומס העבודה על המודל המתארח תחילה כדי לגלות אם עומס העבודה הוא כזה שמודל חלוץ פותר ומודל מדרג ביניים לא. לאחר מכן החלט אם המקרים השורדים שווים אשכול, הורדה, או ערב של קונפיגורציה. ואם אתה כן מכניס נקודת ביקורת בת ארבעה ימים לנתיב בקשות, נתב אותה מאחורי גיבוי, כי הביטוח הזול ביותר מפני מודל ללא היסטוריה תפעולית הוא מודל שני מאחורי אותה קריאה.

מה שהמספרים לא יכולים לספר לך הוא אם משהו מזה השתבש בשטח: תקריות ה-AI המתועדות וכשלי הסוכנים סביב מודלים מהסוג הזה מרוכזים בOrcaRouter AI Incident Archive, שבו כל רשומה נושאת מקורות משלה, חומרה, דרגת מהימנות וסימון מחלוקת.