Nemotron 3.5 Super ב-Ollama: מודל ראייה עם 120B פרמטרים שיכולתם להריץ עוד לפני ש-NVIDIA הכריזה עליו

במשך כעשרים שעות, הנתיב המקומי אל NVIDIA Nemotron 3.5 Super היה קיים לפני ההכרזה שהוא קיים. Ollama פרסמה את ה-checkpoint בספרייה שלה ב-14 באוקטובר 2026 במהדורה v0.40.5, משכה פנימה עדכון של llama.cpp שהוסיף תמיכה ב-Nemotron 3.5 ודחפה תשעה תגים של מודל חזותי-לשוני בעל 120 מיליארד פרמטרים — ollama run nemotron-3.5-super ואתה מריץ אותו. הפוסט של NVIDIA עצמה בחדר החדשות על אותם משקלות, שפורסם תחת השם המלא יותר NVIDIA Nemotron 3.5 Super VL, עלה לאוויר אחר הצהריים שלמחרת, 15 באוקטובר, בשעה 15:00 UTC. המשקלות עצמם ישבו ב-Hugging Face מאז 12 באוקטובר, במאגר בשם NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, שבו שדה תאריך השחרור של כרטיס המודל עצמו כבר הציג 10/15/2026.

שום דבר מזה אינו שערורייה. זו הצורה הרגילה של שחרור במשקלים פתוחים nowadays: הארטיפקט נוחת, הפריימוורקים מתחרים לתמוך בו, והשיווק מדביק את הפער. אבל זה משנה לשם מה כדאי לקרוא את הרשומה של Ollama. מה שהגיע ב-14 באוקטובר אינו הכרזה על מוצר עם סביבת הרצה מצורפת — זו סביבת הרצה עם מוצר מצורף, ושני המסמכים חלוקים על כמה דברים שחשובים אם אתם עומדים להשקיע 90 GB של דיסק בזה.

מה שוחרר בפועל ב-v0.40.5

הערת השחרור של Ollama ספציפית באופן יוצא דופן, וזה נוח. היא מתארת את Nemotron 3.5 Super כמודל שפה-חזותי לקידוד, הסקה, שימוש בכלים והבנת מסמכים, הבנוי על שלד היברידי של Mamba-2/Transformer מסוג mixture-of-experts עם 12B פרמטרים פעילים לכל טוקן מתוך 120B בסך הכול, יחד עם מקודד חזותי C-RADIO. היא מציעה קריאה לכלים, מצב חשיבה דלוק/כבוי, והקשר של עד 1M טוקנים. שתי השורות החשובות ביותר למי שכבר מריץ Ollama קבורות נמוך יותר: llama.cpp מעודכן (הוספת תמיכה ב-Nemotron 3.5) ו-MLX.

השורה הבודדת הזו היא כל הסיבה שהמשיכה עובדת. Ollama מנתבת את הצ׳קפוינט הזה דרך מריץ ה־llamacpp שלה בפורמט GGUF — מניפסט הרישום אומר זאת במפורש — כך ש״Ollama תומך ב-Nemotron 3.5 Super״ ו״llama.cpp תומך ב-Nemotron 3.5 Super״ הם אותו משפט. אם אתם משתמשים ב-Ollama ישן מ-0.40.5, אתם לא. בלוב התצורה של המודל מכיל "requires":"0.40.5", כך ששער הגרסה נאכף ולא רק נאמר כהמלצה.

אותה הערת שחרור מזכירה גם אח בשם Nemotron 3.5 Bolt, שמזקק את Super ל-74B פרמטרים עם 9B פעילים, ולפי ההערה הוא מכוונן כך שייכנס ל-GPU של NVIDIA בנפח 24 GB, עם פענוח ספקולטיבי באמצעות מודל טיוטה כלול. זהו מודל שונה למשיכה ודרגת חומרה שונה; שמור אותו בנפרד בראשך, כי השמות מזמינים בלבול.

תשעת החפצים, ומה כל אחד מהם באמת שוקל

עמוד הספרייה מציג סולם גדלים. מניפסט הרישום שמאחוריו מציג ספירות בתים אמיתיות, והשניים אינם מעגלים באותה צורה, לכן הנה המספרים מהמניפסטים עצמם ולא מהתגים המעוגלים:

• q4_K_M — 88,419,818,592 בייטים, או 82.3 GiB (עמוד הספרייה מציג 80GB–90GB). שמות תגים :latest, :120b, :120b-a12b ו:120b-a12b-q4_K_M כולם מצביעים על אותה שכבה, כך שארבע מתוך תשע הרשומות הן ארטיפקט אחד שלובש ארבעה שמות.

• q8_0 — 131,601,243,232 בייטים, 122.6 GiB, מוצג כ-133GB.

• bf16 — 247,403,355,232 בתים, 230.4 GiB, מוצג כ-249GB. זהו הצ'ק פוינט ברמת דיוק מלאה בלבוש GGUF, והוא התג היחיד כאן שנמצא רחוק מאוד מחומרת צרכן.

• MLX nvfp4 — 79.56 GB בסך הכול, הקטן שבקבוצה, ו-NVFP4 הוא הפורמט שבו הכרטיס של NVIDIA עצמה מגיע כצ'קפוינט מן השורה הראשונה ולא כקוונטיזציה של שוק המשנה.

• MLX mxfp8 — 129.60 GB בסך הכול, המקבילה של MLX בנפח של בערך q8_0.

• MLX bf16 — 248.92 GB בסך הכול, מעט גדול יותר מה-GGUF bf16 מכיוון ש-MLX מאחסן טנסורים באופן שונה.

• הפרוג'קטור — כל תג, ללא יוצא מן הכלל, נושא שכבת מדיה בגודל 1,733,696,896 בייט בשם mmproj-bf16.gguf. זה 1.61 GiB של מקודד חזותי שמגיע יחד עם כל הורדה, כולל הקטנה ביותר. נתיב התמונות אינו אופציונלי ואינו משיכה נפרדת.

שלושה מתוך תשעת הערכים — אלה של MLX — מתויגים עבור Apple silicon ולא CUDA, וכל אחד מהם מסומן פשוט "MLX" בדף הספרייה. אם אתם בוחרים תג ב-Mac, nvfp4 בגודל 79.56 GB הוא זה שנכנס למכונה עם זיכרון מאוחד של 96 GB או 128 GB ועוד נשאר מקום פנוי, ואילו mxfp8 בגודל 129.60 GB כלל לא נכנס למכונה עם 128 GB ברגע שמביאים בחשבון את מטמון ה-KV.

דף הספרייה והמניפסט אינם מסכימים לגבי אורך ההקשר.

תגיות ה-GGUF מפרסמות חלון הקשר של 1M טוקנים. שלוש תגיות ה-MLX לא מפרסמות דבר — בעמודה כתוב „- חלון הקשר” במקום שבו באחרות כתוב „1M”. או שנתיב ה-MLX לא חווט עבור תצורת ההקשר הארוך, או שהדף פשוט לא מולא, אך מבחוץ אי אפשר להבדיל בין השניים, והעמדה הכנה היא שטענת ההקשר הארוך מאומתת עבור תגיות GGUF ואינה מאומתת עבור תגיות ה-MLX.

יש פער שני באותו כיוון. בלוב התצורה של תג ברירת המחדל מצהיר "model_type":"123.6B" בעוד שכל שם שמיועד לאדם אומר 120B. זו אינה אי-התאמה במשקלים; זו אי-התאמה באופן שבו מספר הפרמטרים מעוגל בין שתי המערכות, וכדאי לדעת איזה מספר כלי נתון מצטט בפניך.

והשלישי, שזה הדבר שהכי סביר שיעקוץ: בלוב ה-params מגיע עם {"draft_num_predict":3,"temperature":1,"top_p":0.95}. ערכי הדגימה האלה הם ההגדרות המומלצות של כרטיס המודל — עבור טקסט. הכרטיס ממליץ על זוג שונה לעבודת ראייה, temperature 0.6 מול top_p 0.95. אז ברירת המחדל של Ollama מכווננת לחצי הטקסטואלי של מודל ש-Ollama משווקת כמודל ראייה. אם החוויה הראשונה שלך איתו על גרפים או עמודים סרוקים מאכזבת, זה הכפתור הראשון לסובב, לפני שאתה מסיק משהו על הצ'קפוינט.

השדה draft_num_predict: 3 שווה שורה משל עצמו. זהו פרמטר של פענוח ספקולטיבי, והמניפסט אינו נושא שכבת מודל-טיוטה נפרדת — רק את מודל ה-GGUF והמקרן. לכן כל ספקולציה שסביבת ההרצה מבצעת רוכבת על ראש חיזוי רב-אסימונים המובנה של המודל ולא על ה-LiLiCorr drafter העצמאי שכרטיס של NVIDIA מזכיר שנשלח לצד נקודות הביקורת BF16 ו-NVFP4. זו בחירה הנדסית סבירה וזה גם אומר שמסלול Ollama אינו התצורה המדויקת שמספרי התפוקה של הספק מתארים.

מה שבלוב התצורה אומר לך בשקט

ארבעה שדות בהגדרות המניפסט מספקים מידע רב יותר ממה שגודלם מרמז.

• model_family: nemotron_h_moe — מחרוזת המשפחה אינה סתם nemotron. כל דבר בסטאק שלך שמסתעף לפי משפחת המודל כדי לבחור תבנית צ'אט או טוקנייזר לא יתאים לקידומת נאיבית.

• מרנדר: nemotron-3.5-super — מרנדר ייעודי, כך שתבנית הצ'אט היא באמת של המודל הזה ולא ברירת מחדל שעברה בירושה.

• מנתח: nemotron-3-nano — וכאן המנתח שאול מאח ה-Nano הקטן יותר. פורמט הפלט של מצב החשיבה ושל קריאות לכלים היה כנראה יציב מספיק בכל המשפחה שלא היה צורך במנתח חדש. זה גם אומר שאם כבר בנית טיפול בקריאות לכלים עבור Nemotron 3 Nano, סביר להניח שזה יעבוד כאן ללא שינוי.

• file_type: Q4_K_M — תג ברירת המחדל הוא כימות 4 סיביות, וזו התצורה שלפיה רוב האנשים ישפטו את המודל הזה.

שכבת הרישיון היא בלוב של 2,618 בתים הנושאת את הסכם הרישיון OpenMDW גרסה 1.1, שהוא אותו רישיון שכרטיס Hugging Face מכנה בשם openmdw-1.1. מתירני, שימוש מסחרי מותר, וכדאי לקרוא אותו לפני שאתם מניחים שהוא Apache-2.0, כי סביבת Ollama שמסביב היא ברובה כזו.

מדדי ביצועים: סט אחד הוא של הספק, והשני לא

הטבלה שפרסמה NVIDIA בעצמה היא נרחבת ומבוססת כולה על דיווח עצמי. עליה, המודל משיג 89.52 ב-GPQA-Diamond, 31.79 ב-Humanity's Last Exam טקסט בלבד, 76.91 ב-MMLU-ProX, 88.22 ב-LiveCodeBench v6, 71.10 ב-SWE-bench Verified, 67.72 ב-SWE-bench Multilingual, 51.78 ב-SWE-bench Pro, 66.70 ב-Terminal-Bench 2.1, 70.86 ב-IFBench, 62.82 ב-MMLongBench-Doc, 78.16 ב-MathVision ו-68.12 ב-OCRBench v2 אנגלית לעומת 59.15 סינית. השורות הסוכניות חזקות: 69.24 קמעונאות, 76.50 תעופה ו-73.19 טלקום ב-tau2-bench. החברה גם טוענת שבלוח המובילים Artificial Analysis Intelligence Index המודל משיג תפוקה מהירה עד פי 5 מאחרים במחלקה שלו, ושהרצתו על NVIDIA Dynamo מאפשרת לארגונים לשרת עד פי 8 יותר משתמשים בהשהיה נמוכה ב-85%. אלה נתוני ספק, שהופקו על ידי הספק, על תשתית הספק — התייחסו אליהם כמפרט, לא כביקורת.

התמונה הבלתי-תלויה דקה יותר אך שימושית יותר, בדיוק מפני שהיא דקה יותר. Artificial Analysis מציבה כעת את הצ'קפוינט הזה במדד Intelligence Index של 26, שאותו היא מתארת כגבוה בהרבה מהחציון של 8 עבור מודלים עם משקולות פתוחות בגודל דומה — פער אמיתי, ומשמעותי אם הנחתם שמודל פתוח של 120B מספק חומרה נוחת אי-שם בסמוך לאמצע התחום. באותו עמוד נרשמו 170M טוקנים של פלט שנצרכו בהרצת המדד לעומת חציון של 100M, מה שהיא מפרשת כ"די עתיר מילים": זהו מודל הסקה עם מצב חשיבה מורחב, ופירוט יתר הוא שורת עלות, לא הערת שוליים. הוא מאשר את חלון ההקשר של 1.0M, את 120B סה"כ עם 12B פעילים, קלט תמונות עם פלט טקסט, ואת רישיון OpenMDW-1.1.

הדבר היחיד שהדף הזה לא יכול לספר לך הוא מה העלות לכל טוקן, כי אין מחיר של שירות מתארח שאפשר לצטט. התשובה של Artificial Analysis עצמה לשאלה אם המודל זמין דרך API היא שזהו מודל עם משקלים פתוחים (open-weights) שניתן להריץ באירוח עצמי. זה כל הסיפור הכלכלי במשפט אחד: העלות השולית שלך היא חשמל ושעה של GPU, והעלות הקבועה שלך היא ההורדה.

מה שצריך כדי להריץ את זה בפועל

כרטיס המודל ממליץ על ארבעה כרטיסי H100 או שני כרטיסי GB200 עבור הצ'קפוינט ששוחרר, עם מתכון vLLM שמציין מקביליות טנזורית של 4 וקונפיגורציה ספקולטיבית של השיטה mtp. זו התשובה של מרכז הנתונים והיא מיועדת ל-BF16. השאלה המעניינת עבור כל מי שקורא רשומת Ollama היא הקצה האחר של הסולם.

ב-q4_K_M, 82.3 GiB של משקלים ועוד 1.61 GiB של projector מאפשרים להריץ את המודל על כרטיס בודד של 96 GB או על Mac עם זיכרון מאוחד של 128 GB, עם מרווח למטמון KV שמתכווץ במהירות ככל שאתם מעלים את אורך ההקשר. ב-1M טוקנים המוצהרים, המטמון לא ייכנס לצד המשקלים על סוג כזה של חומרה, לא משנה מה כתוב על התג — הקשר ארוך על מכונה בודדת פירושו לסחור במקביליות, לא לפתוח אותו בחינם. תכננו מראש אורך הקשר עבודה נמוך בהרבה מהתקרה, והתייחסו לנתון 1M כגבול של הארכיטקטורה ולא כגבול של הפריסה שלכם.

תג ה-MLX nvfp4 בגודל 79.56 GB הוא הבחירה הפרגמטית עבור Apple silicon, והוא גם הפורמט שהספק מפיץ באופן מקורי, מה שהופך אותו לפחות סביר מבין התגים הקטנים להפתיע אותך באיכות.

איפה זה משתלב אם אתה מנתב במקום לארח בעצמך

NVIDIA Nemotron 3.5 Super זמין דרך ערוצי הבנייה וההפצה של הספק עצמו ודרך משיכת ה-Ollama שתוארה לעיל. הוא אינו נמצא ב-OrcaRouter — אנחנו מנתבים קצת יותר מ-200 מודלים וזה אינו אחד מהם — כך שאם אתה זקוק ספציפית לצ'קפוינט הזה, המשיכה המקומית היא הנתיב שלך, ושום דבר במאמר הזה אינו רמז לכך שתוכל להפעיל אותו באמצעות המפתח שלנו.

מה שהפלטפורמה באמת נועדה לו כאן הוא ההחלטה שסביבה. הערכת מודל כמו זה כרוכה בעלות קבועה שאף טבלת בנצ'מרקים לא מסלקת: הורדה של 90 GB, ערב של קונפיגורציה, וסט פרומפטים משלך לפני שאתה יודע משהו. המהלך הראשון והזול יותר הוא להריץ את עומס העבודה האמיתי שלך מול המודלים המאוחסנים שאתה כבר יכול להגיע אליהם — API אחד ל-200+ מודלים, עם מחיר המחירון של הספק המועבר הלאה ללא תוספת תמחור לפי טוקן, כך שספק שמוריד מחירים מתעדכן אצלנו באותו יום — ותן לזה לומר לך אם עומס העבודה הוא כזה שמודל חשיבה של 120B משפר בכלל. ואז השקע את ההורדה במקרים ששרדו.

ואם בכל זאת תכניסו מודל פתוח ששוחרר זה עתה לנתיב ייצור לפני שאתם סומכים עליו, מעבר אוטומטי לגיבוי חשוב יותר מהמחיר. מודל שיצא לאור ב-14 באוקטובר זכה ליומיים של תשומת לב עולמית; לנתב אותו מאחורי גיבוי הוא הדרך ליהנות מהיתרון שלו בלי להמר על נתיב הבקשות.

הסיכום הכנה של מה שמאושר ומה שאינו מאושר

מאושר, מהמרשם ומהערות השחרור ישירות: התגים, ה-digests שלהם, מספר הבתים שלהם, גרסת המינימום 0.40.5, פורמט GGUF באמצעות ה-llamacpp runner, מקרן הראייה המשותף, מחרוזת משפחת המודל, ה-renderer, ה-parser מסוג Nano שעבר בירושה ורישיון OpenMDW-1.1. מאושר מחדר החדשות ומכרטיס המודל של NVIDIA עצמה: הארכיטקטורה, פיצול הפרמטרים, הרישיון, הגדרות הדגימה המומלצות, היקף האימון — כ-26 טריליון טוקנים באימון מקדים ובאימון מקדים ממושך, ולאחר מכן אימון שלאחר האימון המקדים (post-training) על כ-3.8 מיליון דגימות עם למידת חיזוק בעשרות סביבות — וכיסוי השפות: אנגלית, ספרדית, צרפתית, גרמנית, איטלקית ויפנית.

לא אומת: כל נתון בנצ'מרק, שמדווח על ידי הספק, כאשר ציון 26 במדד של Artificial Analysis ומילוליות של 170 מיליון טוקנים הם המדידות הבלתי-תלויות היחידות בכתבה הזו. לא אומת: שתגי MLX תומכים באורך ההקשר המפורסם, מאחר שדף הספרייה אינו מצהיר זאת לגביהם. לא אומת: שמסלול הראייה מכוונן כשהוא יוצא מהקופסה, מפני שברירות המחדל של הדגימה שמגיעות עם החבילה הן אלה של הטקסט. ולא אומת: כיצד קוונטיזציה של 4 סיביות משנה את הציונים המפורסמים, וזה המספר שרוב קוראי רשומת Ollama באמת מתעניינים בו וזה שאף אחד לא פרסם.

אם יש לך כרטיס של 96 GB, סיבה לרצות מודל חזותי-לשוני פתוח עם שלד אמיתי של 120B, ואין לך התנגדות לתלות בשבוע הראשון, זה הדבר החזק ביותר בקטגוריית המשקל שלו שהופיע החודש, וההורדה טריוויאלית. אם אתה צריך את התצורה המדויקת ש-NVIDIA בחנה, או שאתה צריך שהראייה תעבוד בניסיון הראשון, או שאינך יכול להרשות לעצמך לבזבז ערב שלם כדי לגלות איזה משני המסמכים האלה הוא הסמכותי — חכה להערכות הכימות ולדיווחים מהקהילה. המשקלות בנות ארבעה ימים ותמיכת זמן הריצה בת יומיים.