Nemotron 3.5 Super מול GPT-6 Astra: כמה עולה עמוד סרוק בכל אחד

OpenAI GPT-6 Astra מחייב מסמך סרוק לפי טוקן. NVIDIA Nemotron 3.5 Super מחייב אותו לפי שנייה של GPU. המשפט הבודד הזה הוא רוב ההשוואה הזו, והוא לא המשפט שאף אחד מהספקים היה שם בכותרות. המודל של NVIDIA — 120 מיליארד פרמטרים בסך הכל עם 12 מיליארד פעילים לכל טוקן, מקודד חזותי C-RADIO על תערובת של מומחים היברידית של Mamba-2 ו-Transformer, שהוכרז על ידי NVIDIA ב-15 באוקטובר 2026 בשם NVIDIA Nemotron 3.5 Super VL והופץ ב-Ollama כ- code>nemotron-3.5-super/code> — נכנס לעולם כשהמשקולות שלו כבר בנות שלושה ימים ב-Hugging Face, הועלו ב-12 באוקטובר. Astra הוא הדגל של OpenAI: 1,050,000 טוקנים של הקשר, 128,000 טוקנים של פלט מקסימלי, קלט טקסט, תמונה וקובץ, חשיבה תמידית, ומחיר מחירון של 10 דולר למיליון טוקני קלט ו-50 דולר למיליון פלט.

שתי נקודות המחיר האלה רחוקות זו מזו פי עשרה בקלט ופי עשרים וחמישה בפלט, מה שהופך את השאלה המעניינת לחדה במיוחד. באיזה נפח צ'קפוינט פתוח בעלות קבועה מנצח מונה של $10/$50 לעבודת מסמכים — והאם התשובה משתנה כאשר המסמך הוא עמוד של פיקסלים ולא עמוד של טקסט?

הם לא מתחרים על אותה בקשה

הדבר הראשון שצריך להבהיר הוא שמבחינת יכולת מדודה, שני המודלים האלה לא קרובים זה לזה, ואף ספק לא טוען אחרת.

• מדד של צד שלישי — Astra ממוקמת בסביבות 54.7 בפאנל שמדרג את המודלים האלה, עם מדד קידוד של 76.9 ומדד אג'נטי של 51.6, וכולם רשומים בערך הקטלוגי של Astra עצמה · הצ'קפוינט של NVIDIA נמצא בסביבות 26. זהו פער של כעשרים ושמונה נקודות, והוא אינו נמדד על ידי אף אחד מהספקים.

• הקשר — 1,050,000 אסימונים עבור Astra עם תקרת פלט של 128,000 אסימונים · 1,000,000 עבור הצ'קפוינט של NVIDIA ללא תקרת פלט מפורסמת כלל, וההסתייגות של הכרטיס עצמו שהזיכרון והגדרות זמן הריצה קובעים את הנתון השמיש.

• משטח החשיבה — Astra מריצה חשיבה תמידית עם מאמץ ניתן להגדרה מרמה נמוכה עד מקסימלית, מחזירה עקבות חשיבה מלאות דרך Responses API, ותומכת בפלטים מובנים, זרעים וחיפוש באינטרנט ככלי · לצ'קפוינט של NVIDIA יש מצב חשיבה on/off שמוחלף דרך תבנית הצ'אט וטבלת בנצ'מרק שפורסמה, אך אין לו שום משטח מתארח מכל סוג שהוא.

• מודאליות קלט — טקסט, תמונות וקבצים עבור Astra · טקסט, תמונות ווידאו עבור ה-checkpoint של NVIDIA, עם מקרן חזותי בנפח 1.6 GiB בכל תג מפורסם כך שנתיב התמונה תמיד קיים.

• מחיר — $10 בכניסה ו-$50 ביציאה למיליון טוקנים, עם מדרג הקשר ארוך מעל 272,000 טוקני פרומפט · אין מחיר, כי למודל אין נקודת קצה.

• מה מקבלים — מפתח API ו-trace · ארבעה כרטיסי H100 או שני GB200 של BF16, או כרטיס בודד בנפח 96 GB עבור תג ה-4-bit המוגדר כברירת מחדל של 82.3 GiB, תחת OpenMDW-1.1 עם שימוש מסחרי מותר.

קראו את הרשימה הזו והמסקנה ברורה: אם העבודה דורשת חשיבה בחזית היכולת, Astra הוא המודל וההשוואה נגמרה. מה שהופך את העמוד הזה לשווה קריאה הוא המקרה שבו העבודה לא זקוקה לחשיבה בחזית היכולת, כי דווקא שם צ'קפוינט בן 120 מיליארד פרמטרים עם מקודד חזותי מתחיל להיות הגיוני מבחינה כלכלית — וזהו נתח גדול יותר מתהליכי עיבוד מסמכים אמיתיים מכפי שכל אחד מוכן להודות.

חשבון עלות העמוד, עם מספרים אמיתיים

קחו משימה קונקרטית: קורפוס של חשבוניות סרוקות, 200 דפים ביום, כאשר כל דף מרונדר ברזולוציה גבוהה מספיק כדי לקרוא מספר אסמכתא בכתב יד. נקרא לזה 1,500 טוקני תמונה לדף לאחר שהמקודד עושה את שלו, בתוספת פרומפט של 300 טוקנים ותשובה של 150 טוקנים. זה בערך 1,950 טוקנים בקלט ו-150 ביציאה לכל דף, או 390,000 טוקני קלט ו-30,000 טוקני פלט ביום על פני הקורפוס.

לפי התעריף המפורסם של Astra, מדובר ב-$3.90 של קלט ו-$1.50 של פלט — כ-$5.40 ליום, או בערך $160 בחודש עבור עבודה ש-GPU בודד יכול לבצע בין לילה. העלו את הרזולוציה, הוסיפו עמוד שמפעיל את מדרג ההקשר הארוך מעל 272,000 טוקנים בפרומפט, או הריצו את הקורפוס פעמיים כי המעבר הראשון היה שגוי, והמספר נע בכיוון אחד. זו צורת הבעיה: ב-$10 וב-$50, לתהליך עבודה לפי עמוד יש חשבון לפי עמוד, והחשבון גדל בדיוק עם הדבר שגדל — מספר העמודים.

בנקודת הביקורת של NVIDIA, אותה עבודה עולה רק אותו שבריר של שעת GPU ש-230,000 טוקנים צורכים, ואשר בקצב של 200 עמודים ביום הוא שגיאת עיגול מול החשמל. החשבון הוא הכרטיס, והכרטיס זהה בין אם תעבדו 200 עמודים או 20,000.

שלוש הסתייגויות לפני שמישהו רץ לקנות חומרה. הראשונה היא שזה מפסיק להיות נכון בנפח נמוך — כרטיס 96 GB והחשמל להריץ אותו עולים בחודש יותר ממה שרוב הצוותים מוציאים על טוקנים, וב-200 עמודים ביום סביר שתפסידו. השנייה היא שלכימות של NVIDIA שרוב האנשים למעשה יריצו, q4_K_M, אין הערכה מפורסמת בשום מקום; כל נתון על הכרטיס של NVIDIA הוא BF16 או NVFP4, כך שהדיוק של הגרסה שתפרסו אינו ידוע. השלישית היא שהפלט של Astra טוב באופן מדיד, ובקורפוס שבו מספר ייחוס שנקרא בטעות הוא עלות ממשית, דיוק טוב יותר יכול לגבור על פער מחיר בכל גודל.

כאשר Astra אינה רק טובה יותר, אלא טובה יותר מבחינה מבנית

לא יהיה ישר להציג את Astra כחלופה יקרה לאפשרות זולה יותר. בכמה מישורים היא מסוג אחר של מוצר, וההבדל אינו עניין של ציונים.

Astra מחזירה עקבות חשיבה מלאות דרך Responses API. עבור צינור עיבוד שצריך להצדיק החלטה — הכרעת תביעה, בדיקת ציות, מעבר קידוד רפואי — עקבה ניתנת לביקורת אינה תכונה, היא הדרישה. לצ׳קפוינט של NVIDIA יש מצב חשיבה שאפשר להפעיל ולכבות בתבנית הצ׳אט, ואין בו בכלל משטח עקבות מתארח, מה שאומר לבנות את שכבת הביקורת בעצמך.

Astra תומכת בפלטים מובנים עם סכימה ו-seed. בצינור חילוץ מסמכים שבו הפלט חייב להתאים לפריסת רשומה, מודל שאפשר להגביל לסכימה זול יותר לאינטגרציה ממודל שבו מאמתים ומנסים שוב, ועלות הניסיון החוזר נסתרת מהעין עד שהיא כבר לא.

ומשטח הכלים של Astra הוא מוצר צד ראשון: קריאה לפונקציות, response_format, seed וחיפוש באינטרנט ככלי. מתכון הפריסה של ה-checkpoint של NVIDIA עושה שימוש חוזר במנתח קריאות כלים שהוא לא כתב — המתכון של הספק עצמו, vLLM, מכנה את code>qwen3_coder/code>code>nemotron_v3/code> כמנתח החשיבה. זוהי בחירה הנדסית הגיונית, והיא גם אומרת שמשטח קריאת הכלים הוא שאול ולא תוכנן עבור המודל הזה, ולכן יהיה צורך לבדוק אותו לפני שסומכים עליו.

המתכון של vLLM גם אומר לך מה הספק מצפה שרפליקה תטפל בו: מקביליות טנזורית של 4, ניצול זיכרון GPU של 0.85, מקסימום של 32 רצפים מקבילים, תמונה אחת וסרטון אחד לכל פרומפט, גיזום וידאו ב-0.5, ופענוח ספקולטיבי דרך ראש ה-MTP המובנה עם שלושה אסימונים ספקולטיביים. שלושים ושניים רצפים מקבילים הם התקרה בצומת עם ארבעה GPUs. התקרה של Astra היא מגבלת קצב.

המלכודת בברירת המחדל של NVIDIA, ומדוע היא מופיעה ראשונה במסמכים

זהו הפרט שיכריע אם הניסוי הראשון יצליח, והוא נראה רק אם קוראים את רישום ה-runtime ולא את הפוסט של הספק.

הכרטיס מגדיר שתי תצורות דגימה: temperature 1.0 עם top_p 0.95 לעבודת טקסט, ו-temperature 0.6 עם top_p 0.95 לראייה. ברירת המחדל שנשלחת במניפסט של Ollama היא צמד הטקסט — code>{"temperature": 1.0, "top_p": 0.95}/code> עם code>draft_num_predict: 3/code>. לפיכך, התצורה שמרבית האנשים יפגשו את מודל הראייה הזה דרכה מכווננת לחצי שלו שאינו ראייה. אם הדבר הראשון שתעשו איתו הוא להפנות אותו לחשבונית סרוקה והתוצאה רופפת או מלאת הזיות, הגדרות הדגימה הן הדבר הראשון שכדאי לשנות — לפני שתסיקו מסקנה כלשהי על ה-checkpoint.

עוד שני פרטים על המאגר שכדאי להכיר לפני הפריסה. ארבע מתוך תשע התגיות שפורסמו — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> וגם code>:120b-a12b-q4_K_M/code> — מפנות לאותה שכבת q4_K_M, כך שהתגית הנקראת על שם מספר הפרמטרים המלא אינה הקובץ שתקבלו. ושער הגרסה נאכף ולא רק מומלץ: התצורה מצהירה code>requires: 0.40.5/code>, כך שבסביבת ריצה ישנה יותר המשיכה לא עובדת בכלל.

השוו זאת למצב הכשל בצד האחר של ההשוואה הזו, שהוא נקודת קצה שהשתנתה. Astra הוא שירות מתארח; ניתן לשנות את ההתנהגות שלו. אף אחד מהסיכונים אינו סיבה להימנע מהמודל. אלה סיכונים שונים והם מחייבים דרכי הקלה שונות — שינוי תצורה בצד אחד, נתיב גיבוי בצד האחר.

תשובת הניתוב, שזהה עבור שניהם

Astra נמצאת במפתח שלנו. OrcaRouter מנתב אותה במחיר המחירון של הספק כפי שהוא מועבר, ללא תוספת רווח לפי טוקן — 10$ ו-50$ למיליון טוקנים, כאשר מסלול ההקשר הארוך מתומחר בדיוק כפי ש-OpenAI מתמחרת אותו, זמין אצלנו באותו היום ולא בחידוש הבא שלכם. אם השאלה היא אם Astra מתמודדת עם עומס המסמכים שלכם, זה מפתח אחד ובלי רכש, והתשובה עולה כמה דולרים של טוקנים.

הצ'קפוינט של NVIDIA אינו במפתח שלנו. אנחנו מנתבים מעט יותר ממאתיים מודלים ואין ביניהם רשומת NVIDIA Nemotron, כך שמאמר זה אינו טענה שאפשר לקרוא לו כאן. אם אתה צריך את הצ'קפוינט הזה, ערוצי הבנייה וההפצה של NVIDIA עצמה והמשיכה המקומית הם הדרך שלך.

מה שהפלטפורמה באמת נועדה לו בהחלטה הזאת הוא סדר הפעולות. הרץ את הקורפוס מול Astra תחילה, ומדוד שני דברים: העלות לעמוד ושיעור השגיאות לעמוד. שני המספרים האלה יחד מכריעים הכול. אם שיעור השגיאות נמוך והנפח נמוך, הישאר על המונה לנצח — לעולם לא תנצח אותו עם חומרה. אם שיעור השגיאות נמוך והנפח גבוה, יש לך כעת טיעון שניתן להגן עליו להעביר את העמודים השגרתיים לכרטיס בבעלותך, בעוד שאת הקשים משאירים על המונה. אם שיעור השגיאות גבוה, שום יתרון מחירי בצד של NVIDIA לא יעזור, כי החשבון של חשבונית שנקראה שלא כהלכה אינו עניין של טוקנים.

ולכל דרך שתבחרו, נתבו את המודל החדש מאחורי גיבוי. לצ'קפוינט שהמשקלים שלו בני ארבעה ימים יש ארבעה ימים של היסטוריה תפעולית, והביטוח הזול ביותר כנגד זה הוא מודל שני באותה קריאה. Astra הוא דבר סביר להחזיק מאחורי מודל פתוח בן ארבעה ימים; הוא גם המודל שרוב קוראי העמוד הזה יסיקו שאין להם צורך להחליף.