Nanbeige4.3-33B נגד Nemotron 3.5 Lightning 30B A3B: מורה נגד מבצע
- MoonshotחדשMoonshotAI: Kimi K3.1 Pro2026-10-2455אינטליגנציה
- OrcaחדשOrcaCyber: DeepSeek V4.1 Flash Abliterated2026-10-23$0.80 / $1.60 לכל 1M טוקנים · 168 tok/s
- OrcaחדשOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 לכל 1M טוקנים · 28 tok/s
- deepseekחדשDeepSeek: DeepSeek V4.1 Flash 10172026-10-1745אינטליגנציה
- DeepSeekחדשDeepSeek: DeepSeek V4.1 Flash2026-10-1740אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 142 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 1117 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 167 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 1628 tok/s
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 47 tok/s
NVIDIA Nemotron 3.5 Lightning 30B A3B פועל בקצב של 294.9 אסימוני פלט לשנייה. ל-Nanbeige4.3-33B אין כלל מהירות מפורסמת, מפני שאיש אינו מגיש אותו. שתי העובדות האלה מספרות לך יותר על ההתמודדות הזו מכל שורה בטבלת בנצ'מרק: דגם אחד הוא מוצר תפוקה מהונדס עם מחירון וסיפור פריסה על GPU יחיד, והשני הוא צ'ק-פוינט צפוף בעל 33 מיליארד פרמטרים שעלה ל-Hugging Face ב-24 באוקטובר 2026 עם כרטיס דגם וללא ספק אינפרנס. שניהם "בדרגת 30B". הם אינם אותו סוג של אובייקט.
ההשוואה שווה לעשייה משום ששניהם מוצעים לאותו קונה — מישהו שבונה סוכן מתמשך שצריך לבצע הרבה צעדים קטנים בלי חשבון של מודל Frontier. התשובה של NVIDIA היא לצמצם את המחשוב לכל טוקן. התשובה של Nanbeige היא להפוך מודל גדול וצפוף יותר לטוב מספיק בעבודה סוכנית כך שתצטרכו רק אחד. אלה הימורים הפוכים, והראיות לכל אחד מהם שונות מאוד בסוגן.
3.6 מיליארד פרמטרים פעילים — זה כל הטיעון
Nemotron 3.5 Lightning 30B A3B הוא מודל היברידי מסוג תערובת מומחים: 31.6 מיליארד פרמטרים בסך הכול, 3.6 מיליארד פעילים לכל טוקן, פרוסים על פני 52 שכבות — 23 Mamba-2, 23 MoE ו-6 קשב. הוא מנתב ל-128 מומחים ומפעיל 6 מהם בתוספת מומחה משותף. הארכיטקטורה הזו היא הסיבה לכך שהוא יכול להחזיק בקצב של כ-295 טוקנים בשנייה בנקודת קצה מנוהלת, בעוד שמודל צפוף בדרגת 30B מגיע בדרך כלל לטווח של 40–80.
Nanbeige4.3-33B הוא מודל dense. כל 33.1 מיליארד הפרמטרים מופעלים בכל טוקן. אין ניתוב, אין דילול מומחים, ואין שכבת Mamba. זו בחירה מכוונת עם השלכה ברורה: כל טוקן דורש בערך פי תשעה מחישוב פעיל מזה של Lightning, והמודל זקוק לכ-66GB של משקלים ב-BF16 — או בסביבות 20GB ב-4-bit — טעונים בזיכרון לפני שהוא מייצר משהו.
אף אחד מהעיצובים אינו עדיף באופן מופשט. מודלים צפופים נוטים להיות פשוטים יותר לכוונון עדין וצפויים יותר באיכותם; מודלים דלילים נוטים להיות זולים ומהירים יותר להגשה באותו גודל נומינלי. השאלה היא איזו תכונה חסרה לעומס העבודה שלך.
מה כל מודל נועד לעשות
NVIDIA מציבה את Lightning כשכבת הביצוע של סוכן פעיל תמיד — המודל שלוקח תוכנית ממערכת גדולה יותר ומבצע ברצף קריאות כלים, עריכות קבצים וצעדי דפדפן בעלות נמוכה. הוא מזוקק מ-Nemotron 3 Ultra, מגיע עם פענוח ספקולטיבי של חיזוי ריבוי טוקנים המוטמע מראש באימון המקדים, וכן עם מודלי טיוטה נפרדים, והוא מכויל להרנסים ולא לצ'אט. מערך המדדים המפורסם שלו משקף זאת: PinchBench 85.4–86, BrowseComp 36.8–36.97, SWE-bench Verified 51.56–52.8, Terminal-Bench 2.1 בסביבות 23.5–24.6.
Nanbeige4.3-33B ממוקם כמורה. הכרטיס אומר זאת ישירות: הוא הדגל של סדרת 4.3, שנועד לזקק אל תוך מודלים קטנים יותר כמו Nanbeige4.3-3B שטרם שוחרר. מערך הבנצ'מרקים שלו רחב בהתאם — 20 שורות המכסות קידוד סוכני, עבודה משותפת סוכנית והיסק — וההגדרות המומלצות שלו הן אלה של מודל שאתם מריצים בעצמכם: גודל tensor-parallel 4, קריאות כלים ב-XML, preserve_thinking=true לשימוש בכלים בריבוי תורות.
האחד הוא רכיב במערכת של מישהו אחר. האחר הוא מודל מקור למשפחה. המסגור הזה מסביר כמעט כל הבדל להלן.
המדד היחיד שהם חולקים אינו ניתן לחסר
שני הכרטיסים מדווחים על Terminal-Bench 2.1. Nanbeige טוענת 80.9. הטווח שפרסמה NVIDIA עבור Lightning הוא בערך 23.5–24.6. על פניו זה פער של 56 נקודות, וזה המספר שיצוטט.
זה לא אמור להיות כך. Terminal-Bench מודד מודל בתוך שלד סוכן, ושתי הספקיות אינן מתארות את אותו שלד. הכרטיס של Nanbeige אומר שהרצת Terminal-Bench 2.1 שלו השתמשה ב-Terminus 2 ושהמודלים שלו הוערכו במאמץ החשיבה הגבוה ביותר עם רתמה משותפת ופרמטרי הסקה משותפים. המספרים של NVIDIA מגיעים מהרתמה הפנימית שלה, שאותה החברה עצמה מסמנת ככזו שעלולה להיות שונה מתוצאות צד שלישי. מודל dense עם 33B שקיבל לופ נוח ומודל עם 3.6B פעילים שקיבל לופ סטנדרטי יכולים להיות שונים בעשרות נקודות בלי שאף אחד מהמודלים יוצג באופן מטעה.
הקריאה הכנה היא כיוונית, לא מספרית: Nanbeige טוענת לביצועי טרמינל אג'נטיים חזקים בהרבה, והטענה אינה מאומתת בשני הצדדים. אותה זהירות חלה על GPQA Diamond (Nanbeige 89.5, Lightning 74.3–75.6) ועל AA-LCR (Nanbeige 84.0, Lightning 52.0–60.3). הפערים האלה גדולים מספיק כדי שחלק מההבדל הוא כנראה יכולת אמיתית ולא הארנס. אבל "כנראה" עושה עבודה רבה במשפט הזה, ואף גורם שלישי לא הריץ את ההשוואה.
מה שאינו דו-משמעי הוא כיסוי עצמאי. Artificial Analysis מעניקה ל-Nemotron 3.5 Lightning ציון 13 במדד ה-Intelligence Index שלה. אין לה רשומה עבור Nanbeige4.3-33B. למודל אחד יש חוות דעת שנייה; ולשני יש כרטיס מודל. האסימטריה הזו היא מידע, והיא פועלת לרעת הספק שלו הטבלה הקולנית יותר.
1M הקשר על הנייר, 256K בפועל
Artificial Analysis מציין את חלון ההקשר של Lightning במיליון טוקנים. התיעוד של NVIDIA עצמה שמרני יותר: 262,144 טוקנים הם התקרה המעשית על H100 בודד. שני המספרים יכולים להיות נכונים — הארכיטקטורה תומכת בחלון ארוך יותר, אך החומרה שסביר שתפעיל עליה אותו אינה מחזיקה אותו בנוחות.
ה-524,288 טוקנים של Nanbeige4.3-33B הם חלון שאומן על מודל dense, ועלות הזיכרון של מטמון ה-KV גדלה בהתאם. מתכוני ה-vLLM וה-SGLang של הכרטיס משתמשים בניצול זיכרון GPU של 0.8 ובגודל tensor-parallel של 4, מה שמעיד שהפריסה המיועדת אינה כרטיס יחיד.
לעבודת סוכנים, ההבדל המעשי הוא פחות בעניין המקסימום ויותר במה שמחזיק מעמד לאורך ריצה ארוכה. שכבות ה-Mamba ההיברידיות של Lightning מיועדות לשמור על מצב בעלות נמוכה לאורך רצפים ארוכים; הקשב הצפוף של Nanbeige לא. NVIDIA גם מפרסמת את AA-LCR בטווח 52.0–60.3, שזה ציון הסקה בהקשר ארוך, ו-Nanbeige מפרסמת 84.0 באותו מבחן. אם אתה מאמין לשתי הטבלאות, ההסקה בהקשר ארוך של Nanbeige חזקה בהרבה. אם אתה מאמין רק לזו שמנוהלת באופן עצמאי, זו של Lightning היא היחידה שאתה יכול לבדוק.
האריתמטיקה של אירוח מודל dense של 33B
כאן ההשוואה מפסיקה לעסוק באיכות והופכת לעסוק בניצול.
Lightning רשום במחיר $0.06 למיליון טוקני קלט ו-$0.20 למיליון פלט בנקודת קצה מנוהלת. ל-Nanbeige אין כרטיס תעריפים משום שאף ספק לא פורס אותו; הכרטיס אומר זאת במפורש. כדי להשתמש בו, שוכרים או קונים GPUs ופועלים לפי מתכון ה-tensor-parallel הארבע-כיווני.
נניח, לצורך חישוב בלבד, שארבעה GPUs מדרגת H100 עולים $2 כל אחד לשעה — $8 לשעה עבור הצומת. כדי להגיע לאיזון מול מחיר הפלט של Lightning, על הצומת הזה לייצר 40 מיליון אסימוני פלט בשעה, שהם כ-11,100 אסימונים לשנייה באופן מתמשך. מודל dense מסוג 33B על ארבעה GPUs לא יעשה זאת. אפילו בעשירית מעלות ה-GPU, תפוקת נקודת האיזון היא למעלה מאלף אסימונים לשנייה באופן מתמשך, וזהו מערך שירות רציני ולא ניסוי צדדי.
המסקנה אינה שננבייג' יקר. המסקנה היא שאירוח עצמי של מודל dense בגודל 33B מנצח מנוע הרצה בעלות של $0.20 למיליון טוקנים רק בניצול גבוה מאוד ויציב מאוד — או כשהעבודה לא יכולה לצאת מהתשתית שלך, ואז ההשוואה מעולם לא הייתה על מחיר. בנפח מתפרץ או נמוך, המודל ה-sparse המנוהל מנצח מבחינת עלות בפער גדול לפני שהאיכות נכנסת לדיון.
היכן נתב משתלב במערכת דו-מודלית
הארכיטקטורה שניוידיה מוכרת — מתכנן חזיתי, מבצע זול — היא הארכיטקטורה שרוב צוותי הסוכנים מגיעים אליה בכל מקרה. היא גם הצורה ששכבת ניתוב בנויה עבורה: ה-DSL לניתוב שלנו מרכיב כמה מודלים לקריאה אחת כך שמתכנן ומבצע יכולים לשבת מאחורי נקודת קצה אחת, ומעבר כשל אוטומטי מונע ממבצע שמתקשה להפוך לסוכן תקוע.
אין לנו היום את Nemotron 3.5 Lightning 30B A3B או את Nanbeige4.3-33B, ולכן זה אינו מסר זמינות לאף אחד מהם. זהו הערה על היכן נופלת עלות האינטגרציה. אם אתה מארח בעצמך את Nanbeige בתור המתכנן וקורא למודל מתארח בתור המבצע, כדאי לבטא את החלוקה ככללי ניתוב ולא כמקודדת קשיח באפליקציה שלך — כי המודל שתרצה בכל משבצת ישתנה לפני תום הרבעון.
תקציב ההשהיה קובע יותר מאשר טבלת המובילים
• אם שלב סוכן בודד חייב לחזור בתוך פחות משנייה: Lightning. בקצב של 295 טוקנים לשנייה, תשובה בת 300 טוקנים מגיעה בתוך כשנייה; מודל dense בגודל 33B על החומרה שלך לא יעשה זאת, ול-Nanbeige אין אפשרות hosted להשוות אליה.
• אם השלב הוא מעבר הסקה ארוך בראש תהליך עבודה: פערי הביצועים הנטענים של Nanbeige ב-GPQA, ב-AA-LCR ובשורות הסוכניות תומכים בכך — בכפוף להסתייגות ה-harness שלעיל.
• אם היצירה היא בשפה הסינית: Nanbeige. השפות שבהן Lightning מפרסמת הן אנגלית, ספרדית, צרפתית, גרמנית, איטלקית ויפנית.
• אם העבודה היא רב־לשונית אירופית: Lightning. Nanbeige מפרטת אנגלית וסינית בלבד.
• אם אין לך GPUs ואין לך תיאבון אליהם: Lightning, ללא תחרות.
• אם הנתונים לא יכולים לצאת מהרשת שלך: Nanbeige, והשוואת העלויות הופכת להחלטת תשתית ולא להחלטת מחיר טוקן.
השאלה הפתוחה
Nanbeige4.3-33B בן יומיים ואין לו סיפור הגשה. זו העובדה שקובעת את מועד המאמר הזה. אם ספק יאמץ אותו — והטענה בכרטיס שאין כזה היום היא הדבר שכדאי לעקוב אחריו — צד העלות של ההשוואה הזו משתנה לחלוטין, מפני שמודל 33B צפוף המתארח אצל ספק במחיר תחרותי לכל טוקן יחתור תחת כל הטיעון בעד מבצע דליל קטן יותר בעבודה רגישה לאיכות.
עד אז, העמדה הניתנת להגנה היא צרה. Nemotron 3.5 Lightning 30B A3B הוא המודל שאפשר לפרוס היום, במחיר מפורסם, עם ציון בלתי־תלוי וכמעט פי תשעה פחות מחשוב לכל טוקן. Nanbeige4.3-33B הוא המודל שנשמע יכולתי יותר על הנייר, עם חלון מקורי של 512K ומדדי סוכנות שדווחו עצמית שאיש לא שחזר. אם הסוכן שלך מוגבל על ידי השהיה ועלות, הבחירה כבר נעשתה. אם הוא מוגבל על ידי איכות ואתה הבעלים של החומרה, שווה לבדוק את הבחירה — והבדיקה עדיין לא בוצעה.
