Nemotron 3.5 Bolt 24GB לעומת LFM2.5 24B-A2B: שתי דרכים להכניס סוכן לתוך 24GB
- OrcaחדשOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 72 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 737 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040אינטליגנציה
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 לכל 1M טוקנים · 108 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642אינטליגנציה72כתיבת קוד
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 לכל 1M טוקנים · 184 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845אינטליגנציה75כתיבת קוד
הנה בעיה לכל מי שמשווה בין שני אלה. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ו-LFM2.5-24B-A2Bשניהם פרסמו טבלאות בנצ'מרק הכוללות את אותם שלושה מודלי בסיס — Qwen3.6 35B-A3B, Gemma 4 26B-A4B ו-Nemotron 3.5 Lightning 30B-A3B — ושתי הטבלאות חלוקות בדעתן לגבי הציונים של אותם מודלי בסיס. ב-PinchBench, NVIDIA מציינת את Qwen3.6 עם 88.07 ואת Lightning עם 83.43. Liquid AI מציינת את אותם שני מודלים עם 89.93 ו-84.20. אותו בנצ'מרק, אותם ערכים בשמות זהים, מספרים שונים, ושניהם פורסמו החודש.
זה לא שערורייה. כך נראה להריץ בעצמך מערך בדיקות, וזו הסיבה שההשוואה הזו נכתבת סביב מה שניתן לאמת ולא סביב ציון ראש בראש. שני המודלים הם גם, במובן מסוים, תשובות לאותה שאלה שנפתרה משני קצוות מנוגדים.
האילוץ ששני המודלים נבנו כנגדו
שניהם דגמי 24 גיגה-בייט. אף אחת מהמעבדות לא אומרת זאת במילים האלה בדיוק, והמספר מגיע באופן שונה בכל מקרה.
Bolt הוא 74B בסך הכול עם 9B פעילים. החיפוש הארכיטקטוני Star Elastic של NVIDIA קיבל תקציב אחד שעליו לעמוד בו — מתחת ל-24GB בגודל אצווה 1 ובהקשר של 128K — והצ'קפוינט שהתקבל הוא מה שאילוץ זה הניב, כאשר משקלי המומחים עומדים על 2.0625 ביטים לכל רכיב. מגבלת הזיכרון היא קלט התכנון, ומספר הפרמטרים הוא הפלט.
LFM2.5-24B-A2B הוא 24B בסך הכול עם 2.45B פעילים, והזיכרון הוא פונקציה של הקובץ שתבחרו ולא של הארכיטקטורה. מאגר ה-GGUF המפורסם מציע את Q4_K_M בגודל 14.53GB, QAD-Q4_0 מודע לכימות בגודל 13.58GB, Q5_K_M בגודל 17.03GB, Q6_K בגודל 19.69GB ו-Q8_0 בגודל 25.49GB. ה-24 בשמו הוא מספר פרמטרים, לא תפוסת זיכרון; תפוסת הזיכרון היא תפריט.
ההבחנה הזו מכריעה הרבה. ל-Bolt יש בדיוק תצורת ייצור אחת להסקה, ואין מה לכמת כי המודל הגיע מכומת. ל-LFM2.5-24B-A2B יש צ'קפוינט BF16 מקורי בנפח 47.96GB שלא היית מריץ על מחשב נייד, וסט של גרסאות קהילתיות ומטעם המפתח שכן היית מריץ, כשהאיכות נשארת לשיקול דעתך.
ממה כל אחד באמת עשוי
• פרמטרים — Bolt: 74B סה"כ, 9B פעילים לכל טוקן. LFM2.5-24B-A2B: 24B סה"כ, 2.45B פעילים לכל טוקן.
• ארכיטקטורה — Bolt: שכבות מרחב-מצב Mamba-2 משולבות עם תערובת מומחים וקשב, ניתוב LatentMoE, בתוספת מקודד ראייה C-RADIO v4-H. LFM2.5-24B-A2B: 40 שכבות — שלושים בלוקים של קונבולוציה קצרה בעלת שער כפול ועשרה בלוקים של קשב עם שאילתות מקובצות — עם 64 מומחים לכל בלוק MoE וניתוב top-4.
• מקור — Bolt: כווץ מ-Nemotron 3.5 Super VL 120B-A12B באמצעות חיפוש ארכיטקטורה מונחה ראוטר, ואז עבר קוונטיזציה עם דיסטילציה מודעת קוונטיזציה. LFM2.5-24B-A2B: אומן ישירות, מהרצת אימון מקדים בת 33 טריליון טוקנים דרך שלב אימון־ביניים דו־שלבי וצינור לאחר־אימון בן חמישה שלבים שמסתיים בלמידת חיזוק בתוך רתמות סוכנים.
• קלטים — Bolt: טקסט, תמונות ווידאו נכנסים, טקסט יוצא. LFM2.5-24B-A2B: טקסט בלבד. זהו הקו המפריד הקשה ביותר בין השניים, והוא ארכיטקטוני ולא הבדל בכיול.
• הקשר — Bolt: 262,144 טוקנים. LFM2.5-24B-A2B: 131,072 טוקנים, כפול מ-32,768 של הדור הקודם לצד הרחבת אוצר מילים מ-65,000 ל-128,000 טוקנים.
• שפות — LFM2.5-24B-A2B מציין שש עשרה, כולל ערבית, קוריאנית, תאית, הינדי ורוסית. כרטיס המודל של Bolt מציין אנגלית ושפות תכנות כעיקריות, כאשר ספרדית, צרפתית, גרמנית, איטלקית ויפנית נתמכות גם כן.
• רישיון — Bolt: OpenMDW-1.1. LFM2.5-24B-A2B: רישיון LFM Open License 1.0. אף אחד מהם אינו Apache 2.0, ושניהם מתירניים מספיק לעבודה מסחרית ולא מוכרים מספיק כדי להצדיק עשר דקות של עורך דין.
• תמיכת זמן־ריצה בעת השחרור — שניהם מפרטים את llama.cpp, vLLM ואת פורמטי הקצה המתאימים להם; LFM2.5-24B-A2B מספק בנוסף בניות MLX ו-ONNX ומציין את SGLang.
טבלאות הבנצ'מרק, יש לקרוא בעיון
טבלת הספקים של Bolt מקנה לו ניצחונות ב-Terminal-Bench 2.1 עם 50.98 לעומת 44.38 עבור Qwen3.6 35B-A3B ו-37.22 עבור Gemma 4 26B-A4B, ב-BrowseComp עם 66.75 לעומת 48.74, וב-GPQA Diamond עם 86.43 לעומת 83.40. היא גם מציגה את השורות שבהן הוא מפסיד: דיוק AA-Omniscience עם 16.90 לעומת 22.17 של Gemma, ו-PinchBench עם 87.82 לעומת 88.07 של Qwen. NVIDIA בחרה את קבוצת ההשוואה כמודלים שנכנסים ב-24GB בארבעה ביט — קבוצה שמוגדרת על ידי האילוץ ש-Bolt תוכנן כנגדו.
הטבלה של Liquid AI עבור LFM2.5-24B-A2B מדווחת על LiveClaw ב-48.09 לעומת 38.19 עבור Qwen3.6 35B-A3B, AutomationBench ב-27.69 לעומת 8.72, ו-ToolSandbox ב-80.71 לעומת 75.02, בעוד שהיא מכירה ביתרונם של מודלים גדולים יותר ב-GPQA Diamond עם 74.42, HLE עם 7.40 ו-SWE-Bench Verified עם 51.00. הנתון שלה ב-AA-Omniscience שלילי, מינוס 24.90, אשר לפי שיטת הניקוד של אותו בנצ'מרק פירושו שהיא נענשת על תשובות שגויות שנמסרו בביטחון ולא מנוקדת על דיוק בלבד.
שתי הטבלאות מסכימות על צורת התוצאה גם במקום שבו הספרות שונות: כל מודל חזק בשימוש בכלים סוכניים ביחס לגודלו, וחלש יותר באחזור עתיר ידע. לאף אחד מהשניים אין רשומה ב-Artificial Analysis, ולאף אחד מהם אין נקודת קצה מתארחת, כך שאין מספר של צד שלישי שיכריע את הכף ואין דרך לערוך עליהם בדיקת A/B על התעבורה שלך בלי להוריד את שניהם.
נתון בלתי־תלוי אחד כן קיים עבור Bolt: מדד אינטליגנציה של 21, רביעי מבין 67 מודלים בקטגוריה שלו, על אותו פאנל שמדרג את המודלים הצפופים שאיתם הוא מתחרה. Liquid AI מדווחת על 184 טוקנים לשנייה על Apple M5 Max עבור LFM2.5-24B-A2B, ו-NVIDIA מדווחת על 83.99 טוקנים לשנייה עבור Bolt על מכונת RTX Spark שמריצה llama.cpp עם ה-drafter LiLiCorr שלה מחובר. שתי המהירויות האלה הן המספרים השימושיים ביותר שכל אחת מהמעבדות פרסמה, והן אינן בנות־השוואה — חומרה שונה, פורמטים שונים, הגדרות drafter שונות.
איזו מכונה כל אחד רוצה
סיפורי החומרה חופפים פחות ממה שמסגור ה-24GB מרמז.
Bolt נבנה עבור סטאק הקצה של NVIDIA עצמה: מחשבים ניידים RTX Spark שיגיעו ב-16 באוקטובר, מחשבי GeForce RTX, DGX Spark, DGX Station ותחנות עבודה RTX PRO, עם הצ'קפוינט המכומת עבור llama.cpp על Spark ו-vLLM על DGX, וצ'קפוינט BF16 המיועד ל-Ampere, Hopper ו-Blackwell. ה-drafter הוא הורדה נפרדת של 1.13B, ומתכון הייחוס של vLLM נועל build nightly, חבילת kernel ממאגר של ספק, ומספר רצפים מוגשים של אחד.
LFM2.5-24B-A2B הוא הנייד יותר מבין השניים על הנייר, ומצהיר על כך: בילדים של MLX עבור Apple Silicon, ONNX עבור סביבות הרצה חוצות-פלטפורמות, GGUF להסקה על CPU, FP8 להגשת שירות ב-GPU, ו-DSpark drafter שמופיע כ"בקרוב". בנייה מכומתת בנפח 13.58GB משאירה יותר מרווח פנוי בכרטיס 24GB מאשר הקובץ הבודד של Bolt בנפח 22.02GB בתוספת המקרן החזותי שלו בנפח 1.73GB.
החשבון האחרון הזה הוא נקודת המפתח המעשית. המשקלים והמקרן של Bolt צורכים 23.75GB מתוך 24GB שהמודל נקרא על שמם, ומותירים להקשר ולמקביליות להתחרות על היתרה. LFM2.5-24B-A2B ב-Q4 או ב-QAD-Q4 מותיר בערך עשרה ג'יגה-בייט לאותה מטרה. אם עומס העבודה שלך הוא עבודת סוכן לטווח ארוך עם הקשר מאוחזר גדול, טביעת הרגל הפעילה והמאוחסנת הקטנה יותר אינה פרס ניחומים.
היכן משתלבת שכבת הניתוב
אף אחד מהמודלים אינו משהו שאנחנו מספקים, וכדאי לומר זאת בפשטות ולא לייפות את הדברים: הקטלוג של OrcaRouter אינו כולל את Bolt או את LFM2.5-24B-A2B, כך שאין כאן נקודת קצה לאף אחד מהם ואין מחיר להשוואה. המשותף לשניהם הוא שהם החצי המקומי של סטאק, וחצאים מקומיים כמעט אף פעם אינם לבד — סוכן שמריץ מודל של 24GB על המכונה שלפניו עדיין יפנה למשהו גדול יותר כשהמשימה עולה עליו.
זה החלק שאנחנו כן מטפלים בו. מפתח אחד על פני יותר מ-200 מודלים מתארחים במחיר המחירון של הספק, עםללא תוספת מחיר, מעבר אוטומטי לגיבוי כך שספק שמגמגם באמצע בקשה יינסה שוב במקום שיוצג למי שממתין, וDSL לניתוב שמבטא שרשרת גיבוי כתצורה במקום כקוד אפליקציה. אם אתם בוחרים בין שתי נקודות הביקורת האלה, ההחלטה מתקבלת על החומרה שלכם ובהרנס שלכם — וההסלמות, שאילתות הצד וההערכות סביב זה הם החלק שעובר דרך שער.
איך לבחור בלי לוח תוצאות משותף
ארבע שאלות יכריעו את זה מהר יותר מכל טבלה.
האם הסוכן צריך לראות? אם הוא קורא צילומי מסך, קובצי PDF או וידאו, Bolt הוא היחיד מבין השניים שמסוגל לכך, והשאלה סגורה. אם הוא עובד בטקסט ובקריאות לכלים, היכולת הרב־מודלית היא משקל שאתה נושא לחינם.
כמה הקשר באמת נדרש לתור? רבע מיליון טוקנים לעומת 131,072 הם הבדל ממשי בעבודה בקנה מידה של מאגר קוד או מסמך, וזהו הממד היחיד שבו הדחיסה של Bolt השיגה משהו שלא מופיע באף עמודת בנצ'מרק.
מהי המכונה? כרטיס NVIDIA GPU דיסקרטי עם 24GB וסובלנות ל-vLLM nightly מוצמד מעדיף את Bolt. Mac, או צי מעורב שבו אותו בילד חייב לרוץ ביותר ממקום אחד, מעדיפים את המודל שמגיע עם MLX ו-ONNX לצד ה-GGUF שלו.
ולמספרים של מי אתה מאמין? שתי המעבדות פרסמו טבלאות שבהן המודל שלהן מנצח ברוב השורות. העמדה הכנה היא שכל אחת חזקה בתוך קבוצת השוואה שהיא בחרה, שהאי-הסכמה בין שתי הטבלאות על קווי בסיס זהים היא תזכורת לשונות בתשתית ההרצה, ושמספר בנצ'מרק מהמעבדה שבנתה את המודל הוא טענה לגבי יכולת ולא מדידה שלה.
התשובה הקצרה
Bolt מקנה לך ראייה, חלון הקשר של רבע מיליון טוקנים והדחיסה ההדוקה ביותר שמישהו הוציא בגודל הזה, ומחייב על כך בשני וחצי גיגה-בייט של מרווח פנוי ובמתכון NVIDIA מחייב. LFM2.5-24B-A2B מקנה לך ניידות, ערכת עבודה קטנה יותר ושש-עשרה שפות, ומחייב על כך במודאליות ובהקשר.
שניהם שוחררו בהפרש של ארבעה ימים זה מזה באוקטובר 2026 — LFM2.5-24B-A2B ב-13 באוקטובר, Bolt ב-15 באוקטובר — כלומר שלאף אחד מהם אין עדיין רקורד עצמאי, שאף אחד מהם לא נמדד מול השני על חומרה משותפת, וכל מי שמכריז על מנצח קורא את טבלאות הספקים ולא בנצ'מרק. הורידו את שניהם, הריצו את מערך ההערכה שלכם, והשאירו את זה שמסיים את העבודה. זו ההשוואה היחידה כאן שעדיין לא פורסמה על ידי אחת משתי המעבדות.
הפער הזה בין מה שלוח התוצאות מודד לבין מה שפריסה נתקלת בו הוא הסיבה לכך שהרשומה חשובה: כשלי הבינה המלאכותית המתועדים ותקריות הסוכנים סביב מודלים במחלקה הזו נאספים בthe OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות שלה, חומרה, דירוג ביטחון ודגל מחלוקת.
