Nemotron 3.5 Bolt 74B לעומת LFM2.5 24B A2B: שתי דרכים להכניס סוכן ל־24GB

The interesting thing about N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and Liquid AI LFM2.5 24B A2B is not that one is three times bigger. It is that both are answers to the same constraint — an agent that runs on a machine you own rather than a machine you rent — and they answer it from opposite directions. One compresses a very large model until it fits. The other is designed small from the first token and spends its budget on being fast rather than on being large.

המספרים קרובים מספיק כדי לבלבל. Bolt הוא צ'ק פוינט עם 74 מיליארד פרמטרים ו-9 מיליארד פעילים לכל טוקן, המאוחסן בכ-שני ביטים לכל משקל מומחה, בקובץ של 24GB. LFM2.5-24B-A2B הוא צ'ק פוינט עם 24 מיליארד פרמטרים ו-2.45 מיליארד פעילים לכל טוקן, בדיוק רגיל. שניהם תערובות של מומחים. שניהם פועלים ללא רשת. מאחורי המסר הדומה לכאורה, כמעט כל בחירה הנדסית שונה.

מהו בעצם LFM2.5-24B-A2B

הצ'קפוינט של Liquid AI הוא הגדול והאחרון במשפחת LFM2.5, והאחרון מאותה משפחה שטרם שוחרר. המשקלים שלו הועלו ל-Hugging Face בתחילת אוקטובר, והחברה הכריזה עליו ב-13 באוקטובר 2026, כך שהוא חדש בערך כמו Bolt וגם לא צבר הרבה תוצאות בלתי תלויות.

Architecturally it is a specific bet. Forty layers, of which thirty are double-gated short-convolution blocks and ten are grouped-query attention — a mostly-convolutional stack with attention used sparingly, rather than the Mamba-2/attention interleave N​VIDIA uses. Sixty-four experts per MoE block with top-4 routing, which means the model reads four experts per token out of sixty-four. 2.45 billion parameters active per token against 24.0 billion resident. A 128,000-token vocabulary, 36 trillion training tokens, and a 131,072-token context window.

הוא טקסט בלבד, והוא תמיד חושב לפני שהוא עונה — עקבות החשיבה אינן אופציונליות. Liquid מציבה אותו מול מודלים הגדולים ממנו פי אחד וחצי במשימות סוכניות, ומציגה ציון LiveClaw של 48.09 לעומת 38.19 של Qwen3.6-35B-A3B כדי לתמוך בכך. זו השוואת ספק על מדד שנבחר על ידי הספק, ויש לקרוא אותה ככזו, אבל מספר הפרמטרים הפעילים שהוא מתפאר בו ניתן לבדיקה בקונפיגורציה של המודל עצמו.

מה בולט באמת

Bolt is not a model that was designed small. It is N​emotron 3.5 Super VL 120B-A12B after N​VIDIA ran Star Elastic over it — a router-guided architecture search that has to satisfy a hard footprint, in this case under 24GB at batch size 1 and 128K context — and then quantised its expert weights to IQ2-XXS at 2.0625 bits per element with quantisation-aware distillation to recover what that cost.

הדחיסה אגרסיבית באופן שספירת הפרמטרים של Bolts מסתירה. ה-top-K של המומחים ירד מ-22 במודל האב ל-9, שזה כמעט אותו top-K כמו ה-top-4 של LFM2.5, למרות שהמודל נושא פי שלושה פרמטרים. מגדל הראייה חובר מחדש לאחר מכן מהמודל האב, כך ש-Bolt מקבל תמונות ווידאו, בעוד ש-LFM2.5-24B-A2B מקבל טקסט בלבד, והוא ירש חלון הקשר של 256K, כפול מזה של Liquid.

N​VIDIA's published claim for the compression is a general one worth repeating: for a fixed memory budget, compressing a large model beats training a small one from scratch. Bolt is that claim as an artifact. And N​VIDIA's own framing makes the comparison explicit — its model card states that the G​emma and Q​wen baselines were selected for fitting in 24GB at 4-bit, which is a different route to the same envelope than Bolt's 2-bit weights.

ניגוד המפרט, שני הצדדים על שורה אחת

• סה"כ פרמטרים ופרמטרים פעילים — Bolt: ‏74B סה"כ, ‏9B פעילים לכל טוקן. LFM2.5-24B-A2B: ‏24.0B סה"כ, ‏2.45B פעילים לכל טוקן.

• עמוד שדרה — Bolt: בלוקים של מרחב-מצב Mamba-2 המשולבים עם תערובת מומחים וקשב. LFM2.5-24B-A2B: שלושים בלוקי קונבולוציה קצרים עם שער כפול בתוספת עשר שכבות קשב עם שאילתות מקובצות.

• ניתוב — Bolt: 9 המומחים המובילים לאחר דחיסה, ירידה מ-22 במודל האב. LFM2.5-24B-A2B: 64 מומחים לכל בלוק, 4 המובילים.

• דיוק מאוחסן — Bolt: מומחי IQ2-XXS ב-2.0625 סיביות לרכיב, שכבות Mamba ב-NVFP4, הטמעות ופלט ב-Q8_0. LFM2.5-24B-A2B: משקלים בדיוק מלא, כאשר GGUF, FP8, ONNX וכמה רוחבי סיביות של MLX מפורסמים כדגמי אחים על ידי הספק.

• הקשר — Bolt: עד 262,144 טוקנים. LFM2.5-24B-A2B: 131,072 טוקנים.

• מודאליות — Bolt: קלט טקסט, תמונות ווידאו, פלט טקסט. LFM2.5-24B-A2B: קלט טקסט, פלט טקסט.

• רישיון — Bolt: OpenMDW-1.1. LFM2.5-24B-A2B: lfm1.0, חינם לשימוש מסחרי מתחת להכנסה שנתית של 10 מיליון דולר, ורישיון מסחרי בתשלום מעל לכך.

• מדד האינטליגנציה — Bolt: 21, נמדד על ידי Artificial Analysis. LFM2.5-24B-A2B: לא קיים פרופיל של Artificial Analysis עבור צ'קפוינט זה, ולכן אין ציון עצמאי בר־השוואה, והמאמר הזה לא ימציא אחד.

• מחיר מפורסם — Bolt: אין בשום מקום, ואין נקודת קצה מתארחת. LFM2.5-24B-A2B: $0.10 למיליון אסימוני קלט עם תעריף מטמון של $0.05, ו-$1.00 למיליון פלט, בנקודת הקצה המתארחת של Liquid עצמה, עם קרדיט התחלתי של $2.

הזיווג האחרון הזה הוא העובדה החדה ביותר בהשוואה, והוא נע בכיוון שרוב האנשים לא מצפים לו: המודל עם טביעת הרגל הקטנה יותר הוא זה שיש לו מחיר, והמודל עם טביעת הרגל הגדולה יותר הוא זה שאין לו. לא ניתן לנסות את Bolt בלי לקנות חומרה. את LFM2.5 אפשר לנסות היום אחר הצהריים תמורת שגיאת עיגול.

מהירות, ובאיזו זהירות לקרוא את המספרים

לאף אחד מהמודלים אין מדידה בלתי תלויה של מרכז נתונים. זהו מצב הראיות הכנה, והוא מגביל את מה שניתן לומר.

עבור LFM2.5-24B-A2B, Liquid מדווחת על 184 טוקנים לשנייה על Apple M5 Max ועל 114 על AMD Ryzen AI Max+ 395, וטוענת להסקה מהירה עד פי 1.7 בהשוואה ל-MoEs דומים על המכשיר. אלה נתוני ספק על שבבים בדרגת מחשב נייד, שלא שוחזרו על ידי אף אחד אחר, והם אינם אומרים דבר על מה שהמודל עושה על GPU של מרכז נתונים עם בקשות מקבילות רבות.

For Bolt, N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with the LiLiCorr speculative drafter active, on an RTX Spark-class machine. That is also vendor-reported, also unreproduced, and measured on a different benchmark against different silicon, so it cannot be set beside Liquid's 184 and treated as a comparison. The honest statement is that both companies measured their own model on their own preferred hardware and neither number transfers.

מה שהוא מבני ולא נמדד: Bolt קורא 9 מיליארד פרמטרים לכל טוקן ו-LFM2.5 קורא 2.45 מיליארד. ברוחב פס זיכרון שווה, MoE קורא בערך ביחס לפרמטרים הפעילים שלו, ומשקולות מומחים בדיוק נמוך עוזרות עוד יותר בכך שהן מקטינות את מספר הבתים שעוברים לכל פרמטר. ל-LFM2.5 יש את הקבוצה הפעילה הקטנה יותר בפקטור של 3.7, והוא פועל בדיוק גבוה יותר לכל משקל, ולכן תעבורת הבתים לכל טוקן היא המקום להסתכל בו. זו טענה שהמודל של Liquid אמור להיות מהיר יותר, לא מדידה שהוא אכן כזה.

איזה מהם להוריד?

הפיצול כאן אינו יכולת מול יכולת, כי הם לא מנסים לבצע את אותה משימה. Bolt הוא סוכן מולטימודלי שקורא צילומי מסך ומפעיל דפדפן בקנה מידה של 74B, דחוס עד שהוא מתאים. LFM2.5-24B-A2B הוא סוכן טקסט שנבנה כדי לענות במהירות על מכונה ללא GPU נפרד כלל.

פנו ל-Bolt כאשר הסוכן צריך לראות — WebArena, קובצי PDF, פריימים של וידאו — או כאשר עומס העבודה פועל במצב לא מקוון על מחשב שכבר מותקן בו מאיץ ברמת Blackwell, וכאשר אתם מקבלים שתהיו הראשונים למדוד את התפוקה שלו. פנו ל-LFM2.5-24B-A2B כאשר המשימה היא טקסט, המחשב הוא מחשב נייד, השיהוי חשוב יותר מעומק החשיבה, וכל העניין הוא שהמודל נכנס לזיכרון המאוחד לצד שאר היישומים שלכם.

שני הדברים שהיו משנים את התשובה: הרצת בנצ'מרק עצמאית על שניהם, וכל אחסון/אירוח מפורסם ל-Bolt. אף אחד מהם לא קיים היום.

להריץ אותם לצד מודל מתארח

Both of these checkpoints are, by design, things you run yourself. Neither is on our catalogue — the catalogue was checked rather than assumed, and neither the N​emotron nor the LFM2.5 families appear in it — so this section is not a pitch for hosting either one. It is a note about what sits beside them.

סוכן מקומי 24B על מחשב נייד מטפל בעבודה השגרתית: ניתוב, סיכום, עיצוב קריאות לכלים, תשעים האחוזים מהתורות שמעולם לא נזקקו למודל גדול. התורות שכן נזקקים למודל כזה עדיין צריכים ללכת למקום כלשהו, ושם ראוטר מוכיח את מקומו. OrcaRouter חושף יותר מ-200 מודלים מאחורי מפתח אחד במחיר המחירון של הספק עם 0 אחוז תוספת, כך שהורדת מחיר של ספק נכנסת לתוקף אצלנו באותו יום, וה-DSL לניתוב שלו מאפשר לך לתאר קומפוזיציה — מודל זול למעבר הראשון, כלל הסלמה, נסיגה לאחור — כקריאה אחת ולא כקוד אפליקציה. מעבר אוטומטי לגיבוי בין ספקים משמעו שבעיית קיבולת במעלה הזרם מנוסה שוב במקום לעלות לפני המשתמשים שלך.

לכל מי שבונה על מנוע ביצוע מקומי, חלוקת העבודה הזו היא הסיבה לכך שצ'קפוינט קטן נשאר בר-קיימא: המודל הקטן עושה את עיקר הנפח, ואל המודל היקר מגיעים בלי חוזה נוסף או SDK נוסף.

מה יפתור את זה?

Two measurements are missing and both are cheap for someone with the hardware. The first is a like-for-like throughput and latency run: LFM2.5-24B-A2B against the 24GB Bolt checkpoint, same harness, same batch sizes, same context lengths, on the same accelerator. Nobody has run it. The second is a third-party evaluation of LFM2.5-24B-A2B on the benchmarks N​VIDIA used, so that the LiveClaw claim and the Bolt table can be read against each other instead of being quoted in parallel from two different marketing pages.

עד אז, הבחירה היא החלטה של תקציב זיכרון ולא החלטה של בנצ'מרק. מודל אחד דורש ממך להחזיק GPU עם 24GB של כוח מחשוב בדרגת Blackwell, ובתמורה מעניק לך ראייה ו-74B של הסקה מזוקקת. האחר מסתפק במחשב נייד, עולה פרוטות לשעה לנסות אותו על השרתים של מישהו אחר, ומוותר על ראייה ועל חצי מחלון ההקשר כדי להגיע לשם.

מה שהמספרים לא יכולים לספר לך הוא אם משהו מזה השתבש בשטח: תקריות ה-AI המתועדות וכשלי סוכנים סביב מודלים מהסוג הזה נאספים בOrcaRouter AI Incident Archive, שבו כל ערך נושא מקורות משלו, חומרה, דירוג ביטחון וסימון מחלוקת.