LFM2.5-24B-A2B-DSpark לעומת LFM2.5-24B-A2B: האם באמת כדאי לחבר את ה-Drafter?

הנה ההחלטה בשורה אחת: LFM2.5-24B-A2B-DSpark הוא קובץ בעל 327.7M פרמטרים שמניחים לצד LFM2.5-24B-A2B כדי שמודל ה-24B יפיק סוג דומה של פלט מהר יותר. הוא אינו חלופה למודל ואינו משהו שבוחרים במקומו. השאלה האמיתית היחידה ששני השמות מעלים היא שאלה הנדסית — האם לחבר את הדראפטר לפריסה שלך או להשאיר אותו בחוץ — והתשובה תלויה פחות בהאצת השיא של Liquid AI ויותר בשני מספרים שאיש לא מפרסם: כמה טוקנים של הדראפט מתקבלים על התעבורה שלך, וכמה מקביליות אתה כבר מריץ. הכשלים ותקריות הסוכנים המתועדים מאחורי שחרורים כמו זה נאספים בארכיון תקריות ה-AI של OrcaRouter שבו כל רשומה נושאת מקורות משלה, חומרה, דרגת מהימנות וסימון שנוי במחלוקת.

Liquid AI לא פרסמה פוסט השקה עבור ה-drafter. המאגר הפך לציבורי ב-2026-10-19 עם משקלים, קובץ CSV של benchmarks ודגלי השקה של SGLang, בעוד שכרטיס המודל של ה-target עצמו עדיין מתייג את ה-drafter כ"coming soon", ועמוד התיעוד של פענוח ספקולטיבי של Liquid מפרט רק את מטרות 1.2B, 2.6B, 8B ו-VL-3B. לכן זהו השוואה בין ארטיפקט ששוחרר לבין מודל ששוחרר, שנכתבה מתוך המאגר ולא מתוך הודעה לעיתונות — כלומר כל מספר ביצועים למטה הוא דיווח ספק ואף אחד מהם לא שוחזר באופן עצמאי.

מה שהדרפטר באמת משנה, ומה הוא לא משנה

המנגנון שווה שלושים שניות כי הוא קובע את כל השאר. פענוח של טוקן מוגבל על ידי זיכרון: ה-GPU מבלה את רוב זמנו בהזרמת משקלים אל תוך SRAM, ולא בביצוע אריתמטיקה. פענוח ספקולטיבי מנצל זאת בכך שמודל קטן מנחש את כמה הטוקנים הבאים בבת אחת, ואז המודל האמיתי בודק את כל הניחוש במעבר קדימה אחד. אם הניחוש היה טוב, הפקת תשעה טוקנים בערך במחיר של אחד. אם הוא היה גרוע, מודל היעד שומר על הטוקן שלו ושילמת קצת יותר.

מה משתנה: טוקנים לשנייה, וצורת ניצול ה-GPU שלך. מה לא משתנה: משקולות המודל, חלון ההקשר שלו, התנהגות קריאת הכלים שלו, או המחירים שלו במקומות שבהם הוא נמכר. LFM2.5-24B-A2B שומר על 24.0B פרמטרים בסך הכול, עם 2.45B פעילים לכל טוקן, 40 שכבות המחולקות בין קונבולוציות קצרות עם שער לבין תשומת לב מקובצת-שאילתות, 64 מומחים בכל בלוק עם ניתוב top-4, חלון הקשר של 131,072 טוקנים ואוצר מילים של 128,000 טוקנים. הדרפטר מוסיף חמש שכבות תשומת לב, ראש מרקוב בדירוג 256 וראש ביטחון, ומשתמש מחדש בהטמעות ובראש ה-LM של מודל היעד במקום להחזיק משלו.

הסתייגות אחת עברה בין שתי ההפצות וראויה לשורה. באוגוסט, מסמך ה-DSpark של Liquid אמר שהרצף הנפלט הוא "זהה ל-baseline greedy מעצם הבנייה". לעומת זאת, הכרטיס של ה-drafter 24B אומר שהבדלי נקודה צפה בין אימות באצוות לבין פענוח רגיל "עלולים להפיק טקסט שונה, כולל תחת דגימה חמדנית". שתי ההצהרות ניתנות להגנה — הראשונה נכונה בחשבון מדויק — אבל אם מערך ההערכה שלך משווה פלטים בייט-בייט, צפה שהוא יבחין.

צד העלויות של ספר החשבונות

מודל הטיוטה אינו ללא עלות. הוא תופס 655 MB ב-BF16 על ה-GPU (או 664 MB F16 GGUF על ה-CPU), הוא יושב באותו מאגר זיכרון כמו מודל היעד, וכל צעד שהוא מציע כרוך במעבר קדימה לאימות על בלוק של טוקנים ולא על טוקן בודד. כשמודל היעד הוא MoE, החלק האחרון יקר יותר ממה שזה נשמע: אימות תשעה טוקנים מפעיל יותר מומחים מאשר פענוח טוקן אחד, כך שמספר הבתים המועברים לכל טוקן מאומת עולה ולא יורד. Liquid ציינה בדיוק את זה כסיבה לכך שמודל הטיוטה 8B שלה השיג רק 1.18× על M4 Max למרות שיעור קבלה גבוה.

לעומת זאת, החיסכון גדול מספיק כדי להימדד בשעות GPU. באמצעות נתוני ה-B300 של הספק עצמו מתוך benchmarks/b300-fp8.csv, מבלי לעשות דבר מעבר לחלוקת מיליארד טוקני פלט בתפוקה שנצפתה:

• MATH-500, מקביליות 1 — 324 tok/s לבד (857 שעות GPU למיליארד טוקנים) לעומת 853 tok/s עם הדרפטר (326 שעות GPU). קיצור של פי 2.63 בזמן החישוב.

• MATH-500, מקביליות 256 — 15,423 tok/s לבד (18.0 שעות GPU) לעומת 27,579 tok/s עם ה-drafter (10.1 שעות GPU). קיצוץ של פי 1.79.

• GSM8K, מקביליות 256 — 4,491 tok/s לבד (61.9 GPU-hours) לעומת 9,660 tok/s עם הדרפטר (28.8 GPU-hours). קיצור של פי 2.15.

• LiveCodeBench, מקביליות 256 — 18,812 tok/s לבד (14.8 שעות GPU) לעומת 25,231 tok/s עם ה-drafter (11.0 שעות GPU). רק קיצור של פי 1.34, התא החלש ביותר בטבלה.

אלה יחסי תפוקה המומרים לזמן, לא לכסף, משום שהכסף תלוי במה שאתם משלמים לשעת GPU והמאמר הזה לא ימציא תעריף. אבל הסדר נשמר בכל תעריף: חיבור מודל הטיוטה שווה שעתיים עד שלוש שעות לכל עשר עבור תעבורת חשיבה ויצירת קוד במקביליות נמוכה, ושווה בערך שליש מכך במקביליות גבוהה. אם פריסת ה-24B שלכם היא סוכן של משתמש יחיד על תחנת עבודה, הטיעון חזק. אם היא נקודת קצה רוויה לעיבוד אצוות, הטיעון אמיתי אך הרבה יותר דק ממה שכותרת ה-2.4× מרמזת.

היכן שהשרטט מצדיק את קיומו, במונחי עומס עבודה

הפיזור על פני שמונה מערכי נתונים בטבלת הספק אינו רעש; הוא ממופה לסוגי פרומפטים, והמיפוי הזה הוא הדבר השימושי ביותר בהשקה. שיעור הקבלה נע בין 6.70 אסימונים לצעד ב-MBPP ל-4.02 ב-LiveCodeBench. מערכי הנתונים שקיבלו ציון גבוה הם אלה שבהם הפלט של המודל מוגבל על ידי הפרומפט — פונקציות קצרות בסגנון בדיקות יחידה, אריתמטיקה עם מסלול שניתן לבדוק, תשובות מרובות-ברירה. אלה שקיבלו ציון נמוך הם אלה שבהם המודל צריך להמציא פתרון ארוך ובלתי מוגבל: בעיות תכנות תחרותי ומתמטיקה בסגנון AIME.

זו האינטואיציה שכדאי לקחת איתך להערכה שלך. מודל הסקה 24B שנמכר לעבודה סוכנית מוציא את רוב טוקני הפלט שלו בתוך שרשרת מחשבות, שנראית יותר כמו LiveCodeBench מאשר כמו MBPP. מודל שמשמש לחילוץ מובנה, סיווג עם סכימה או פורמט קבוע של קריאת כלים נראה הרבה יותר כמו השורות עם שיעור הקבלה הגבוה. אם עומס העבודה שלך הוא מהסוג הראשון, צפה לנחות קרוב יותר ל-1.34× שבתחתית הטווח מאשר ל-3.28× שבקצה העליון. אף אחד לא פרסם שיעורי קבלה לפי עומס עבודה עבור מודל הטיוטה הזה, ושמונת מערכי הנתונים של הכרטיס הם הדבר הקרוב ביותר למדריך.

לעומת זאת: ה-24B הוא מודל הסקה בלבד. Liquid אומרת שהוא תמיד חושב לפני שהוא עונה — תבנית הצ'אט מכניסה <think> כתג באופן אוטומטי. זו הצורה הגרועה ביותר האפשרית לספקולציה, משום שטווח החשיבה הוא בדיוק הקטע הארוך ובעל שיעור הקבלה הנמוך. מודל הטיוטה עדיין יעזור; הוא יעזור הכי הרבה בתשובה הסופית והכי מעט בחלק שלוקח הכי הרבה זמן.

איך לדעת, על החומרה שלך, בתוך אחר צהריים אחד

אין צורך לסמוך על שום דבר מהאמור לעיל. שני נתיבי ההיסק חושפים את מונה הקבלה, שהוא המספר היחיד שקובע אם המנסח משתלם בתעבורה שלך.

ב-SGLang, הפעל את מודל ה-target כשה-drafter מחובר אליו, עם block size 9 ועשרה draft tokens, ולאחר מכן קרא את מדדי ה-speculative-decoding שהשרת מדווח לכל בקשה. שיעור הקבלה בטבלת הספק נע בין 0.33 ל-0.65 בהתאם ל-dataset; ריצה שנופלת הרבה מתחת לשורה הרלוונטית משמעה שה-drafter מנחש לא נכון ואתה משלם על אימות בלי לקצור את שיפור המהירות. ב-llama.cpp עם ה-sidecar מסוג F16 GGUF, זמני כל תגובה מכילים draft_n ו-draft_n_accepted ישירות. חלק את האחד בשני.

שני פרטים תפעוליים יעלו לך שעה אם תפספס אותם. שרת SGLang צריך בילד הכולל את נתיב LFM2-MoE DSpark שמוזג ב-2026-08-31 — בכל גרסה ישנה יותר ארכיטקטורת ה-drafter פשוט אינה מוכרת. וגודל הבלוק הוא מאפיין של ה-checkpoint, לא פרמטר חופשי: llama.cpp מגביל את --spec-draft-n-max לערך המטא-נתונים 9 של ה-sidecar, כך שלבקש 12 לא קונה דבר.

השאלה שהשוואה הזו לא יכולה לענות עליה

יש גרסה של „האם לחבר את הדרפטר” שאין לה שום קשר ל-GPUs, והיא זו שרוב הצוותים למעשה מתמודדים איתה. אם אתם קוראים ל-LFM2.5-24B-A2B דרך API מתארח, ההחלטה לגבי הדרפטר אינה שלכם. מערך ההגשה או שמחבר מפענח ספקולטיבי או שלא; אתם רואים נתון של אסימונים לשנייה ומחיר, ושניהם נקבעו במעלה הזרם. ה-Console של Liquid עצמה מציגה את ה-24B במחיר של $0.10 למיליון אסימוני קלט, $0.05 לקלט במטמון ו-$1.00 למיליון פלט — תעריף מפורסם שכבר משקף את נתיב הפענוח שהם מריצים, וזה שיכול להשתנות ללא הודעה מוקדמת.

זהו התפר שבו ניתוב עוזר ולא מסבך. קריאה לשירות מתארח ופריסה עצמית אינן מסלולים מתחרים אלא יותר שתי הגדרות של אותו כפתור עלות: אחסון עצמי יחד עם מודל הטיוטה ממזער את העלות לכל טוקן אם נפח השימוש שלכם משאיר את ה-GPU עסוק, ונקודת קצה מתארחת ממזערת את העבודה הכרוכה בקבלת תשובה. OrcaRouter בנוי עבור האפשרות השנייה — מפתח אחד עבור יותר מ-200 מודלים ללא תוספת מחיר על מחיר המחירון של הספק, כך ששינוי מחיר של ספק מופיע אצלנו באותו יום, עם מעבר אוטומטי לגיבוי אם ביצועי ספק נפגעים ו-DSL לניתוב שמפצל תעבורה במקום לקבוע backend אחד בקוד. איננו מספקים כרגע את משפחת LFM2.5, כך שעבור המודל הספציפי הזה הצד המתארח משמעו ה-API של Liquid עצמה או כרטיסי ה-GPU שלכם; ההשוואה שכדאי להריץ היא מול המודלים שאנחנו כן מספקים, כמו Qwen3.6-35B-A3B — המודל ש-Liquid משווה אליו במשימות סוכניות — או Gemma 4 26B-A4B.

אז: לצרף את זה או לא

חבר אותו אם אתה משרת את LFM2.5-24B-A2B בעצמך במקביליות מתונה, במיוחד עבור פלט מובנה או בצורת חילוץ, ואם יש לך 655 MB של מקום פנוי לצד היעד. הנתונים של הספק אומרים שתקצר שם את זמן הפענוח שלך בערך בחצי או בשליש, והחיסרון מוגבל: מודל טיוטה גרוע עולה סבב אימות, לא תשובה שגויה.

השאר אותו כבוי אם נקודת הקצה שלך כבר רוויה במאות, אם הפלט שלך הוא נימוק חופשי וארוך, או אם אתה צריך נתוני Apple-silicon לפני שאתה מתחייב — לכרטיס אין כאלה, והאנלוג הקרוב ביותר מאותה משפחה יצא ב־1.18× על MacBook. והשאר אותו כבוי, כמובן, אם אתה בכלל לא מריץ את המודל: מודל טיוטה הוא אופטימיזציה לפריסה, ואין מה לייעל עד שהפריסה קיימת.

מה שיכריע את היתר הוא פוסט של ספק ומדידה על Mac. נכון ל־2026-10-21 אף אחד מהם אינו קיים, וזה מצב מוזר לגרסה שהמשקלים שלה כבר ניתנים להורדה — ולכל מי שמוכן להריץ בעצמו את מדד הקבלה, זו הזדמנות זולה באופן חריג להיות המספר הבלתי־תלוי הראשון על הלוח.