כרטיס כותרת ראשי עבור Ling 3.0 Flash DSPark עם כתובית המשנה: 'ה-Drafter של 1.36B ששוחרר בשקט עבור Ling 3.0 Flash', המציג כרטיס Drafter קטן עם התווית 'Drafter 1.36B' המעביר שורה של שבבי אסימונים לכרטיס גדול עם התווית 'Ling 3.0 Flash 124B', עם סימן וי על השבבים שהתקבלו וחץ הרצה קדימה בין שני הכרטיסים, ואת הלוגו של OrcaRouter בפינה הימנית התחתונה.
Engineering & Research

Ling 3.0 Flash DSPark: ה-Drafter של 1.36B ששוחרר בשקט ל-Ling 3.0 Flash

מחבר

Elias Hawthorne

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

Ling 3.0 Flash DSPark הוא מודל טיוטה בעל 1.36 מיליארד פרמטרים שמעבדת inclusionAI של Ant Group העלתה ל-Hugging Face ב-9 באוגוסט ללא הודעה לעיתונות, ללא פוסט בבלוג וללא שרשור השקה — מאגר שמראה, נכון לכתיבת שורות אלה, שבע הורדות ולייק אחד. הוא אינו גרסה חדשה של Ling 3.0 Flash, ואינו מודל שאי פעם תקראו אליו ישירות. הוא רכיב פענוח ספקולטיבי: טוענים אותו לפני Ling 3.0 Flash, והוא מציע טוקנים שהמודל הגדול צריך לאמת, כך שה-MoE בגודל 124B/5.1B פולט כמה טוקנים בכל מעבר קדימה במקום טוקן אחד. כל מה שמתחת לכך שאינו נראה כנכון מהמאגר עצמו מסומן כלא מאושר, כי הספק לא אמר דבר.

אנט גרופ הודיעה על Ling 3.0 Flash ב-27 ביולי ופרסמה את המשקולות שלו ברישיון MIT ב-7 באוגוסט. מאגר DSPark הוא ספינה נפרדת ושקטה יותר: נוצר ב-9 באוגוסט, מתואר רק בכרטיס מודל שמזהה את נקודת הבידוק כ-"a DSpark speculator for Ling3," ונערך שוב ב-21 באוגוסט עם עדכון config.json. אין הכרזה, אין דף תיעוד, אין פוסט benchmark. פיסה זו אוספת את מה שהמאגר אומר בפועל ומסמנת את השאר כשאלות פתוחות.

מה זה "ספקולנט DSpark", בלי הז'רגון

פענוח ספקולטיבי מריץ מודל קטן וזול לפני המודל האמיתי. המודל הקטן (המנסח) מנחש את קומץ הטוקנים הבא; המודל הגדול (היעד) בודק את כל הקבוצה במעבר קדמי יחיד ושומר על הניחושים שהוא מסכים איתם. כשהמנסח צודק, מעבר קדמי אחד של היעד מניב כמה טוקנים, כך שהתפוקה עולה מבלי לגעת במשקלים של היעד.

DSpark הוא גרסה של הרעיון הזה מהחוקרים של DeepSeek — שהוצג ביולי 2026 וכבר מוטמע בתוך DeepSeek-V4 — והוא האלגוריתם ש-SGLang מכנה DSPARK. שני דברים מבדילים אותו ממודל טיוטה פשוט. הוא מרחיב את DFlash (גישת טיוטה מקבילה) עם תכונות עזר הנגזרות ממודל המטרה עצמו, כך שמודל הטיוטה מקבל מידע על מה שהמודל הגדול עושה. והוא נושא ראש סמך שמדרג כל טוקן מוצע ועוצר את הבלוק מוקדם כאשר סיומת נראית לא סבירה שתשרוד את האימות — כך שהוא לא מבזבז מעבר אימות על טוקנים שעומדים להיזרק.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

ה-checkpoint של Ling-3.0-flash-dspark מיישם בדיוק את זה: ספקולטור שאומן עם SpecForge, בגודל שמציע בלוקים של שמונה טוקני טיוטה, עם רוחב אימות של תשעה טוקנים לאחר שסופרים את טוקן הבונוס של היעד.

מה שהמאגר אומר, בדיוק

כרטיס המודל דל אך ספציפי. Ling 3.0 Flash DSPark הוא מודל דראפט עם כ־1.36B פרמטרים (1,363,707,905 פרמטרים, BF16), הכולל חמש שכבות טרנספורמר עם קשב מלא בגודל חבוי 2,560 וקשב רב־ראשי עם 32 ראשי שאילתה ו־32 ראשי מפתח/ערך. הוא קורא תכונות עזר מחמש שכבות של המטרה — הכרטיס מציין שכבות 1, 11, 23, 29 ו־35 — ומשלב זאת עם ראש ביטחון המתואר כ״ראש מרקוב פשוט, דרגה 256״. הטמעת המיקום שלו מגיעה לשיא של 262,144, אותו הקשר של 256K שהמטרה נושאת.

• פרמטרים — 1,363,707,905 (~1.36B), BF16, כ-2.7 GB של משקלים.

• ארכיטקטורה — 5 שכבות קשב מלא, גודל חבוי 2,560, MHA עם 32 ראשי שאילתה ו-32 ראשי מפתח/ערך; מתויג כ-qwen3.

• ווים למטרה — תכונות עזר משכבות 1, 11, 23, 29 ו-35 של Ling 3.0 Flash.

• ראש ביטחון — ראש מרקוב רגיל, דרגה 256.

• בלוק — 8 אסימוני דראפט; ודא שהרוחב הוא 9, כולל אסימון הבונוס היעד.

• הקשר — 262,144 הטמעות מיקום, התואמות לחלון המקורי של 256K של היעד.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

השורה האחרונה הזו חשובה לתכנון הפריסה: המנסח בנוי על אותו פרופיל שירות לקונטקסט ארוך כמו היעד, ולכן הוא אינו מצמצם את הקונטקסט שעליו ניתן לבצע ניחושים.

מספרי הקבלה, קראו בעיון

הכרטיס מדווח על קבוצה אחת של נתוני ביצועים: אורך קבלה ממוצע, המוגדר כ"המספר הממוצע של אסימונים שהתקבלו בכל שלב אימות ספקולטיבי, כולל אסימון הבונוס של המטרה." על פני תשעה עומסי עבודה, הממוצע המקרו הוא 5.29 — בערך חמישה מתוך תשעת המיקומים התקבלו בכל שלב אימות, וזה המספר שיביא להאצה. הפיזור לפי עומס עבודה מראה היכן המנסח חזק:

• קוד ומתמטיקה — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• חשיבה — AIME 2025 5.56.

• שיחתי — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

שלוש הסתייגויות נלוות למספרים הללו. הם אורכי קבלה, לא האצות מקצה לקצה: הכרטיס אינו מפרסם נתוני אסימונים לשנייה, ולכן "5.29 אסימונים שהתקבלו" עדיין לא הומרו לטענת "מהיר פי x" עבור מודל זה. הם מדווחים על ידי הספק ולא שוחזרו — אף אחד מחוץ ל-inclusionAI לא פרסם מדידה. והם תלויים בהקשר: אורך הקבלה משתנה עם עומס העבודה, טמפרטורת הדגימה ונקודת הצ'ק-פוינט המדויקת של מודל היעד, לכן יש להתייחס לעמודת הקוד והמתמטיקה כמקרה החזק ולעמודת הצ'אט כאל הקצה הנמוך הריאלי.

מה מאומת, ומה לא

אושר על ידי המאגר הציבורי: נקודת הביקורת קיימת וניתנת להורדה; מדובר בספקולטור DSpark עבור Ling 3.0 Flash; הוא אומן באמצעות SpecForge; הוא מוגש דרך אלגוריתם ה-DSPARK של SGLang; והוא נוצר ב-9 באוגוסט ועודכן לאחרונה ב-21 באוגוסט.

לא אושר, וכדאי לדייק: הרישיון. ה-frontmatter של הכרטיס מציין license: other, ללא טקסט רישיון מצורף — כך שבניגוד למשקלי Ling 3.0 Flash שתחת רישיון MIT, תנאיו של ספקולטור DSPark אינם מוצהרים כרגע. גם לא אושר: שאורכי הקבלה משתכפלים על חומרה אחרת, מה משמעותם במונחים של אסימונים לשנייה מקצה לקצה, האם ספק אינפרנס כלשהו משרת את ה-drafter (שום דבר לא מעיד על כך), והאם צפויה הודעה רשמית. אף אחת מאלה אינה האשמה; הגרסה בת פחות משבועיים. זה ההבדל בין רכיב מבטיח לרכיב מאומת.

מריץ את זה

בפועל, אתה צריך build של SGLang עם תמיכה ב-DSPARK — האלגוריתם הופיע ב-SGLang v0.5.16 ביולי, סביב האינטגרציה של DSpark שהונעה על ידי DeepSeek-V4. הפעל את השרת מול מודל היעד ותן שם ל-drafter:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

הפקודה היא מכרטיס המודל עצמו; גודל הבלוק נקרא מהקונפיג של הדראפטר. אין עדיין נתיב llama.cpp — ארכיטקטורת KDA + MLA ההיברידית דורשת פורק מותאם אישית אפילו עבור המודל הראשי, כך שהספקולטור הוא סיפור SGLang לעת עתה.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

האם כדאי לרוץ

Ling 3.0 Flash DSPark עובד רק אם אתה משרת את Ling 3.0 Flash בעצמך. זהו רכיב מקומי: בערך 2.7 GB של משקלי BF16 נוספים לצד מטרה של 124B, build של SGLang שתומך באלגוריתם, וחומרה עם זיכרון פנוי. התמורה היא אורך קבלה גבוה יותר מאשר דראפטר קטן טיפוסי, תמורת הזיכרון והחלקים הנעים. עבור צוותים שכבר מריצים את המטרה על ה-GPUs שלהם בעומסים אינטראקטיביים ותלויים-השהיה, הדראפטר הוא דבר זול למדידה — שני דגלים, פענוח חמדן, ומבט על דלתא של טוקנים לשנייה. עבור כל מי שקורא ל-Ling 3.0 Flash דרך API מתארח, זה לא רלוונטי: אי אפשר לחבר דראפטר מקומי למחסנית השרתים של מישהו אחר.

פער הכנות בכרטיס המודל הוא הדבר העיקרי שיש לתקצב סביבו. ממוצע קבלה של 5.29 הוא מספר חזק — הספקולטור DSpark של DeepSeek-V4 דיווח על אורכי קבלה בטווח 3.2–3.6 לפי הסקירה של LMSYS, והדראפטר LFM2.5-2.6B של Liquid AI השיג ממוצע של 4.83 — אבל אורך הקבלה אינו האצה, ועד שמישהו יפרסם תפוקה מקצה לקצה על הצימוד המדויק הזה, גודל הרווח הוא בגדר הערכה.

וכאן התמהיל בין אירוח עצמי לאירוח מנוהל הופך להחלטה האמיתית. דראפטר הוא רכיב נוסף באירוח עצמי שמוצב מול מודל שזמין גם כ-API — והשמירה על שתי האפשרויות הללו כהשוואתיות היא בדיוק התפקיד של שכבת הניתוב. API אחד על פני 200+ מודלים, מעבר אוטומטי כשספק מתדרדר, ומחירי רשימה של ספקים המועברים ב-0% עמלה מאפשרים לך להריץ שרת Ling-3.0-flash משלך לנתיב הרגיש לשהות, תוך ניתוב יתר התעבורה לנקודות קצה מנוהלות, ולעבור באמצעות קונפיגורציה במקום באמצעות שכתוב קוד. הדראפטר של DSPark לא משנה היכן Ling 3.0 Flash רץ; הוא משנה כמה מהר הוא רץ כאשר הוא על החומרה שלך.

השאלות הפתוחות שכדאי לעקוב אחריהן

שימו לב לארבעה דברים. הודעה רשמית או פוסט בבלוג היו ממלאים את ההקשר החסר סביב ההשקה. נתון מפורסם של אסימונים לשנייה – מ-inclusionAI או מכל גורם אחר – היה הופך את מדד הקבלה 5.29 להאצה ממשית. שינוי רישיון מ-'other' לרישיון מוגדר יסיר את החסם הגדול ביותר לשימוש בפרודקשן. וספק שמתחיל לשרת את Ling 3.0 Flash עם speculation מופעל ישנה את המשוואה עבור אנשים שאינם מארחים בעצמם כלל.

עד אז, Ling 3.0 Flash DSPark הוא מה שהמאגר שלו אומר שהוא: ספקולטור DSpark אמיתי, ניתן להורדה, בגודל 1.36B עבור Ling 3.0 Flash, ששוחרר ללא חגיגות, עם מספרי קבלה חזקים אך לא מאומתים וללא האצה שפורסמה. זהו בסיס עבודה לניסוי — ותיאור כן של רכיב שאיש לא מדד באופן עצמאי עדיין.

השוואות במאמר הזה1

זוהה מתוך המאמר הזה · בנצ'מרקים: Artificial Analysis · מתעדכן יומית