כרטיס כותרת שנוצר עם הכיתוב 'LING-3.1-FLASH-1019' וכתובית משנה 'משקלים פתוחים · 574 GB · MIT', שלושה כרטיסים עם הכיתוב 'מדד AA 44', '54 שרדים · 573.8 GB' ו'1M מוצהר / 256K קונפיגורציה', כותרת תחתונה עם הכיתוב 'Ant Group · שוחרר ב-27 באוקטובר 2026', והלוגו של OrcaRouter על פס לבן בפינה הימנית התחתונה.
Guides & Insights

Ling-3.1-flash-1019 הוא כעת קוד פתוח: 574 GB, MIT, ובדיקת מציאות של 256K

מחבר

Alistair Wren

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

ב-05:46 UTC ב-27 באוקטובר, צוות Ling ב-Ant Group יצר מאגר Hugging Face בשם Ling-3.1-flash-1019 ומילא אותו ב-54 שברי safetensors בסך כולל של 573.8 GB תחת רישיון MIT. לצדו יושב Ling-3.1-flash-base, צ'קפוינט BF16 בנפח 1.14 TB המיועד לאימון נוסף, ומאחורי שניהם נמצא Ling-3.1-flash, המודל שהבנייה הזו היא גרסה שלאחר אימון שלו. חמישה ימים קודם לכן פרסמה Ant רק את הציון: 44 במדד Artificial Analysis Intelligence Index v4.3.2, עלייה מ-41, עם הבטחה למשקולות ול-API. היום להבטחה יש רשימת קבצים, מה שהופך את זה ליום הראשון שבו כל מי שמחוץ לצינור ההערכה של Ant יכול לבדוק את המספר במקום לקרוא אותו.

הפער הזה הוא הסיפור, והוא פועל לשני הכיוונים. מעבדה שמכריזה על בנצ׳מרק לפני שהיא משחררת ארטיפקט מבקשת שייתנו בה אמון; מעבדה שאז משחררת את הארטיפקט חמישה ימים לאחר מכן, בגודל 574 GB ותחת רישיון מתירני, לפחות סיפקה את האמצעים לחלוק עליה. השאלות המעניינות כבר אינן נוגעות לציון. הן נוגעות למה שיש בתוך ההורדה, כמה עולה לשרת אותו, והאם ההקשר של 1M טוקנים בכרטיס המודל הוא ההקשר שבאמת מקבלים.

מה נמצא בפועל במאגר

מאגר 1019 אינו מתאם דק או דלתא. זהו צ'קפוינט מלא: 54 קבצי משקל בגודל של כ-10.7 GB כל אחד, טוקנייזר, תבנית צ'אט, וקוד מודלים מותאם (BailingMoeV3ForCausalLM) אשר דורש trust_remote_code. הקונפיגורציה המצורפת מצהירה על סכימת כימות FP8 (E4M3, קנה מידה של בלוקים 128×128) מעל ארכיטקטורת MoE היברידית-לינארית שסדרת Ling משתמשת בה מאז 3.1:

• פרמטרים כוללים ופעילים — 560B בסך הכול, 25B פעילים לכל טוקן, אותם נתונים כמו ב-Ling-3.1-flash.

• שכבות — 72 בסך הכול: 63 שכבות KDA של קשב לינארי ו-9 שכבות MLA עם מנגנון שער ביחס 7:1, ועוד 4 שכבות צפופות.

• מומחים — 512 מנותבים, 8 מופעלים לכל טוקן, 1 משותף.

• אוצר מילים — 157,184 טוקנים; גודל נסתר 4,096.

• נפח — 573.8 GB של safetensors על פני 54 שברים, לפי ספירתנו מרשימת הקבצים במאגר ב-27 באוקטובר.

מודל הבסיס הוא סוג אחר של ארטיפקט. Ling-3.1-flash-base נוצר ב-25 באוקטובר ומכיל 121 קבצים ו-1.14 TB של משקולות BF16 — בערך פי שניים מגודלו של הצ'ק פוינט המיושר, מכיוון שהוא לא כומת ל-FP8. הכרטיס שלו מתאר אותו כצ'ק פוינט הבסיס של Ling-3.1-flash, להמשך אימון מקדים, התאמת תחום ומחקר פוסט-אימון, והוא אומר בבירור שהוא לא מיועד לשיח ישיר או לשימוש קריטי לבטיחות ללא יישור. שני המאגרים נושאים את תג MIT.

A headless capture of the Hugging Face 'Files and versions' tab for inclusionAI/Ling-3.1-flash-1019, taken 27 October 2026, showing the model name with a '574 GB' label, tags reading Text Generation, Safetensors, fp8 and License: mit, and a listing from model-00001-of-00054.safetensors through model-00016-of-00054.safetensors at 10.7 GB each, alongside config.json, chat_template.jinja and the custom modelling code, with the upload committed about 5 hours earlier.

44, והחלק שאנט לא מדד

Artificial Analysis מציגה את Ling-3.1-flash-1019 עם 44 במדד האינטליגנציה שלה, במקום הרביעי מתוך 122 מודלים בעמוד שקראנו היום, ובדף המודל שלה נאמר שההערכות נמדדו באופן עצמאי על ידי Artificial Analysis. זו הצורה החזקה ביותר שהמספר קיבל עד כה, וכדאי להפריד אותו משאר טבלת ההשקה.

הפערים לפי בנצ'מרק מגיעים מכרטיס המודל של Ant עצמה, ולא מהרצה חוזרת בלתי תלויה: AA-Briefcase עולה מכ-1,400 ל-1,524 Elo, AutomationBench-AA מ-62% ל-68%, CritPt מ-18% ל-26%, ו-SciCode מ-54% ל-57%. שניים מהבנצ'מרקים האלה — AA-Briefcase ו-AutomationBench-AA — הם מרכיבים של מדד Artificial Analysis, ולכן מספר המדד וטבלת הספק אינם ראיות בלתי תלויות זה בזה. הם אותה טענה בשתי רזולוציות. התייחסו ל-44 כאל מדידה של AA ולזוגות לפני/אחרי כאל דיווח ספק עד שמישהו יפרסם harness ו-seed.

קיימת א-סימטריה שנייה. בזמן המדידה, Artificial Analysis לא תיעדה API זמין לציבור עבור ה-build 1019, ושדה מהירות הפלט של המודל עדיין ריק. לכן, אפשר לשחזר את הבנצ'מרק היום רק על ידי הורדה של 574 GB והרצה שלו בעצמך. זו אינה תלונה על השחרור; זהו תיאור של מה ש"פתוח" משנה. לפני היום, איש לא יכול היה לשחזר את הציון. אחרי היום, כל מי שיש לו את החומרה יכול.

A headless capture of Artificial Analysis's Ling 3.1 Flash 1019 page, taken 27 October 2026, showing an Intelligence score of 44 ranked #4/122, a Speed panel marked N/A with no output tokens per second, a Cost panel reading $0.30 input and $0.90 output per 1M tokens with an 80% cache discount and $1.49 cost per Intelligence Index task ranked #44/47, a Verbosity panel reading 350M output tokens ranked #48/48, and technical specifications listing a 1M context window, 560B total parameters, 25B active parameters and an MIT licence.

שלוש הנקודות נרכשות באמצעות אסימונים

המדד הוא מדד איכות, לא מדד יעילות, וצד היעילות של המהדורה הזו הוא החלק הכי פחות מחמיא בה. Artificial Analysis מדדה 350M טוקני פלט עבור הרצת 1019 לעומת 220M עבור Ling-3.1-flash — כ-59% יותר טוקנים שנוצרו כדי להשלים את אותה חבילת מבחנים — ומדרגת את הבילד החדש במקום 48 מתוך 48 במילוליות, כשהמודל החציוני עומד על 140M. העלות שלו להריץ את המדד היא 1.49 דולר למשימה לעומת 1.01 דולר עבור קודמו.

חלק מזה הוא אריתמטיקה שאפשר לעשות מכרטיס התעריפים של Ant עצמו. בתעריף של $0.90 למיליון טוקני פלט, 350M טוקנים הם $315 של פלט לעומת $198 עבור 220M — הפרש של $117 לפני שנספר אפילו טוקן קלט אחד או קריאת מטמון אחת. עבור צוות שמתקצב לפי משימה ולא לפי טוקן, שדרוג ה-checkpoint ה"חינמי" קרוב יותר לעלייה של 47% בחשבון תמורת שיפור של שלוש נקודות במדד. האם העסקה הזו טובה תלוי לחלוטין בכמה עולה לך משימה שנכשלה, וזו שאלה שאף לוח דירוגים לא עונה עליה.

A generated single-column scoreboard titled 'Ling-3.1-flash-1019 — the scoreboard' listing AA Index 44 (measured), total and active parameters 560B / 25B, weights 574 GB across 54 shards, licence MIT, context on the card 1M, and context in the config 262,144, with a footer reading 'Index per Artificial Analysis; benchmark deltas vendor-reported; config values read from the repository on 27 October 2026.' and the OrcaRouter logo on a white strip at the bottom right.

חלון ההקשר הוא 256K בקונפיגורציה

כרטיס הדגם אומר הקשר של 1M טוקנים. התצורה שנשלחה אומרת משהו אחר. בכל שלושת המאגרים — 1019, Ling-3.1-flash והבסיס — config.json מגדיר את max_position_embeddings ל-262,144 ואת rope_scaling ל-null, עם RoPE theta של 6,000,000. טעינה סטנדרטית של SGLang או vLLM של המשקלים האלה משרתת לפיכך 256K מיקומים, לא מיליון, אלא אם המפעיל מספק תצורת scaling שהמאגר אינו מכיל.

זו הקריאה שלנו בקבצי התצורה שפורסמו, ולא הצהרה ש-Ant מסרה. ייתכן שה-API המתארח של Ling מיישם סכמת סקיילינג בצד השרת ואכן משרת 1M; המשקלים הפתוחים אינם מגיעים עם כזו. זו גם לא אי-התאמה חדשה — מהדורת Ling-3.1-flash מ-15 באוקטובר נשאה את אותה טענת 1M מעל אותה הגדרה של 262,144. כל מי שמתאים חומרה סביב עומס של מיליון טוקנים צריך לבחון את התקרה על הסטאק שלו לפני התחייבות, כי המספר שחשוב הוא זה שהשרת מקבל, לא זה שמופיע במבוא.

הגשתו: שמונה H200s, ארבעה GB300s, ומלכודת העתק־הדבק אחת

Ant ממליצה על SGLang ומפרסמת תמונת day-0, lmsysorg/sglang:dev-ling-3.1-flash, עם פענוח ספקולטיבי MTP ואופטימיזציות פענוח Hopper. תצורת הייחוס המתועדת היא שמונה GPUs H200 ב-TP8 בתוספת EP8; על ארבעה GB300s בכרטיס כתוב להשתמש ב---tp 4 --ep 4. כלול גם מתכון vLLM, עם מקביליות טנזורית של 8, מקביליות מומחים, מטמון קידומות ושלושה טוקנים ספקולטיביים. נטען ששני דגלי סביבה — SGLANG_ENABLE_FP8_BLOCK_GEMV ו-SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — נותנים פענוח batch-1 מהיר בכ-10% בערך ב-Hopper.

טביעת הזיכרון מסבירה את רשימת החומרה. עם 573.8 GB של משקולות FP8, נקודת השמירה מותירה כ-550 GB של מרווח פנוי על שמונה כרטיסי H200 (1,128 GB של HBM) וכ-578 GB על ארבעה כרטיסי GB300 (1,152 GB). זה מספיק עבור המשקולות ומטמון KV פעיל, אך לא מספיק כדי להקל ראש בהקשרים ארוכים.

יש גם מלכודת ב-Quickstart שכדאי לסמן, כי היא תעלה למישהו יום עבודה. פקודת ה-SGLang של כרטיס המודל 1019 עצמו מעבירה --model-path inclusionAI/Ling-3.1-flash, ודוגמת הלקוח שלו שולחת "model": "Ling-3.1-flash". אם עוקבים אחריה מילה במילה, המתכון טוען את קודמו בעל 41 הנקודות, לא את הבנייה בעלת 44 הנקודות. כוונו את הנתיב במפורש אל inclusionAI/Ling-3.1-flash-1019 וקבעו את שם המודל המוגש, אחרת הבנצ'מרק הראשון שלכם של "1019" יהיה בנצ'מרק של נקודת הבדיקה הישנה.

למה מיועד Ling-3.1-flash-base — ומה הוא לא

מהדורת הבסיס היא המשמעותית מבין השתיים עבור כל מי שמאמן מודלים ולא רק משתמש בהם. נקודת ביקורת של 1.14 TB בפורמט BF16 תחת רישיון MIT, עם אותה ארכיטקטורה של 560B/25B, נותנת למעבדה נקודת התחלה לגיטימית לאימון מקדים המשכי, התאמה לתחום, כוונון עדין מפוקח, אופטימיזציה של העדפות, ניסויי זיקוק ומחקר MoE בהקשר ארוך — מבלי להתחיל ממודל מיושר לשיחה שתצטרך לבטל את התנהגות הסירוב שלו.

מה שזה לא נותן לך הוא המתכון ל-44. הכרטיס מתאר את ה-base כ-checkpoint הבסיס של Ling-3.1-flash, ולא כתמונת מצב מלפני ה-post-training של build 1019, ושום נתוני post-training, סט העדפות או קונפיגורציית RL לא מגיעים עם אף אחד משני המאגרים. אם אתה רוצה את המודל הנמדד, הורד את המודל הנמדד. אם אתה רוצה לבנות אחד משלך, ה-base חוסך לך את חשבון ה-pre-training אבל לא את עבודת ה-alignment — והפער בין base מכוונן היטב ל-checkpoint ה-post-trained הטוב ביותר של ספק בדרך כלל רחב יותר ממה שפער של שלוש נקודות במדד מרמז.

האם כדאי לך לקחת את 574 GB?

• הורידו אותו אם אתם כבר מפעילים שמונה H200 או ארבעה GB300, עומס העבודה שלכם הוא סוכני או רב-שלבי, ורישיון MIT מסיר מכשול משפטי שיש לכם בפועל.

• הורד אותו אם אתה צריך לשחזר את ה-44 בעצמך — זה כעת אפשרי, וזה לא היה ב-22 באוקטובר.

• דלגו על זה אם הסתמכתם על חלון הקשר של 1M ישר מהקופסה; בדקו קודם את תצורת 256K.

• דלג על זה אם הכלכלה שלך מחושבת לפי משימה וברגישות להשהיה. העלייה של 59% בטוקנים היא עלות תפוקה אמיתית, ועדיין אין נתון עצמאי למהירות פלט עבור 1019.

• התחל מהבסיס רק אם יש לך פייפליין לאימון לאחר האימון. זהו יסוד, לא קיצור דרך.

ההצגה הכנה של תפקידו של OrcaRouter כאן: איננו מספקים את Ling-3.1-flash-1019. מה שאנחנו מוכרים הוא הצד השני של ההחלטה — מפתח אחד ל-200+ מודלים מתארחים במחיר המחירון של הספק עם 0% תוספת, כך שאפשר לענות על השאלה "האם 1019 עולה על מה שאני כבר מריץ" בלי לחתום על חוזה נפרד לכל בסיס השוואה. מעבר אוטומטי בין שירותים וה-DSL לניתוב חשובים רק לאחר שבחרת מנצח; הם לא עוזרים לך לבחור אחד.

מה לצפות בהמשך

שלושה דברים יקבעו אם השחרור הזה יחזיק מעמד לאורך זמן. הראשון הוא תפוקה בלתי תלויה: ל-Artificial Analysis אין נתון מהירות פלט עבור 1019, והספק צד שלישי הראשון שיפרסם טוקנים לשנייה יגיד לך יותר על התאמה לייצור מאשר נקודת מדד נוספת. השני הוא אם תצורת סקיילינג של הקשר 1M מופיעה במאגר או ב-SGLang cookbook; עד שזה יקרה, מספר הכותרת של הכרטיס הוא טענה שמתחתיה יש מימוש של 256K. השלישי הוא מה הקהילה עושה עם הבסיס — fine-tune שמנצח 44 בתחום צר יהיה הראיה החזקה ביותר לכך שפתיחת המשקולות האלה הייתה שווה יותר מהציון שאיתו היא נשלחה.