כרטיס כותרת שנוצר עם הכיתוב 'Sage-S2.1-Flash' מעל כותרת המשנה '645 GB של משקלים, כרטיס מודל בגודל 21 בייט, ללא הכרזה', ומתחתיו שלושה תגים קטנים עם הכיתוב 'העלאה ב-15 בנובמבר 2026', 'רישיון MIT' ו-'320B-A18B MoE'. רקע לבן, הדגשות גרדיאנט בכחול ובציאן, אייקוני קו שטוחים. הלוגו של OrcaRouter משולב בפינה הימנית התחתונה.
Guides & Insights

Sage-S2.1-Flash שוחרר בשקט: 645 GB של משקולות, כרטיס מודל בגודל 21 בייט, וטבלת בנצ'מרקים שאיש לא קישר אליה

מחבר

jinhao.song

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

ב-15 בנובמבר 2026 בשעה 02:34 UTC, חשבון השייך למעבדת ה-AI של שנגחאי העלה ל-Hugging Face מאגר בשם internlm/Sage-S2.1-Flash. הוא הכיל 120 רסיסי safetensors בסך כולל של כ-645 גיגה-בייט, קובץ תצורה, תבנית צ'אט, ו-README בגודל 21 בייט. לא פורסם פוסט בבלוג. דף הבית של המעבדה עצמה לא הזכיר את השם כשאחזרנו אותו ב-16 בנובמבר. לא מצאנו הודעה לעיתונות, ולא היה ערך עבור Sage-S2.1-Flash ב-Artificial Analysis.

מה שהיה קיים בתום אותו סוף שבוע היה שלושה דברים שכל קורא יכול לבדוק: המשקלים עצמם, מדריך פריסה שנכתב עבור אנשים שמתכוונים להריץ את הדבר על שמונה כרטיסי H200, וטבלת בנצ'מרקים המתארחת במיקרו־אתר GitHub Pages שמאגר המודל אינו מקשר אליו מעולם. היצירה הזו היא מלאי של שלושת אלה, עם קו ברור בין מה שהקבצים מוכיחים לבין מה ש-InternLM טרם אמרה.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

המאגר, קובץ אחר קובץ

הראיות נקיות באופן חריג מפני שיש מהן כל כך מעט. רישום תיקייה ב-16 בנובמבר מחזיר 155 קבצים. מאה ועשרים מהם הם פלחי משקל בגודל של כ-5.35 GB כל אחד. השאר הם התשתית של מודל מולטימודלי: tokenizer.json בגודל 20 מגה־בייט, chat_template.jinja בגודל 10.5 KB, config.json בגודל 5.9 KB, קונפיגורציית יצירה עם temperature 1.0 ו-top_p 0.95, deployment_guide.md, ושתי תיקיות — אחת מכילה טלאי של vLLM, ואחת מכילה מקרנים עבור מודל תפיסה נלווה.

ה-README שווה התעכבות. עשרים ואחד בייטים, וכל אחד מהם הוא YAML frontmatter:

• קו אופקי, ואז שורה אחת עם הכיתוב license: mit, ואז קו אופקי נוסף.

זו כל כרטיסיית המודל. אין תיאור, אין טבלת בנצ'מרקים, אין דוגמת שימוש, אין בלוק ציטוט, אין קישור למאמר. Hugging Face מציגה אותה כעמוד עם כותרת, תג MIT וגוף ריק. במאגר יש לייק אחד, ולעת כתיבת הדברים האלה, אפס הורדות — מה שלגבי מודל בגודל כזה הוא פחות אות על איכות ויותר אות על כמה מעט אנשים יכולים להרשות לעצמם את מקום הדיסק.

שני פרטים קטנים יותר מרשימת הקבצים ראויים לתיעוד, משום שהם מתארכים את השחרור טוב יותר מכל הודעה רשמית. הגרסה האחות המקוונטטת ב-FP8, internlm/Sage-S2.1-Flash-FP8, נוצרה ב-13 בנובמבר בשעה 15:04 UTC — כ-35 שעות לפני מאגר ה-bfloat16. והקומיט האחרון של מאגר ה-bf16, בשעה 03:01 UTC ב-16 בנובמבר, הוא הודעה יבשה "Upload folder using huggingface_hub", אותה הודעה כמו בהעלאה הראשונית. לא משנה איזה תהליך עבודה יצר את זה — זה לא היה שחרור מאוצר.

המסמך היחיד שהמעבדה כן כתבה

deployment_guide.md הוא הפרוזה היחידה ש-InternLM סיפק בתוך המאגר, והוא הקובץ המאלף ביותר שם. המשפט הפותח שלו הוא המפרט כולו:

השחרור של Sage-S2.1-Flash הוא מודל MoE רב-מודאלי 320B-A18B המאוחסן בפורמט משקולות bfloat16 (כ-645 GB).

שלושה מספרים, והמטא-נתונים של ה-Hub עצמו מאשרים שניים מהם. מספר הפרמטרים בעמוד המודל עומד על 321 מיליארד, הפרש של מיליארד אחד שהוא כמעט בוודאות מוסכמת עיגול ולא אי-הסכמה. נתון האחסון תואם את מטא-נתוני המאגר של internlm ב-642.8 GB. "A18B" — 18 מיליארד פרמטרים פעילים לכל טוקן — הוא מונח של InternLM עצמה ואינו ניתן לגזירה באופן עצמאי מהתצורה, ולכן יש להתייחס אליו כאל נתון ספק.

config.json משלים את השאר, והוא מסמך מעניין באמת. למודל יש 45 שכבות, ורק 11 מהן משתמשות בקשב דליל קונבנציונלי. 34 האחרות משתמשות בסוג שכבה של קשב ליניארי שהקונפיגורציה מכנה kda, שמוגדר לפי רשימה פר־שכבה ב-linear_attn_config. הניתוב מתבצע בין 288 מומחים עם מומחה משותף אחד ושמונה נבחרים לכל טוקן, במקדם סקיילינג מנותב של 2.5. התקרה הפוזיציונלית היא 1,048,576 טוקנים. יש מגדל ראייה — עומק 24, תמונות בגודל 448 פיקסלים, גודל patch של 14 — ואוצר הטוקנים כולל טוקנים מפורשים של image, video, image-start, image-end, video-start ו-video-end.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

השורה הארכיטקטונית החשובה ביותר

מדריך הפריסה מכיל משפט אחד שממסגר מחדש את כל השחרור. נאמר בו ש-Sage-S2.1-Flash „משתמש בארכיטקטורת GLM-5.3-Flash”, ומורה לקורא להתקין ולכוונן את vLLM ו-SGLang על ידי ביצוע המתכונים הרשמיים של Z.ai ל-GLM-5.3-Flash, תוך החלפת שם מאגר אחד בשם האחר.

זה מאומת בקונפיגורציה: מחלקת הארכיטקטורה היא Glm5NextForConditionalGeneration וסוג המודל הוא glm5_next. כלומר, מודל של Shanghai AI Laboratory מפורסם על גבי ארכיטקטורה של Z.ai, והמעבדה אומרת זאת בגלוי ולא מסתירה זאת. GLM-5.3-Flash הוא בעצמו MoE מולטימודלי עם 320 מיליארד פרמטרים ו-18 מיליארד פרמטרים פעילים, עם הקשר של 1M טוקנים ותקרת פלט של 128K — כלומר, צורת הפרמטרים גם היא אינה מקרה.

עבור כל מי שמחליט אם לפרוס את זה, המשפט הזה הוא הדבר בעל הערך הרב ביותר בגרסה. פירושו שסיפור ההגשה אינו חדש. פירושו שהמתכונים, עבודת הקרנל ומצבי הכשל הידועים הם אלה שכבר מתועדים עבור מודל שפומבי מאז אוגוסט. פירושו גם שהטלאים ש-InternLM הוסיפה ראויים לקריאה מדוקדקת, מפני שהם מתארים בדיוק היכן המודל שלהם סוטה מהבסיס.

שלוש דרכים שבהן גרסה זו נשברת אם תגישו אותה באופן נאיבי

מדריך הפריסה הוא, בקריאה מדוקדקת, רשימה של מלכודות. כל אחת מהן היא כשל שקט ולא שגיאה, וזה מהסוג המסוכן.

• היעדר --trust-remote-code שובר קריאות כלים ללא אזהרה.עקבות סוכניים מכילים מחרוזות כמו <|user|> ו-<tool_call> כטקסט רגיל. המאגר כולל קוד טוקניזציה משלו שמתייחס אליהן כטקסט; ללא הדגל, המנוע טוען את הטוקנייזר הסטנדרטי, מקודד אותן כאסימוני בקרה, והמודל עלול לעצור מוקדם או לשבש קריאת כלי. שום דבר לא נרשם ביומן.

• vLLM זקוק לתיקון של קובץ אחד, אחרת תמונות משויכות לתוצאת הכלי הלא נכונה. כאשר קריאות מקבילות לכלים חוזרות בסדר שונה מזה שבו נשלחו, תבנית הצ'אט מציגה את התוצאות לפי סדר הקריאות בעוד vLLM אוסף את התמונות לפי סדר ההודעות. כל תמונה נוחתת בשקט על התוצאה הלא נכונה והמודל עונה על התמונה הלא נכונה. התיקון מחליף את vllm/renderers/hf.py; התיקון במעלה הזרם נמצא בדרך כ-vllm-project/vllm#67108.

• SGLang לא תשתמש בתבנית הצ'אט של המאגר אלא אם כן תמסור לה את הקובץ. SGLang מתקינה כברירת מחדל תבנית מובנית משלה עבור ארכיטקטורה זו, שעוקפת לחלוטין את הטוקנייזר של המאגר; עליך להוריד את chat_template.jinja ולהעביר אותו עם --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." Need Hebrew. Preserve "FP8 KV cache", "Hopper GPUs", H100s H200s, BF16 cache, LMDeploy, transformers, versions, layer type names, vLLM, issue URL, literal </think>, streaming. Need markers none. Could translate terms partially. Need natural. Hebrew: "ישנן שתי מגבלות נוספות באותו מסמך. מטמון KV מסוג FP8 אינו נתמך ב-GPU של Hopper, לכן ב-H100s וב-H200s שומרים על מטמון BF16. ו-LMDeploy דורש transformers בין 5.17 ל-5.19, מכיוון ש-5.19 משנה את שם סוג השכבה deepseek_sparse_attention ל-indexed_attention ו-LMDeploy דוחה את השם החדש. המדריך גם מציין בעיה פתוחה ב-vLLM — vllm-project/vllm#64326 — שבה </think> מילולי בתגובות לא-זורמות יכול לקצר את תהליך החשיבה או לבלוע קריאה לכלי; סטרימינג אינו מושפע." Need maybe "שומרים על מטמון BF16" okay. "ב-H100s וב-H200s" preserve. "קריאה לכלי" tool call maybe "קריאת כלי" or "קריאה לכלי". "לא-זורמות" non-streaming. "סטרימינג" streaming. No markers. Ensure literal </think> maybe in Hebrew direction but exact. Output only.ישנן שתי מגבלות נוספות באותו מסמך. מטמון KV מסוג FP8 אינו נתמך ב-GPU של Hopper, לכן ב-H100s וב-H200s שומרים על מטמון BF16. ו-LMDeploy דורש transformers בין 5.17 ל-5.19, מכיוון ש-5.19 משנה את שם סוג השכבה deepseek_sparse_attention ל-indexed_attention ו-LMDeploy דוחה את השם החדש. המדריך גם מציין בעיה פתוחה ב-vLLM — vllm-project/vllm#64326 — שבה </think> מילולי בתגובות לא-זורמות יכול לקצר את תהליך החשיבה או לבלוע קריאה לכלי; סטרימינג אינו מושפע.

שום דבר מזה לא אומר שהמודל גרוע. זה אומר שההשחרור נמצא בשלב שבו האנשים שכתבו אותו הם עדיין היחידים שהריצו אותו, והם אומרים לך את זה.

טבלת הבנצ'מרק שאינה במאגר

InternLM אכן פרסמה מספרי הערכה — 35 מהם, על פני Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision ועוד שני תריסרים. הם אינם נמצאים בכרטיס המודל, מפני שכרטיס המודל ריק. הם נמצאים במאגר GitHub נפרד, InternLM/Sage-S2.1-Flash, שנוצר ב־16 בנובמבר בשעה 03:34 UTC, ומתואר כ"אתר ואפליקציות הדגמה דו־לשוניים של Sage 2.1 Flash", אשר בונה אתר סטטי בכתובת internlm.github.io/Sage-S2.1-Flash. נתוני הבנצ'מרק מאוחסנים שם כקובץ מופרד בטאבים וקובץ JSON, לצד סרטוני הדגמה של המודל מפעיל את 3D Slicer, Blender ו-Fiji.

הנוסח האנגלי באתר הזה נפתח ב״היום אנחנו מציגים את Sage 2.1 Flash, מודל סוכן רב-מודלי מדעי חזיתי״. אז ההודעה אכן קיימת — היא פשוט נמצאת במארח GitHub Pages שאין שום דבר במאגר Hugging Face שמצביע אליו, והיא נוצרה אחרי שהמשקולות כבר היו זמינות להורדה. אם אתם רוצים את הניסוח של הספק עצמו, זו הפסקה: יותר מעשרה סוגים של קלט מדעי במודל אחד, כולל גרפים מולקולריים, מבנים גבישיים, רצפי חלבון ומבנים תלת-ממדיים, DNA ו-RNA, ספקטרות, ספקטרות מסה, עקיפת קרני רנטגן, אלקטרוקרדיוגרמות, אלקטרואנצפלוגרמות ועקומות אור.

טבלת ההערכה משווה את Sage 2.1 Flash מול שמונה מודלים: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol ו-Claude Opus 5.5. כל מספר בה מדווח על ידי הספק. אין חבילת בדיקות מפורסמת, אין יומן ריצה, אין פירוט לפי משימה, ואף צד שלישי לא שחזר ולו חלק ממנה. יש לקרוא את הטבלה כהצהרת כוונות של המעבדה, לא כמדידה.

במקום שבו {{1}}טבלת הספקים{{/1}} חזקה באופן חריג, וחלשה באופן חריג

שני דפוסים בולטים, ושניהם אינפורמטיביים יותר מציוני הכותרת.

הראשונה היא ששורות המדע והראייה הן המקום שבו הפערים אבסורדיים. BabyVision מציג 75.8 עבור Sage לעומת 51.3 עבור GLM-5.3-Flash, 58.0 עבור DeepSeek-V4.1-Flash-1017 ו-63.1 עבור Claude Opus 5. OSWorld-G מציג 84.8 לעומת 61.4 עבור DeepSeek. OfficeQA Pro V2 מציג 72.2, הגבוה ביותר בטבלה שלו, לפני Claude Opus 5 עם 67.2. כאשר מודל מנצח בשורה בפער של עשרים וארבעה נקודות, או שהיכולת אמיתית או שהבנצ'מרק נקרא אחרת עבור המודל הזה מאשר עבור האחרים — ובהיעדר ארנס מפורסם, אי אפשר לדעת איזו משתי האפשרויות נכונה.

הנקודה השנייה היא ששורות הקידוד הן המסמך הפחות מחמיא בפרסום. Terminal-Bench 2.1 עם 87.9 הוא חזק אך לא מוביל; Qwen3.8-Max עומד על 89.6 ו-Claude Opus 5 על 90.2. SWE-bench Pro עם 60.6 מפגר אחרי DeepSeek-V4.1-Flash-1017 עם 64.7 ו-Qwen3.8-Max עם 65.3. DeepSWE עם 67.0 מפגר אחרי DeepSeek עם 73.9 בכמעט שבע נקודות. עבור מודל שהשיווק שלו אייג'נטי, זו טבלה שהמחברים שלו בחרו לפרסם, וזה שווה משהו.

מה שהטבלה אינה מכילה בולט לא פחות: גם Claude Haiku 5.5 וגם Gemini 3.8 Flash נעדרים ממנה, כך ששתי ההשוואות שרוב האנשים היו רוצים לערוך כלל אינן ניתנות לביצוע מנתוני הספקים, בשום כיוון.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

מה מאומת, ומה לא

מיון הראיות של סוף השבוע לשתי ערימות הוא הדבר המועיל ביותר שקורא יכול לעשות איתן.

• אומת באמצעות קבצים — המשקלים קיימים וניתנים להורדה ברישיון MIT; 120 חלקים, כ-645 GB, bfloat16; 45 שכבות עם פיצול קשב לינארי/דליל של 34/11; 288 מומחים מנותבים, top-8; תקרת פוזיציות של 1,048,576 טוקנים; מגדל ראייה וטוקני תמונה/וידאו; דגם FP8 נלווה שפורסם יומיים קודם.

• אושר במדריך של הספק עצמו — 320B בסך הכול, 18B פעילים; ארכיטקטורת GLM-5.3-Flash; 8×H200 כפריסת הייחוס; חמישה מוקשים מתועדים בהגשה.

• כפי שדווח על ידי הספק, ללא שחזור — כל ציון בנצ'מרק, כולל פער של 24 נקודות ב-BabyVision וה-72.2 ב-OfficeQA Pro V2.

• לא אומת — מה העלות. אין מחיר בשום מקום: לא ב-Hub, לא במדריך, לא במיקרו-אתר. כפתור "Try the API" מפנה אל discovery.intern-ai.org.cn, שהחזיר מעטפת כמעט ריקה לבקשה ללא JavaScript; לא יכולנו לקבוע מבחוץ אם ניתן לקרוא למודל שם, תחת איזה מזהה, או באיזה תעריף.

• גם לא מאומת — אם זה בכלל השקה, במובן שהמילה הזו נושאת בדרך כלל. אין הכרזה, אין מאמר תחת השם הזה, אין גישה לשותפים, וכרטיס מודל שסקריפט יכול היה לייצר.

איך להסתכל על זה בלי להמר על נתיב ייצור על סמך זה

השאלה המעשית עבור רוב הצוותים אינה „האם זה טוב יותר ממה שאני מריץ”, אלא „האם זה שווה שעה”. בנפח של 645 GB ב-bfloat16 זה לא משהו שמורידים למחשב נייד; נקודת הכניסה הכנה היא צומת 8×H200 שכור, אחר צהריים עם מדריך הפריסה, והשלמה עם העובדה שאתם מריצים מודל שאיש לא פרסם עבורו הרנס.

הניסוי הזול יותר, לפני כל זה, הוא לקרוא את שורת הארכיטקטורה כקיצור דרך. InternLM אומר במדריך שלו שהמודל בנוי על ארכיטקטורת GLM-5.3-Flash ושעליך לפעול לפי מתכוני ההגשה של Z.ai עבורו, תוך החלפת שם מאגר אחד בשם האחר. זה אומר שהארכיטקטורה הבסיסית — אותו מבנה 320B/18B, אותו קשב היברידי דליל וליניארי, אותה תקרת מיליון טוקנים — זמינה לבדיקה היום דרך API מתארח במקום דרך שמונה GPUs שעליך למצוא קודם. אם מודל הבסיס כבר מתנהג היטב עם המסמכים המדעיים שלך, המודל הנגזר הוא עידון ששווה את ההורדה. אם לא, חסכת לעצמך את סוף השבוע.

המקום שבו OrcaRouter אכן מצדיק את מקומו כאן הוא בפער שבין "אנחנו רוצים לנסות את זה" לבין "אנחנו יכולים לשרת את זה". מעבר אוטומטי בין שרתים מאפשר לך להעמיד נקודת קצה ניסיונית מאחורי מדיניות בלי להפוך אותה לנתיב היחיד: אם המודל החדש מחזיר קריאת כלי פגומה — ומדריך הפריסה אומר לך בדיוק איך זה יקרה, אם תדלג על הדגל או על הטלאי — הבקשה נופלת למודל שאתה כבר סומך עליו, ואתה שומר על ה-trace. זו דרך טובה יותר לאסוף ראיות מאשר סקריפט הערכה חד-פעמי, כי היא אוספת ראיות על תעבורה אמיתית.

מה יפתור את זה

שלושה אירועים, בסדר עולה של תועלת. כרטיס מודל יגיד לנו למה המעבדה חושבת שהמודל נועד, וסביר להניח שיישא את אותה טבלה שתקועה כרגע באחסון GitHub Pages. רשומה בלוח דירוג בלתי־תלוי תאפשר למישהו להפחית את שולי הספק ממערך בדיקה משותף. ומחיר — כל מחיר, בכל מקום — יהפוך את Sage-S2.1-Flash מהורדה להחלטה.

עד שאחד מאלה ינחת, התיאור המדויק הוא זה שהקבצים תומכים בו: MoE מולטימודלי גדול, ברישיון MIT, מכוונן מדעית, הבנוי על ארכיטקטורה ציבורית, שפורסם בלי מילה של הסבר, ושמחבריו עצמם עדיין מתקנים את מחסנית ההגשה. זה לא כלום. זה גם עדיין לא מוצר, וההבדל חשוב ביותר למי שיצטרכו להריץ אותו.