כרטיס כותרת ראשי להשוואה בין 'Sage-S2.1-Flash ל-Qwen 3.8 Flash', עם כתובית המשנה 'לאחד יש מחירון. לאחר יש 645 GB של משקולות וכרטיס מודל ריק', שלושה כרטיסים עם הכיתוב '321B בסך הכול / 18B פעילים', '645 GB BF16 / 8x H200 להרצה' ו-'/bin/bash.15 קלט / /bin/bash.47 פלט לכל מיליון טוקנים', ופוטר שמציין כי נתוני Sage-S2.1-Flash מגיעים ממאגר ה-Hugging Face שלו, ומחיר המחירון של Qwen 3.8 Flash מ-QwenCloud ב-16 בנובמבר 2026; הלוגו של OrcaRouter מוטמן בפינה הימנית התחתונה.
Guides & Insights

Sage-S2.1-Flash לעומת Qwen 3.8 Flash: שמונה H200 מול חמישה עשר סנט

מחבר

Gideon Frost

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

כרטיס המודל של Sage-S2.1-Flash באורך עשרים ואחד בתים. הוא נפתח בכותרת רישיון, מציין license: mit, ומסתיים. אין הקדמה, אין טבלת בנצ'מרקים, אין אורך הקשר, אין שימוש מיועד, אין כתובת ליצירת קשר. המאגר עצמו אינו ריק — 120 שברים של משקולות bfloat16, כ-645 GB מהם, בתוספת קובץ תצורה, תבנית צ'אט, מדריך פריסה וחמישה תיקיות מתאם מדעיות קטנות — אבל כל מה שקורא היה משתמש בו בדרך כלל כדי להחליט אם אכפת לו הושמט. המשקולות הועלו ב-15 בנובמבר 2026 ותוקנו עד ה-16. InternLM, ארגון המודלים של Shanghai AI Laboratory, לא הודיע דבר: אין פוסט בבלוג, אין מאמר, אין פרסום באתר של המשפחה עצמה. בזמן כתיבת שורות אלה המאגר מציג אפס הורדות בחודש, לייק אחד, ואין ספק אינפרנס שמשרת אותו.

Qwen 3.8 Flash הוא סוג הפוך של אובייקט. A​libaba מוכרת אותו דרך QwenCloud מאז 26 באוגוסט 2026 במחיר של 0.15 דולר למיליון טוקני קלט ו-0.47 דולר למיליון טוקני פלט, פרסמה את מגבלות הקצב ואת רשימת הכלים שלו, שחררה משקלים פתוחים תחת השם Qwen3.8-Flash-Next, והציבה בכרטיס הזה טבלת בנצ'מרקים בת שתים עשרה שורות. הוא פעיל ב-OrcaRouter בתור qwen/qwen3.8-flash במחיר המחירון של הספק עצמו. אפשר לשלוח לו בקשה בשלושים השניות הקרובות.

אז זו לא השוואה בין שני מודלים שאפשר לקנות. זו השוואה בין מודל מתארח זול עם מחיר מפורסם לבין תערובת מומחים עם משקולות פתוחות בעלת 321 מיליארד פרמטרים, בלי מחיר, בלי ציון ובלי הכרזה — והשאלה הכנה היא לא איזה מהם טוב יותר, כי אף אחד עדיין לא יכול לענות על זה. היא האם הקמת שמונה כרטיסי H200 עבור זה שלא נמדד היא שימוש טוב יותר בכסף מאשר לשלם חמישה עשר סנט למיליון טוקנים עבור זה שנמדד, ועבור כמה צוותים התשובה לכך היא בכלל כן.

מה שהמאגר Sage-S2.1-Flash למעשה מוכיח

עובדות תחילה, משום שיש יותר מהן ממה שהכרטיס הריק מרמז. מספר הפרמטרים באינדקס המשקלים הוא 321,323,031,390, ומדריך הפריסה מעגל זאת ל־"320B-A18B" — 320 מיליארד בסך הכול, 18 מיליארד פעילים לכל טוקן. תצורת הטקסט כוללת 45 שכבות, מהן 34 שכבות קשב ליניארי מסוג gated delta-net ו־11 שכבות קשב דליל בשושלת D​eepSeek, עם 288 מומחים מנותבים, שמונה מהם ועוד מומחה משותף אחד מופעלים לכל טוקן, גודל חבוי של 4,096 ואוצר מילים של 154,880 טוקנים. הטמעות מיקום מקסימליות מוגדרות ל־1,048,576.

A two-column comparison scoreboard titled 'Sage-S2.1-Flash vs Qwen 3.8 Flash — the scoreboard': the left column Sage-S2.1-Flash reads Parameters '321B total, 18B active', Context '1,048,576 configured', Input price 'no hosted endpoint', Output price 'no hosted endpoint', Licence 'MIT, ungated', Published benchmarks 'none'; the right column Qwen 3.8 Flash reads Parameters '125B plus 51B n-gram, 6B active', Context '1,000,000 tokens', Input price '$0.15 per 1M', Output price '$0.47 per 1M', Licence 'Qwen community licence', Published benchmarks '12 rows, unreproduced'; the footer reads 'Sage-S2.1-Flash figures read from its repository; Qwen 3.8 Flash per Alibaba, vendor-reported.'; the OrcaRouter logo is composited in the bottom-right corner.

הרישיון הוא MIT, ללא תוספת שימוש מקובל במאגר. שווה לעצור על זה: מודל MoE מולטימודלי בגודל 321B תחת רישיון מתירני, בלי בקרת גישה להורדה, הוא עצם נדיר יותר מכפי שהשתיקה סביבו מרמזת.

הקו המשפחתי ניתן לבדיקה ומעט מפתיע. מחרוזת הארכיטקטורה היא glm5_next, המחלקה היא Glm5NextForConditionalGeneration, ומדריך הפריסה אומר במפורש שהמודל משתמש בארכיטקטורת GLM-5.3-Flash ושמתכוני המסגרת שיש לפעול לפיהם הם הרשמיים של GLM-5.3-Flash, עם החלפת נתיב המודל. ה-Sage-S2.1 הוותיק והגדול יותר — 753B פרמטרים, ארכיטקטורת glm_moe_dsa, שעדיין נושא כרטיס מודל "Atria Dawn" שמתאר אותו כבנוי על עמוד שדרה GLM-5.2 בן 744B — הוא דור אחר לגמרי של עמוד שדרה. Flash אינו S2.1 מזוקק. זהו מודל חדש וקטן יותר, הבנוי על ארכיטקטורה חדשה יותר ממעבדה אחרת, ועוטה את אותו שם משפחה.

שם המשפחה הזה הוא בעצמו מטרה נעה. המאגר הישן internlm/Atria-Dawn מפנה כעת אל internlm/Sage-S2.1, ובכרטיס של יעד ההפניה עדיין כתוב "Atria Dawn" בכל כותרת — שינוי השם התרחש בלי שהתיעוד עודכן בהתאם. כל מי שקרא את הסיקור של Atria Dawn מוקדם יותר השנה וכעת מחפש את "Sage" צריך להבין שאלה אותו מאגר תחת שני שמות, ושה-Flash הוא האח החדש והרזה יותר שלו.

המתאמים המדעיים הם החלק במאגר שאף הודעת ספק לא הייתה מסבירה בכל מקרה. תחת projectors/sage-s2.1-flash/ נמצאות חמש תיקיות קטנות — cif/jarvis, dna/splice, ecg/phu01, eeg/neu06, protein-seq/mpbind — שכל אחת מכילה קובץ תצורה ופרויקטור בגודל ארבעה עד עשרים ושמונה מגה-בייט, הממפה זרם תכונות מדעי אל המרחב ברוחב 4,096 של עמוד השדרה. מבנים גבישיים עוברים דרך מקודד CHGNet 0.3.0, מצב אחד בן 64 ממדים לכל אטום. רצפי חלבון עוברים דרך ESM2-t33-650M, מצב אחד מהשכבה האחרונה לכל שארית. מתאם ה-DNA הוא קורא DNABERT2 מותאם למשימה על גבי שלוש תכונות; מתאמי ה-ECG וה-EEG קטנים באופן דומה וייעודיים למשימה. עלות המשקל הכוללת לכל החמישה: מתחת ל-90 MB, לעומת 645 GB עבור מודל השפה.

קבצי התצורה האלה גם חושפים את המקור שכרטיס המודל הסתיר. הם מציינים את תיקיית נקודת הבידוק של ה-backbone, את חותמות התאריך של ריצות האימון, ואת טביעת האצבע sage-s2.1-flash-hf111-bf16-norm-261113 — 13 בנובמבר 2026, יומיים לפני שהמשקלים הופיעו. כך נקבע כאן המוצא: לא מהודעה לעיתונות, אלא משדה תצורה שהאריזה שכחה להסיר.

מה Qwen 3.8 Flash מפרסם, ומה הוא לא מפרסם

הניגוד אינו בכך ש-Qwen ישר ו-Sage לא. הניגוד הוא שספק אחד מתעד את המוצר שלו והשני פשוט עוד לא הגיע לזה. כרטיס המוצר של Alibaba עבור Qwen 3.8 Flash מפרט חלון הקשר של 1,000,000 טוקנים עם קלט מרבי של 991,000 טוקנים, פלט מרבי של 131,072 טוקנים ותקציב חשיבה של 262,144 טוקנים; קלט מולטימודלי של טקסט, תמונה ווידאו עם פלט טקסט; קריאה לפונקציות, פלט JSON מובנה, השלמת קידומת, מטמון הקשר, עיבוד באצוות וכיוונון עדין; וגם פרוטוקולי בקשות של OpenAI ושל Anthropic, ולכן הוא משתלב ב-Claude Code וב-Codex ללא שינוי.

הארטיפקט עם המשקולות הפתוחות שעומד מאחוריו הוא Qwen3.8-Flash-Next, שפורסם ב-24 באוגוסט 2026: 125 מיליארד פרמטרים, מתוכם 6 מיליארד פעילים, ובנוסף טבלת הטמעות n-gram בגודל 51 מיליארד וראש חיזוי רב-אסימוני בגודל 4 מיליארד, 48 שכבות המסודרות כשתים-עשרה חזרות של שלושה בלוקי gated-delta-net ובלוק sparse-attention אחד, 512 מומחים עם עשרה מנותבים ועוד אחד משותף פעיל לכל אסימון, ו-262,144 אסימונים של חלון הקשר מקורי הניתן להרחבה למיליון. Alibaba מתארת את Qwen 3.8 Flash המתארח כארכיטקטורה הזו בתוספת תכונות ברמת ייצור — חלון ברירת המחדל של מיליון והכלים המובנים הם התוספות. המשקולות מופצות תחת רישיון קהילת Qwen, ולא תחת MIT.

טבלת הבנצ'מרקים בכרטיס הזה מדווחת על ידי הספק ולא שוחזרה באופן עצמאי. קראו אותה כשהיא נושאת את התווית הזו: DeepSWE 1.1 ב-58.7, SWE-bench Pro ב-62.5, SWE-bench Multilingual ב-81.0, NL2Repo-Bench ב-48.1, CoWorkBench ב-73.9, JobBench ב-55.7, Toolathlon Verified ב-73.5, IFBench ב-81.3, GPQA Diamond ב-91.7, HLE ב-35.9, LiveCodeBench v6 ב-91.9, ו-Agents' Last Exam ב-24.3 pass@1 עם ציון 51.2. המספרים האלה הם A​libaba שמסמנת את שיעורי הבית של עצמה על פני סט השוואה שכולל קודם בנפח 397B ומודל Claude. הם עדיין הרבה יותר ממה ש-Sage-S2.1-Flash מציע, וזה כלום.

A screenshot of the Hugging Face repository page for internlm/Sage-S2.1-Flash, captured in English on 16 November 2026, showing the YAML frontmatter line 'license: mit', the Safetensors format tag with the repository's parameter count, and the file listing that includes the chat template, on a repository whose model card has no description, no benchmark table and no intended-use statement.

הצבו את השניים זה לצד זה בממדים שהחלטת רכישה באמת תלויה בהם:

• סך הפרמטרים — Sage-S2.1-Flash 321B, מתוכם 18B פעילים לכל טוקן, לעומת Qwen 3.8 Flash 125B בתוספת טבלת n-gram של 51B, מתוכם 6B פעילים

• הקשר — 1,048,576 אסימונים מוגדרים לעומת 1,000,000 שפורסמו, עם קלט מקסימלי של 991,000 ופלט מקסימלי של 131,072 בצד של Q​wen

• מחיר קלט — ל-Sage-S2.1-Flash אין כזה, כי אין מי שמגיש אותו, לעומת $0.15 למיליון טוקנים

• מחיר פלט — אין מול $0.47 למיליון, עם קריאות מהמטמון ב-$0.0184 למיליון ברשימה שלנו

• רישיון — MIT, ללא הגבלת גישה, לעומת רישיון הקהילה של Qwen

• הערכה שפורסמה — אפס מדדי השוואה לעומת טבלת ספק בת שתים עשרה שורות, ללא שחזור

• משקלי הגשה — 645 GB ב-bfloat16 על פני 120 שברים, או 328 GB בגרסת ה-FP8 האחות, לעומת נקודת קצה מתארחת

השוואת המחירים שהיא בעצם שאלה של הוצאות הון

אין מחיר לכל טוקן עבור Sage-S2.1-Flash שאפשר להשוות מול $0.15, מפני שלמודל אין נקודת קצה מתארחת בשום מקום. מה שיש לו הוא דרישת הרצה: שמונה כרטיסי H200 עבור ה-checkpoint בפורמט bfloat16, לפי תצורת הייחוס של מדריך הפריסה עצמו. לכן ההשוואה אינה סנטים מול סנטים, אלא שכירות מול טוקנים, והיא מסתכמת במספר בודד שאיש לא פרסם.

ניקח דוגמה מייצגת של 3 דולר לשעת GPU עבור H200 — זו הנחה, לא הצעת מחיר, והנתון משתנה לפי ספק הענן ולפי ההתחייבות. שמונה מהם הם 24 דולר לשעה, 576 דולר ליום, כ-17,500 דולר בחודש לפני שטופלה אפילו בקשה אחת. לפי התעריפים של Alibaba, ב-576 דולר אפשר לקנות 3.84 מיליארד טוקני קלט או 1.23 מיליארד טוקני פלט. אז שאלת נקודת האיזון היא האם התעבורה שלך הייתה מוציאה אחרת יותר מ-576 דולר ביום על Qwen 3.8 Flash — בערך שווי של 3.8 מיליארד טוקני קלט, בכל יום, באופן מתמשך.

ההשוואה הזו תקפה רק אם יודעים כמה טוקנים לשנייה Sage-S2.1-Flash מפיק על שמונה H200. איש לא מדד זאת והמאגר לא אומר. מספר הפרמטרים הפעילים נותן אינטואיציה גסה — 18B פעילים לעומת 6B פעילים מרמזים שהמודל Sage עולה בערך פי שלושה מחשוב לכל טוקן שנוצר — אבל אינטואיציה אינה נתון תפוקה, ובלעדיו לחישוב נקודת האיזון לעיל יש נעלם בשני האגפים. גרסת ה-FP8 האחות מקטינה את המשקל הנמצא בזיכרון מ-645 GB ל-328 GB, מה שמשנה איזו חומרה נדרשת לך; היא לא אומרת באיזו מהירות התוצאה פועלת.

עבור רוב הצוותים, האי-ודאות הזו היא כל הטיעון. מודל שאי אפשר למדוד את התפוקה שלו הוא מודל שאי אפשר לתמחר, ומודל שאי אפשר לתמחר אינו מועמד למסלול ייצור — הוא אובייקט מחקרי. זו אינה ביקורת על השחרור; לזה נועדה השקה לא מוכרזת.

אסימטריית הראיות, בניסוח פשוט

שני מודלים, שני אופני כשל של ראיות. ל-Qwen 3.8 Flash יש מדדי ביצועים שדווחו על ידי הספק ושמונים ושניים ימים של שימוש על ידי צד שלישי, כלומר המספרים שלו אינם מבוקרים, אבל ההתנהגות שלו לפחות ניתנת לצפייה: יש אנשים שמריצים אותו, מדווחים עליו ומגיעים לגבולות שלו בפומבי. ל-Sage-S2.1-Flash אין אף אחד מהשניים. 645 ה-GB של משקולותיו הם ראיה למודל אמיתי יותר מאשר הדלפה או צילום מסך — זהו ארטיפקט ששוחרר, לא שמועה — אבל משקולות הן ראיה לקיום, לא לאיכות.

הדברים הספציפיים שנותרים בלתי־ידועים היום: מה Sage-S2.1-Flash משיג בכל דבר; כמה מהר הוא מפענח; האם הטמעות המיקום בנות ה־1M שלו מחזיקות מעמד באורכים ארוכים או מתדרדרות כפי שרוב הרחבות ההקשר הארוך עושות; האם מגדל הראייה בתצורה שלו מאומן לרמת ייצור או נלקח מהשלד; האם המקרנים המדעיים מוערכים על משהו מעבר להתפלגויות האימון של עצמם; ומה InternLM מתכננת לגבות, אם בכלל, עבור גרסה מתארחת. המאגר לא עונה על אף אחד מאלה. כל מי שאומר לך אחרת מסיק מהמוניטין של השלד, וזהו פריאור סביר ולא מדידה.

למה המודל באמת מיועד

המקרנים הם הסימן המסגיר. איש לא מחבר חמישה מתאמי מודאליות מדעיים למודל צ'אט כללי כהרהור בדיעבד; מבנה התיקיות, תבניות הפרומפט לכל משימה ובחירות המקודד מתארים מודל שנבנה לקרוא גבישים, אתרי שחבור, עקבות לב, עקבות מוח ורצפי חלבון כקלטים ממדרגה ראשונה ולא כתיאורים טקסטואליים שלהם. מבני גביש עוברים טוקניזציה כמצבי אטום עם תקרה של 512 אטומים; רצפי חלבון נושאים מצבים לכל שארית עם ראש קריאה מדעי אופציונלי; מתאם ה-DNA הוא קריאת הסתברות מעל אובייקט יחיד.

Qwen 3.8 Flash לא עושה זאת. הוא קורא תמונות, וידאו וטקסט, והוא עושה זאת עם מספרים שפורסמו בבנצ'מרקים חזותיים — CharXiv, MathVision, ERQA, LVBench, OSWorld 2.0 — אבל סריג גביש שמוצג כ-PNG אינו סריג גביש. אם עומס העבודה שלך הוא ביולוגיה מבנית, סינון חומרים או ניתוח אותות פיזיולוגיים, הקריאה הכנה היא ששני המודלים האלה לא מתחרים על אותו תפקיד, וההשוואה ל-Qwen היא עוגן מחיר ולא תחליף. אם עומס העבודה שלך הוא טקסט וקוד, המקרנים אינם רלוונטיים ו-Sage-S2.1-Flash הוא מודל צ'אט של 321B ללא כרטיס.

אזהרה אחת בנוגע לשאלת המולטימודליות, משום שהתצורה מזמינה פרשנות יתר. המאגר מכיל מגדל חזותי בעל 24 שכבות בגודל מוסתר 1,024, עם קלט בגודל 448 פיקסלים וטלאים בגודל 14 פיקסלים, אסימוני התחלה וסיום לתמונה ולווידאו, ותבנית צ'אט עם חריצים לתמונה, לווידאו ולשמע. אך התבנית היא התבנית של משפחת GLM-5.3, לחריצי השמע אין תצורת שמע מתאימה, וההוראה היחידה במדריך הפריסה הספציפית למדיה נוגעת לתמונות שמגיעות בתוך תוצאות כלים. התייחס למגדל כאל קיים ולא מתועד: המשקלים בנויים לקלוט יותר מטקסט, ומה שהגרסה מייעדת שתזין לו אינו מפורש.

החיכוך, שאינו אפס

אירוח עצמי של Sage-S2.1-Flash אינו עניין של להפנות את vLLM אל מאגר. שלוש דרישות מגיעות ממדריך הפריסה, והשנייה שבהן היא המסורבלת.

‏--trust-remote-code הוא חובה בכל מנוע — המאגר מגיע עם טוקנייזר ומעבד משלו, ובלי הדגל המנועים טוענים בשקט טוקנייזר סטנדרטי שמקודד מחרוזות כמו <tool_call> כטוקנים של בקרה ולא כטקסט, וכך נשברים ההיסק וקריאות הכלים בלי שום אזהרה

• vLLM 0.33.0 זקוק לטלאי מסופק עבור vllm/renderers/hf.py, משום שכאשר תוצאות של כלים מקבילים חוזרות שלא לפי סדר הקריאות, התבנית מציגה אותן לפי סדר הקריאות בעוד ש-vLLM אוסף את התמונות שלהן לפי סדר ההודעות, ומשיֵך בשקט כל תמונה לתוצאה השגויה; התיקון במעלה הזרם הוא עדיין בקשת משיכה במצב טיוטה

• LMDeploy זקוק ל-transformers בין 5.17 ל-5.19, מכיוון ש-5.19 משנה את שם סוג השכבה שהמנוע לא יקבל; SGLang זקוק ל-0.5.20 ואילך, בתוספת תבנית הצ'אט של המאגר שמועברת באופן מפורש, מכיוון שאחרת SGLang מתקין תבנית מובנית משל עצמו עבור הארכיטקטורה

כל אחד מאלה הוא פתרון עוקף מתועד למודל בן יום אחד, והמדריך גלוי לב שהמסגרות עדיין בתנועה. שום דבר מזה אינו בלתי סביר; כל זה זמן הנדסה ש-Qwen 3.8 Flash אינו דורש, מפני שבצד המאוחסן זה כתובת בסיס ומפתח API.

מפתח אחד, שתי רמות מחויבות שונות מאוד

Qwen 3.8 Flash נמצא ב-OrcaRouter כ-qwen/qwen3.8-flash במחיר המחירון של Alibaba בהעברה ישירה ללא תוספת מחיר — $0.15 למיליון טוקני קלט, $0.47 למיליון טוקני פלט, $0.0184 למיליון קריאות ממטמון, הקשר של 1,000,000 טוקנים ותקרת פלט של 131,072 טוקנים. העמוד של QwenCloud עצמו מציין $0.016 עבור וריאנט המטמון המשתמע; כלל ההעברה הישירה אומר שכל מה ש-Alibaba משנה, תקבלו באותו יום ולא בחידוש החוזה הבא. Sage-S2.1-Flash אינו נמצא בקטלוג ואין שירות שמגיש אותו, ולכן אין כאן מסלול אליו ואין סיבה להעמיד פנים אחרת.

A screenshot of the OrcaRouter model page for qwen/qwen3.8-flash, captured in English on 16 November 2026, showing the model name and model id, the per-million-token input and output pricing, the context window and maximum output limits, and the API access details for the model.

מה ששכבת הניתוב באמת טובה בו במצב הזה הוא לשמור שההערכה תהיה זולה והפיכה. הרץ את ניסוי Sage על החומרה שלך אם יש לך אותה, השאר את Qwen 3.8 Flash כמסלול הייצור, ותן לשרשרת גיבוי לעמוד מאחורי הנתיב החדש כך שמודל עם כרטיס ריק לעולם לא יהפוך לנקודת כשל יחידה ביום הראשון שבו הוא מטפל בתעבורה אמיתית. אותו רעיון חל על השאלה הקשה יותר — מיזוג מודלים, שבו פאנל עונה על הנחיה אחת עם כמה מודלים ושופט מיישב ביניהם, הוא הדרך הזולה ביותר לגלות אם MoE מדעי בגודל 321B שווה את שכר הדירה שלו: לא מהגרים, שואלים את שניהם, וקוראים את התשובות.

מי צריך לבחור מה

אם אתם משחררים טקסט או קוד ברבעון הזה, Qwen 3.8 Flash הוא התשובה הניתנת להגנה, ו-Sage-S2.1-Flash אינו תשובה בכלל. מודל Qwen זול יותר לכל טוקן מכמעט כל דבר ברמת היכולת שלו, מתועד היטב מספיק כדי לתכנן לפיו, ברישוי ברור מספיק כדי לפרוס אותו, וניתן לצפייה בפומבי. המדדים שלו הם של Alibaba עצמה ויש להתייחס אליהם כטענות, אבל טענה ועוד שמונים ושניים ימים של ניסיון של אנשים אחרים עדיפה על שתיקה ועוד שלושה ימים של ניסיון של אף אחד.

אם אתם עוסקים בביולוגיה מבנית, עיצוב חלבונים, חומרים או אותות פיזיולוגיים, החשבון מתהפך. חמשת הפרויקטורים במאגר Sage-S2.1-Flash הם יכולת שאף Qwen 3.8 Flash וגם רוב המודלים הפתוחים לא מציעים בכל מחיר, הרישיון הוא MIT, ודרישת החומרה — שמונה H200, או פחות עם נקודת הביקורת FP8 — היא מסוג העלות שקבוצת מחקר כבר נושאת. הצעד הנכון הוא להוריד אותו, להריץ את בדיקות הפרויקטורים בצד ה-CPU שהמאגר מספק, ולמדוד את שני הדברים שהוא לא אומר לכם: תפוקת פענוח על החומרה שלכם, ודיוק על סט ה-held-out שלכם. זהו שבוע עבודה וזו הדרך היחידה שהמודל הזה יהפוך להחלטה ולא לסקרנות.

המקרה השלישי הוא הגדול ביותר. אם אתם רק סקרנים, היציבה הנכונה היא להמתין לכרטיס מודל. כאשר InternLM תפרסם אחד, המספרים החשובים יהיו אלה שהמאגר הזה אינו יכול לספק — תפוקה, הידרדרות בהקשר ארוך, האם מגדל הראייה פעיל, ומה המקרנים משיגים מחוץ להתפלגויות האימון שלהם. עד אז, Sage-S2.1-Flash הוא ארטיפקט אמיתי עם מפרט שלא נקרא, והדבר השימושי ביותר בו הוא שהמשקלים קיימים, אינם חסומים, והם MIT — כלומר, כאשר מישהו ימדוד אותו, לא תזדקקו לאישור כדי לבדוק את עבודתו.

השוואות במאמר הזה2

זוהה מתוך המאמר הזה · בנצ'מרקים: Artificial Analysis · מתעדכן יומית