הגשת Beam 1.0 ביום אפס: מה המתכון של SGLang בעצם מקבע

צ'קפוינט שאפשר להוריד אינו מודל שאפשר לפרוס, והמרחק בין השניים נמדד בדרך כלל בשבועות של עבודת פריימוורק שעושה מי שחסר לו מספיק סבלנות לעשות אותה. Reflection Beam 1.0 הוא המקרה הנדיר שבו העבודה הזו הגיעה יחד עם המשקלים. Reflection הכריזה על המודל ב-5 באוקטובר 2026; ב-16 באוקטובר 2026 המשקלים, רישיון Apache 2.0, נקודת קצה של הצד הראשון ותמיכת יום-אפס בשבעה סטאקים של אינפרנס — כולם הגיעו יחד, ואחד מהסטאקים האלה — SGLang, שחשבון הפרויקט שלה עצמו אמר ב-16 בחודש שהיא משרתת את Beam בפרודקשן ב-Reflection — סיפק מתכון מפורט מספיק כדי להתווכח איתו.

המתכון הזה הוא הארטיפקט המעניין, יותר מאשר טבלת הבנצ'מרק. פוסט השקה מספר לך שמודל הוא טוב. מטריצת פריסה מספרת לך כמה זה עולה לגלות, ואיפה הבחירות שתעשה יקבעו בשקט את ההשהיה שלך. התיעוד של SGLang של Reflection Beam 1.0 הוא מחולל: אתה בוחר פלטפורמת חומרה ואסטרטגיה, והוא מפיק פקודת Docker מוצמדת. האפשרויות שהוא כופה עליך לעבור בהן הן החדשות האמיתיות לכל מי שמתכוון להריץ את זה במקום רק לקרוא לזה.

שלושת הצירים שהמתכון מסרב להסתיר

הדף מבקש פלטפורמת חומרה, אסטרטגיה וקוונטיזציה, ואז בונה את הפקודה. זהו מרחב החלטות קטן יותר ממה שרוב שחרורי המודלים מודים בו, ולכל ציר יש השלכה ממשית:

• פלטפורמת חומרה — B300, GB300 או H200. רכיבי Blackwell תומכים באופן מקורי ב-build של NVFP4; H200 הוא הנתיב של FP8 ו-BF16. זהו אותו סף מינימלי שמתארות הערות השחרור של Reflection, מנוסח מחדש כתפריט נפתח.

• אסטרטגיה — השהיה נמוכה או תפוקה גבוהה, וזה הציר שבו רוב הפריסות טועות כברירת מחדל. השהיה נמוכה מריצה מקביליות טנזורית עם DFlash2 drafter מופעל בגודל בלוק 8. תפוקה גבוהה מבטלת את DFlash2 לחלוטין.

• כימות — NVFP4, FP8 או BF16, שחייבים להתאים לפלטפורמה ולאסטרטגיה ולא להיות ניתנים לשילוב באופן חופשי.

שני הפריסטים של האסטרטגיה אינם חוג לכוונון ביצועים, אלא שינוי של אלגוריתם. פענוח ספקולטיבי מחליף חביון פענוח בעבודה נוספת של מודל טיוטה בכל צעד; בגודל בלוק 8 עם מודל טיוטה בעל 1.93 מיליארד פרמטרים, משתלם לבצע את ההחלפה הזו כשאתה משרת משתמש אחד בכל פעם, ומשתלם לסרב לה כשאתה עובד בבאצ'ים באגרסיביות. כיבוי DFlash2 במתכון לתפוקה גבוהה אינו ירידת דרגה, זו התשובה הנכונה לשאלה אחרת.

היכן שהמתכונים מפסיקים להיות ניתנים להחלפה

קראו מעבר להגדרות המוכנות מראש; הדף מתעד קומץ פיצולי תצורה שקיימים מסיבות חומרה ממשיות, וכדאי להכיר אותם לפני שתעתיקו את פקודת ה-Docker הראשונה שתראו:

• H200 BF16 מריץ TP8 עם שבר זיכרון סטטי אוטומטי. נקודת הביקורת של BF16 בגודל 933.81 GiB אינה נכנסת בפחות התקנים, ושבר הזיכרון מחושב ולא נחשף — מה שאומר שזהו המתכון היחיד שאתה לא יכול לכוונן ידנית בלי לצאת מהנתיב הנתמך.

• כל מתכון אחר משתמש במקביליות טנזורית ובנוסף ב-DPA. DPA כאן הוא סידור הקשב המקביל-לנתונים, שמנתק את הקשב מפיצול המקביליות של המומחים, וזו הסיבה לכך שהמתכונים שאינם BF16 מסוגלים לעבוד עם מספרי התקנים שה-BF16 אינו מסוגל.

• Blackwell NVFP4 מאפשר בנוסף מקביליות מומחים ו־FlashInfer MegaMoE. זהו השילוב שאליו מצביעים המדריכים של Reflection עצמה, והוא הופך לזמין רק כאשר נקודת הביקורת היא בנייה 4-ביט ארוזה בגודל 273 GiB ולא FP8 בגודל 468.72 GiB.

המסקנה המעשית: "אנחנו מריצים Beam 1.0 על SGLang" אינה אמירה על חומרה. שני צוותים יכולים לומר זאת בשעה שהם מריצים רמות דיוק שונות, פריסות מקבוליות שונות ואלגוריתמי פענוח שונים, והדרך היחידה להשוות מידע היא לציין את שלושתם.

מה שווה "יום אפס", ומה הוא לא.

תמיכה בפריימוורק ביום שבו המשקלים יוצאים לאור היא אות אמיתי, והוא סוג ספציפי של אות. התמיכה של SGLang ב-Beam 1.0 קיימת משום שהמהנדסים של Reflection עבדו עם קהילת SGLang לפני השחרור — זה מה שפרויקט SGLang אמר בפומבי ב-16 באוקטובר, וזה עולה בקנה אחד עם כך ש-Reflection ציינה את SGLang בין השותפים שלה מיום האפס לצד Transformers, vLLM, Unsloth, Axolotl, TokenSpeed ו-NVIDIA Dynamo, עם מתכונים כתובים ל-SGLang, vLLM ו-TokenSpeed בתוספת תרשים Helm ל-Kubernetes.

• מה זה מבסס — מסלול מתועד ומתוחזק מנקודת הביקורת שפורסמה ועד לנקודת קצה מוגשת, על חומרה בשם מוגדר, עם התייחסות לוריאנטים של קוונטיזציה. זה באמת יותר ממה שרוב המהדורות הפתוחות מצליחות לעשות בשבוע הראשון.

• מה שזה לא מוכיח — שהתצורה מיטבית, או שנתוני התפוקה שתקבלו זהים לאלה של אחרים. הטענה בדבר production-at-Reflection היא של הספק ושל הפריימוורק, כפי שמדווחים מי שמבצעים את ההגשה. לא ראינו שחזור עצמאי שלה, ולא פורסם בנצ'מרק של צד שלישי לפריסת Beam באירוח עצמי.

ההבחנה הזו חשובה כאן יותר מהרגיל, מפני שזהו מודל תערובת מומחים דלילה (sparse mixture of experts) בעל 501.3 מיליארד פרמטרים, שבו 23.4 מיליארד פרמטרים פעילים לכל טוקן, והערך כולו של הארכיטקטורה הוא שעלות ההגשה שלך היא שבריר משם המודל. תמיכת פריימוורקים היא מה שהופך את הטענה הזו מתרשים ארכיטקטורה לתקציב זיכרון. היא לא הופכת אותה לנתון תפוקה מדוד, ואף חומר ממקור ראשון שמצאנו לא מפרסם נתון כזה עבור הסקה — מספר הטוקנים-לשנייה הקונקרטי היחיד בפרסום מתאר כיוונון עדין מפוקח של LoRA על צומת בודד של 8 כרטיסי B300, שזהו שלב אימון, לא קצב הגשה.

דפוס הכשל שלמעשה יש לסטאק day-zero בהתארחות עצמית

יש דרך מסוימת שבה זה משתבש, וזה לא המודל. זה השבוע השני. תמונת Docker מוצמדת שנבנתה עבור קוונטיזציה אחת ופריסת מקביליות אחת אינה גיבוי לעצמה: אם לדראפטר יש אינטראקציה גרועה עם דפוס התעבורה שלך, אם עדכון מנהל התקן משנה את מה שנתח הזיכרון מקצה, או אם הקיבולת שלך נמצאת בתור מאחורי דייר אחר — לא נשארה לך תצורה לחזור אליה; יש לך השבתה שבתוכה יושב מודל בעל יכולות גבוהות במיוחד.

Beam 1.0 אינו אחד מהמסלולים שלנו, ולכן איננו יכולים לספק אותו עבורך, ואין לקרוא דבר כאן כהצהרת זמינות מטעמנו. מה שאנחנו כן יכולים לעשות הוא למקם את הגיבוי במקום שימושי. OrcaRouter מפעיל מפתח אחד תואם OpenAI על פני יותר מ-200 מודלים, כאשר מחיר המחירון של הספק מועבר הלאה בלי תוספת, עם מעבר אוטומטי בין ספקים בעת כשל, כך שפיילוט Beam באירוח עצמי שמפסיק להגיב הוא שינוי ניתוב ולא תקרית. המודלים שפריסת Beam מחליפה לרוב, ושניתן להגיע אליהם בדרך זו, מגיעים עם כרטיסי תעריפים מפורסמים:

• GLM-5.2 — 1.40 דולר למיליון טוקני קלט ו-4.40 דולר למיליון טוקני פלט, עם חלון הקשר של 1,000,000 טוקנים. המודל שמולו נמדדת הצהרת היעילות של Reflection עצמה, והתחליף הישיר ביותר לעבודת הקידוד ארוכת ההקשר של Beam.

• Kimi K3 — $3.00 למיליון טוקני קלט, $0.30 במטמון, $15.00 פלט עם חלון של 1,048,576 טוקנים. פוסט ההשקה של Reflection מודה ש-K3 עדיין מוביל ביכולת גולמית.

• Qwen3.8-Max — $2.00 לכל מיליון טוקנים בקלט ו-$6.00 בפלט בחלון של 1,000,000 טוקנים, האפשרות הקניינית בדרגת הדגל לצוותים שרוצים את היכולת בלי הראק.

מה שהמתכון עדיין לא מספר לך

שלושה פערים ראויים לציון, כי כל אחד מהם הוא החלטה שתקבל בסופו של דבר עם פחות מידע ממה שהיית רוצה.

הראשון הוא המחיר. נקודת הקצה של Reflection מתועדת ותואמת OpenAI, עם מאמצי חשיבה של max, xhigh, high, medium ו-low, חשיבה מחייבת המונהגת על ידי ברירת מחדל של max, ומגבלות פר-ארגון המשותפות לכל מפתח. אין תעריף מפורסם למיליון טוקנים, ולכן לא ניתן להשלים את טיעון היעילות של Beam 1.0 כתרגיל אריתמטי. מודל שתמיד מפעיל חשיבה וברירת המחדל שלו היא מאמץ מקסימלי מהווה הצעה מסחרית שונה בהתאם לשאלה אם טוקן הפלט מתומחר בדולר אחד או בעשרה.

השני הוא מדידה בלתי תלויה. Artificial Analysis מציינת את המודל עם Intelligence Index של 30, בלי נתון מהירות ובלי מחיר, ואינה מתעדת עבורו API זמין לציבור — כלומר הצהרה של צד שלישי שהמשטח המתארח עדיין אינו גלוי למי שמודדים את הדברים האלה. נקודת הנתונים היחידה של יעילות שנספרה באופן בלתי תלוי היא אמיתית: Beam ייצרה 79M אסימוני פלט לאורך ה-Intelligence Index של AA, לעומת חציון של 130M בקבוצת ההשוואה. זה תומך בטענה של "פחות אסימוני חשיבה". זה לא אומר לך באיזו מהירות האסימונים יוצאים.

השלישי הוא סחיפת גרסאות. המתכונים שפורסמו נכתבו מול צ'קפוינט מסוים ובילד מסוים של SGLang, והדרפטר הוא מאגר משל עצמו. כשאחד מהם משתנה, המתכון שנעצת באוקטובר הוא תצורה שאיש לא בדק בנובמבר. התייחס לפקודת Docker כאל נקודת התחלה עם תאריך תפוגה, לא כאל פריסה.

מי צריך לפעול בנוגע לזה עכשיו, ומי צריך להמתין

אם כבר יש לך קיבולת Blackwell, המתכון של SGLang באמת מספיק כדי להתחיל: ארבעה B300s הם תצורת הייחוס של NVFP4, חישוב הזיכרון פורסם, חבילת התאימות קיימת, והצד השלילי מוגבל לזמן הנדסי. אם אין לך את החומרה, החישוב עדיין לא נסגר, כי לאפשרות המתארחת אין מחירון להשוות מול רכישה הונית — ותמיכת הפריימוורק מהיום הראשון, טובה ככל שתהיה, אינה תחליף למחיר.

הדבר שכדאי לשים לב אליו אינו עוד פריימוורק שמכריז על תמיכה. זה המספר הראשון שפורסם ולא הגיע מ-Reflection או מפרויקט פריימוורק: מדידת תפוקה עצמאית על תצורה בעלת שם, או מחירון עבור נקודת הקצה של הצד הראשון. כל אחד מהם הופך את זה מניסוי מתועד היטב לסעיף תקציבי. עד אז, הקריאה הנכונה של 16 באוקטובר היא שההנדסה הקשה נשלחה לפי לוח הזמנים — והצד המסחרי הוא החלק שעדיין בבנייה.

שום דבר מזה אינו היפותטי: כשלי ה-AI המתועדים ותקריות הסוכנים העומדים מאחורי מהדורות כמו זו מרוכזים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה כוללת מקורות משלה, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.