כרטיס הירו מחולל שכותרתו "Beam 1.0 - המתמטיקה של הגשה בארבעה GPUs" עם כותרת המשנה "501.3B סה״כ, 23.4B ערים לכל טוקן". שלושה כרטיסים מעוגלים יושבים זה לצד זה: הראשון מציג '273 GiB', '4x B300 SXM, NVLink', 'גרסת הייחוס'; השני מציג '468.72 GiB', 'פועל על 8x H200', 'E4M3, ModelOpt'; השלישי מציג '933.81 GiB', '8x B200 או B300', '188 שברי safetensors'. שורת כותרת תחתונה מציגה "מתכוני הגשה שומרים את מטמון ה-KV ב-FP8 E4M3 עם דף של 64 טוקנים.". הלוגו של OrcaRouter מורכב ברצועה שמתחת לאיור, בפינה הימנית התחתונה.
Guides & Insights

Beam 1.0 על ארבעה B300s: מתמטיקת ההגשה, וטענת התפוקה שאיש לא פרסם

מחבר

Elias Hawthorne

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

המספר ששווה להתעכב עליו ב-ReflectionBeam 1.0 השחרור אינו 501 מיליארד. הוא ארבעה. מודל עם 501.3 מיליארד פרמטרים סה"כ ו-23.4 מיליארד פעילים לכל טוקן מתאים כעת לשרת בודד עם ארבעה GPUs של NVIDIA B300 על NVLink, והמרחק בין שני המספרים הללו — כ-4.7 אחוזים מהמודל ערים בכל טוקן נתון — הוא הסיבה היחידה לכך שצ'קפוינט בגודל זה ניתן להורדה על ידי כל מי שאינו מחזיק באשכול. Reflection פרסמה את המשקלים ב-16 באוקטובר 2026 תחת Apache 2.0, וחומר ההשקה ספציפי באופן יוצא דופן לגבי מה שנדרש כדי לשרת אותם: ארבעה GPUs B300 על NVLink עבור גרסת NVFP4, שמונה H200s עבור FP8, ושמונה B200s או B300s עבור BF16. טבלת החומרה הזו מעניינת יותר מטבלת הבנצ'מרקים, כי זה החלק שקורא יכול למעשה לבדוק מול דף הרכש שלו.

זה גם החלק שמבדיל את Beam 1.0 מהמודלים שכנגדם הוא נמדד. Kimi K3 ו-GLM-5.2 מוגשים מאחורי APIs והמשקלים שלהם או שאינם ציבוריים או שהם מגיעים עם סט תנאים שונה; Qwen3.8-Max הוא קנייני ברמת הדגל. הטענה השיווקית של Beam היא שהחצי הקשה של אותה עסקה — מודל סמוך לחזית הזמין להורדה — הושק, ושעלות ההגשה היא ארון שרתים ולא מרכז נתונים.

מה בעצם נחת ב-16 באוקטובר

הפוסט של Reflection "Beam זמין כעת" מתוארך ל-16 באוקטובר 2026, אחד עשר יום לאחר שהמודל הוכרז ב-5 באוקטובר. ארבעה ארטיפקטים שוחררו, ורמות הדיוק חשובות יותר מהכותרת:

• BF16 — 501.3B פרמטרים, 933.81 GiB בדיסק, 188 פלחי safetensors. דיוק הייחוס; העמודה הראשונה בטבלת הבנצ'מרק.

• FP8 — אותו מספר פרמטרים ב-E4M3, 468.72 GiB. עבר קוונטיזציה עם NVIDIA ModelOpt. מומלץ עבור Hopper וחומרה ישנה יותר.

• NVFP4 — בילד 4-ביט ארוז בנפח 273 GiB. זהו הבילד שמדריכי ההגשה של Reflection עצמה אומרים לך להוריד, והיחיד שרץ באופן נייטיבי על Blackwell ללא קנס דה-קוונטיזציה.

• DFlash2 — מודל טיוטה לפענוח ספקולטיבי עם 1.93B פרמטרים, שפורסם כמאגר משל עצמו ומשולב בפקודות הדוגמה כקבוצת משקולות נפרדת.

הארכיטקטורה שמאחורי אותם צ'קפוינטים היא תערובת דלילה של מומחים: 52 שכבות, מהן 3 צפופות ו-49 הן MoE, 256 מומחים בכל שכבת MoE, תשומת לב מקובצת של שאילתות עם שער (gated grouped-query attention) המשולבת עם תשומת לב בחלון מחליק (sliding-window attention), ואוצר מילים של 152,000 טוקנים. טקסט נכנס, טקסט יוצא, חלון הקשר של 1M טוקנים בכרטיס המודל, 131,072 טוקנים של פלט מקסימלי ב-API. חיתוך הידע: 30 ביוני 2026.

Screenshot of the Hugging Face model card for Reflection's Beam-1.0-501B-A23B-NVFP4 repository, showing the Apache 2.0 licence badge, the tags TextGeneration, Safetensors, English, mixture-of-experts, reasoning, code, tool-use, nvfp4, conversational and 8-bit precision modelopt, 24 likes and 864 downloads in the last month, a model size of 255B parameters in the safetensors panel, the model card opening on Beam as an open model built by Reflection that takes text in and generates text out, and the note that the release also includes BF16 and FP8 checkpoints.

נתון התפוקה שאינו בתיעוד

מספר מסתובב עם השחרור הזה מאז היום הראשון: יותר מ-70,000 אסימוני פלט לשנייה לכל GPU על Blackwell Ultra. זה נתון מושך וכדאי להיות מדויקים לגבי היכן הוא כן מופיע והיכן לא. הוא לא נמצא בפוסט ההשקה של Reflection, לא בכרטיס המודל, לא בהערות השחרור של Hugging Face, ולא בתיעוד המפתחים. לא הצלחנו למצוא אותו באף מקור צד ראשון.

מה שחומרי הספק אכן מתעדים הוא יחסי ולא מוחלט. טענת היעילות היחידה בכרטיס המודל היא ש-Beam "מגיע לאיכות פתרון דומה לזו של מודלים פתוחים מובילים תוך שימוש בפחות פי 3 בערך באסימוני חשיבה בזמן הסקה", ופוסט ההשקה מנסח את אותו רעיון כ"יותר אינטליגנציה לכל אסימון". המספר היחיד בצורת תפוקה שהשחרור כן מפרסם הוא האצה נמדדת ולא קצב: רכיב ה-drafter DFlash2 מעלה את מהירות הפענוח פי 1.7 עד 3.0 לעומת Beam לבדו, כפי שנמדד על ה-checkpoint NVFP4 על פני ארבעה B300s, עם אורכי קבלה של 4.11 עד 5.88 אסימונים מתוך מקסימום של שמונה. זהו יחס ביחס לקו הבסיס של Beam עצמו, כך שהוא אינו אומר דבר על אסימונים מוחלטים לשנייה ל-GPU — הוא לא יכריע את הנתון של 70,000 לכאן או לכאן.

יש אות עצמאי אחד לכך שטענת היעילות אינה רק שיווק. Artificial Analysis מדדה את Beam 1.0 ב-79M אסימוני פלט לאורך ה-Intelligence Index, לעומת חציון של 130M עבור המודלים שאיתם היא משווה — במקום ה-10 מתוך 46 במדד הזה. זהו צד שלישי שסופר אסימונים שנוצרו ומוצא ש-Beam חסכונית יותר מרוב השדה, וזו טענה חלשה יותר מנתון תפוקה לכל GPU, אך כזו שנתמכת הרבה יותר.

Screenshot of the SGLang Cookbook documentation site showing Beam 1.0 listed under the Reflection heading with a New badge among the autoregressive-model vendors, and the deployment panel below it offering Blackwell NVFP4, FP8 and BF16 recipes on B300, GB300 and H200 hardware, with the generated Docker command setting page-size 64, context-length 1048576 and the DFlash2 drafter at block size 8.

מה ארבעה B300 בעצם נותנים לך, בזיכרון

תיעוד ההגשה הוא הדבר השימושי ביותר ש-Reflection פרסמה, מפני שהוא עונה על שאלות שטבלת בנצ'מרק לעולם אינה שואלת. שלושה מספרים בולטים.

• טביעת הרגל של מטמון ה-KV — מתכוני vLLM ו-NVIDIA Dynamo משתמשים כברירת מחדל במטמון FP8 E4M3 עם גודל דף של 64 טוקנים, ומתכון vLLM מציין שזה מכפיל לכ-14M עד 28M טוקנים של הקשר שניתן למטמון על שמונה כרטיסי H200 שמריצים את צ'קפוינט ה-FP8. זה המספר שלפיו יש להתאים את גודל הפריסה; תוכנית עם שלושה GPUs תיכשל הרבה לפני שהמטמון ייכשל.

• נקודת הבדיקה NVFP4 מכמתת רק את המומחים המנותבים. Attention, ‏MLP-ים צפופים, ה-router, ה-embeddings וה-LM head נשארים ב-BF16, וזו הסיבה לכך שהקובץ הוא 273 GiB ולא כ-250 ש-4-bit מלא היה מניב. על Blackwell זה רץ W4A4; על Hopper, ‏vLLM מגיש את מומחי ה-FP4 דרך Marlin עם הפעלות BF16.

• צ'קפוינט NVFP4 על ארבעה B300s הוא תצורת הייחוס, והמתכון של SGLang מסופק כתמונת Docker נעולה עם מקביליות טנזורית המוגדרת ל-4, ה-drafter של DFlash2 מופעל בגודל בלוק 8, ופענוח ספקולטיבי מוגדר לצד מטמון KV מסוג FP8.

קיים גם כלי אימות. ה-CLI בקוד פתוח beam-verifier מריץ חבילת התאמה מול כל נקודת קצה חיה של Beam — חוזה בקשה, חוזה תגובה, פרוטוקול כלים — ואז מעריך אותה על המדדים המרכזיים כדי שתוכלו להשוות את הפריסה שלכם, או של ספק, לציוני הייחוס של Reflection. עבור מודל שטבלת המדדים שלו כולה מדווחת על ידי הספק, אספקת ההרנס שמאפשר לקונה לשחזר אותה היא מחויבות משמעותית יותר מכל מספר בודד בטבלה הזו.

תמיכת פריימוורקים מיום אפס היא החצי השני של סיפור הפריסה, והיא רחבה יותר ממה שרוב המהדורות הפתוחות מצליחות להשיג: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed, ו-NVIDIA Dynamo, עם מדריכים צעד אחר צעד ל-SGLang, vLLM ו-TokenSpeed בתוספת תרשים Helm ל-Kubernetes. בצד האימון, Reflection מציינת את הסטאקים שאיתם בנתה את זרימות העבודה — NeMo RL ו-AutoModel ו-Megatron Bridge מ-NVIDIA, Miles מ-RadixArk, TRL מ-Hugging Face, SkyRL מ-Anyscale ו-Axolotl — ומפרסמת את מספרי מדריך ההפעלה של ה-RL שלה במקום נתון חומרה עבורם: 10.5K GPUs מדגם GB300 במשך ארבעה שבועות, יותר מ-100 מיליון רולאאוטים, הקשר מקסימלי של 256K טוקנים במהלך האימון, וכ-1.3 מיליארד סנדבוקסים.

A generated single-column scoreboard titled "Beam 1.0 - the scoreboard". The rows read 'Total parameters: 501.3B', 'Active per token: 23.4B, a 4.7% activation ratio', 'Context: 1M tokens on the card, 131,072 max output on the API', 'Licence: Apache 2.0, weights out 16 Oct 2026', 'Serving floor: 4x B300 SXM on NVLink for the 273 GiB NVFP4 build', 'Independent index: 30, ranked 19th of 120'. The sourcing footer reads "Serving figures from Reflection's own deployment docs; index per Artificial Analysis v4.3.2. No first-party source publishes a per-GPU throughput figure.". The OrcaRouter logo is composited in the strip below the artwork, bottom right.

ה-API קיים, ועדיין אין לו מחיר

לצד המשקלים קיימת נקודת קצה רשמית ב-api.reflection.ai עם ממשק תואם OpenAI ומזהה המודל Beam-1.0-501B-A23B. היא נושאת חוזה מתועד: הסקה מחייבת עם רמות effort של max, xhigh, high, medium ו-low, כאשר max הוא ברירת המחדל; פלטים מובנים וקריאה לכלים; מגבלות קצב ברמת הארגון הנמדדות בבקשות ובאסימונים לדקה וליום UTC, המשותפות לכל פרויקט ומפתח כך�הוספת מפתח אינה מעלה אותן; ותגובת 429 שמגדירה את x-should-retry ל-false לאחר שנוצלה מכסה יומית, וזה הפרט שמונע מלולאת ניסיונות חוזרים נאיבית להסתובב עד חצות.

התיעוד לא כולל מחיר למיליון טוקנים, וגם לא ההכרזה. ההשמטה היחידה הזו היא מה שהופך את טיעון היעילות לבלתי ניתן להשלמה בעבור קונה: מודל שתמיד מבצע חשיבה, שברירת המחדל שלו היא מאמץ מקסימלי, ושטוען שהוא משתמש בפי שלושה פחות טוקני חשיבה, הוא הצעה מסחרית שונה בדולר אחד למיליון טוקני פלט מאשר בעשרה דולרים, ואף אחד מחוץ ל-Reflection לא יכול כיום לומר מהי. אירוח עצמי מסיר את השאלה לחלוטין ומחליף אותה במספר הוני, שהוא לכל הפחות מספר שאפשר לחשב.

לאן זה משאיר צוות שרוצה לנסות את זה

Beam 1.0 אינו אחד מהנתיבים שלנו, ולכן איננו יכולים לספק אותו עבורך, ואין לקרוא דבר כאן כהצהרת זמינות מצדנו. מה שכן אנחנו יכולים לעשות הוא להפוך את ההערכה לזולה. אם ההחלטה שלפניך היא האם להשקיע רבע מזמן ההנדסה בפיילוט Beam בן שבועיים, המהלך המועיל הוא להשאיר את הייצור על מודל עם מחירון מפורסם והיסטוריית שירות בזמן שהפיילוט רץ, ולדאוג שמסלול הגיבוי כבר מחווט. OrcaRouter מפעיל מפתח אחד תואם OpenAI על פני יותר מ-200 מודלים, כאשר מחיר המחירון של הספק מועבר הלאה ולא מתווסף דבר, כך שהורדת מחיר מצד ספק מגיעה לחשבון שלך באותו היום, ומעבר אוטומטי לגיבוי פירושו שפיילוט שמתברר כלא זמין בחודש הבא הוא שינוי ניתוב ולא הגירה.

המודלים הקרובים ביותר ל-Beam בעומסי העבודה שהוא מכוון אליהם — כולם נגישים בדרך הזו. השלושה שכדאי לתמחר את הפיילוט מולם, מתוך הקטלוג שלנו:

• GLM-5.2 — הקשר של 1,000,000 טוקנים, $1.40 למיליון טוקני קלט ו-$4.40 למיליון טוקני פלט. טענת היעילות של המודל Reflection עצמו נמדדת כנגדו.

• Kimi K3 — חלון הקשר של 1,048,576 טוקנים, $3.00 למיליון טוקני קלט, $0.30 במטמון, $15.00 פלט. פוסט ההשקה של Reflection מודה ש-K3 עדיין מוביל ביכולות גולמיות.

• Qwen3.8-Max — הקשר של 1,000,000 טוקנים, $2.00 למיליון טוקני קלט ו-$6.00 לפלט, מחלקת ה-2 טריליון פרמטרים ש-Beam טוענת שיש לה את יתרון היעילות הגדול ביותר עליה.

שלושת הדברים שכדאי לשים לב אליהם

הראשון הוא המחיר. עד ש־Reflection תפרסם כרטיס תעריפים, תזת היעילות היא השערה לגבי מחשוב ולא עובדה לגבי כסף, וההשוואה מול GLM-5.2 או Kimi K3 נשארת ויכוח על מתודולוגיה.

השני הוא מדידת תפוקה בלתי תלויה. Artificial Analysis מציגה כיום את Beam עם מדד אינטליגנציה של 30, וללא מהירות וללא מחיר, מפני שהיא מתעדת "אין API זמין לציבור" עבור המודל. כאשר זה ישתנה, השאלה בדבר הביצועים לכל GPU תקבל תשובה שלא מקורה אצל הספק.

השלישי הוא אם משתמשים במאמת. חבילת תאימות שאיש אינו מריץ היא תיעוד; חבילת תאימות שתריסר פריסות מפרסמות ממנה תוצאות היא בנצ'מרק. Beam 1.0 שחררה את הכלי ביום אפס. האם היא תספק את המספרים הוא החלק שנותר פתוח.

שום דבר מזה אינו היפותטי: כשלי ה-AI המתועדים ותקריות הסוכנים העומדים מאחורי מהדורות כמו זו מרוכזים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה כוללת מקורות משלה, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.

השוואות במאמר הזה1

זוהה מתוך המאמר הזה · בנצ'מרקים: Artificial Analysis · מתעדכן יומית