Step 5 Preview ניתן לאירוח עצמי כבר ביום אפס: גם vLLM וגם SGLang זוכים לנתיבי הגשה עבור מודל ה-600B MoE של StepFun
- OrcaחדשOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 64 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 778 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 39 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 2230 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040אינטליגנציה
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 54 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 לכל 1M טוקנים · 118 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642אינטליגנציה72כתיבת קוד
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 לכל 1M טוקנים · 191 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845אינטליגנציה75כתיבת קוד
Step 5 Preview לא היה חדש בבוקר ה-15 באוקטובר 2026. דגם הדגל של StepFun עם 600 מיליארד פרמטרים ניתן להפעיל דרך ה-API של הספק עצמו מאז 20 בספטמבר 2026, והמעריך העצמאי Artificial Analysis מדרג אותו מאז 18 בספטמבר. מה שהיה חדש באותו בוקר היה צר יותר ושימושי באופן ניכר: שתי ערימות הסקה מיינסטרימיות פרסמו נתיבים משלהן להרצתו על חומרה שבבעלותך או שאתה שוכר. vLLM פתחה בקשת משיכה (pull request) בטיוטה שהוסיפה את Step 5 Preview — 129 קבצים, +16,996 שורות — לצד מתכון נלווה ותמונה ייעודית vllm/vllm-openai:step-5-preview שנחתה ב-Docker Hub בשעה 00:51 UTC. SGLang מיזגה דף ספר מתכונים עם מתכוני פריסה ל-Blackwell ו-Hopper, כאשר בקשת המשיכה לתמיכת המודל שמאחוריה נפתחה באותה שעה. עד אותו בוקר, הדרך היחידה להעלות את Step 5 Preview על ה-GPUs שלך הייתה העלאה מחדש קהילתית של צ'קפוינט שאיש לא העניק לך רישיון להפיץ אותו.
אז הכותרת הכנה היא לא "StepFun השיקה מודל". היא השיקה את זה בספטמבר, והתאריך של המודל עצמו שייך למשפט הראשון בכל כתבה עליו. הכותרת היא שנכון ל-15 באוקטובר 2026, לשאלת ההגשה יש פקודות בתשובה.
מה באמת השתנה ב-15 באוקטובר
ארבעה פריטים, כולם מתוארכים לאותו יום, וכדאי להפריד ביניהם משום שהם נושאים עמם רמות מחויבות שונות.
• תמיכה במודל vLLM — בקשת משיכה #61727, בכותרת "הוספת תמיכה ב-Step-5 Preview", נפתחה על ידי jeejeelee בשעה 01:18 UTC ונושאת את דגל הטיוטה. זהו קומיט מאוחד אחד שנוגע ב-129 קבצים, והוא לא מוזג. PR טיוטה הוא בקשת המחבר לסקירה, לא הבטחת המתחזק.
• מתכון vLLM — בקשת משיכה #1122 ב-vllm-project/recipes, שנפתחה שתי דקות קודם לכן בשעה 01:16 UTC וגם פתוחה, מוסיף את models/stepfun-ai/Step-5-Preview.yaml עם וריאנט ברירת מחדל FP8 ווריאנט NVFP4. זהו המסמך עם המספרים בו, והוא זה שרוב המאמר הזה מתבסס עליו.
• תמונת המכולה — vllm/vllm-openai:step-5-preview, שנדחפה ב-2026-10-15 בשעה 00:51 UTC כמניפסט דו-ארכיטקטוני: linux/amd64 בנפח 8.56 GB דחוסים ו-linux/arm64 בנפח 9.58 GB, כאשר step-5-preview-x86_64-cu130 ו-step-5-preview-arm64-cu130 נמצאים לצידן. תמונה שפורסמה היא אות חזק יותר מ-PR פתוח: פירוש הדבר שמישהו בנה את זה ודחף את זה, ללא תלות במועד סיום הסקירה.
• ה-PR #44357, "הוספת קוקבוק של Step 5 Preview", מוזג ל-main בשעה 01:21 UTC לאחר סקירה, ומוסיף עמוד פריסה שתיעוד SGLang מגיש כעת בכתובת docs.sglang.ai/cookbook/autoregressive/StepFun/Step-5-Preview ומתייג אותו כ-NEW. ה-PR הנלווה לתמיכה, #44356, עדיין פתוח. בעמוד הקוקבוק נאמר במפורש ש"התמיכה ב-Step 5 Preview טרם שוחררה במהדורת SGLang, ולכן התקנה רגילה של pip install sglang אינה יכולה לשרת אותו" — וזהו המשפט החשוב ביותר בו.
קראו את ארבעתם יחד ותקבלו תמונה קוהרנטית: StepFun מקימה שירות פתוח למודל שה-API שלו פעיל כבר כמעט חודש. שום דבר כאן אינו הכרזת השקה, ושום דבר כאן אינו בנצ'מרק. זו הצנרת שקובעת אם המודל הוא משהו שאפשר להריץ.
מהו Step 5 Preview, במונחים שמהנדס שירות שואל עליהם קודם
התיעוד האנגלי של StepFun עצמה דל בכל הנוגע לארכיטקטורה — היא מפרסמת את מזהה המודל, חלון ההקשר של 1M טוקנים, קלט טקסט/תמונה/וידאו, פלט טקסט בלבד, פלט מקסימלי של 64k טוקנים, תמיכה ב-JSON Schema, prompt caching ובקרת reasoning_effort עם הגדרות low, medium ו-high. היא אינה מפרסמת מספר פרמטרים. נתוני הארכיטקטורה שלהלן מגיעים משני מסמכי השירות (serving) ממקור ראשון שפורסמו היום, שהיה עליהם לקרוא את הצ'קפוינט כדי לכתוב טוען, והם תואמים זה לזה.
• גודל — 600B פרמטרים בסך הכול, עם 27B פעילים לכל טוקן, תכנון דליל של תערובת מומחים (sparse mixture-of-experts). המתכון של vLLM מציין באופן עצמאי 604B, "בספירה מצורות הטנזורים של ה-checkpoint", ושני המספרים הם אותו מספר שעוגל בדרך שונה.
• עומק וניתוב — 92 שכבות. כל שכבת MoE מנתבת טוקן אל 8 מתוך 352 מומחים ועוד מומחה משותף אחד. מספר המומחים הזה הוא הסיבה לכך שה-PR של vLLM כולל שינוי בקרנל router-GEMM: הוא מוסיף את (4096, 352) כזוג (hidden_dim, num_experts) נתמך, לצד הזוגות הקיימים (3072, 256) ו-(6144, 128).
• קשב — דפוס חוזר בן ארבע שכבות: שלוש שכבות חלון מחליק המתייחסות ל-512 האסימונים האחרונים, ואחר כך שכבת קשב דלילה אחת. השכבות הדלילות מפצלות את היסטוריית ה-KV לאזורים בני 8 אסימונים, מדרגות תקציר של כל אזור עם אינדקסר קל-משקל, ובוחרות עד 512 אזורים היסטוריים שאליהם להתייחס ברמת האסימון. SGLang מכנה זאת קשב דליל-אזורים; ההשלכה המעשית היא שהקשר של 1M אסימונים נשאר בר-השגה מבחינת זיכרון.
• פענוח ספקולטיבי — שלוש שכבות MTP. ה־"MTP התלת־שכבתי" של SGLang והמתכון של vLLM --spec-method mtp --spec-tokens 3 הם אותה טענה משני כיוונים.
• דיוק — משקלי המומחים המנותבים הם FP8 (E4M3, סקאלות בלוקים של 128×128), למעט בשלוש שכבות ה-MoE האחרונות, שנשארות ב-BF16. צ'קפוינט NVFP4 נפרד, stepfun-ai/Step-5-Preview-NVFP4, מוזכר במתכון של vLLM כגרסה חלופית. שני הסטאקים משאירים את פיצול השכבות בדיוק מעורב כמו שהוא, במקום להמיר אותו לרמת דיוק גבוהה יותר.
• התנהגות חשיבה — המודל תמיד חושב לפני שהוא עונה. reasoning_effort קובע את העומק, וברירת המחדל היא high כשהוא לא מוגדר, וזו ההגדרה שסביר ביותר להפתיע אותך בתקציב השהיה. הדגימה המומלצת של StepFun היא temperature=1.0, top_p=0.95, top_k=0, וה-cookbook של SGLang מסמן אותם כמידע בלבד ולא כמשהו שצריך לקבע בקוד.
רצפת החומרה היא החלק שקובע אם זה משנה לך
כאן מתכון ה-vLLM מוכיח את ערכו, כי אף אחד אחר לא פרסם מינימומים קשיחים.
• רצפת FP8 — 773 GB של VRAM, עם מינימום של 4 GPUs ויעד חומרה ברירת מחדל של B300. תצורות מאומתות מפורטות עבור H200, B300 ו-GB300. על ארבעה B300 המתכון מציע פריסות TP4, TEP4 או DEP4; משקולי ה-FP8 אינם נכנסים בארבעה H200, ולכן מסלול Hopper הוא שמונה GPUs.
• רצפת NVFP4 — 473 GB של VRAM עבור נקודת השמירה המקווננת, 300 GB פחות מ-FP8. העסקה היא ההקשר: גרסת NVFP4 פועלת עם --max-model-len 320000, כך שאתם מוותרים על כ-724,000 טוקנים מתוך 1,048,576 המוצהרים כדי להסתדר בטביעת הרגל הקטנה יותר.
• מקביליות מומחים — ב-Blackwell, פריסות TEP ו-DEP מנותבות דרך MegaMoE עם --moe-backend deep_gemm_mega_moe; פריסת ה-tensor-parallel הטהורה אינה עושה זאת במכוון, מכיוון ש-MegaMoE דורש מקביליות מומחים כדי שיהיה לו מה לפצל. ב-H200 המתכון נופל חזרה ל-Triton MoE עבור כל שכבת מומחים, כולל שלוש שכבות ה-BF16, מכיוון שגרעיני ה-MoE של TRT-LLM קיימים רק ב-Blackwell.
• עלות התנעה — ה-cookbook של SGLang מציין שההפעלה הראשונה אורכת כ-15 דקות של קומפילציה של FlashInfer על B300, כשהיא יורדת לכ-6 דקות בהפעלות עוקבות, ומורה לך לשמר את FLASHINFER_WORKSPACE_BASE ואת ~/.cache/sglang בין הפעלות מחדש. אם אתם מבצעים אוטוסקיילינג מאפס, זו רצפת התנעה קרה, ולא שגיאת עיגול.
• מה עדיין לא נתמך — מתכון ה-vLLM מסמן גם את Simple וגם את LMCache KV offload כלא נתמכים עבור מודל זה. נתיב ה-HiCache של SGLang מתועד כזמין ב-cookbook, וזהו הבדל יכולת ממשי בין שני הסטאקים כפי שהם היום.
הקריאה המעשית: Step 5 Preview הוא פריסה של ארבעה עד שמונה מאיצים, לא פרויקט תחביב של צומת בודד. אם המשפט הזה מסיים את העניין שלכם, קטע ה-API שלהלן הוא שאר המאמר.
לקרוא לזה, וכמה עולה כל טוקן
דף התמחור של StepFun עצמה מפרט את step-5-preview במחיר $1.00 למיליון טוקני קלט בהחמצת מטמון (cache miss), $0.10 בפגיעת מטמון (cache hit), ו-$2.70 למיליון טוקני פלט — נתונים מהספק, לא ממשווק משני. שני פרטים משנים את החשבון. ראשית, תמחור קלט בהחמצת מטמון כולל כתיבת תוכן חדש למטמון, כך שמעבר ראשון על מסמך ארוך מתומחר פעם אחת, ובמעבר השני הוא זול. שנית, טוקני פלט כוללים גם את תהליך החשיבה של המודל וגם את תשובתו, מה שמשנה כאן יותר מאשר במודל שעונה ישירות.
Artificial Analysis, המעריך הנייטרלי היחיד עם הרצה מפורסמת, מדרג את Step 5 Preview במדד האינטליגנציה של 43.7 — המוצג כ-44 — עם מהירות פלט חציונית של 88.5 טוקנים לשנייה וזמן עד לטוקן התשובה הראשון של 24.7 שניות, לעומת כ-2,000 טוקני חשיבה לתגובה. נתון המהירות מכובד, אך השהיית טוקן התשובה אינה כזו: מודל שתמיד חושב קודם מתאים פחות להשלמה אוטומטית אינטראקטיבית ומתאים היטב לעבודת אצווה ולעבודה סוכנית, וזה בדיוק האופן שבו StepFun ממקמת אותו. אלה מספרים בלתי תלויים על תשתית בדיקה של צד שלישי, והם היחידים הזמינים — StepFun אינה מפרסמת טבלת בנצ'מרקים לדגם הזה בכלל.
במקום שבו הסיפור עדיין רך, וזה לא הכול רך באותו אופן
שלושה דברים ראויים לסימון ולא להחלקה, מפני שלכל אחד מהם חיי מדף שונים.
הדבר הראשון הוא האם הצ'קפוינט של הספק אכן ניתן להורדה. שני מסמכי ה-serving של הצד הראשון מפנים אל stepfun-ai/Step-5-Preview ו-stepfun-ai/Step-5-Preview-NVFP4 בתור הצ'קפוינטים הקנוניים, וה-cookbook של SGLang מקשר ל-LICENSE.txt תחת StepFun Model License 1.0. מה שהדף הזה לא יכול לעשות הוא לאשר מ-Hugging Face שהמאגרים האלה ניתנים לקריאה ציבורית היום: ה-API של Hugging Face מחזיר את אותה שגיאה 401 Invalid username or password עבור stepfun-ai/Step-5-Preview כפי שהוא מחזיר עבור מזהה מאגר שמעולם לא היה קיים, כך שהתגובה לא יכולה להבחין בין מודל עם גישה מוגבלת למודל שאינו קיים. ההנחיה של המתכון עצמו — "השתמשו ב-hf auth login אם הצ'קפוינט דורש אימות" — היא ההצהרה היחידה בנוגע לגישה, והיא מותנית. התייחסו להורדה כאל כזו שהאנשים שכתבו את ה-loaders מפנים אליה, ודאו בעצמכם את הגישה לפני שאתם מתכננים השקה שמסתמכת עליה.
השני הוא תאריך ההפצה, ששלושה מקורות מציגים אותו בשלוש דרכים: חומרי ההכרזה של StepFun קובעים את ההשקה ל-20 בספטמבר 2026; Artificial Analysis מתארכת את המודל ל-18 בספטמבר 2026 במטא-דאטה שלה ומציגה "שוחרר בספטמבר 2026"; וצוברי מטא-דאטה של מודלים שרוב הכלים קוראים מכילים 16 בספטמבר 2026. אף אחד מהשלושה לא מסביר את הפער. מאמר זה משתמש בתאריך 20 בספטמבר של הספק במקרים שבהם נדרש תאריך, וכדאי לדעת איזה מספר קיבל הכלי שאתם קוראים בו.
השלישי הוא בגרות, וכאן שני הסטאקים אינם שקולים. ה-cookbook של SGLang מוזג ומוזג לתוך main, אך הטקסט של SGLang עצמו אומר שהתמיכה לא יצאה בגרסה, ולכן נתיב ה-Python הוא תמונת Docker בתצוגה מקדימה ותו לא. ה-recipe של vLLM פתוח, ה-PR של המודל של vLLM הוא טיוטה שלא מוזגה, ש-GitHub מדווח כעת כי יש בו התנגשויות מיזוג ושהוא זקוק ל-rebase, והסוקרים של vLLM עצמה כבר העלו שלושה פריטים פתוחים נגד המתכון — שער חומרה FP8, פרופיל B300 כברירת מחדל שמפיק פקודות של שמונה GPU מול מדריך של ארבעה GPU, ותקרת context של NVFP4 שאינה מקודדת בארגומנטים של הווריאנט. שום דבר מזה אינו פוסל. כל זה מצדיק להתייחס לפריסה ראשונה באירוח עצמי השבוע כאל הערכה, לא כהגירה.
מה לעשות עם זה, השבוע
אם כבר יש לך ארבעה B300s או שמונה H200s ועומס עבודה שנראה כמו ניתוח מסמכים ארוכים, קריאות כלים רב-סבביות או הרצות סוכנים לאורך הלילה, המתכון של vLLM קרוב להיות ספר ריצה: משוך את vllm/vllm-openai:step-5-preview, העתק פקודת TP4 או TEP4, ובדוק אם --max-model-len 1048576 שורד את המפגש עם תקציב ה-KV בפועל שלך לפני שאתה מבטיח למישהו מיליון טוקנים. אם יש לך Hopper ולא Blackwell, התחל עם נקודת הבדיקה NVFP4 והסתפק בהקשר של 320k, או תקצב שמונה H200s. בכל מקרה, הגדר reasoning_effort במפורש בכל בקשה במקום לרשת את ברירת המחדל הגבוהה, ומדוד את הזמן של 24.7 שניות עד לטוקן התשובה על התעבורה שלך לפני שאתה מסיק משהו מנתון 88.5 טוקנים לשנייה.
אם אין לכם את החומרה הזו, ה-API אינו פרס ניחומים — הוא אותם משקלים, בחיוב לפי טוקן, ב-1.00$ לקלט ו-2.70$ לפלט, עם הנחת קאש של 90% על הקשר חוזר. והנה החלק בעמוד הזה שבו התשובה הכנה לגבינו צריכה להופיע: Step 5 Preview אינו ברשימת המודלים הפעילה של OrcaRouter נכון להיום. הקטלוג שלנו מונה 207 מודלים מ-13 ספקים והוא אינו כולל כיום אף מודל של StepFun, כך שעבור המודל המסוים הזה ה-API של הספק עצמו הוא הנתיב היחיד שניתן לקרוא לו, ושום דבר בעמוד הזה אינו אמור להתפרש כטענה שאנחנו מגישים אותו. מה שאנחנו כן מנתבים הוא ההחלטה שסביבו: כשאתם בוחרים איזה מודל חזיתי יישא עומס ייצור, הטיעון להגיע אליו דרך נקודת קצה אחת הוא שמחיר המחירון של הספק מועבר הלאה עם 0% תוספת, כך ששינוי מחיר של ספק הוא המחיר שלכם באותו יום, וזה שהמעבר האוטומטי בין ספקים פירושו שאחר צהריים רע של מודל בודד אינו ההשבתה שלכם. זו הצהרה על המודלים שאנחנו כן מספקים, והיא במכוון אינה הצהרה על המודל הזה.
מה שכדאי לראות בהמשך הוא ממוקד וניתן לבדיקה. האם stepfun-ai/Step-5-Preview מתברר כמאגר קריא עם קובץ רישיון שאפשר להפנות אליו צוות משפטי; האם #61727 של vLLM יוצא ממצב טיוטה ומנקה את קונפליקט המיזוג שלו; האם PR התמיכה #44356 של SGLang נוחת במהדורה מתויגת, וזו הנקודה שבה המתכון מפסיק להיות תמונת תצוגה מקדימה והופך למשהו שה-CI שלך יכול לקבע. כל אחד מהשלושה הופך את ה'אפשר כנראה להריץ את זה' של השבוע הזה ל'כן' פשוט, ועד אז הטענה היחידה ששווה להשמיע היא זו שהראיות תומכות בה: ב-15 באוקטובר 2026, שתי מערכות הגשה פרסמו את הנתיבים שלהן למודל שניתן לקרוא לו מאז 20 בספטמבר 2026.
הבחירה להריץ מודל בעל 600 מיליארד פרמטרים על החומרה שלך היא גם סוג של החלטה שבה הרקורד חשוב: אירועי AI מתועדים וכשלי סוכנים סביב מודלים במחלקה הזו נאספים בOrcaRouter AI Incident Archive, כאשר לכל רשומה יש מקורות משלה, חומרה, דירוג ביטחון ודגל שנוי במחלוקת.
