המשקלים של Step 5 Preview מעולם לא היו חסרים: מה משנה ה-NVFP4 Checkpoint

S​tep 5 Preview ניתן להורדה מאז היום שבו StepFun שחררה אותו ב-20 בספטמבר 2026 — וחלק גדול ממה שנכתב על המודל מאז אומר אחרת. מאגר ה-FP8 stepfun-ai/S​tep-5-Preview נוצר בשעה 03:15 UTC באותו בוקר, והשרד הראשון שלו הועלה 36 דקות לאחר מכן; מאגר ה-BF16 נפתח אחריו בשעה 03:52 והשרדים שלו עלו בשעה 04:18. שניהם של StepFun עצמה, שניהם ללא הגבלת גישה, וביחד הם מכילים 1.86 טרה-בייט של משקולות. מה שהשתנה באמצע אוקטובר מצומצם ושימושי יותר מאשר שחרור מחדש: StepFun פרסמה צ'קפוינט שלישי בפורמט NVFP4 של N​VIDIA, וב-15 באוקטובר 2026 N​VIDIA נתנה לכך גיבוי פומבי — וכינתה אותו "השחרור הגדול ביותר שלהם של משקולות פתוחות", ואמרה שהמודל "בנוי להתמודד עם משימות סוכנים שנמשכות עד 24 שעות", ואף נתנה לכך מספר: "כמעט 8K טוקנים/שנייה/GPU על N​VIDIA GB300 באמצעות NVFP4".

זו הידיעה. התיקון הוא הסיבה שהקטע הזה פותח בתאריך במקום בהכרזה. סיקור שנכתב ב-20 בספטמבר פורסם מול מאגר שהיה בן דקות ולזמן קצר ריק, והמסגור של „משקלים שהובטחו למועד מאוחר יותר” דבק גם לאחר שהמשקלים הגיעו באותו בוקר. כתבה אחות באתר הזה חזרה על כך עוד ב-13 באוקטובר. זה לא נכון כעת וזה לא היה נכון אז, וזה חשוב מפני ששאלת המשקלים הפתוחים הייתה הפריט הבלתי פתור הגדול ביותר בכל כתיבה על המודל הזה.

מה בעצם יצא ב-14 וב-15 באוקטובר

הארטיפקט החדש הוא stepfun-ai/S​tep-5-Preview-NVFP4. המאגר נוצר בשעה 02:59 UTC ב-14 באוקטובר 2026, והעלאת המשקולות היא קומיט בשעה 07:10 UTC באותו היום על ידי תורם שחשבונו, huangyu-nv, גם שכתב מחדש את ה-README שעה לאחר מכן כדי להתאימו למאגרי ה-FP8 וה-BF16. הוא מכיל 394.18 GB ב-95 קבצי safetensors המסודרים כ-92 קבצים לפי שכבה ועוד שניים נוספים וקובץ מגדל ראייה אחד — תכנית שרדינג שונה מזו של מאגרי ה-FP8 וה-BF16, ששניהם מספקים 24 שברי טקסט בתוספת ראש חיזוי ריבוי טוקנים ו-ViT.

מה שיש בפנים ראוי להצהרה מדויקת, מפני ש"NVFP4" משמש באופן רופף בשיח. בלוק הקוונטיזציה ב-config.json נראה כך: quant_method: modelopt, quant_algo: NVFP4, group_size: 16, ו-kv_cache_quant_algo: null. רשימת ההתעלמות ארוכה וספציפית: 92 בלוקי self-attention, 88 שערי MoE, 88 מומחים משותפים, טבלת ההטמעות, ה-norm הסופי וראש מודל השפה, בנוסף למגדל הראייה ולמקרן שלו. רק שלושה ערכים בכל הרשימה נוגעים ב-moe.experts. במונחים פשוטים, הקשב ומנגנון הניתוב נשארים ברמת דיוק גבוהה יותר, ומשקולות ה-feed-forward של המומחים — עיקר 600 מיליארד הפרמטרים — הם החלק שעבר קוונטיזציה. מטמון ה-KV נותר ללא שינוי, וזה הפרט שקובע אם תצורת ההגשה שלך להקשרים ארוכים תשרוד את המעבר.

חשבונאות הפרמטרים של Hugging Face עצמה במאגר הזה מציגה 320.6 מיליארד, בפילוח של 282.4 מיליארד U8, 38.2 מיליארד BF16 ו-2.4 מיליון F32, ועמוד הקובץ מציג "321B params" כגודל המודל. הכרטיס של StepFun, באותו עמוד, אומר 600B סה"כ ו-27B פעילים. שניהם נכונים והם סופרים דברים שונים: הנתון 321B הוא ספירת אחסון של אלמנטים מכומתים, לא ספירת פרמטרים במובן שבו משתמש תיאור הארכיטקטורה. אם אתם מחשבים גודל זיכרון, השתמשו בנתון האחסון. אם אתם מתארים את המודל, השתמשו בכרטיס.

שלוש נקודות ביקורת, שלוש חשבוניות חומרה

הסיבה שהשחרור של NVFP4 חשוב יותר מאשר קובץ רביעי בתיקייה היא שהוא משנה את המכונה הקטנה ביותר שאפשר להריץ עליה את המודל הזה. טבלת הפריסה של StepFun עצמה בכרטיס המודל נותנת את הצורות עבור שתי נקודות הביקורת הוותיקות יותר, והמאגרים נותנים את הגדלים; הנה הם יחד, עם שורת ה-NVFP4 שנוספה.

• דיוק — FP8 650.32 GB לעומת BF16 1,214.9 GB לעומת NVFP4 394.18 GB בדיסק

• תצורת vLLM הקטנה ביותר שפורסמה — FP8 צומת B300 אחד עם 4 GPUs, או צומת H200 אחד עם 8 GPUs לעומת BF16 צומת B300 אחד עם 8 GPUs, או שני צמתי H200 עם 16 GPUs לעומת NVFP4 שעדיין לא מופיע בטבלה של StepFun

• מקביליות שהכרטיס ממליץ עליה — FP8 TP4, ‏TEP4 או DEP4 על B300 לעומת BF16 TP8, ‏TEP8 או DEP8 לעומת NVFP4 לא צוין

• משקולות קשב וראוטר — FP8 מכומת לשמונה סיביות לעומת BF16 בדיוק מלא לעומת NVFP4 שנותר ללא כימות על ידי רשימת ההתעלמות של ModelOpt

• מטמון KV — לא מכומת בכל השלושה, מכיוון שתצורת NVFP4 מגדירה את kv_cache_quant_algo ל-null

• מחסנית הגשה — כל השלושה דרך vLLM או SGLang עם נקודת קצה תואמת OpenAI, או באופן לא מקוון דרך מסלול Transformers העצמאי

הפער בשתי השורות האחרונות הוא ההסתייגות הכנה בנוגע לצ'ק-פוינט החדש. הפוסט של NVIDIA אומר שהמודל רץ בקצב של כמעט 8K טוקנים לשנייה לכל GPU על GB300 באמצעות NVFP4, אבל טבלת הפריסה של StepFun לא עודכנה עם שורה של NVFP4, כך שאין עדיין מתכון פריסה מקבילית שפורסם על ידי הספק עבורו. אם אתם מתכננים פריסה השבוע, מסלול ה-FP8 הוא זה עם תצורה מתועדת, ומסלול ה-NVFP4 הוא זה עם מספר כותרתי שמצורף לחומרה של מישהו אחר.

הנתון של 8K הוא מספר של ספק, ורק ספק אחד אמר אותו.

הפוסט של NVIDIA מ-15 באוקטובר הוא כל התיעוד ממקור ראשון בנושא זה. אין רשומת בלוג מפתחים של NVIDIA, אין עמוד הכרזה של StepFun, ואין שחזור מצד שלישי של טענת התפוקה שניתן לבדוק מבחוץ. גם "כמעט 8K טוקנים/שנייה/GPU" הוא אמירה שאומרת מעט מאוד בלי גודל ה-batch, אורך הרצף והמקביליות שבהם היא נמדדה — אותה תצורת מודל יכולה להשתנות בסדר גודל לאורך שלושת הצירים האלה, ומסגרות הגשה (serving) למודלים של mixture-of-experts רגישות במיוחד למספר המומחים הפעילים לכל טוקן. התייחסו לזה כאל NVIDIA המדווחת על חומרה של NVIDIA, שזה בדיוק מה שכתוב שם, ולא כמספר תפוקה מאומת באופן בלתי תלוי.

לטענת סוכן 24 השעות יש אותו מעמד. זהו תיאור יכולת ולא מדידה, והכרטיס של StepFun עצמה מתאר ביצוע לטווח ארוך באותם מונחים מבלי לצרף לו משך זמן. הערות ההערכה שפורסמו על ידי הספק עבור מודל זה אכן מפרטות את ההרנס ואת ההגדרות — temperature 1.0, top-p 0.95, top-k 0, הגדרת החשיבה הגבוהה, ההרנס של SWE-agent עבור DeepSWE v1.1 — וזה יותר ממה שכרטיסי שחרור רבים מציעים, אבל טבלת הניקוד עצמה היא תמונה ו-StepFun לא מפרסמת טבלת בנצ'מרק מספרית בתיעוד שלה. המעריך הניטרלי היחיד עם ניקוד חי למודל זה הוא Artificial Analysis, שבו S​tep 5 Preview ממוקם ב-44 במדד Intelligence Index ובמקור עלה $1.03 לכל משימת אינדקס להרצה.

מתכון הפריסה הגיע יחד עם נקודת הביקורת, וזה החלק שבו תשתמש.

קריאת היסטוריית המאגרים מראה שקבצי המשקל וההוראות לא הגיעו יחד. שני המאגרים הישנים נכתבו מחדש בין 13 ל-14 באוקטובר — שבעה קומיטים של README במאגר FP8 בין 13 ל-15 באוקטובר — ומה שהקומיטים האלה הוסיפו הוא מדריך הגשה מלא: תמונת קונטיינר שפורסמה ב-vllm/vllm-openai:step-5-preview, פקודות עובדות למקביליות טנזורית, מומחים ומשולבת, מערך הדגלים שהמודל הזה צריך, ונתיב SGLang מאומת. הדגלים הם המקום שבו ניכרת העבודה הספציפית למודל: --max-model-len 1048576, ראש פענוח ספקולטיבי המוגדר כ---spec-method mtp --spec-tokens 3, וכן --reasoning-parser step5 וכן --tool-call-parser step5 מפענחים ייעודיים כך שבלוקי ההיסק וקריאות הכלים של המודל ישרדו את המסלול הלוך-ושוב דרך API דמוי OpenAI. ב-Blackwell, תצורות TEP ו-DEP מחליפות את ה-backend של MoE ל-deep_gemm_mega_moe; תצורת TP4 הרגילה לא יכולה, מכיוון שה-backend הזה דורש מקביליות מומחים.

זו תמיכת פריימוורק שנחתה, ולכל מי שמחליט אם לבנות על המודל הזה היא שווה יותר מהצהרת התפוקה. הורדה של 650 GB עם פקודת הפעלה לא מאומתת היא פרויקט מחקר. הורדה של 650 GB עם תמונת קונטיינר מוצמדת, ארבע תצורות מקבילות שנבדקו לכל דיוק ומנתח שמבין את פורמט הפלט של המודל עצמו היא פריסה.

אם אינך רוצה להחזיק בעצמך באף אחד מאלה, החשבון במודל הזה אינו שגרתי. S​tep 5 Preview פועל בפלטפורמה של StepFun עצמה במחיר של $1.00 למיליון טוקני קלט, $0.10 למיליון טוקני קלט עם פגיעת מטמון ו-$2.70 למיליון טוקני פלט, כך שחודש עם 200 מיליון טוקני קלט ו-200 מיליון טוקני פלט מחייב $200 ו-$540 בהתאמה — לעומת בערך המחיר של צומת B300 עם ארבעה GPUs לחודש עבור החומרה שמגישה אותו. אירוח עצמי כאן הוא החלטת שליטה ומיקום נתונים, לא החלטת עלות, והעובדה שהמשקלים פתוחים היא מה שהופך את זה להחלטה שמותר לך לקבל בכלל. ראוי לומר בבירור ש-S​tep 5 Preview לא נמצא ברשימת המודלים החיה של OrcaRouter, כך שהמקום לקרוא לו הוא ה-API של הספק עצמו; מה שAPI אחד ליותר מ-200 מודלים אכן קונה לך במצב הזה הוא החצי השני של השאלה — העלות של המודל שאליו תעביר את עומס העבודה אם פריסה באירוח עצמי לא תסתדר, בתוספת של 0% על מחיר המחירון של כל ספק.

הרישיון, בקריאה מילולית

"משקלים פתוחים" עושה עבודה בניסוח של NVIDIA שהרישיון אינו תומך בה במלואה, וזהו החלק בסיפור שסביר מכול שייקרא שלא כהלכה. StepFun Model License 1.0 הוא מענק תמידי, עולמי, ללא תמלוגים ובלתי בלעדי לשימוש, העתקה, הפצה, מתן רישיונות משנה, שינוי ויצירת יצירות נגזרות מהמשקלים, בצירוף מענק פטנט תואם. זהו אינו רישיון קוד פתוח מאושר OSI, ויש שני תנאים שכדאי להכיר לפני שבונים עליו עסק.

• ייחוס — אם מוצר או שירות מסחריים המשלבים את המודל מגיעים ל-100 מיליון משתמשים פעילים חודשיים או ל-20 מיליון דולר בהכנסות בכל חודש קלנדרי, עליך להציג באופן בולט "Powered by StepFun AI" בממשק המוצר ובהסכם המשתמש שלך

• נדרש רישיון מסחרי נפרד — אם אתה יצרן חומרה או בעל מותג המשווק את יכולות המודל במכשירים, או אם אתה מפעיל עסק של מודל כשירות וההכנסות המשולבות עולות על 20 מיליון דולר בכל תקופה של שנים עשר חודשים

• מה במפורש אינו MaaS — הטמעת היכולת של המודל בתכונת משתמש קצה קבועה, או רק העברת בקשות למודל של ספק אחר

• מה מותר במפורש ללא ההסכם הנוסף — שימוש פנימי שאינו חושף את המודל או את יכולותיו בפני צד שלישי, ושימוש שמתקבל דרך ערוץ הפצה מוסמך על ידי StepFun במסגרת היקף ההסמכה האמורה

• סיום — הפרה מהותית מסיימת את ההענקה, עם חלון תיקון של שלושים יום לאחר הודעה בכתב

אז הקריאה המעשית היא שהמשקלים באמת ניתנים להורדה ובאמת ניתנים לשימוש, כולל באופן מסחרי, עד לספים בסעיף 2. סטארטאפ שמבצע כיוונון עדין של המודל הזה לעבודה עם מסמכים פנימיים נמצא בתוך ההיתר. יצרן מכשירים סלולריים שמשיק אותו כתכונה, או עסק להסקה מתארחת שעובר את 20 מיליון הדולר, לא. זו אותה צורת הגבלה שבה משתמשים הרישיונות של Llama ו-Qwen, וכדאי להצהיר על כך במפורש במקום לתייק תחת 'פתוח'.

לאן זה מותיר את המודל

מודל תערובת מומחים עם 600 מיליארד פרמטרים ו-27 מיליארד פרמטרים פעילים, הקשר של מיליון טוקנים, קלט טקסט, תמונה ווידאו, פלט מקסימלי של 64k בתיעוד של StepFun, מחירון של כ-$1.00 / $2.70, ציון מדד של 44 מהמעריך הנייטרלי היחיד שהעניק לו ציון, ושלושה צ'קפוינטים להורדה בשלוש רמות דיוק. שוחרר ב-20 בספטמבר 2026. המשקולות פתוחות מאז בוקר ההשחרור. עבר קוונטיזציה עבור Blackwell ב-14 באוקטובר, אושר על ידי יצרן ה-GPU ב-15 באוקטובר, בנתון תפוקה שאיש מחוץ ל-NVIDIA לא הצליח לשחזר.

הדבר הבא ששווה לצפות בו אינו עוד נקודת קצה. זוהי המדידה העצמאית הראשונה על צ'קפוינט ה-NVFP4 — השוואת תפוקה או איכות מול מסלול ה-FP8 ממישהו שאינו מוכר את החומרה. קוונטיזציה בארבעה ביטים, כשמערכת הקשב נשמרת ללא קוונטיזציה, היא בחירה תכנונית סבירה, והשאלה הספציפית היא אם משקולות המומחים שורדות אותה. עד שמישהו יפרסם זאת, העמדה הכנה בנוגע לצ'קפוינט החדש היא אותה עמדה שהיה על הסיקור מספטמבר לנקוט כלפי הישנים: המשקולות אמיתיות, המתכון אמיתי, וטענת הביצועים היא של הספק.

תוצאה כמו זו היא גם תזכורת לכך שטעויות של מודלים כבר מתועדות: תקריות AI וכשלי סוכנים מאחורי מודלים בקטגוריה הזו נאספים בה-OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, חומרת האירוע, דירוג הביטחון ודגל המחלוקת שלה.