חלון ה-1M טוקנים של Step 5 Preview זה עתה יצא מה-API של StepFun עצמה

Step 5 Preview הפסיק להיות מודל של ספק יחיד ב-16 באוקטובר 2026. החשבון של StepFun עצמה אישר באותו יום שדגם הדגל שלה עם מיליון טוקנים פועל כעת על מארחי הסקה של צד שלישי, וזו הפעם הראשונה שהמודל נגיש למפתח שלא רוצה חשבון StepFun, יתרת StepFun ולוח תעריפים של StepFun במטבע נוסף. זה כל הערך החדשותי של ההודעה, וכדאי לומר זאת בפשטות, משום שההודעה עצמה לא כללה מפרט חדש, לא שינוי מחיר ולא בנצ'מרק. היא כללה שינוי בהפצה. StepFun שחררה את Step 5 Preview ב-20 בספטמבר 2026; מה שקרה ב-16 באוקטובר הוא שהמודל התחיל להופיע במקום אחר מלבד הבית. הפער הזה בין מה שלוח תוצאות מודד לבין מה שפריסה פוגשת הוא הסיבה שהתיעוד חשוב: הכשלים המתועדים בתחום ה-AI ותקריות סוכנים סביב מודלים במחלקה הזו נאספים ב-the OrcaRouter AI Incident Archive שבו כל רשומה נושאת את המקורות, חומרת, דירוג המהימנות ודגל המחלוקת שלה.

שינויים בהפצה קל להמעיט בערכם, והם דווקא אלה שמניעים רכש. מודל שזמין מספק אחד בלבד הוא נקודת כשל יחידה, סט אחד של מגבלות קצב וסט אחד של נקודות קצה אזוריות, והתשובה הכנה לשאלה "מה יקרה אם לספק הזה יהיה יום רע" היא "למוצר שלך יהיה יום רע". מודל שזמין מכמה מארחים בלתי תלויים הוא בעיית ניתוב, ולבעיות ניתוב יש פתרונות. הבעיה היא שלא הכול ב-Step 5 Preview נוסע עם המשקולות למארח חדש, והדבר שלא נוסע הוא המספר שסביר מכול שיקבע את החשבון שלך.

מה ש-StepFun למעשה אמרה, ומה שהיא השמיטה

ההכרזה היא למעשה משפט אחד: המודל כבר פעיל בפלטפורמות הסקה של צד שלישי, וחלון ההקשר של מיליון טוקנים הוא התכונה שמודגשת. היא אינה נוקבת במחיר באותן פלטפורמות, אינה מתחייבת שחלון ההקשר יוגש במלוא אורכו, ואינה אומרת דבר בשאלה אם הנחת מטמון הפרומפט עוקבת אחרי המודל אל מעבר לגבול. שלוש ההשמטות האלה הן שלוש השאלות שצוות צריך לשאול לפני שהוא מעביר פייפליין, והן אינן קטנוניות — לכל אחת מהן יש תשובה שגויה שנשמעת סבירה.

המודל שמופץ הוא אותו אחד שתיעדה StepFun בספטמבר, והנתונים המתועדים לא השתנו. מדף המודל של StepFun עצמה:

• מזהה מודל — step-5-preview, כאשר "Preview" הוא חלק מהמזהה ולא סיומת שהמאמר הזה הוסיף

• חלון ההקשר והקלט המקסימלי — 1M טוקנים כל אחד, לפי טבלת המפרט של StepFun

• פלט מרבי — 64k טוקנים, כאשר max_tokens מתועד כברירת מחדל כבלתי מוגבל, כך שהמודל בוחר את נקודת העצירה שלו בעצמו אלא אם תגדיר אחת

• קלט — טקסט, תמונות ווידאו; תמונות כ-URL או Base64 בפורמט JPG, PNG, WebP או GIF סטטי, עד 60 לבקשה; וידאו כ-MP4, QuickTime או Matroska

• פלט — טקסט בלבד, עם סטרימינג, קריאה לכלים, פלט מובנה של JSON Schema, ומאמץ הסקה ברמה נמוכה, בינונית או גבוהה

• ארכיטקטורה — מודל תערובת-מומחים דליל בעל 600 מיליארד פרמטרים בסך הכול ו-27 מיליארד פעילים לכל טוקן, לפי חומר ההשקה של StepFun והעותקים המשקפים של כרטיס המודל שנושאים אותו; עמוד התיעוד של StepFun עצמו אינו מציג מספר פרמטרים

• מחיר בפלטפורמה של StepFun עצמה — $1.00 למיליון אסימוני קלט, $0.10 למיליון אסימוני קלט עם פגיעת מטמון ו-$2.70 למיליון אסימוני פלט

שום דבר מזה אינו חדש. זהו קו הבסיס שהכרזת אוקטובר מפיצה, וכדאי לחזור על כך, כי מארח צד שלישי חופשי לספק כימות שונה, חלון אפקטיבי קצר יותר או סידור מטמון שונה, ואף אחת מהבחירות האלה לא מופיעה בפוסט השקה.

למה חלון ה-1M הוא החלק שנמכר

הקשר של 1M טוקנים הוא הסיבה שלמודל הזה יש בכלל סיפור הפצה. StepFun בנתה את Step 5 Preview סביב עבודה סוכנית ארוכת טווח, והחלון הוא מה שמאפשר פרומפט בקנה מידה של מאגר קוד או של קבוצת מסמכים בקריאה אחת, ולא דרך שכבת אחזור שצריך לבנות ולתחזק. בלוח העצמאי, Artificial Analysis נותנת ל-Step 5 Preview ציון 44 במדד Intelligence Index שלה ומחשבת עלות של כ-0.71 דולר למשימת אינדקס שהושלמה — נתון שמקפל את מידת הפירוט לתוך המחיר ולכן פחות מחמיא מאשר מחירון התעריפים. קריאות מהירות הפלט באותו עמוד נעו בין צילומים, מ-88.1 ל-99.8 טוקני פלט לשנייה, וזו כשלעצמה תזכורת לכך שתפוקה מתארחת היא תכונה של המארח לא פחות מאשר של המודל.

הנקודה האחרונה היא זו שההכרזה הופכת לרלוונטית. מודל דליל עם 600 מיליארד פרמטרים ו-27 מיליארד פרמטרים פעילים יקר להגשה בהקשר של מיליון טוקנים, מפני שמטמון ה-KV עבור פרומפט ארוך הוא עלות זיכרון ממשית לכל בקשה במקביל. מי שמגיש אותו קיבל החלטה לגבי כמה מהחלון הזה לכבד, כמה בקשות להריץ בבת אחת, והאם לכמת את מחסנית הקשב כדי להכניס יותר מהן לכרטיס. צ'קפוינט ה-FP8 של StepFun עצמה הוא 650 GB בדיסק, וצ'קפוינט ה-BF16 שלה הוא 1,215 GB; מארח שמריץ אחד מהשניים מריץ מכונה שונה מזו ש-StepFun מריצה, והתפוקה שספק מצטט עבור האשכול שלו אינה הבטחה לגבי זה של מישהו אחר.

המספר שלא נוסע: הנחת המטמון

כרטיס התעריפים של Step 5 Preview כולל הנחה של 95% על קלט שמור במטמון, מה שמוזיל טוקן הנקרא מחדש מ-1.00 דולר למיליון ל-0.10 דולר. עבור בקשה חד-סבבית אין לכך כל חשיבות. אך עבור עומס העבודה שלשמו המודל נמכר בפועל — לופ סוכן ששולח מחדש את אותה הנחיית מערכת, סכמת כלים ומפת מאגר בכל סבב — זהו המרכיב הדומיננטי בחשבון, וזו הסיבה שהתעריף האפקטיבי של Step 5 Preview בסשן ארוך רחוק מאוד מהמחיר הנקוב שלו.

מטמון פרומפטים הוא פרט מימוש של סטאק הגשה, ולא תכונה של המשקולות. האם מארח מסוים מציע אותו, כיצד הוא מזהה פגיעת מטמון, כמה זמן קידומת נשארת חמה ומה הוא גובה עבור הקריאה — כל אלה החלטות של המארח. StepFun מתעדת מטמון בפלטפורמה של StepFun. הכרזה שמודל זמין במקום אחר לא אומרת לך דבר על כך, וזהו השורה הספציפית שצריך לקרוא בעמוד התמחור של מארח חדש לפני שמניחים שהכלכלה שמידלת על בסיס הכרטיס של StepFun עדיין תקפה. מארח שגובה מחיר קלט מלא בכל סבב יכול להיות יקר פי כמה מ-StepFun עבור אותו עומס עבודה, בעוד שבעמוד הוא נראה זול יותר למיליון טוקנים.

ההפצה של StepFun בשבוע ההשקה שלה הייתה רחבה באופן יוצא דופן עבור ספינת הדגל של מעבדה סינית, והיא הגיעה בשלבים ולא בבת אחת: המודל הופיע בכלי קידוד של צד שלישי במסגרת ניסיון חינם בן שבוע בתחילת אוקטובר, ואירוח ה-API של צד שלישי שהוכרז ב-16 באוקטובר הוא צעד מאוחר וכללי יותר. כשקוראים את שני הדברים יחד, התבנית שמצטיירת היא של מעבדה שרוצה שהמודל יהיה מול מפתחים בכל מקום שבו הם כבר נמצאים, במקום לדחוף אותם לקונסולה שלה. זו אסטרטגיה קוהרנטית, והיא גם אסטרטגיה שיש לה עלות ברורה: כל מארח נוסף הוא עוד מקום שבו המעטפת של המודל היא מימוש של מישהו אחר.

שלוש שאלות שכדאי לשאול מארח חדש

התגובה המועילה להכרזה הזו היא לא לעבור, אלא לבדוק. אלה שלושת הפריטים שמכריעים אם נקודת קצה חדשה היא אותו מוצר.

• קוונטיזציה — שאל איזה צ'קפוינט מוגש. StepFun מפרסמת FP8, BF16, ומאז 14 באוקטובר, בילד NVFP4 בנפח 394 GB, ושלושת אלה אינם ניתנים להחלפה מבחינת איכות או טביעת זיכרון. מארח שמריץ NVFP4 על Blackwell מריץ מחסנית מומחים של ארבעה סיביות, כשהקשב ושערי הניתוב נשארים מחוץ לקוונטיזציה; האם זה בא על חשבון הדיוק במשימה שלך — זו שאלה שרק ה-eval שלך עונה עליה.

• הקשר אפקטיבי — שאלו אם 1M טוקנים מוגשים לכל פונה או מוגבלים לפי שכבה. הגשת פרומפט של מיליון טוקנים כרוכה בעלות מקביליות שמתבטאת כמגבלת קצב לפני שהיא מתבטאת במחיר, ומארח שמפרסם את החלון תוך שהוא מגביל את המקביליות מפרסם את מסמך המודל ולא את השירות.

• סמנטיקת מטמון — שאלו מה העלות של קידומת חוזרת. זו השורה שמכריעה את כלכלת הסשנים הארוכים, והיא השורה שסביר ביותר שתושמט.

ריצה מול אותו פרומפט בשני נקודות הקצה, הנמדדת בדולרים לכל משימה שהושלמה ולא בדולרים למיליון טוקנים, עונה על כל שלושת הדברים בבת אחת ואורכת אחר צהריים.

לאן זה מותיר את המודל

Step 5 Preview הוא מודל תערובת מומחים דליל עם 600 מיליארד פרמטרים, חלון של מיליון טוקנים, קלט טקסט, תמונה וווידאו, תקרת פלט של 64k, מחירון של $1.00 / $2.70 והנחת מטמון של 95% בפלטפורמה של StepFun עצמה, עם ציון 44 במדד העצמאי היחיד שמכסה אותו. שוחרר ב-20 בספטמבר 2026. נכון ל-16 באוקטובר, ניתן לגשת אליו גם, בצורה כלשהי ובמחיר כלשהו, מלפחות מארח אחד שאינו StepFun.

שווה לומר בבירור ש-Step 5 Preview אינו נמצא בקטלוג החי של OrcaRouter, כך שהמקום לפנות אליו נותר ה-API של הספק עצמו או מארח צד שלישי — ואם אתם בוחנים אותו, הפער הזה הוא הטיעון להשאיר את שאר הסטאק שלכם על נקודת קצה אחת. API אחד שמכסה יותר מ-200 מודלים במחיר המחירון של הספק, ללא תוספת הוא מה שמאפשר לניסוי של שבועיים על מודל חדש להישאר ניסוי: הגיבוי שלכם הוא כלל ניתוב ולא אינטגרציה שנייה, מעבר אוטומטי בעת כשל פירושו שנקודת קצה לא מוכרת לא יכולה להפיל איתה את נתיב הייצור שלכם, וכיוון שההעברה היא במחיר של הספק עצמו, שינוי תעריפים של ספק מגיע לחשבון שלכם ביום שהוא נכנס לתוקף ולא במחזור החוזה הבא. המודל שאתם בוחנים הוא הסיכון; התשתית סביבו לא אמורה להיות סיכון נוסף.

הדבר הבא שכדאי לשים לב אליו הוא לא עוד מארח. זהו המארח הראשון שמפרסם את התפוקה שלו, את תנאי המטמון שלו ואת הקוונטיזציה שלו באותו עמוד, כך שההשוואה מפסיקה להיות ניחוש לגבי מה עולה חלון של 1M טוקנים כשמישהו אחר מלבד StepFun משלם עבור ה-GPUs.