Step 5 Previews 1M-tokenfönster har just lämnat StepFuns eget API

Step 5 Preview slutade vara en modell från en enda leverantör den 16 oktober 2026. StepFuns eget konto bekräftade den dagen att dess 1M-token-flaggskepp nu är live hos tredjepartsvärdar för inferens, vilket är första gången modellen har varit nåbar för en utvecklare som inte vill ha ett StepFun-konto, ett StepFun-saldo och en StepFun-prislista i en andra valuta. Det är hela nyhetsvärdet i tillkännagivandet och det är värt att säga rakt ut, eftersom tillkännagivandet i sig inte innehöll någon ny specifikation, ingen prisförändring och ingen benchmark. Det innebar en förändring i distributionen. StepFun släppte Step 5 Preview den 20 september 2026; det som hände den 16 oktober är att modellen började dyka upp någon annanstans än hemma. Klyftan mellan vad en resultattavla mäter och vad en driftsättning möter är anledningen till att registret spelar roll: de dokumenterade AI-felen och agentincidenterna kring modeller i den här klassen samlas in i OrcaRouter AI Incident Archive där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omtvistad status.

Distributionsförändringar är lätta att underskatta, och det är de som driver upphandlingen. En modell som finns hos exakt en leverantör är en enda felpunkt, en enda uppsättning anropsgränser och en enda uppsättning regionala slutpunkter, och det ärliga svaret på "vad händer om den leverantören har en dålig eftermiddag" är "din produkt har en dålig eftermiddag". En modell som finns hos flera oberoende värdar är ett routingproblem, och routingproblem har lösningar. Haken är att inte allt med Step 5 Preview följer med vikterna till en ny värd, och det som inte följer med är den siffra som med största sannolikhet avgör din faktura.

Vad StepFun faktiskt sa, och vad som utelämnades

Tillkännagivandet består i sak av en enda mening: modellen är live på tredjepartsplattformar för inferens, och kontextfönstret på 1M tokens är den funktion som betonas. Det anger inget pris på dessa plattformar, förbinder sig inte till att ett kontextfönster tillhandahålls i full längd, och säger ingenting om huruvida prompt-cache-rabatten följer med modellen över gränsen. Dessa tre utelämnanden är de tre frågor ett team bör ställa innan det flyttar en pipeline, och de är inte hårklyveri — var och en av dem har ett trovärdigt felaktigt svar.

Modellen som distribueras är samma som StepFun dokumenterade i september, och de dokumenterade siffrorna har inte ändrats. Från StepFuns egen modellsida:

• Modell-ID — step-5-preview, med "Preview" som en del av identifieraren snarare än ett suffix som den här artikeln har lagt till

• Kontextfönster och maximal indata – 1M tokens vardera, enligt StepFuns specifikationstabell

• Maximal utdata – 64k tokens, med max_tokens dokumenterat som standardmässigt obegränsat så att modellen väljer sin egen stoppunkt om du inte anger en

• Indata — text, bilder och video; bilder som URL eller Base64 i JPG, PNG, WebP eller statisk GIF upp till 60 per begäran, video som MP4, QuickTime eller Matroska

• Utdata — endast text, med streaming, verktygsanrop, JSON Schema-strukturerad utdata och resonemangsinsats på låg, medel eller hög

• Arkitektur — en gles mixture-of-experts-modell med 600 miljarder parametrar totalt och 27 miljarder aktiva per token, enligt StepFuns lanseringsmaterial och de modellkortsspeglar som återger den; StepFuns egen dokumentationssida anger inget parameterantal

• Pris på StepFuns egen plattform — 1,00 USD per miljon indatatoken, 0,10 USD per miljon indatatoken med cacheträff och 2,70 USD per miljon utdatatoken

Inget av det är nytt. Det är den baslinje som tillkännagivandet i oktober förmedlar, och det är värt att upprepa eftersom en tredjepartsvärd fritt kan leverera en annan kvantisering, ett kortare effektivt fönster eller ett annat cacheupplägg, och inget av dessa val framgår av ett lanseringsinlägg.

Varför 1M-fönstret är den del som säljs

1M-token-kontexten är anledningen till att den här modellen överhuvudtaget har en distributionsberättelse. StepFun byggde Step 5 Preview kring långsiktigt agentiskt arbete, och fönstret är det som gör en prompt i repositorie- eller dokumentsamlingsskala möjlig i ett enda anrop i stället för genom ett hämtningslager som du måste bygga och underhålla. På den oberoende resultattavlan ger Artificial Analysis Step 5 Preview 44 poäng på sitt Intelligence Index och beräknar en kostnad på ungefär $0,71 per slutförd indexuppgift — en siffra som väver in verbositet i priset och därför är mindre smickrande än prislistan. Avläsningar av utdatahastighet på samma sida har förändrats mellan mätningar, från 88,1 till 99,8 utdatatokens per sekund, vilket i sig är en påminnelse om att hostad genomströmning är en egenskap hos värden lika mycket som hos modellen.

Den sista punkten är den som tillkännagivandet aktualiserar. En sparse-modell med 600 miljarder parametrar och 27 miljarder aktiva parametrar är dyr att betjäna vid en kontext på en miljon tokens, eftersom KV-cachen för en lång prompt är en verklig minneskostnad per samtidig förfrågan. Den som betjänar den har fattat ett beslut om hur mycket av det fönstret som ska respekteras, hur många förfrågningar som ska köras samtidigt och huruvida attention-stacken ska kvantiseras för att få plats med fler av dem på ett kort. StepFuns egen FP8-checkpoint är 650 GB på disk och dess BF16-checkpoint är 1 215 GB; en värd som kör någon av dem kör en annan maskin än den som StepFun kör, och den genomströmning en leverantör uppger för sitt eget kluster är inte ett löfte om någon annans.

Numret som inte färdas: cacherabatten

Prislistan för Step 5 Preview har 95 % rabatt på cachad indata, vilket tar ett omläst token från $1,00 per miljon till $0,10. För en begäran med en enda tur är detta irrelevant. För den arbetsbelastning som modellen faktiskt säljs för – en agentloop som skickar samma systemprompt, verktygsschema och repository-karta igen vid varje tur – är det den dominerande termen i räkningen, och det är anledningen till att den effektiva taxan för Step 5 Preview under en lång session inte är i närheten av dess prislapp.

Prompt-cachning är en implementeringsdetalj i en serveringsstack, inte en egenskap hos vikterna. Huruvida en given värd erbjuder det, hur den identifierar en cacheträff, hur länge ett prefix förblir varmt och vad den tar betalt för läsningen är alla beslut som värden fattar. StepFun dokumenterar cachning på StepFuns plattform. Ett meddelande om att en modell är live någon annanstans säger dig ingenting om det, och detta är den specifika rad du bör läsa på en ny värds prissida innan du antar att ekonomin du modellerade utifrån StepFuns kort fortfarande gäller. En värd som tar fullt indatapris vid varje tur kan vara flera gånger dyrare än StepFun för samma arbetsbelastning, samtidigt som den ser billigare ut per miljon token på sidan.

StepFuns egen distribution under lanseringsveckan har varit ovanligt bred för ett kinesiskt labs flaggskepp, och den har kommit i etapper snarare än på en gång: modellen dök upp i tredjepartsverktyg för kodning med en gratis provperiod i en vecka i början av oktober, och den tredjeparts-API-hostning som tillkännagavs den 16 oktober är ett senare och mer allmänt steg. Läser man de två tillsammans är mönstret ett labb som vill ha modellen framför utvecklare var de än redan befinner sig, snarare än att driva dem till sin egen konsol. Det är en sammanhängande strategi och det är också en strategi med en uppenbar kostnad: varje ytterligare värd är ännu en plats där modellens ramar är någon annans implementering.

Tre frågor värda att ställa till en ny värd

Det användbara svaret på detta tillkännagivande är inte att byta, det är att kontrollera. Det här är de tre punkterna som avgör om en ny slutpunkt är samma produkt.

• Kvantisering – fråga vilken checkpoint som serveras. StepFun publicerar FP8, BF16 och, sedan den 14 oktober, en NVFP4-version på 394 GB, och dessa tre är inte utbytbara när det gäller kvalitet eller minnesavtryck. En värd som kör NVFP4 på Blackwell kör en expertstack i fyra bitar med attention och routing-gates undantagna från kvantiseringen; om det kostar dig noggrannhet i din uppgift är en fråga som bara din egen utvärdering kan svara på.

• Effektiv kontext — fråga om 1M tokens serveras till varje anropare eller begränsas per nivå. Att servera en prompt på en miljon tokens har en kostnad för samtidighet som visar sig som en hastighetsgräns innan den visar sig som ett pris, och en värd som annonserar fönstret samtidigt som den begränsar samtidigheten annonserar modellens dokument snarare än tjänsten.

• Cache-semantik — fråga vad ett upprepat prefix kostar. Detta är raden som avgör ekonomin för långa sessioner, och det är raden som mest troligt utelämnas.

En körning mot samma prompt på båda slutpunkterna, mätt i dollar per slutförd uppgift i stället för dollar per miljon tokens, besvarar alla tre på en gång och tar en eftermiddag.

Var detta lämnar modellen

Step 5 Preview är en sparse mixture-of-experts-modell med 600 miljarder parametrar och ett fönster på en miljon tokens, text-, bild- och videoinmatning, ett utdatatak på 64k, en prislista på $1,00 / $2,70 och 95 % cacherabatt på StepFuns egen plattform, med 44 poäng på det enda oberoende index som täcker den. Släppt den 20 september 2026. Sedan den 16 oktober är den också nåbar, i någon form och till något pris, från minst en värd som inte är StepFun.

Det är värt att säga rakt ut att Step 5 Preview inte finns i OrcaRouters livedatalog, så stället att anropa den är fortfarande leverantörens eget API eller en tredjepartsvärd – och om du utvärderar den är den luckan argumentet för att hålla resten av din stack på en enda endpoint. Ett API som täcker över 200 modeller till leverantörens listpris utan påslag är det som gör att ett tvåveckors experiment med en ny modell förblir ett experiment: din fallback är en routningsregel i stället för en andra integration, automatisk failover innebär att en obekant endpoint inte kan dra ner din produktionsväg med sig, och eftersom vidarebefordran sker till leverantörens eget pris når en leverantörs prisändring din faktura samma dag som den landar i stället för vid nästa avtalscykel. Modellen du testar är risken; infrastrukturen runt den borde inte vara en andra.

Nästa sak att hålla utkik efter är inte ännu en värd. Det är den första värden som publicerar sin egen genomströmning, sina cachevillkor och sin kvantisering på samma sida, så att jämförelsen slutar vara en gissning om vad 1M-token-fönstret kostar när någon annan än StepFun betalar för GPU:erna.