Het 1M-tokenvenster van Step 5 Preview heeft zojuist StepFun's eigen API verlaten

Step 5 Preview was op 16 oktober 2026 geen model van één leverancier meer. StepFuns eigen account bevestigde die dag dat zijn 1M-token vlaggenschipmodel nu live is op inferentie-hosts van derden, de eerste keer dat het model bereikbaar is voor een ontwikkelaar die geen StepFun-account, geen StepFun-saldo en geen StepFun-tariefkaart in een tweede valuta wil. Dat is de hele nieuwswaarde van de aankondiging, en het is de moeite waard om dat ronduit te zeggen, want de aankondiging zelf bevatte geen nieuwe specificatie, geen prijswijziging en geen benchmark. Ze bevatte een distributiewijziging. StepFun bracht Step 5 Preview uit op 20 september 2026; wat er op 16 oktober gebeurde, is dat het model ergens anders dan thuis begon op te duiken. Dat gat tussen wat een scorebord meet en wat een deployment tegenkomt, is de reden dat het record ertoe doet: de gedocumenteerde AI-fouten en agent-incidenten rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistingsmarkering heeft.

Distributieveranderingen zijn gemakkelijk te onderschatten, en juist zij zetten de inkoop in beweging. Een model dat bij precies één leverancier beschikbaar is, is een enkel storingspunt, één set snelheidslimieten en één set regionale endpoints, en het eerlijke antwoord op "wat gebeurt er als die leverancier een slechte middag heeft" is "je product heeft een slechte middag." Een model dat bij meerdere onafhankelijke hosts beschikbaar is, is een routeringsprobleem, en routeringsproblemen hebben oplossingen. Het addertje onder het gras is dat niet alles aan Step 5 Preview met de gewichten meereist naar een nieuwe host, en hetgeen niet meereist, is het getal dat je factuur hoogstwaarschijnlijk bepaalt.

Wat StepFun daadwerkelijk zei, en wat het wegliet

De aankondiging is in wezen één zin lang: het model is live op inferentieplatforms van derden, en het contextvenster van 1M tokens is het kenmerk dat wordt benadrukt. Er wordt geen prijs genoemd op die platforms, er wordt niet toegezegd dat een contextvenster op volledige lengte wordt aangeboden, en er wordt niets gezegd over of de prompt-cachekorting het model over de grens heen volgt. Die drie weglatingen zijn de drie vragen die een team zou moeten stellen voordat het een pipeline verplaatst, en het is geen muggenzifterij — elk ervan heeft een plausibel fout antwoord.

Het model dat wordt gedistribueerd is hetzelfde model dat StepFun in september heeft gedocumenteerd, en de gedocumenteerde cijfers zijn niet veranderd. Van de eigen modelpagina van StepFun:

• Model-ID — step-5-preview, waarbij "Preview" deel uitmaakt van de identificatie en geen suffix is die dit artikel eraan heeft toegevoegd

• Contextvenster en maximale invoer — elk 1M tokens, volgens de specificatietabel van StepFun

• Maximale output — 64k tokens, met max_tokens gedocumenteerd als standaard onbeperkt, zodat het model zijn eigen stoppunt kiest, tenzij je er een instelt

• Invoer — tekst, afbeeldingen en video; afbeeldingen als URL of Base64 in JPG, PNG, WebP of statische GIF, tot 60 per verzoek; video als MP4, QuickTime of Matroska

• Uitvoer — alleen tekst, met streaming, het aanroepen van tools, gestructureerde uitvoer volgens JSON Schema en redeneerinspanning op laag, gemiddeld of hoog

• Architectuur — een sparse mixture-of-experts-model met 600 miljard totale parameters en 27 miljard actieve parameters per token, volgens het lanceermateriaal van StepFun en de mirrors van de model card die deze bevatten; de eigen documentatiepagina van StepFun vermeldt geen parameteraantal

• Prijs op het eigen platform van StepFun — $1,00 per miljoen invoertokens, $0,10 per miljoen cache-hit invoertokens en $2,70 per miljoen uitvoertokens

Niets daarvan is nieuw. Het is de basislijn die de oktoberaankondiging verspreidt, en het is de moeite waard om te herhalen, want het staat een host van een derde partij vrij om een andere kwantisatie, een korter effectief venster of een andere cache-indeling aan te bieden, en geen van die keuzes komt voor in een lanceringsbericht.

Waarom het venster van 1M het onderdeel is dat wordt verkocht

Het 1M-tokencontextvenster is de reden dat dit model überhaupt een distributieverhaal heeft. StepFun bouwde Step 5 Preview rond agentisch werk met een lange horizon, en dat venster is wat een prompt op repositoryschaal of documentensetschaal mogelijk maakt in één enkele aanroep, in plaats van via een retrievallaag die je zelf moet bouwen en onderhouden. Op de onafhankelijke ranglijst geeft Artificial Analysis Step 5 Preview een score van 44 op zijn Intelligence Index en berekent het een kostenpost van ongeveer $0,71 per voltooide indextaak — een cijfer dat breedsprakigheid in de prijs verrekent en daarom minder flatteus is dan de tariefkaart. De metingen van de outputsnelheid op dezelfde pagina zijn tussen vastleggingen verschoven, van 88,1 naar 99,8 outputtokens per seconde, wat op zichzelf een herinnering is dat gehoste doorvoer net zozeer een eigenschap van de host als van het model is.

Dat laatste punt is het punt dat de aankondiging relevant maakt. Een sparse model met 600 miljard parameters en 27 miljard actieve parameters is duur om te serveren bij een context van een miljoen tokens, omdat de KV-cache voor een lange prompt een echte geheugenkost is per gelijktijdig verzoek. Wie het ook serveert, heeft een beslissing genomen over hoeveel van dat venster te honoreren, hoeveel verzoeken er tegelijk te draaien, en of de attention-stack moet worden gekwantiseerd om er meer op een kaart te laten passen. StepFuns eigen FP8-checkpoint is 650 GB op schijf en zijn BF16-checkpoint is 1.215 GB; een host die een van beide draait, draait een andere machine dan degene die StepFun draait, en de doorvoer die een leverancier voor zijn eigen cluster opgeeft, is geen belofte over die van iemand anders.

Het getal dat niet reist: de cachekorting

De tariefkaart van Step 5 Preview heeft een korting van 95% op gecachte input, waardoor een herlezen token van $1,00 per miljoen naar $0,10 gaat. Voor een single-turnverzoek is dit irrelevant. Voor de workload waarvoor het model daadwerkelijk wordt verkocht — een agent-loop die bij elke beurt dezelfde systeemprompt, toolschema en repositorymap opnieuw verstuurt — is het de dominante post op de factuur, en het is de reden dat het effectieve tarief van Step 5 Preview voor een lange sessie bij lange na niet in de buurt komt van de stickerprijs.

Prompt-caching is een implementatiedetail van een servingstack, geen eigenschap van gewichten. Of een bepaalde host het aanbiedt, hoe hij een cache-hit identificeert, hoe lang een prefix warm blijft en wat hij rekent voor het lezen, zijn allemaal beslissingen van de host. StepFun documenteert caching op het platform van StepFun. Een aankondiging dat een model ergens anders beschikbaar is, zegt je niets over die caching, en dit is de specifieke regel die je op de prijspagina van een nieuwe host moet lezen voordat je aanneemt dat de economie die je op de tariefkaart van StepFun hebt gemodelleerd, nog steeds opgaat. Een host die bij elke beurt de volledige inputprijs rekent, kan voor dezelfde workload meerdere keren duurder zijn dan StepFun, terwijl hij er op de pagina goedkoper uitziet per miljoen tokens.

De eigen distributie van StepFun tijdens de lanceringsweek is ongewoon breed voor het vlaggenschip van een Chinees lab, en ze is stapsgewijs verschenen in plaats van in één keer: het model verscheen begin oktober een week lang op proef in coderingstools van derden, en de op 16 oktober aangekondigde API-hosting door derden is een latere en algemenere stap. Lees je die twee samen, dan is het patroon dat van een lab dat het model bij ontwikkelaars wil krijgen waar die zich ook al bevinden, in plaats van hen naar zijn eigen console te drijven. Dat is een samenhangende strategie, en het is ook een strategie met een voor de hand liggende prijs: elke extra host is weer een plek waar de schil rond het model de implementatie van iemand anders is.

Drie vragen die de moeite waard zijn om aan een nieuwe host te stellen.

De nuttige reactie op deze aankondiging is niet overstappen, maar controleren. Dit zijn de drie items die bepalen of een nieuw endpoint hetzelfde product is.

• Kwantisatie — vraag welke checkpoint wordt geserveerd. StepFun publiceert FP8, BF16 en, sinds 14 oktober, een NVFP4-build van 394 GB, en die drie zijn niet uitwisselbaar qua kwaliteit of geheugenvoetafdruk. Een host die NVFP4 op Blackwell draait, draait een vierbits-expertstack waarbij attention en de routing gates op een hogere precisie zijn gehouden; of dat je nauwkeurigheid op je taak kost, is een vraag die alleen je eigen eval beantwoordt.

• Effectieve context — vraag of 1M tokens aan elke aanroeper wordt geleverd of per tier wordt beperkt. Het serveren van een prompt van een miljoen tokens heeft een concurrencykostenpost die zich eerder als een rate limit manifesteert dan als een prijs, en een host die het venster adverteert terwijl hij de concurrency beperkt, adverteert het document van het model in plaats van de service.

• Cache-semantiek — vraag wat een herhaald prefix kost. Dit is de regel die de economie van lange sessies bepaalt, en het is de regel die het vaakst wordt weggelaten.

Een run tegen dezelfde prompt op beide endpoints, gemeten in dollars per afgeronde taak in plaats van dollars per miljoen tokens, beantwoordt alle drie in één keer en kost een middag.

Waar dit het model laat

Step 5 Preview is een sparse mixture-of-experts-model met 600 miljard parameters, een venster van een miljoen tokens, tekst-, afbeeldings- en video-invoer, een uitvoerplafond van 64k, een tariefkaart van $1,00 / $2,70 en 95% cachekorting op StepFuns eigen platform. Het scoorde 44 op de enige onafhankelijke index die het dekt. Uitgebracht op 20 september 2026. Vanaf 16 oktober is het ook, in een of andere vorm en tegen een of andere prijs, bereikbaar via ten minste één host die niet StepFun is.

Het is de moeite waard om ronduit te zeggen dat Step 5 Preview niet in de live catalogus van OrcaRouter staat, dus de plek om het aan te roepen blijft de eigen API van de leverancier of een externe host — en als je het aan het evalueren bent, is die leemte het argument om de rest van je stack op één endpoint te houden. Eén API die meer dan 200 modellen dekt tegen de adviesprijs van de provider, zonder opslag is wat ervoor zorgt dat een experiment van twee weken met een nieuw model een experiment blijft: je fallback is een routeringsregel in plaats van een tweede integratie, automatische failover betekent dat een onbekend endpoint je productiepad niet mee de diepte in kan slepen, en omdat de doorvoer de eigen prijs van de provider is, bereikt een tariefwijziging van een leverancier je factuur op de dag dat die ingaat in plaats van in de volgende contractcyclus. Het model dat je test is het risico; de infrastructuur eromheen zou geen tweede risico moeten zijn.

Het volgende waar je op moet letten is niet nog een host. Het is de eerste host die zijn eigen doorvoer, zijn cachevoorwaarden en zijn kwantisatie op dezelfde pagina publiceert, zodat de vergelijking niet langer een gok is over wat het 1M-tokenvenster kost wanneer iemand anders dan StepFun voor de GPU's betaalt.