Vikterna för Step 5 Preview saknades aldrig: vad NVFP4-checkpointen ändrar

S​tep 5 Preview har varit nedladdningsbar sedan den dag då StepFun släppte den 20 september 2026 — och en stor del av det som har skrivits om modellen sedan dess säger motsatsen. FP8-repositoriet stepfun-ai/S​tep-5-Preview skapades kl. 03:15 UTC den morgonen och dess första shard committades 36 minuter senare; BF16-repositoriet följde kl. 03:52 och dess shards landade kl. 04:18. Båda är StepFuns egna, båda är fritt tillgängliga, och tillsammans innehåller de 1,86 terabyte vikter. Det som förändrades i mitten av oktober är snävare och mer användbart än en återutgivning: StepFun publicerade en tredje checkpoint i NVIDIAs NVFP4-format, och den 15 oktober 2026 NVIDIA stödde det offentligt — och kallade detta "deras största släpp av öppna vikter", sade att modellen "är byggd för att hantera agentuppgifter som pågår i upp till 24 timmar" och satte en siffra på det: "nästan 8K tokens/sek/GPU på NVIDIA GB300 med NVFP4."

Det är nyheten. Korrigeringen är anledningen till att den här artikeln inleds med ett datum i stället för ett tillkännagivande. Bevakning som skrevs den 20 september förhöll sig till ett arkiv som var några minuter gammalt och tillfälligt tomt, och formuleringen "vikter utlovade till ett senare datum" höll i sig även efter att vikterna anlände samma morgon. En systerartikel på den här sajten upprepade det så sent som den 13 oktober. Det är inte sant nu och det var inte sant då, och det spelar roll eftersom frågan om öppna vikter var den enskilt största ouppklarade punkten i varje artikel om den här modellen.

Vad som faktiskt släpptes den 14 och 15 oktober

Den nya artefakten är stepfun-ai/S​tep-5-Preview-NVFP4. Repositoriet skapades kl. 02:59 UTC den 14 oktober 2026 och viktuppladdningen är en commit kl. 07:10 UTC samma dag av en bidragsgivare vars konto, huangyu-nv, också skrev om README en timme senare för att anpassa den till FP8- och BF16-repositorierna. Det rymmer 394,18 GB fördelat på 95 safetensors-filer ordnade som 92 filer per lager plus två extrafiler och en vision tower-fil — ett annat sharding-schema än FP8- och BF16-reposen, som båda levererar 24 text-shards plus ett multi-token-prediction-huvud och en ViT.

Vad som finns i den är värt att ange exakt, eftersom "NVFP4" används löst i omlopp. Kvantiseringsblocket i config.json lyder: quant_method: modelopt, quant_algo: NVFP4, group_size: 16, och kv_cache_quant_algo: null. Ignoreringslistan är lång och specifik: 92 självuppmärksamhetsblock, 88 MoE-grindar, 88 delade experter, inbäddningstabellen, den slutliga normen och språkmodellshuvudet, plus visionstornet och dess projektor. Endast tre poster i hela listan rör moe.experts. I klartext: uppmärksamhet och routningsmekaniken stannar i högre precision, och experternas feed-forward-vikter — huvuddelen av de 600 miljarder parametrarna — är den del som kvantiserades. KV-cachen är orörd, vilket är detaljen som avgör om din serveringskonfiguration för lång kontext överlever bytet.

Hugging Faces egen parameterredovisning för det repot anger 320,6 miljarder, uppdelat i 282,4 miljarder U8, 38,2 miljarder BF16 och 2,4 miljoner F32, och filens sida skriver ut "321B params" som modellstorlek. StepFuns modellkort på samma sida anger 600B totalt och 27B aktiva. Båda är korrekta och de räknar olika saker: 321B-siffran är en lagringsräkning av kvantiserade element, inte en parameterräkning i den bemärkelse som arkitekturbeskrivningen använder. Om du dimensionerar minne, använd lagringssiffran. Om du beskriver modellen, använd modellkortet.

Tre kontrollpunkter, tre hårdvaruräkningar

Anledningen till att NVFP4-släppet betyder mer än en fjärde fil i en mapp är att det förändrar den minsta maskin du kan köra den här modellen på. StepFuns egen driftsättningstabell i modellkortet anger formerna för de två äldre checkpointarna, och repositorierna anger storlekarna; här är de tillsammans, med NVFP4-raden tillagd.

• Precision — FP8 650,32 GB vs BF16 1 214,9 GB vs NVFP4 394,18 GB på disk

• Minsta publicerade vLLM-konfiguration — FP8: en B300-nod med 4 GPU:er, eller en H200-nod med 8 GPU:er vs BF16: en B300-nod med 8 GPU:er, eller två H200-noder med 16 GPU:er vs NVFP4 som ännu inte finns i StepFuns tabell

• Parallelism som kortet rekommenderar — FP8 TP4, TEP4 eller DEP4 på B300 vs BF16 TP8, TEP8 eller DEP8 vs NVFP4 anges inte

• Attention- och routervikter — FP8 kvantiserat till åtta bitar vs BF16 med full precision vs NVFP4 som lämnats okvantiserat av ModelOpts ignoreringslista

• KV-cache — okvantiserad i alla tre, eftersom NVFP4-konfigurationen sätter kv_cache_quant_algo till null

• Serving-stack — alla tre via vLLM eller SGLang med en OpenAI-kompatibel slutpunkt, eller offline via den fristående Transformers-vägen

Luckan i de två sista raderna är det ärliga förbehållet om den nya checkpointen. N​VIDIAs inlägg säger att modellen körs med nästan 8K tokens per sekund per GPU på GB300 med NVFP4, men StepFuns driftsättningstabell har inte uppdaterats med en NVFP4-rad, så det finns ännu inget leverantörspublicerat parallelliseringsrecept för den. Om du planerar en driftsättning den här veckan är FP8-vägen den med en dokumenterad konfiguration och NVFP4-vägen är den med en rubriksiffra kopplad till någon annans hårdvara.

8K-siffran är en leverantörssiffra, och bara en leverantör har sagt det.

NVIDIAs inlägg den 15 oktober utgör hela förstapartsunderlaget om detta. Det finns inget inlägg på NVIDIAs utvecklarblogg, ingen tillkännagivandesida från StepFun och ingen tredjepartsreproduktion av genomströmningspåståendet som kan kontrolleras utifrån. "Nästan 8K tokens/sek/GPU" är också ett påstående som betyder väldigt lite utan batchstorleken, sekvenslängden och den samtidighetsnivå som mätningen gjordes vid — samma modellkonfiguration kan skilja sig med en storleksordning längs dessa tre axlar, och serveringsramverk för mixture-of-experts-modeller är särskilt känsliga för hur många experter som är aktiva per token. Betrakta det som NVIDIA:s rapportering om NVIDIA-hårdvara, vilket är precis vad det säger sig vara, och inte som en oberoende verifierad genomströmningssiffra.

Påståendet om 24-timmarsagenten har samma status. Det är en beskrivning av förmåga snarare än en mätning, och StepFuns eget kort beskriver långsiktig körning i samma ordalag utan att knyta en varaktighet till den. Leverantörens publicerade utvärderingsanteckningar för den här modellen listar visserligen testramverket och inställningarna – temperatur 1,0, top-p 0,95, top-k 0, resonemangsinställningen High, SWE-agent-testramverket för DeepSWE v1.1 – vilket är mer än vad många lanseringskort erbjuder, men själva poängtabellen är en bild och StepFun publicerar ingen numerisk benchmarktabell i sin dokumentation. Den enda neutrala utvärderaren med en aktuell poäng för den här modellen är Artificial Analysis, där S​tep 5 Preview ligger på 44 i Intelligence Index och ursprungligen kostade 1,03 dollar per indextask att köra.

Driftsättningsreceptet kom med kontrollpunkten, och det är den delen du kommer att använda.

När man läser repo-historikerna framgår det att viktfilerna och instruktionerna inte kom tillsammans. Båda de äldre reporna skrevs om under 13 och 14 oktober — sju README-commits i FP8-repot mellan 13 och 15 oktober — och vad dessa commits lade till är en fullständig servingguide: en publicerad containeravbildning på vllm/vllm-openai:step-5-preview, fungerande kommandon för tensor-, expert- och kombinerad parallellism, den flagguppsättning som modellen behöver och en validerad SGLang-väg. Det är i flaggorna som det modellspecifika arbetet syns: --max-model-len 1048576, ett spekulativt avkodningshuvud konfigurerat som --spec-method mtp --spec-tokens 3, och dedikerade --reasoning-parser step5 och --tool-call-parser step5 parsers så att modellens resonemangsblock och verktygsanrop överlever rundturen genom ett OpenAI-format API. På Blackwell växlar TEP- och DEP-konfigurationerna MoE-backenden till deep_gemm_mega_moe; den vanliga TP4-konfigurationen kan inte det, eftersom den backenden kräver expertparallellism.

Det är ramverksstödet som landar, och för alla som överväger att bygga på den här modellen är det värt mer än påståendet om genomströmning. En nedladdning på 650 GB med ett ovaliderat startkommando är ett forskningsprojekt. En nedladdning på 650 GB med en pinnad containeravbild, fyra testade parallella konfigurationer per precision och en parser som förstår modellens eget utdataformat är en driftsättning.

Om du inte vill äga något av det, är aritmetiken för den här modellen ovanlig. S​tep 5 Preview körs på StepFuns egen plattform för 1,00 USD per miljon indatatoken, 0,10 USD per miljon indatatoken med cacheträff och 2,70 USD per miljon utdatatoken, så en månad med 200 miljoner indatatoken och 200 miljoner utdatatoken faktureras med 200 USD respektive 540 USD — mot ungefär månadspriset för en nod med fyra B300-GPU:er för hårdvaran som betjänar den. Självhosting här är ett beslut om kontroll och dataplacering, inte ett kostnadsbeslut, och att vikterna är öppna är det som gör att det överhuvudtaget är ett beslut du får fatta. Det är värt att säga rakt ut att S​tep 5 Preview inte finns med på OrcaRouters lista över aktiva modeller, så den ska anropas via leverantörens eget API; vad ett API för fler än 200 modeller ger dig i den här situationen är den andra halvan av frågan — kostnaden för den modell du skulle flytta arbetsbelastningen till om en självhostad driftsättning inte fungerar, med 0 % påslag på varje leverantörs listpris.

Licensen, läst ordagrant

”Öppna vikter” gör ett arbete i NVIDIAs formulering som licensen inte fullt ut stöder, och detta är den del av historien som mest sannolikt missförstås. StepFun Model License 1.0 är en evigvarande, världsomspännande, royaltyfri, icke-exklusiv licens att använda, kopiera, distribuera, vidarelicensiera, modifiera och skapa derivatverk från vikterna, med en motsvarande patentlicens. Det är inte en OSI-godkänd öppen källkodslicens, och det finns två villkor värda att känna till innan du bygger en verksamhet på den.

• Erkännande — om en kommersiell produkt eller tjänst som använder modellen överstiger 100 miljoner månatliga aktiva användare eller 20 miljoner USD i intäkter under någon kalendermånad, måste du på ett framträdande sätt visa "Powered by StepFun AI" i produktens gränssnitt och i ditt användaravtal

• Separat kommersiell licens krävs – om du är hårdvarutillverkare eller varumärkesägare som levererar modellens funktioner i enheter, eller om du driver en model-as-a-service-verksamhet och de sammanlagda intäkterna överstiger 20 miljoner USD under vilken tolvmånadersperiod som helst

• Vad som uttryckligen inte är MaaS – att bädda in modellens förmåga i en fast slutanvändarfunktion, eller att enbart vidarebefordra förfrågningar till en annan leverantörs modell

• Vad som uttryckligen är tillåtet utan det extra avtalet – intern användning som inte exponerar modellen eller dess förmågor för tredje part, samt användning som erhållits via en StepFun-certifierad distributionskanal inom ramen för den certifieringen

• Upphörande — väsentligt avtalsbrott avslutar beviljandet, med en frist på trettio dagar för avhjälpande efter skriftlig underrättelse

Så den praktiska tolkningen är att vikterna faktiskt går att ladda ner och faktiskt går att använda, även kommersiellt, upp till trösklarna i avsnitt 2. En startup som finjusterar den här modellen för internt dokumentarbete omfattas av licensen. En mobiltillverkare som levererar den som en funktion, eller en verksamhet med hostad inferens som passerat 20 miljoner dollar, gör det inte. Det är samma typ av begränsning som L​lama- och Q​wenlicenserna använder, och det är värt att säga rakt ut i stället för att arkivera under "öppet."

Var detta lämnar modellen

En mixture-of-experts-modell med 600 miljarder parametrar och 27 miljarder aktiva parametrar, en kontext på en miljon token, text-, bild- och videoinmatning, en maximal utdata på 64k i StepFuns dokumentation, en ungefärlig prislista på 1,00 $ / 2,70 $, ett indexresultat på 44 från den enda neutrala utvärderare som har poängsatt den, och tre nedladdningsbara checkpoints i tre precisioner. Släppt den 20 september 2026. Vikterna öppna sedan morgonen på släppdagen. Kvantiserad för Blackwell den 14 oktober, godkänd av GPU-tillverkaren den 15 oktober, vid en genomströmningssiffra som ingen utanför N​VIDIA har reproducerat.

Det nästa som är värt att hålla ögonen på är inte ännu en slutpunkt. Det är den första oberoende mätningen på NVFP4-checkpointen — en jämförelse av genomströmning eller kvalitet mot FP8-vägen från någon som inte säljer hårdvaran. Kvantisering vid fyra bitar med attention-stacken undantagen är en rimlig design, och den specifika frågan är om expertvikterna överlever den. Tills någon publicerar det är den ärliga hållningen till den nya checkpointen densamma som septemberbevakningen borde ha intagit till de gamla: vikterna är verkliga, receptet är verkligt, och prestandapåståendet är leverantörens.

Ett resultat som detta är också en påminnelse om att modellmisstag redan är dokumenterade: AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omtvistat.