Wag Step 5 Preview nigdy nie brakowało: co zmienia checkpoint NVFP4

S​tep 5 Previewmożna pobierać od dnia, w którym StepFun go wydał — 20 września 2026 r. — a duża część tego, co od tamtej pory napisano o tym modelu, twierdzi coś przeciwnego. Repozytorium FP8 stepfun-ai/S​tep-5-Preview utworzono tego poranka o 03:15 UTC, a jego pierwszy shard zatwierdzono 36 minut później; repozytorium BF16 powstało o 03:52, a jego shardy trafiły tam o 04:18. Oba należą do StepFun, oba są bez ograniczeń dostępu, a razem zawierają 1,86 terabajta wag. To, co zmieniło się w połowie października, jest węższe i bardziej użyteczne niż ponowne wydanie: StepFun opublikował trzeci checkpoint w formacie NVFP4 firmy N​VIDIA, a 15 października 2026 r. N​VIDIA publicznie go poparła — nazywając to „ich największym wydaniem otwartych wag", mówiąc, że model „jest zbudowany do obsługi zadań agentowych trwających do 24 godzin", i podając konkretną liczbę: „prawie 8 tys. tokenów/s/GPU na N​VIDIA GB300 z użyciem NVFP4".

To właśnie jest news. Sprostowanie jest powodem, dla którego ten tekst rozpoczyna się datą, a nie ogłoszeniem. Relacje pisane 20 września opierały się na repozytorium, które miało zaledwie kilka minut i przez chwilę było puste, a narracja „wagi obiecane na późniejszy termin” utrzymała się nawet po tym, jak wagi pojawiły się tego samego ranka. Pokrewny artykuł na tej stronie powtórzył to jeszcze 13 października. To nie jest prawdą teraz i nie było prawdą wtedy, a ma to znaczenie, ponieważ kwestia otwartych wag była największym pojedynczym nierozstrzygniętym punktem w każdym tekście o tym modelu.

Co faktycznie zostało wydane 14 i 15 października

Nowy artefakt to stepfun-ai/S​tep-5-Preview-NVFP4. Repozytorium zostało utworzone o 02:59 UTC 14 października 2026 r., a przesłanie wag to commit o 07:10 UTC tego samego dnia przez współtwórcę, którego konto, huangyu-nv, również godzinę później przepisało README, aby dopasować je do repozytoriów FP8 i BF16. Zajmuje 394,18 GB w 95 plikach safetensors rozmieszczonych jako 92 pliki dla poszczególnych warstw plus dwa dodatkowe i jeden plik wieży wizyjnej — inny schemat shardowania niż w repozytoriach FP8 i BF16, które oba dostarczają 24 shardy tekstowe oraz głowicę wielotokenowego przewidywania i ViT.

To, co się w nim znajduje, warto podać precyzyjnie, ponieważ „NVFP4” jest używane w obiegu swobodnie. Blok kwantyzacji w config.json zawiera quant_method: modelopt, quant_algo: NVFP4, group_size: 16, a kv_cache_quant_algo: null. Lista ignorowanych jest długa i konkretna: 92 bloki self-attention, 88 bram MoE, 88 współdzielonych ekspertów, tabela embeddingów, końcowa normalizacja i głowica modelu językowego, a także wieża wizyjna i jej projektor. Tylko trzy wpisy na całej liście dotyczą moe.experts. Mówiąc wprost, mechanizmy attention i routingu pozostają w wyższej precyzji, a wagi feed-forward ekspertów — większość z 600 miliardów parametrów — to część, która została skwantyzowana. Pamięć KV cache pozostaje nietknięta, i to właśnie ten szczegół decyduje, czy twoja konfiguracja obsługi długiego kontekstu przetrwa to przełączenie.

Własne zestawienie parametrów Hugging Face w tym repozytorium wskazuje 320,6 miliarda, z podziałem na 282,4 miliarda U8, 38,2 miliarda BF16 i 2,4 miliona F32, a strona pliku wyświetla „321B params” jako rozmiar modelu. Karta StepFun na tej samej stronie podaje 600B łącznie i 27B aktywnych. Obie wartości są poprawne i dotyczą różnych rzeczy: liczba 321B to liczba przechowywanych elementów skwantyzowanych, a nie liczba parametrów w znaczeniu, w jakim używa go opis architektury. Jeśli szacujesz rozmiar pamięci, użyj liczby dotyczącej przechowywania. Jeśli opisujesz model, użyj karty.

Trzy punkty kontrolne, trzy rachunki za sprzęt

Powód, dla którego wydanie NVFP4 ma większe znaczenie niż czwarty plik w folderze, jest taki, że zmienia najmniejszą maszynę, na której można uruchomić ten model. Własna tabela wdrożeniowa StepFun w karcie modelu podaje kształty dla dwóch starszych checkpointów, a repozytoria podają rozmiary; oto one razem, z dodanym wierszem NVFP4.

• Precyzja — FP8 650,32 GB vs BF16 1 214,9 GB vs NVFP4 394,18 GB na dysku

• Najmniejsza opublikowana konfiguracja vLLM — FP8: jeden węzeł B300 z 4 GPU lub jeden węzeł H200 z 8 GPU vs BF16: jeden węzeł B300 z 8 GPU, albo dwa węzły H200 z 16 GPU vs NVFP4, którego jeszcze nie ma w tabeli StepFun

• Równoległość zalecana przez kartę — FP8 TP4, TEP4 lub DEP4 na B300 vs BF16 TP8, TEP8 lub DEP8 vs NVFP4 nie podano

• Wagi attention i routera — FP8 skwantyzowane do ośmiu bitów vs BF16 w pełnej precyzji vs NVFP4 pozostawiony nieskwantyzowany przez listę ignorowania ModelOpt

• Pamięć podręczna KV — niekwantowana we wszystkich trzech, ponieważ konfiguracja NVFP4 ustawia kv_cache_quant_algo na null

• Stos serwowania — wszystkie trzy przez vLLM lub SGLang z punktem końcowym zgodnym z OpenAI albo offline przez samodzielną ścieżkę Transformers

Luka w dwóch ostatnich wierszach to uczciwe zastrzeżenie dotyczące nowego checkpointu. W poście NVIDII napisano, że model działa z szybkością blisko 8 tys. tokenów na sekundę na GPU na GB300 przy użyciu NVFP4, ale tabela wdrożeniowa StepFun nie została zaktualizowana o wiersz NVFP4, więc nie ma jeszcze opublikowanego przez dostawcę przepisu na równoległość. Jeśli planujesz wdrożenie w tym tygodniu, ścieżka FP8 to ta z udokumentowaną konfiguracją, a ścieżka NVFP4 to ta z liczbą z nagłówka przypisaną do sprzętu kogoś innego.

Liczba 8K to liczba podana przez dostawcę, a tylko jeden dostawca ją podał.

Post NVIDII z 15 października to cały materiał własny NVIDII na ten temat. Nie ma wpisu na blogu deweloperskim NVIDII, nie ma strony z ogłoszeniem StepFun ani odtworzenia tego twierdzenia o przepustowości przez stronę trzecią, którego można by zweryfikować z zewnątrz. „Prawie 8K tokenów/s/GPU” to również stwierdzenie, które niewiele znaczy bez rozmiaru partii, długości sekwencji i współbieżności, przy których je zmierzono — ta sama konfiguracja modelu może różnić się o rząd wielkości w zależności od tych trzech wymiarów, a frameworki do serwowania modeli mixture-of-experts są szczególnie wrażliwe na to, ilu ekspertów jest aktywnych na token. Traktuj to jako relację NVIDII o sprzęcie NVIDII — dokładnie tym, czym według samego opisu jest — a nie jako niezależnie zweryfikowaną wartość przepustowości.

Twierdzenie o 24-godzinnym agencie ma ten sam status. To opis możliwości, a nie pomiar, a własna karta StepFun opisuje długodystansowe wykonanie w tych samych kategoriach, nie przypisując mu żadnego czasu trwania. Opublikowane przez dostawcę notatki z ewaluacji tego modelu rzeczywiście wymieniają harness i ustawienia — temperature 1.0, top-p 0.95, top-k 0, ustawienie High reasoning, harness SWE-agent dla DeepSWE v1.1 — co jest więcej, niż oferuje wiele kart premierowych, ale sama tabela wyników jest obrazem, a StepFun nie publikuje w swojej dokumentacji żadnej liczbowej tabeli benchmarków. Jedynym neutralnym ewaluatorem z bieżącym wynikiem dla tego modelu jest Artificial Analysis, gdzie S​tep 5 Preview plasuje się na poziomie 44 w Intelligence Index i pierwotnie kosztował 1,03 USD za wykonanie jednego zadania indeksowego.

Przepis wdrożeniowy trafił razem z punktem kontrolnym, a to jest ta część, której będziesz używać.

Analiza historii repozytoriów pokazuje, że pliki wag i instrukcje nie pojawiły się razem. Oba starsze repozytoria zostały przepisane 13 i 14 października — siedem commitów README w repozytorium FP8 między 13 a 15 października — a to, co dodano w tych commitach, to kompletny przewodnik po serwowaniu: opublikowany obraz kontenera pod adresem vllm/vllm-openai:step-5-preview, działające polecenia dla równoległości tensorowej, eksperckiej i łączonej, zestaw flag potrzebnych temu modelowi oraz zweryfikowana ścieżka SGLang. To właśnie w flagach widać pracę specyficzną dla modelu: --max-model-len 1048576, głowicę dekodowania spekulatywnego skonfigurowaną jako --spec-method mtp --spec-tokens 3, oraz dedykowane --reasoning-parser step5 i --tool-call-parser step5 parsery, dzięki którym bloki rozumowania i wywołania narzędzi modelu przetrwają pełny obieg przez API w formacie OpenAI. Na Blackwell konfiguracje TEP i DEP przełączają backend MoE na deep_gemm_mega_moe; zwykła konfiguracja TP4 nie może, ponieważ ten backend wymaga równoległości eksperckiej.

To jest pojawiające się wsparcie dla frameworka i dla każdego, kto decyduje, czy budować na tym modelu, jest warte więcej niż deklaracja przepustowości. Pobranie 650 GB z niezweryfikowanym poleceniem uruchomienia to projekt badawczy. Pobranie 650 GB z przypiętym obrazem kontenera, czterema przetestowanymi konfiguracjami równoległymi dla każdej precyzji i parserem, który rozumie własny format wyjściowy modelu, to wdrożenie.

Jeśli nie chcesz być właścicielem żadnego z tych elementów, kalkulacja dla tego modelu jest nietypowa. Step 5 Preview działa na własnej platformie StepFun za 1,00 USD za milion tokenów wejściowych, 0,10 USD za milion tokenów wejściowych trafiających w pamięć podręczną i 2,70 USD za milion tokenów wyjściowych, więc miesiąc przy 200 milionach tokenów wejściowych i 200 milionach tokenów wyjściowych to rachunek odpowiednio 200 USD i 540 USD — w porównaniu z mniej więcej miesięczną ceną węzła B300 z czterema GPU dla sprzętu, który go obsługuje. Samodzielny hosting jest tu decyzją o kontroli i rezydencji danych, a nie decyzją kosztową, a to, że wagi są otwarte, sprawia, że w ogóle wolno ci taką decyzję podjąć. Warto powiedzieć wprost, że Step 5 Preview nie znajduje się na liście aktywnych modeli OrcaRouter, więc miejscem, w którym można go wywołać, jest własne API dostawcy; to, jedno API do ponad 200 modeli daje ci w tej sytuacji drugą połowę odpowiedzi — koszt modelu, na który przeniósłbyś to obciążenie, gdyby samodzielne wdrożenie się nie udało, przy 0% narzutu wobec ceny katalogowej każdego dostawcy.

Licencja, czytana dosłownie

„Open weights” w sformułowaniu NVIDII odgrywa rolę, której licencja nie w pełni wspiera, i to jest część tej historii, którą najłatwiej źle odczytać. StepFun Model License 1.0 to wieczysta, ogólnoświatowa, wolna od opłat licencyjnych i niewyłączna licencja na używanie, kopiowanie, rozpowszechnianie, sublicencjonowanie, modyfikowanie i tworzenie utworów pochodnych na podstawie wag, wraz z odpowiadającą jej licencją patentową. Nie jest to licencja open source zatwierdzona przez OSI, a przed zbudowaniem na niej biznesu warto znać dwa warunki.

• Uznanie autorstwa — jeśli komercyjny produkt lub usługa wykorzystująca model przekroczy 100 milionów miesięcznych aktywnych użytkowników lub 20 milionów dolarów przychodu w dowolnym miesiącu kalendarzowym, musisz w widocznym miejscu wyświetlić „Powered by StepFun AI” w interfejsie produktu oraz w swojej umowie użytkownika

• Wymagana jest oddzielna licencja komercyjna — jeśli jesteś producentem sprzętu lub właścicielem marki, który dostarcza możliwości modelu w urządzeniach, albo jeśli prowadzisz działalność model-as-a-service, a łączny przychód przekracza 20 milionów dolarów w dowolnym okresie dwunastu miesięcy

• Co wyraźnie nie jest MaaS — osadzanie możliwości modelu w stałej funkcji dla użytkownika końcowego albo jedynie przekazywanie żądań do modelu innego dostawcy

• Co jest wyraźnie dozwolone bez dodatkowej umowy — użycie wewnętrzne, które nie ujawnia modelu ani jego możliwości stronie trzeciej, oraz użycie uzyskane za pośrednictwem kanału dystrybucji certyfikowanego przez StepFun w zakresie tej certyfikacji

• Rozwiązanie — istotne naruszenie kończy grant, z trzydziestodniowym okresem naprawczym po pisemnym zawiadomieniu.

Praktyczna interpretacja jest więc taka, że wagi są rzeczywiście do pobrania i rzeczywiście można ich używać, również komercyjnie, aż do progów określonych w sekcji 2. Startup dostrajający ten model do wewnętrznej pracy z dokumentami mieści się w zakresie licencji. Producent telefonów wprowadzający go jako funkcję albo firma świadcząca hostowane usługi wnioskowania o przychodach powyżej 20 milionów dolarów już nie. To ten sam rodzaj ograniczenia, jaki stosują licencje Llama i Qwen, i warto powiedzieć to wprost, zamiast klasyfikować jako „open”.

Co to oznacza dla modelu

Model typu mixture-of-experts o 600 miliardach parametrów, z 27 miliardami aktywnych parametrów, kontekstem o długości miliona tokenów, wejściem tekstowym, obrazowym i wideo, maksymalnym wyjściem 64k w dokumentacji StepFun, cennikiem około 1,00 USD / 2,70 USD, wynikiem indeksu 44 od jedynego neutralnego ewaluatora, który go ocenił, oraz trzema checkpointami do pobrania w trzech precyzjach. Wydany 20 września 2026 r. Wagi otwarte od rana dnia premiery. Skwantyzowany dla Blackwell 14 października, zatwierdzony przez producenta GPU 15 października, przy wartości przepustowości, której nikt poza NVIDIA nie odtworzył.

Następną rzeczą wartą obserwowania nie jest kolejny punkt końcowy. Jest nią pierwszy niezależny pomiar na checkpoincie NVFP4 — porównanie przepustowości lub jakości ze ścieżką FP8 przeprowadzone przez kogoś, kto nie sprzedaje tego sprzętu. Kwantyzacja do czterech bitów z pozostawionym poza nią stosem uwagi to rozsądny projekt, a konkretne pytanie brzmi, czy wagi ekspertów ją przetrwają. Dopóki ktoś tego nie opublikuje, uczciwe stanowisko wobec nowego checkpointu jest takie samo, jakie wrześniowe omówienie powinno było przyjąć wobec starych: wagi są prawdziwe, przepis jest prawdziwy, a twierdzenie o wydajności pochodzi od dostawcy.

Taki wynik przypomina też, że błędy modeli są już dokumentowane: incydenty AI i awarie agentów związane z modelami tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom istotności, ocenę pewności i oznaczenie sporności.