Okno 1M tokenów w Step 5 Preview właśnie opuściło własne API StepFun

Step 5 Preview przestał być modelem jednego dostawcy 16 października 2026. Własne konto StepFun potwierdziło tego dnia, że jego flagowy model o oknie 1 mln tokenów jest już dostępny na hostach inferencyjnych podmiotów trzecich, co oznacza, że po raz pierwszy model jest osiągalny dla dewelopera, który nie chce konta StepFun, salda StepFun i cennika stawek StepFun w drugiej walucie. To cała wartość informacyjna tego ogłoszenia i warto powiedzieć to wprost, bo samo ogłoszenie nie zawierało żadnej nowej specyfikacji, zmiany ceny ani benchmarku. Niosło zmianę w dystrybucji. StepFun wydał Step 5 Preview 20 września 2026 r.; to, co stało się 16 października, polega na tym, że model zaczął pojawiać się gdzieś indziej niż u siebie. Ta różnica między tym, co mierzy tablica wyników, a tym, z czym mierzy się wdrożenie, jest powodem, dla którego ten rejestr ma znaczenie: udokumentowane awarie AI i incydenty z agentami dotyczące modeli tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, wagę, ocenę pewności i oznaczenie sporu.

Zmiany w dystrybucji łatwo nie docenić, a to właśnie one napędzają zakupy. Model dostępny tylko u jednego dostawcy to pojedynczy punkt awarii, jeden zestaw limitów szybkości i jeden zestaw regionalnych punktów końcowych, a uczciwa odpowiedź na pytanie „co się stanie, jeśli ten dostawca ma złe popołudnie” brzmi: „twój produkt ma złe popołudnie”. Model dostępny u kilku niezależnych hostów to problem routingu, a problemy routingu mają rozwiązania. Haczyk polega na tym, że nie wszystko związane z Step 5 Preview przenosi się wraz z wagami do nowego hosta, a rzeczą, która się nie przenosi, jest liczba, która najprawdopodobniej zdecyduje o wysokości twojego rachunku.

Co StepFun faktycznie powiedział, a co pominął

Ogłoszenie w istocie sprowadza się do jednego zdania: model jest już dostępny na platformach inferencyjnych firm trzecich, a cechą, którą się podkreśla, jest okno kontekstu o rozmiarze 1 mln tokenów. Nie podaje ceny na tych platformach, nie zobowiązuje się do udostępniania okna kontekstu w pełnej długości ani nie mówi nic o tym, czy zniżka za pamięć podręczną podpowiedzi przechodzi wraz z modelem przez tę granicę. Te trzy pominięcia to trzy pytania, które zespół powinien zadać przed przeniesieniem potoku, i nie jest to pedanteria — dla każdego z nich istnieje wiarygodna, lecz błędna odpowiedź.

Dystrybuowany model to ten sam, który StepFun udokumentował we wrześniu, a podane w dokumentacji liczby nie uległy zmianie. Z oficjalnej strony modelu StepFun:

• Identyfikator modelu — step-5-preview, przy czym „Preview" jest częścią identyfikatora, a nie sufiksem dodanym przez ten artykuł

• Okno kontekstowe i maksymalne wejście — po 1 mln tokenów każde, zgodnie z tabelą specyfikacji StepFun

• Maksymalna wielkość wyjścia — 64k tokenów, przy czym max_tokensjest udokumentowany jako domyślnie nieograniczony, więc model sam wybiera moment zatrzymania, chyba że go ustawisz

• Wejście — tekst, obrazy i wideo; obrazy jako URL lub Base64 w formacie JPG, PNG, WebP lub statyczny GIF, do 60 na żądanie, wideo jako MP4, QuickTime lub Matroska

• Dane wyjściowe — wyłącznie tekst, ze strumieniowaniem, wywoływaniem narzędzi, ustrukturyzowanym wyjściem JSON Schema oraz poziomem rozumowania: niskim, średnim lub wysokim

• Architektura — rzadki model typu mixture-of-experts o łącznej liczbie 600 miliardów parametrów i 27 miliardach parametrów aktywnych na token, według materiału premierowego StepFun oraz lustrzanych kopii karty modelu, które ją zawierają; własna strona dokumentacji StepFun nie podaje liczby parametrów

• Cena na własnej platformie StepFun — 1,00 USD za milion tokenów wejściowych, 0,10 USD za milion tokenów wejściowych z trafieniem w pamięć podręczną i 2,70 USD za milion tokenów wyjściowych

Nic z tego nie jest nowe. To jest podstawa, którą przekazuje październikowe ogłoszenie, i warto to powtórzyć, ponieważ zewnętrzny host może swobodnie udostępniać inną kwantyzację, krótsze efektywne okno lub inny układ pamięci podręcznej, a żaden z tych wyborów nie pojawia się w poście ogłaszającym premierę.

Dlaczego okno 1M to część, którą się sprzedaje

Kontekst 1 mln tokenów jest powodem, dla którego ten model ma w ogóle historię dystrybucji. StepFun zbudował Step 5 Preview wokół długohoryzontowej pracy agentowej, a to okno sprawia, że prompt w skali repozytorium lub całego zbioru dokumentów jest możliwy w jednym wywołaniu, a nie przez warstwę wyszukiwania, którą trzeba zbudować i utrzymywać. Na niezależnej tablicy Artificial Analysis ocenia Step 5 Preview na 44 w swoim Intelligence Index i wylicza koszt około 0,71 USD na ukończone zadanie indeksu — liczba, która wlicza w cenę gadatliwość, przez co wypada mniej korzystnie niż cennik. Odczytu prędkości generowania na tej samej stronie zmieniały się między przechwyceniami, od 88,1 do 99,8 tokenów wyjściowych na sekundę, co samo w sobie przypomina, że przepustowość hostowana jest właściwością hosta w takim samym stopniu jak modelu.

To właśnie ten ostatni punkt ogłoszenie czyni istotnym. Rzadki model o 600 miliardach parametrów i 27 miliardach aktywnych parametrów jest kosztowny w obsłudze przy kontekście o długości miliona tokenów, ponieważ pamięć podręczna KV dla długiego promptu to rzeczywisty koszt pamięci na każde jednoczesne żądanie. Ktokolwiek go obsługuje, podjął decyzję o tym, jak dużą część tego okna uwzględnić, ile żądań obsługiwać naraz i czy kwantyzować stos uwagi, aby zmieścić ich więcej na karcie. Własny checkpoint FP8 firmy StepFun zajmuje 650 GB na dysku, a jej checkpoint BF16 — 1 215 GB; host uruchamiający którykolwiek z nich to inna maszyna niż ta, którą uruchamia StepFun, a przepustowość, którą dostawca podaje dla własnego klastra, nie jest obietnicą dotyczącą cudzego.

Liczba, która nie podróżuje: zniżka na cache

Cennik Step 5 Preview zawiera 95% zniżki na buforowane dane wejściowe, co obniża koszt tokenu ponownego odczytu z 1,00 USD za milion do 0,10 USD. W przypadku żądania jednoturowego nie ma to znaczenia. W przypadku obciążenia, dla którego model jest faktycznie sprzedawany — pętli agenta, która w każdej turze ponownie wysyła ten sam prompt systemowy, schemat narzędzia i mapę repozytorium — jest to dominujący składnik rachunku i to dlatego efektywna stawka Step 5 Preview w długiej sesji jest daleka od ceny z etykiety.

Buforowanie promptów to szczegół implementacyjny stosu serwującego, a nie właściwość wag. To, czy dany host je oferuje, jak identyfikuje trafienie w cache, jak długo prefiks pozostaje ciepły i ile pobiera za odczyt — to wszystko decyzje hosta. StepFun dokumentuje buforowanie na swojej platformie. Ogłoszenie, że model działa gdzie indziej, nie mówi o tym nic, i to jest ten konkretny wiersz, który trzeba przeczytać na stronie cennika nowego hosta, zanim założysz, że ekonomia, którą modelowałeś na karcie cenowej StepFun, nadal się utrzymuje. Host, który pobiera pełną cenę tokenów wejściowych przy każdej turze, może być kilkukrotnie droższy od StepFun przy tym samym obciążeniu, mimo że na stronie wygląda taniej za milion tokenów.

Dystrybucja StepFun w tygodniu premiery była wyjątkowo szeroka jak na flagowy model chińskiego laboratorium i następowała etapami, a nie od razu: model pojawił się w narzędziach do kodowania firm trzecich w ramach tygodniowego bezpłatnego okresu próbnego na początku października, a ogłoszony 16 października hosting API przez podmioty trzecie to późniejszy i bardziej ogólny krok. Jeśli spojrzeć na oba te elementy razem, wyłania się wzorzec laboratorium, które chce, aby model trafiał do programistów tam, gdzie już są, zamiast przyciągać ich do własnej konsoli. To spójna strategia, ale też strategia o oczywistym koszcie: każdy dodatkowy host to kolejne miejsce, w którym zakres możliwości modelu zależy od implementacji kogoś innego.

Trzy pytania, które warto zadać nowemu gospodarzowi

Użyteczną reakcją na to ogłoszenie nie jest przełączenie się, lecz sprawdzenie. Oto trzy elementy, które decydują o tym, czy nowy punkt końcowy to ten sam produkt.

• Kwantyzacja — zapytaj, który checkpoint jest serwowany. StepFun publikuje FP8, BF16 oraz — od 14 października — wersję NVFP4 o rozmiarze 394 GB, a te trzy nie są wymienne pod względem jakości ani zużycia pamięci. Host uruchamiający NVFP4 na Blackwellu uruchamia czterobitowy stos ekspertów, w którym attention i bramki routingu pozostają poza kwantyzacją; czy kosztuje cię to dokładnością w twoim zadaniu, na to pytanie odpowie tylko twoja własna ewaluacja.

• Efektywny kontekst — zapytaj, czy 1 mln tokenów jest udostępniane każdemu wywołującemu, czy ograniczane w zależności od poziomu. Obsłużenie promptu o długości miliona tokenów wiąże się z kosztem współbieżności, który objawia się jako limit szybkości, zanim objawi się jako cena, a podmiot hostujący, który reklamuje to okno, jednocześnie dławiąc współbieżność, reklamuje dokument modelu, a nie usługę.

• Semantyka pamięci podręcznej — zapytaj, ile kosztuje powtarzany prefiks. To pozycja, która decyduje o ekonomii długiej sesji, i najczęściej bywa pomijana.

Uruchomienie tego samego promptu na obu endpointach, mierzone w dolarach na ukończone zadanie, a nie w dolarach za milion tokenów, odpowiada na wszystkie trzy pytania naraz i zajmuje jedno popołudnie.

Co to oznacza dla modelu

Step 5 Preview to rzadki model mieszanki ekspertów o 600 miliardach parametrów, z oknem o długości miliona tokenów, wejściem tekstowym, obrazowym i wideo, limitem wyjścia 64k, cennikiem $1.00 / $2.70 i 95-procentową zniżką za pamięć podręczną na własnej platformie StepFun; uzyskał wynik 44 w jedynym niezależnym indeksie, który go obejmuje. Wydany 20 września 2026. Na dzień 16 października jest również dostępny, w pewnej formie i po pewnej cenie, od co najmniej jednego dostawcy, który nie jest StepFun.

Warto powiedzieć wprost, że Step 5 Preview nie znajduje się w bieżącym katalogu OrcaRouter, więc miejscem, w którym można go wywołać, pozostaje własne API dostawcy lub host zewnętrzny — a jeśli go oceniasz, ta luka jest argumentem za utrzymaniem reszty swojego stosu na jednym punkcie końcowym. Jedno API obejmujące ponad 200 modeli w cenie katalogowej dostawcy, bez marży,jest tym, co pozwala dwutygodniowemu eksperymentowi z nowym modelem pozostać eksperymentem: Twoim fallbackiem jest reguła routingu, a nie druga integracja, automatyczne przełączanie awaryjneoznacza, że nieznany punkt końcowy nie może pociągnąć za sobą Twojej ścieżki produkcyjnej, a ponieważ przekaz odbywa się w cenie samego dostawcy, zmiana stawek dostawcy trafia do Twojego rachunku w dniu, w którym zostaje wprowadzona, a nie w kolejnym cyklu umownym. To testowany model jest ryzykiem; otaczająca go infrastruktura nie powinna być kolejnym.

Następną rzeczą, na którą warto zwrócić uwagę, nie jest kolejny host. To pierwszy host, który publikuje na tej samej stronie własną przepustowość, warunki cache’owania i swoją kwantyzację, dzięki czemu porównanie przestaje być zgadywaniem, ile kosztuje okno 1 mln tokenów, gdy za GPU płaci ktoś inny niż StepFun.