La finestra da 1M di token di Step 5 Preview ha appena lasciato l'API di StepFun stessa

Anteprima di Step 5ha smesso di essere un modello a fornitore unico il 16 ottobre 2026. L'account di StepFun in persona ha confermato quel giorno che il suo modello di punta da 1M di token è ora attivo su host di inferenza di terze parti: è la prima volta che il modello è raggiungibile da uno sviluppatore che non vuole un account StepFun, un saldo StepFun e una tabella tariffaria StepFun in una seconda valuta. Questo è l'intero valore informativo dell'annuncio e vale la pena dirlo chiaramente, perché l'annuncio in sé non conteneva nuove specifiche, nessun cambio di prezzo e nessun benchmark. Conteneva un cambiamento nella distribuzione. StepFun ha rilasciato Step 5 Preview il 20 settembre 2026; quello che è successo il 16 ottobre è che il modello ha iniziato a comparire da qualche parte diversa da casa. Quel divario tra ciò che misura un tabellone di valutazione e ciò che un deployment incontra è il motivo per cui il record conta: i guasti documentati dell'IA e gli incidenti degli agenti relativi ai modelli di questa classe sono raccolti in the OrcaRouter AI Incident Archive dove ogni voce riporta le proprie fonti, il livello di gravità, il grado di attendibilità e il flag di contestazione.

I cambiamenti nella distribuzione sono facili da sottovalutare e sono quelli che muovono il procurement. Un modello disponibile da un solo fornitore è un singolo punto di guasto, un singolo insieme di limiti di frequenza e un singolo insieme di endpoint regionali, e la risposta onesta a "cosa succede se quel fornitore ha un pomeriggio storto" è "il tuo prodotto ha un pomeriggio storto". Un modello disponibile da diversi host indipendenti è un problema di routing, e i problemi di routing hanno soluzioni. Il problema è che non tutto di Step 5 Preview viaggia con i pesi verso un nuovo host, e la cosa che non viaggia è il numero che con ogni probabilità deciderà la tua fattura.

Cosa ha detto davvero StepFun, e cosa ha omesso

L'annuncio, in sostanza, si riduce a una frase: il modello è attivo su piattaforme di inferenza di terze parti, e la finestra di contesto da 1 milione di token è la caratteristica su cui si pone l'accento. Non indica un prezzo su tali piattaforme, non si impegna a servire una finestra di contesto alla sua lunghezza piena e non dice nulla sul fatto che lo sconto sulla cache dei prompt segua il modello oltre il confine. Queste tre omissioni sono le tre domande che un team dovrebbe porsi prima di spostare una pipeline, e non sono pedanteria: ciascuna di esse ha una risposta sbagliata plausibile.

Il modello che viene distribuito è lo stesso che StepFun ha documentato a settembre, e le cifre documentate non sono cambiate. Dalla pagina del modello di StepFun:

• ID modello — step-5-preview, con "Preview" parte dell'identificatore anziché un suffisso aggiunto da questo articolo

• Finestra di contesto e input massimo — 1M token ciascuno, secondo la tabella delle specifiche di StepFun

• Output massimo — 64k token, con max_tokens documentato come illimitato per impostazione predefinita, così il modello sceglie il proprio punto di arresto a meno che tu non ne imposti uno

• Input — testo, immagini e video; immagini come URL o Base64 in JPG, PNG, WebP o GIF statico fino a 60 per richiesta, video come MP4, QuickTime o Matroska

• Output — solo testo, con streaming, tool calling, output strutturato JSON Schema e reasoning effort a basso, medio o alto

• Architettura — un modello sparse mixture-of-experts con 600 miliardi di parametri totali e 27 miliardi attivi per token, secondo il materiale di lancio di StepFun e le copie della model card che lo riportano; la pagina di documentazione di StepFun non riporta un conteggio dei parametri

• Prezzo sulla piattaforma di StepFun — 1,00 $ per milione di token di input, 0,10 $ per milione di token di input con cache hit e 2,70 $ per milione di token di output

Niente di tutto ciò è nuovo. È la base di riferimento che l'annuncio di ottobre sta distribuendo, e vale la pena ribadirlo perché un host di terze parti è libero di erogare una quantizzazione diversa, una finestra effettiva più breve o una diversa configurazione della cache, e nessuna di queste scelte compare in un post di lancio.

Perché la finestra da 1M è la parte che viene venduta

Il contesto da 1M token è il motivo per cui questo modello ha una storia distributiva. StepFun ha costruito Step 5 Preview attorno a un lavoro agentico a lungo orizzonte, ed è la finestra a rendere possibile un prompt su scala di repository o di insiemi di documenti in un'unica chiamata, invece che tramite un livello di retrieval che devi costruire e mantenere. Su una board indipendente, Artificial Analysis assegna a Step 5 Preview un punteggio di 44 sul suo Intelligence Index e calcola un costo di circa 0,71 $ per attività completata dell'indice — una cifra che ingloba la verbosità nel prezzo e che quindi è meno lusinghiera della tariffa di listino. Le letture della velocità di output sulla stessa pagina sono variate tra un rilevamento e l'altro, da 88,1 a 99,8 token di output al secondo, il che di per sé ricorda che il throughput su host è una proprietà dell'host tanto quanto del modello.

È proprio quest'ultimo punto che l'annuncio rende rilevante. Un modello sparse da 600 miliardi di parametri con 27 miliardi di parametri attivi è costoso da servire con un contesto di un milione di token, perché la KV cache per un prompt lungo è un vero costo di memoria per ogni richiesta concorrente. Chiunque lo serva ha preso una decisione su quanta parte di quella finestra rispettare, quante richieste eseguire contemporaneamente e se quantizzare lo stack di attenzione per farne stare di più su una scheda. Il checkpoint FP8 della stessa StepFun è di 650 GB su disco e il suo checkpoint BF16 è di 1.215 GB; un host che esegue l'uno o l'altro è una macchina diversa da quella che esegue StepFun, e il throughput che un fornitore dichiara per il proprio cluster non è una promessa su quello di qualcun altro.

Il numero che non viaggia: lo sconto della cache

La rate card di Step 5 Preview prevede uno sconto del 95% sull'input in cache, che porta un token riletto da 1,00 $ per milione a 0,10 $. Per una richiesta a turno singolo è irrilevante. Per il carico di lavoro per cui il modello è effettivamente venduto — un ciclo dell'agente che ritrasmette lo stesso prompt di sistema, schema degli strumenti e mappa del repository a ogni turno — è la voce dominante della fattura, ed è il motivo per cui la tariffa effettiva di Step 5 Preview su una sessione lunga è ben lontana da quella di listino.

Il caching dei prompt è un dettaglio implementativo di uno stack di serving, non una proprietà dei pesi. Se un dato host lo offra, come identifichi un cache hit, quanto a lungo un prefisso resti caldo e quanto addebiti per la lettura sono tutte decisioni dell'host. StepFun documenta il caching sulla piattaforma di StepFun. Un annuncio che un modello è disponibile altrove non ti dice nulla al riguardo, e questa è la riga specifica da leggere sulla pagina dei prezzi di un nuovo host prima di dare per scontato che l'economia che hai modellato sulla scheda di StepFun valga ancora. Un host che addebita il prezzo pieno dell'input a ogni turno può essere diverse volte più costoso di StepFun per lo stesso carico di lavoro, pur sembrando più economico per milione di token sulla pagina.

La distribuzione della settimana di lancio di StepFun è stata insolitamente ampia per il flagship di un laboratorio cinese, ed è arrivata per fasi anziché in una sola volta: il modello è apparso in strumenti di programmazione di terze parti in prova gratuita per una settimana all'inizio di ottobre, e l'hosting API di terze parti annunciato il 16 ottobre è un passo successivo e più generale. Leggendo i due insieme, lo schema è quello di un laboratorio che vuole il modello davanti agli sviluppatori ovunque essi già si trovino, anziché spingerli verso la propria console. Questa è una strategia coerente ed è anche una strategia con un costo ovvio: ogni host aggiuntivo è un altro luogo in cui il perimetro del modello è l'implementazione di qualcun altro.

Tre domande che vale la pena porre a un nuovo host

La risposta utile a questo annuncio non è cambiare, è verificare. Questi sono i tre elementi che stabiliscono se un nuovo endpoint è lo stesso prodotto.

• Quantizzazione — chiedi quale checkpoint viene servito. StepFun pubblica FP8, BF16 e, dal 14 ottobre, una build NVFP4 da 394 GB, e questi tre non sono intercambiabili né in qualità né in occupazione di memoria. Un host che esegue NVFP4 su Blackwell sta eseguendo uno stack di esperti a quattro bit con attenzione e gate di routing mantenuti a precisione superiore; se questo ti costa accuratezza sul tuo task è una domanda a cui solo la tua eval può rispondere.

• Contesto effettivo — chiedi se 1M token vengono serviti a ogni chiamante o limitati per livello. Servire un prompt da un milione di token ha un costo di concorrenza che si manifesta come limite di frequenza prima che come prezzo, e un host che pubblicizza la finestra mentre limita la concorrenza sta pubblicizzando il documento del modello anziché il servizio.

• Semantica della cache — chiedi quanto costa un prefisso ripetuto. Questa è la riga che decide l'economia delle sessioni lunghe, ed è la riga che più probabilmente viene omessa.

Un'esecuzione sullo stesso prompt su entrambi gli endpoint, misurata in dollari per attività completata anziché in dollari per milione di token, risponde a tutte e tre le domande in una volta e richiede un pomeriggio.

Dove questo lascia il modello

Step 5 Preview è un modello sparse mixture-of-experts da 600 miliardi di parametri, con una finestra di un milione di token, input di testo, immagini e video, un tetto di output di 64k, un listino prezzi di 1,00 $ / 2,70 $ e, sulla piattaforma di StepFun stessa, uno sconto del 95% sulla cache; ha ottenuto un punteggio di 44 sull'unico indice indipendente che lo prende in esame. Rilasciato il 20 settembre 2026. A partire dal 16 ottobre è anche raggiungibile, in qualche forma e a un certo prezzo, da almeno un host diverso da StepFun.

Vale la pena dirlo chiaramente: Step 5 Preview non è nel catalogo live di OrcaRouter, quindi il posto da cui chiamarlo resta l'API del fornitore stesso o un host di terze parti — e se lo stai valutando, questa lacuna è l'argomento per tenere il resto del tuo stack su un unico endpoint. Una sola API che copre oltre 200 modelli al prezzo di listino del provider, senza ricarichi, è ciò che permette a un esperimento di due settimane su un nuovo modello di restare un esperimento: il tuo fallback è una regola di routing anziché una seconda integrazione, il failover automatico significa che un endpoint sconosciuto non può trascinare giù con sé il tuo percorso di produzione, e poiché il pass-through corrisponde al prezzo del provider stesso, una variazione di tariffa del fornitore arriva sulla tua fattura il giorno in cui viene applicata invece che al ciclo contrattuale successivo. Il modello che stai testando è il rischio; l'infrastruttura che lo circonda non dovrebbe esserne un secondo.

La prossima cosa da osservare non è un altro host. È il primo host che pubblica il proprio throughput, i propri termini di cache e la propria quantizzazione sulla stessa pagina, così che il confronto smetta di essere un'ipotesi su quanto costi la finestra da 1M token quando a pagare le GPU è qualcuno diverso da StepFun.