Launch night di Step 5 Preview di StepFun: cosa hanno detto cinque sviluppatori di un modello rilasciato sei settimane prima

Pioveva mentre si arrivava, ed è l’unica parte della serata a San Francisco del 22 ottobre 2026 che StepFun non poteva controllare. L’azienda ha affittato una sala, l’ha co-organizzata con Together AI e l’ha riempita — circa 277 persone si erano registrate sulla pagina pubblica dell’evento prima dell’apertura delle porte — per quello che l’invito chiamava Step 5 Preview Launch Night e che il calendario chiamava giovedì. Il modello in fase di lancio aveva un’API dal 20 settembre e pesi scaricabili dal 15 ottobre. Nessuna di quelle date è stata spostata per la festa. Quella che la festa ha fatto è stata mettere nella stessa sala le persone che costruiscono sopra i modelli con le persone che hanno addestrato questo modello, e lasciarle parlare delle parti del lavoro che una tabella di benchmark non cattura mai.

Il panel era piccolo e insolitamente specifico: Hongyu Zhou, ricercatore di pretraining presso StepFun; Dan Fu, che gestisce i kernel presso Together AI; Mar Hershenson di Pear VC; Saoud Rizwan di Cline; e Joey Wang di Harvey. Insieme coprivano le quattro cose che decidono se un modello viene usato: come è stato addestrato, come viene servito, se qualcuno finanzierà ciò che viene costruito su di esso e se un ciclo di agente può fare affidamento sul fatto che non ceda al quarantesimo passaggio.

Prima, il problema dell'appuntamento, perché spiega tutta la serata

Step 5 Preview non è una novità. StepFun ha aperto l'API commerciale il 20 settembre 2026, e il lancio è stato in forma di anteprima fin dall'inizio — step-5-preview è l'ID del modello, non un modificatore aggiunto in seguito da qualcuno. Artificial Analysis data il rilascio a «settembre 2026» senza un giorno, e la sua precedente pagina del modello indicava la data del 18 settembre; la discrepanza con la data fornita da StepFun non è mai stata spiegata da nessuna delle due parti, e questo articolo usa il 20 settembre di StepFun con tale precisazione allegata.

La data che contava il 22 ottobre era il 15 ottobre. È stato allora che i checkpoint BF16 e FP8 sono comparsi su Hugging Face e ModelScope, insieme a un blog tecnico che descriveva uno stack «narrow-deep» a 92 livelli e un pattern di attenzione GQA sparso che intercala layer gated sliding-window con layer di full-attention sparsi. L'evento è stato, nella lettura più semplice, una notte di lancio per un rilascio di pesi: la sera in cui il modello ha smesso di essere qualcosa che invochi ed è diventato qualcosa che puoi anche eseguire.

Quella lettura vale la pena di essere affermata perché quella alternativa — che questo fosse un nuovo modello — aleggiava per tutta la serata, ed è sbagliata. Chiunque se ne sia andato pensando che StepFun abbia rilasciato un modello a fine ottobre arriverà con sei settimane di ritardo a una decisione che avrebbe già potuto prendere.

Ciò che è stato effettivamente mostrato nella stanza

Il contenuto tecnico era più leggero del marketing, il che è normale per questo formato. Quello che StepFun ha mostrato sullo schermo era l’architettura del modello anziché una nuova esecuzione di benchmark: un mixture of experts sparso con 600 miliardi di parametri totali e 27 miliardi attivi per token, 8 esperti su 352 instradati più un esperto condiviso, tre livelli di previsione multi-token per la decodifica speculativa e una finestra di contesto di 1M token. Accetta testo, immagini e video e restituisce solo testo. Il limite massimo di output nella documentazione di StepFun è di 64k token.

Il segmento di Zhou è stato quello che più si è avvicinato a un'affermazione concreta sul perché l'architettura sia fatta così: una pila profonda di strati stretti, sulla base dell'argomentazione che la profondità offre un ragionamento implicito a più salti che un modello meno profondo e più ampio deve svolgere a voce spendendo token. Che tale argomentazione sia corretta non è qualcosa che una serata di lancio possa stabilire. È però il tipo di affermazione che un checkpoint scaricabile consente ad altri di mettere alla prova, che è esattamente ciò che non era possibile prima del 15 ottobre.

Il tool calling era l'argomento. I benchmark no.

La parte più utile del panel ha riguardato l'affidabilità nei loop degli agenti, ed è venuta dalle due persone presenti nella sala che trascorrono le loro giornate al loro interno anziché addestrare modelli. Il prodotto di Rizwan, Cline, è un agente editor che deve continuare a funzionare quando un modello restituisce JSON malformato all'undicesimo passaggio di un'attività in venti passaggi. Il datore di lavoro di Wang, Harvey, esegue loop simili per il lavoro legale, dove una chiamata a uno strumento sbagliata non è una brutta demo ma un evento che genera responsabilità.

Ciò che entrambi hanno descritto è una modalità di errore che non emerge in una media di benchmark: il modello che è eccellente per dieci turni e poi cambia silenziosamente la forma dei suoi argomenti. Le prove pubblicate da StepFun per quella dimensione sono proprie, e vale la pena etichettarle come tali. Su Terminal-Bench 4.0 il fornitore riporta 33,3 contro 12,6 per Kimi K3; su DeepSWE v1.1, 67,7 contro 67,5. Si tratta di numeri prodotti dal fornitore sul harness da esso scelto, e il divario sul lavoro da terminale in particolare è abbastanza ampio da meritare un secondo parere prima che qualcuno pianifichi una migrazione basandosi su di essi. Il valutatore indipendente non ha pubblicato un confronto diretto a parità di harness per questo modello, e l'indice che pubblica è stato successivamente ricostruito — vedi sotto.

Costo dell’inferenza, discusso come un problema di serving anziché come un listino prezzi

Il segmento di Fu era quello che conterà di più per chiunque intenda fare self-hosting, ed era specifico in un modo in cui i discorsi di lancio di solito non lo sono. Il checkpoint FP8 richiede circa 773 GB di VRAM e un minimo di quattro GPU, con B300 come target predefinito; il percorso Hopper richiede otto H200 perché il modello non entra su quattro. La variante NVFP4 riduce l'ingombro a circa 473 GB e limita il contesto utilizzabile a 320k token, il che è un vero compromesso, non un errore di arrotondamento. vLLM e SGLang avevano entrambi ricette disponibili il 15 ottobre, e il percorso SGLang paga un costo di compilazione FlashInfer di circa quindici minuti a freddo.

Di contro, l'alternativa a noleggio è semplice: 1,00 $ per milione di token di input e 2,70 $ per milione di token di output sulla carta in dollari di StepFun, con l'input in cache fatturato con uno sconto del 90%. La carta in renminbi di StepFun riporta ¥7 per l'input, ¥20 per l'output e ¥0,70 per gli hit in cache — con il dato sugli hit in cache raddoppiato da ¥0,35 alle 00:30 ora di Pechino del 14 ottobre, otto giorni prima del party, e una clausola di salvaguardia per i precedenti utenti pay-as-you-go. Nessuno sul palco ha menzionato quel cambiamento. È il dato di prezzo più determinante in assoluto su questo modello questo mese, ed è nella documentazione del fornitore stesso anziché nella presentazione.

Artificial Analysis stima il costo combinato in 0,54 dollari per milione di token con un rapporto di successi in cache di sette a due a uno, e il costo di un'esecuzione completa dell'Intelligence Index in 2,35 dollari.

La questione capitale, ed è lì che la serata è diventata sincera.

Il contributo di Hershenson è stato il meno tecnico e il più utile: un promemoria del fatto che la ragione per interessarsi a un modello economico, aperto e con contesto lungo è che cambia ciò che un'azienda in fase seed può tentare. Una startup che non avrebbe potuto permettersi un modello di frontiera a ogni passo di un ciclo dell'agente ora può permettersi di eseguire il ciclo più di una volta. La versione di Wang dello stesso concetto, dal punto di vista di un acquirente aziendale, era che la domanda in fase di procurement non è «qual è il modello migliore», ma «cosa succede ai nostri costi e alla nostra latenza se si rivela due volte migliore di quanto ci aspettavamo e vi indirizziamo tutto».

Questa è una questione di routing, ed è l'unico ambito in cui l'economia del self-hosting e quella delle API smettono di essere conversazioni separate. La posizione di OrcaRouter al riguardo è chiara: la piattaforma offre 214 modelli con una sola chiave e un'unica fattura, con una configurazione di routing che permette di dichiarare un modello primario e una catena di fallback anziché codificare in modo fisso un ID di modello in un'applicazione, e con failover automatico quando un provider si degrada. Step 5 Preview non è tra questi 214 — non esiste alcuna voce StepFun nel catalogo live alla data del 29 ottobre 2026, e nulla in questo articolo deve essere interpretato come un'affermazione che lo serviamo. Chiunque voglia valutarlo oggi deve scegliere tra l'API proprietaria di StepFun e il self-hosting dei checkpoint arrivati il 15 ottobre.

Che cosa è realmente cambiato dopo il rilascio del modello

Tre cose, in ordine di quanto dovrebbero influenzare una decisione.

Il primo è l'indice. Il 27 e 28 ottobre Artificial Analysis ha sostituito il suo Intelligence Index con la versione 5, assegnando il 60% del punteggio composito a set di test privati o held-out e ricostruendo le nove valutazioni costituenti. Ha eliminato tre delle valutazioni su cui si basava il materiale di lancio di StepFun — GDPval-AA, SciCode e AA-LCR — e ha aggiunto FrontierCode 2.0 e Terminal-Bench-Science. Il punteggio di Step 5 Preview sul nuovo indice è 29. Il suo punteggio sul vecchio era 44. Sono due misurazioni diverse dello stesso modello su due rubriche diverse, non un modello che è peggiorato, e il 44 che ha circolato a settembre e ottobre non andrebbe sottratto a nulla che sia stato valutato con la v5. Kimi K3.1 Pro, per confronto, è passato da 55 a 46 nella stessa ricostruzione — un calo di nove punti su un modello appena lanciato.

Il secondo è la licenza. I pesi sono aperti nel senso che puoi scaricarli, e non sono aperti nel senso OSI. StepFun Model License 1.0 mantiene una condizione di attribuzione sugli output usati in modo sostanziale, richiede ai produttori di hardware — telefoni, veicoli, dispositivi indossabili, robot — di negoziare separatamente, e richiede una licenza commerciale per gli operatori model-as-a-service con ricavi annui superiori a 20 milioni di dollari. Se sei un team di due persone, niente di tutto ciò ti tocca. Se hai intenzione di rivendere l'inferenza basata su di essa, ti tocca subito, e vale la pena leggerla prima della prima ora di GPU anziché dopo.

Il terzo è la variazione di prezzo già descritta, che si è verificata prima dell'evento e non è emersa in quella sede.

Cosa dovrebbe trarre un costruttore dalla serata

Il segnale utile del 22 ottobre non è che StepFun abbia un nuovo modello. È che un'azienda con un flagship rilasciato a settembre ha trascorso una serata di ottobre a parlare con chi sviluppa agenti dell'affidabilità delle tool call e dei costi di serving a livello di kernel, in una sala dove le persone che avrebbero subito entrambi gli effetti erano sedute in prima fila. È un'azienda che si comporta come se i prossimi sei mesi di adozione dipendessero dall'operabilità anziché da un'altra riga di benchmark.

La versione concreta di questo: se stavi aspettando i pesi prima di prendere sul serio Step 5 Preview, l’attesa è finita il 15 ottobre. Se stavi aspettando un punteggio indipendente da confrontare con tutto il resto, ora il numero esiste, è 29, ed è misurato secondo una rubrica che è appena stata ricostruita sotto gli occhi di tutti. Entrambe sono ragioni per farti un’idea ora, invece che dopo la prossima serata di lancio.