A Janela de 1M Tokens do Step 5 Preview Acabou de Sair da Própria API da StepFun

Step 5 Preview deixou de ser um modelo de fornecedor único em 16 de outubro de 2026. A própria conta da StepFun confirmou naquele dia que seu carro-chefe de 1M de tokens agora está disponível em hosts de inferência de terceiros, o que é a primeira vez que o modelo pode ser acessado por um desenvolvedor que não quer uma conta StepFun, um saldo StepFun e uma tabela de preços StepFun em uma segunda moeda. Esse é todo o valor noticioso do anúncio e vale a pena afirmá-lo claramente, porque o próprio anúncio não trouxe nenhuma nova especificação, nenhuma mudança de preço e nenhum benchmark. Ele trouxe uma mudança de distribuição. A StepFun lançou o Step 5 Preview em 20 de setembro de 2026; o que aconteceu em 16 de outubro é que o modelo começou a aparecer em algum lugar que não a sua origem. Essa lacuna entre o que um placar mede e o que uma implantação enfrenta é a razão pela qual o registro importa: as falhas de IA documentadas e os incidentes de agentes em torno de modelos dessa classe são coletados no OrcaRouter AI Incident Archive onde cada entrada carrega suas próprias fontes, gravidade, grau de confiança e indicador de contestação.

Mudanças na distribuição são fáceis de subestimar, e são elas que movem o setor de compras. Um modelo disponível por meio de exatamente um fornecedor é um ponto único de falha, um único conjunto de limites de taxa e um único conjunto de endpoints regionais, e a resposta honesta para "o que acontece se esse fornecedor tiver uma tarde ruim" é "seu produto tem uma tarde ruim". Um modelo disponível em vários hosts independentes é um problema de roteamento, e problemas de roteamento têm soluções. O detalhe é que nem tudo no Step 5 Preview viaja com os pesos para um novo host, e a coisa que não viaja é o número com maior probabilidade de determinar sua fatura.

O que a StepFun realmente disse, e o que ela omitiu

O anúncio, na essência, tem uma frase: o modelo está disponível em plataformas de inferência de terceiros, e a janela de contexto de 1 milhão de tokens é o recurso que está sendo enfatizado. Ele não informa um preço nessas plataformas, não se compromete com uma janela de contexto servida em comprimento total e não diz nada sobre se o desconto do cache de prompt acompanha o modelo para além dessa fronteira. Essas três omissões são as três perguntas que uma equipe deve fazer antes de migrar um pipeline, e não são pedantismo — cada uma delas tem uma resposta errada plausível.

O modelo sendo distribuído é o mesmo que a StepFun documentou em setembro, e os números documentados não mudaram. Da própria página do modelo da StepFun:

• ID do modelo — step-5-preview, com "Preview" fazendo parte do identificador em vez de um sufixo adicionado por este artigo

• Janela de contexto e entrada máxima — 1M tokens cada, conforme a tabela de especificações da StepFun

• Saída máxima — 64k tokens, com max_tokens documentado como ilimitado por padrão, para que o modelo escolha seu próprio ponto de parada, a menos que você defina um

• Entrada — texto, imagens e vídeo; imagens como URL ou Base64 em JPG, PNG, WebP ou GIF estático, até 60 por solicitação, vídeo como MP4, QuickTime ou Matroska

• Saída — somente texto, com streaming, chamada de ferramentas, saída estruturada em JSON Schema e reasoning effort em low, medium ou high

• Arquitetura — um modelo esparso de mistura de especialistas com 600 bilhões de parâmetros totais e 27 bilhões ativos por token, segundo o material de lançamento da StepFun e os espelhos do cartão de modelo que veiculam essa informação; a própria página de documentação da StepFun não exibe uma contagem de parâmetros

• Preço na própria plataforma da StepFun — US$ 1,00 por milhão de tokens de entrada, US$ 0,10 por milhão de tokens de entrada com acerto de cache e US$ 2,70 por milhão de tokens de saída

Nada disso é novo. É a linha de base que o anúncio de outubro está distribuindo, e vale a pena repetir porque um host de terceiros é livre para servir uma quantização diferente, uma janela efetiva mais curta ou uma configuração de cache diferente, e nenhuma dessas escolhas aparece num post de lançamento.

Por que a janela de 1M é a parte que está sendo vendida

O contexto de 1M tokens é a razão pela qual este modelo tem alguma história de distribuição. A StepFun construiu o Step 5 Preview em torno de trabalho agêntico de longo horizonte, e a janela é o que torna possível um prompt em escala de repositório ou de conjunto de documentos numa única chamada, em vez de por meio de uma camada de recuperação que você precisa construir e manter. No painel independente, o Artificial Analysis pontua o Step 5 Preview com 44 em seu Intelligence Index e calcula um custo de aproximadamente US$ 0,71 por tarefa concluída do índice — um número que incorpora a verbosidade ao preço e, portanto, é menos lisonjeiro do que a tabela de preços. As leituras de velocidade de saída na mesma página mudaram entre capturas, de 88,1 para 99,8 tokens de saída por segundo, o que por si só lembra que a taxa de transferência hospedada é uma propriedade tanto do host quanto do modelo.

Esse último ponto é o que o anúncio torna relevante. Um modelo esparso de 600 bilhões de parâmetros com 27 bilhões de parâmetros ativos é caro de servir com um contexto de um milhão de tokens, porque o cache KV para um prompt longo é um custo de memória real por requisição concorrente. Quem quer que o sirva tomou uma decisão sobre quanto dessa janela respeitar, quantas requisições executar ao mesmo tempo e se deve quantizar a pilha de atenção para encaixar mais delas em uma placa. O próprio checkpoint FP8 da StepFun tem 650 GB em disco, e seu checkpoint BF16 tem 1.215 GB; um host executando qualquer um deles está executando uma máquina diferente daquela que a StepFun executa, e a taxa de transferência que um fornecedor cita para o próprio cluster não é uma promessa sobre a de outra pessoa.

O número que não viaja: o desconto de cache

A tabela de preços do Step 5 Preview tem um desconto de 95% sobre entrada em cache, o que leva um token relido de US$ 1,00 por milhão para US$ 0,10. Para uma requisição de turno único, isso é irrelevante. Para a carga de trabalho para a qual o modelo é de fato vendido — um loop de agente que reenvia o mesmo prompt de sistema, esquema de ferramentas e mapa do repositório a cada turno —, ele é o termo dominante na fatura, e é a razão pela qual a taxa efetiva do Step 5 Preview em uma sessão longa está longe do seu preço de etiqueta.

O cache de prompt é um detalhe de implementação de uma pilha de serviço, não uma propriedade dos pesos. Se um determinado host o oferece, como ele identifica um acerto de cache, quanto tempo um prefixo permanece quente e quanto ele cobra pela leitura são todas decisões do host. A StepFun documenta o cache na plataforma da StepFun. Um anúncio de que um modelo está ativo em outro lugar não lhe diz nada sobre isso, e esta é a linha específica a ser lida na página de preços de um novo host antes de assumir que a economia que você modelou na tabela de preços da StepFun ainda se aplica. Um host que cobra o preço integral de entrada em cada turno pode ser várias vezes mais caro que a StepFun para a mesma carga de trabalho, embora pareça mais barato por milhão de tokens na página.

A distribuição do próprio StepFun na semana de lançamento foi invulgarmente ampla para o modelo principal de um laboratório chinês, e chegou por etapas em vez de uma só vez: o modelo surgiu em ferramentas de programação de terceiros, em teste gratuito durante uma semana, no início de outubro, e a hospedagem da API por terceiros anunciada a 16 de outubro é um passo posterior e mais geral. Lendo as duas em conjunto, o padrão é o de um laboratório que quer o modelo à frente dos programadores onde quer que eles já estejam, em vez de os levar para a sua própria consola. Trata-se de uma estratégia coerente e é também uma estratégia com um custo óbvio: cada anfitrião adicional é mais um lugar onde os limites do modelo são a implementação de outra pessoa.

Três perguntas que vale a pena fazer a um novo anfitrião

A resposta útil a este anúncio não é mudar, é verificar. Estes são os três itens que decidem se um novo endpoint é o mesmo produto.

• Quantização — pergunte qual checkpoint está sendo servido. A StepFun publica FP8, BF16 e, desde 14 de outubro, uma build NVFP4 de 394 GB, e esses três não são intercambiáveis em qualidade nem em consumo de memória. Um host executando NVFP4 em Blackwell está executando uma pilha de especialistas de quatro bits com a atenção e os gates de roteamento mantidos em precisão superior; se isso custa acurácia na sua tarefa é uma pergunta que só a sua própria avaliação responde.

• Contexto efetivo — pergunte se 1M de tokens é servido a todos os solicitantes ou limitado por nível. Servir um prompt de um milhão de tokens tem um custo de concorrência que aparece como limite de taxa antes de aparecer como preço, e um provedor que anuncia a janela enquanto limita a concorrência está anunciando o documento do modelo, e não o serviço.

• Semântica de cache — pergunte quanto custa um prefixo repetido. Esta é a linha que decide a economia de sessões longas, e é a linha com maior probabilidade de ser omitida.

Uma execução com o mesmo prompt nos dois endpoints, medida em dólares por tarefa concluída em vez de dólares por milhão de tokens, responde às três de uma vez e leva uma tarde.

Onde isso deixa o modelo

O Step 5 Preview é um modelo esparso de mistura de especialistas com 600 bilhões de parâmetros, janela de um milhão de tokens, entrada de texto, imagem e vídeo, teto de saída de 64k, tabela de preços de US$ 1,00 / US$ 2,70 e 95% de desconto de cache na própria plataforma da StepFun, com pontuação de 44 no único índice independente que o abrange. Lançado em 20 de setembro de 2026. Em 16 de outubro, também está acessível, de alguma forma e a algum preço, a partir de pelo menos um host que não é a StepFun.

Vale dizer com franqueza que o Step 5 Preview não está no catálogo ativo do OrcaRouter, então o lugar para chamá-lo continua sendo a API do próprio fornecedor ou um host de terceiros — e, se você está avaliando-o, essa lacuna é o argumento para manter o restante da sua stack em um único endpoint. Uma única API que cobre mais de 200 modelos pelo preço de tabela do provedor, sem markup é o que permite que um experimento de duas semanas com um novo modelo continue sendo um experimento: seu fallback é uma regra de roteamento, e não uma segunda integração, o failover automático significa que um endpoint desconhecido não pode derrubar sua rota de produção junto com ele e, como o repasse é o preço do próprio provedor, uma mudança de tarifa do fornecedor chega à sua fatura no dia em que acontece, em vez de no próximo ciclo de contrato. O modelo que você está testando é o risco; a infraestrutura ao redor dele não deveria ser um segundo risco.

A próxima coisa a observar não é outro host. É o primeiro host que publica sua própria taxa de transferência, seus termos de cache e sua quantização na mesma página, de modo que a comparação deixa de ser um palpite sobre quanto custa a janela de 1M tokens quando alguém além da StepFun está pagando pelas GPUs.