Um cartão de título com o texto "STEPFUN MODEL REFERENCE — Step 5 Preview: the three checkpoints", com a linha "Open weights since September 20. Quantized for Blackwell on October 14." e um rodapé indicando que os tamanhos, as datas e os termos de licença foram lidos dos próprios repositórios da StepFun no Hugging Face.
Engineering & Research

Os pesos do Step 5 Preview nunca estiveram ausentes: o que o checkpoint NVFP4 muda

Autor

Alistair Wren

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

S​tep 5 Preview está disponível para download desde o dia em que a StepFun o lançou, em 20 de setembro de 2026 — e boa parte do que se escreveu sobre o modelo desde então diz o contrário. O repositório FP8 stepfun-ai/S​tep-5-Preview foi criado às 03:15 UTC daquela manhã e seu primeiro shard foi commitado 36 minutos depois; o repositório BF16 veio na sequência, às 03:52, e seus shards chegaram às 04:18. Ambos são da própria StepFun, ambos são sem restrições, e juntos carregam 1,86 terabytes de pesos. O que mudou em meados de outubro é mais restrito e mais útil do que um relançamento: a StepFun publicou um terceiro checkpoint no formato NVFP4 da N​VIDIA, e em 15 de outubro de 2026 a N​VIDIA o endossou publicamente — chamando-o de "seu maior lançamento de pesos abertos", dizendo que o modelo "foi construído para lidar com tarefas de agente que duram até 24 horas" e apresentando um número: "quase 8K tokens/s/GPU em N​VIDIA GB300 usando NVFP4."

Essa é a notícia. A correção é a razão pela qual este artigo começa com uma data em vez de um anúncio. A cobertura escrita em 20 de setembro foi feita com base em um repositório que tinha poucos minutos e ficou brevemente vazio, e o enquadramento de "pesos prometidos para uma data posterior" permaneceu mesmo depois que os pesos chegaram na mesma manhã. Um artigo irmão neste site repetiu isso ainda em 13 de outubro. Não é verdade agora e não era verdade então, e isso importa porque a questão dos pesos abertos era o maior item não resolvido em todas as matérias sobre este modelo.

O que realmente foi lançado em 14 e 15 de outubro

O novo artefato é stepfun-ai/Step-5-Preview-NVFP4. O repositório foi criado às 02:59 UTC em 14 de outubro de 2026, e o upload dos pesos é um commit às 07:10 UTC do mesmo dia, feito por um contribuidor cuja conta, huangyu-nv, também reescreveu o README uma hora depois para alinhá-lo com os repositórios FP8 e BF16. Ele contém 394,18 GB em 95 arquivos safetensors, organizados como 92 arquivos por camada, mais dois extras e um arquivo da torre de visão — um esquema de sharding diferente dos repositórios FP8 e BF16, que ambos trazem 24 shards de texto, além de uma cabeça de predição multi-token e um ViT.

The Hugging Face repository page for stepfun-ai/Step-5-Preview-NVFP4, showing the StepFun account, the stepfun-model-license-1.0 licence tag, the Safetensors and modelopt tags, and a model card headed Step 5 Preview.

O que ele contém vale a pena declarar com precisão, porque "NVFP4" está sendo usado de forma frouxa em circulação. O bloco de quantização em config.json diz quant_method: modelopt, quant_algo: NVFP4, group_size: 16, e kv_cache_quant_algo: null. A lista de ignorados é longa e específica: 92 blocos de autoatenção, 88 portões MoE, 88 especialistas compartilhados, a tabela de embeddings, a norma final e a cabeça de modelo de linguagem, além da torre de visão e seu projetor. Apenas três entradas em toda a lista tocam moe.experts. Em termos simples, a atenção e a maquinaria de roteamento permanecem em precisão mais alta, e os pesos feed-forward dos especialistas — a maior parte dos 600 bilhões de parâmetros — são a parte que foi quantizada. O cache KV não é tocado, o que é o detalhe que determina se sua configuração de serving de contexto longo sobrevive à troca.

A contabilização de parâmetros da própria Hugging Face nesse repositório indica 320,6 bilhões, divididos em 282,4 bilhões de U8, 38,2 bilhões de BF16 e 2,4 milhões de F32, e a página do arquivo exibe "321B params" como o tamanho do modelo. O card da StepFun, na mesma página, diz 600B no total e 27B ativos. Ambos estão corretos e estão contando coisas diferentes: o valor 321B é uma contagem dos elementos quantizados armazenados, não uma contagem de parâmetros no sentido usado pela descrição da arquitetura. Se você estiver dimensionando memória, use o número de armazenamento. Se estiver descrevendo o modelo, use o card.

Três pontos de verificação, três faturas de hardware

O motivo pelo qual o lançamento do NVFP4 importa mais do que um quarto arquivo numa pasta é que ele muda a menor máquina na qual você consegue rodar este modelo. A própria tabela de implantação da StepFun no model card fornece as shapes para os dois checkpoints mais antigos, e os repositórios fornecem os tamanhos; aqui estão eles juntos, com a linha do NVFP4 adicionada.

• Precisão — FP8 650,32 GB vs BF16 1.214,9 GB vs NVFP4 394,18 GB em disco

• Menor configuração vLLM publicada — FP8: um nó B300 com 4 GPUs, ou um nó H200 com 8 GPUs vs. BF16: um nó B300 com 8 GPUs, ou dois nós H200 com 16 GPUs vs. NVFP4, que ainda não consta na tabela da StepFun

• Paralelismo que a placa recomenda — FP8 TP4, TEP4 ou DEP4 no B300 vs BF16 TP8, TEP8 ou DEP8 vs NVFP4 não informado

• Pesos de atenção e do roteador — FP8 quantizados em oito bits vs. BF16 em precisão total vs. NVFP4 deixado sem quantização pela lista de ignorados do ModelOpt

• Cache KV — não quantizado em todos os três, já que a configuração NVFP4 define kv_cache_quant_algo como null

• Stack de serving — todos os três via vLLM ou SGLang com um endpoint compatível com OpenAI, ou offline pelo caminho independente do Transformers

A lacuna nas duas últimas linhas é a ressalva honesta sobre o novo checkpoint. A publicação da NVIDIA diz que o modelo roda a quase 8 mil tokens por segundo por GPU em GB300 usando NVFP4, mas a tabela de implantação da StepFun ainda não foi atualizada com uma linha NVFP4, então ainda não há uma receita de paralelismo publicada pelo fornecedor para isso. Se você está planejando uma implantação esta semana, o caminho FP8 é o que tem uma configuração documentada, e o caminho NVFP4 é o que tem um número de manchete vinculado ao hardware de outra pessoa.

A three-column scoreboard titled "Step 5 Preview: the checkpoints", comparing FP8, BF16 and NVFP4 on size on disk, smallest published vLLM node, text shards, attention-weight precision, KV-cache precision and repository creation date. FP8: 650.32 GB, 4x B300, 24 shards, 8-bit attention, full-precision KV, created Sep 20, 2026. BF16: 1,214.9 GB, 8x B300, 24 shards, full precision throughout, created Sep 20, 2026. NVFP4: 394.18 GB, smallest vLLM node not stated, 92 layer files, attention left unquantized, full-precision KV, created Oct 14, 2026. Footer: sizes per the Hugging Face repositories, deployment rows per StepFun's model card, NVFP4 throughput vendor-reported and unreproduced.

O valor de 8K é um número de fornecedor, e só um fornecedor o disse.

A publicação da NVIDIA de 15 de outubro é o registro próprio completo sobre isso. Não há nenhuma entrada no blog de desenvolvedores da NVIDIA, nenhuma página de anúncio da StepFun e nenhuma reprodução por terceiros da alegação de throughput que possa ser conferida de fora. “Quase 8K tokens/seg/GPU” também é uma afirmação que significa muito pouco sem o tamanho do batch, o comprimento da sequência e a concorrência em que foi medida — a mesma configuração de modelo pode variar em uma ordem de magnitude entre esses três eixos, e frameworks de serving para modelos de mistura de especialistas são particularmente sensíveis a quantos especialistas estão ativos por token. Trate isso como um relato da NVIDIA sobre hardware da NVIDIA, que é exatamente o que ele diz ser, e não como um valor de throughput verificado de forma independente.

A alegação de agente de 24 horas tem o mesmo status. É uma descrição de capacidade, e não uma medição, e a própria ficha da StepFun descreve a execução de longo horizonte nos mesmos termos, sem lhe atribuir uma duração. As notas de avaliação publicadas pelo fornecedor para este modelo listam o harness e as configurações — temperatura 1.0, top-p 0.95, top-k 0, a configuração de raciocínio High, o harness SWE-agent para DeepSWE v1.1 — o que é mais do que muitos cartões de lançamento oferecem, mas a própria tabela de pontuação é uma imagem e a StepFun não publica nenhuma tabela numérica de benchmark em sua documentação. O único avaliador neutro com uma pontuação ativa para este modelo é a Artificial Analysis, onde o S​tep 5 Preview está em 44 no Intelligence Index e originalmente custava $1,03 por tarefa do índice para ser executada.

A receita de implantação chegou junto com o checkpoint, e é a parte que você vai usar.

Lendo os históricos dos repositórios, os arquivos de pesos e as instruções não chegaram juntos. Ambos os repositórios mais antigos foram reescritos entre 13 e 14 de outubro — sete commits de README no repositório FP8 entre 13 e 15 de outubro — e o que esses commits acrescentaram é um guia de serving completo: uma imagem de contêiner publicada em vllm/vllm-openai:step-5-preview, comandos que funcionam para paralelismo de tensor, de experts e combinado, o conjunto de flags de que este modelo precisa e um caminho SGLang validado. É nas flags que o trabalho específico do modelo fica visível: --max-model-len 1048576, um head de decodificação especulativa configurado como --spec-method mtp --spec-tokens 3, e parsers dedicados --reasoning-parser step5 e --tool-call-parser step5 para que os blocos de raciocínio e as chamadas de ferramentas do modelo sobrevivam à ida e volta por uma API no formato OpenAI. No Blackwell, as configurações TEP e DEP mudam o backend de MoE para deep_gemm_mega_moe; a configuração TP4 simples não consegue, porque esse backend exige paralelismo de experts.

Isso é o suporte de framework chegando, e para qualquer pessoa que esteja decidindo se deve construir sobre este modelo, vale mais do que a promessa de throughput. Um download de 650 GB com um comando de inicialização não validado é um projeto de pesquisa. Um download de 650 GB com uma imagem de contêiner com versão fixada, quatro configurações paralelas testadas por precisão e um parser que entende o formato de saída do próprio modelo é uma implantação.

StepFun's platform documentation, showing the navigation for Model Overview, Model Lifecycle, and the User Guides section.

Se você não quiser possuir nada disso, a aritmética desse modelo é incomum. S​tep 5 Preview roda na plataforma própria da StepFun a US$ 1,00 por milhão de tokens de entrada, US$ 0,10 por milhão de tokens de entrada com acerto de cache e US$ 2,70 por milhão de tokens de saída, então um mês com 200 milhões de tokens de entrada e 200 milhões de tokens de saída custa US$ 200 e US$ 540, respectivamente — em comparação com aproximadamente o preço mensal de um nó B300 de quatro GPUs para o hardware que o atende. A auto-hospedagem aqui é uma decisão de controle e residência de dados, não uma decisão de custo, e o fato de os pesos serem abertos é o que faz disso uma decisão que você tem permissão para tomar. Vale dizer claramente que S​tep 5 Preview não está na lista de modelos ativos da OrcaRouter, então o lugar para chamá-lo é a própria API do fornecedor; o que uma API para mais de 200 modelos de fato lhe oferece nesta situação é a outra metade da questão — o custo do modelo para o qual você migraria a carga de trabalho se uma implantação auto-hospedada não der certo, com 0% de markup sobre o preço de tabela de cada provedor.

A licença, lida literalmente

"Open weights" está a fazer um trabalho na formulação da NVIDIA que a licença não sustenta totalmente, e esta é a parte da história com maior probabilidade de ser mal interpretada. A StepFun Model License 1.0 é uma concessão perpétua, mundial, isenta de royalties, não exclusiva, para usar, copiar, distribuir, sublicenciar, modificar e criar obras derivadas dos pesos, com uma concessão de patente correspondente. Não é uma licença de código aberto aprovada pela OSI, e há duas condições que vale a pena conhecer antes de construir um negócio com base nela.

• Atribuição — se um produto ou serviço comercial que incorpore o modelo ultrapassar 100 milhões de usuários ativos mensais ou US$ 20 milhões em receita em qualquer mês civil, você deverá exibir de forma destacada "Desenvolvido por StepFun AI" na interface do produto e no seu contrato de usuário

• Licença comercial separada necessária — se você for um fabricante de hardware ou proprietário de marca que comercializa as capacidades do modelo em dispositivos, ou se administra um negócio de modelo como serviço e a receita combinada exceder US$ 20 milhões em qualquer período de doze meses

• O que explicitamente não é MaaS — incorporar a capacidade do modelo a uma funcionalidade fixa para o usuário final, ou simplesmente repassar solicitações ao modelo de outro provedor

• O que é explicitamente permitido sem o acordo adicional — uso interno que não exponha o modelo nem as suas capacidades a terceiros, e uso obtido por meio de um canal de distribuição certificado pela StepFun dentro do âmbito dessa certificação

• Rescisão — a violação material encerra a concessão, com um prazo de saneamento de trinta dias após notificação por escrito

Então, a leitura prática é que os pesos são genuinamente baixáveis e genuinamente utilizáveis, inclusive comercialmente, até os patamares da Seção 2. Uma startup que faz fine-tuning deste modelo para trabalho interno com documentos está dentro da concessão. Um fabricante de celulares que o inclui como um recurso, ou uma empresa de inferência hospedada que ultrapassa US$ 20 milhões, não está. Esse é o mesmo tipo de restrição que as licenças Llama e Qwen usam, e vale a pena dizer isso claramente, em vez de a classificar como "open".

Onde isso deixa o modelo

Um modelo de mistura de especialistas de 600 bilhões de parâmetros com 27 bilhões de parâmetros ativos, um contexto de um milhão de tokens, entrada de texto, imagem e vídeo, uma saída máxima de 64k na documentação da StepFun, uma tabela de preços de aproximadamente US$ 1,00 / US$ 2,70, uma pontuação de índice de 44 do único avaliador neutro que o avaliou, e três checkpoints baixáveis em três precisões. Lançado em 20 de setembro de 2026. Pesos abertos desde a manhã do lançamento. Quantizado para Blackwell em 14 de outubro, endossado pelo fornecedor de GPU em 15 de outubro, a um valor de throughput que ninguém fora da N​VIDIA conseguiu reproduzir.

A próxima coisa que vale a pena acompanhar não é mais um endpoint. É a primeira medição independente sobre o checkpoint NVFP4 — uma comparação de throughput ou de qualidade com o caminho FP8 feita por alguém que não está vendendo o hardware. A quantização em quatro bits com a pilha de atenção mantida de fora é um design razoável, e a pergunta específica é se os pesos dos especialistas sobrevivem a isso. Até que alguém publique isso, a posição honesta sobre o novo checkpoint é a mesma que a cobertura de setembro deveria ter adotado em relação aos antigos: os pesos são reais, a receita é real, e a alegação de desempenho é do fornecedor.

Um resultado como este também é um lembrete de que erros de modelo já estão documentados: os incidentes de IA e as falhas de agentes por trás de modelos dessa classe são reunidos no OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, severidade, grau de confiança e indicador de disputa.