Step 5 Preview est auto-hébergeable dès le jour zéro : vLLM et SGLang prennent tous deux en charge le serving pour le MoE 600B de StepFun

Step 5 Preview n'était pas nouveau au matin du 15 octobre 2026. Le modèle phare de StepFun, fort de 600 milliards de paramètres, est appelable via l'API du fournisseur lui-même depuis le 20 septembre 2026, et l'évaluateur indépendant Artificial Analysis le note depuis le 18 septembre. Ce qui était nouveau ce matin-là était plus restreint et bien plus utile : deux piles d'inférence courantes ont publié leurs propres méthodes pour l'exécuter sur du matériel que vous possédez ou louez. vLLM a ouvert une pull request préliminaire ajoutant Step 5 Preview — 129 fichiers, +16 996 lignes — accompagnée d'une recette complémentaire et d'une image dédiée vllm/vllm-openai:step-5-preview qui a été publiée sur Docker Hub à 00:51 UTC. SGLang a fusionné une page de cookbook avec des recettes de déploiement Blackwell et Hopper, la pull request de prise en charge du modèle qui la sous-tend ayant été ouverte à la même heure. Jusqu'à ce matin-là, le seul moyen d'obtenir Step 5 Preview sur vos propres GPU était un re-téléversement communautaire d'un checkpoint que personne ne vous avait autorisé à redistribuer.

Donc, le titre honnête n’est pas « StepFun a livré un modèle ». C’est celui-ci qu’elle a livré en septembre, et la date propre du modèle doit figurer dans la première phrase de tout article à son sujet. Le titre, c’est qu’à compter du 15 octobre 2026, la question du serving a des commandes dans la réponse.

Qu’est-ce qui a réellement changé le 15 octobre ?

Quatre artefacts, tous datés du même jour, et il vaut la peine de les distinguer parce qu’ils portent des niveaux d’engagement différents.

• Prise en charge des modèles vLLM — pull request #61727, intitulée « Add Step-5 Preview support », ouverte par jeejeelee à 01:18 UTC et portant la mention « brouillon ». Il s'agit d'un seul commit squashed touchant 129 fichiers, et elle n'est pas fusionnée. Une PR en brouillon est une demande de relecture de la part d'un auteur, pas une promesse de mainteneur.

• La recette vLLM — pull request #1122 dans vllm-project/recipes, ouverte deux minutes plus tôt à 01:16 UTC et également ouverte, ajoute models/stepfun-ai/Step-5-Preview.yaml avec une variante par défaut FP8 et une variante NVFP4. C'est le document qui contient les chiffres, et c'est celui sur lequel s'appuie la majeure partie de cet article.

• L'image de conteneur — vllm/vllm-openai:step-5-preview, publiée le 2026-10-15 à 00:51 UTC sous la forme d'un manifeste à deux architectures : linux/amd64 à 8,56 Go compressé et linux/arm64 à 9,58 Go, avec step-5-preview-x86_64-cu130 et step-5-preview-arm64-cu130 à leurs côtés. Une image publiée est un signal plus fort qu'une PR ouverte : cela signifie que quelqu'un l'a construite et poussée, peu importe quand la revue se termine.

• Le cookbook SGLang — pull request #44357, « Add Step 5 Preview cookbook », fusionnée dans main à 01:21 UTC après revue, ajoutant une page de déploiement que la documentation SGLang propose désormais à l’adresse docs.sglang.ai/cookbook/autoregressive/StepFun/Step-5-Preview et étiquette comme NEW. Sa PR d’assistance complémentaire, #44356, est toujours ouverte. La page du cookbook indique clairement que « la prise en charge de Step 5 Preview n’a pas encore été livrée dans une version de SGLang, donc une installation standard via pip install sglang ne peut pas le servir » — ce qui est la phrase la plus importante de la page.

Lisez ces quatre éléments ensemble et vous obtenez une image cohérente : StepFun met en place un service ouvert pour un modèle dont l’API est en ligne depuis presque un mois. Rien ici n’est une annonce de lancement, et rien ici n’est un benchmark. C’est la plomberie qui détermine si le modèle est quelque chose que vous pouvez faire tourner.

Ce qu’est Step 5 Preview, dans les termes sur lesquels un ingénieur de service se renseigne en premier

La documentation anglaise propre à StepFun est peu fournie sur l’architecture — elle publie l’ID du modèle, la fenêtre de contexte de 1 M de tokens, l’entrée texte/image/vidéo, la sortie texte uniquement, une sortie maximale de 64 k tokens, la prise en charge de JSON Schema, la mise en cache des prompts et un contrôle reasoning_effort avec des réglages low, medium et high. Elle ne publie aucun nombre de paramètres. Les chiffres d’architecture ci-dessous proviennent des deux documents de serving first-party publiés aujourd’hui, qui ont dû lire le checkpoint pour écrire un loader, et ils concordent entre eux.

• Taille — 600B paramètres au total, avec 27B actifs par token, une conception creuse de mélange d’experts. La recette vLLM indique indépendamment 604B, « comptés à partir des formes des tenseurs du checkpoint », et les deux nombres correspondent au même nombre arrondi différemment.

• Profondeur et routage — 92 couches. Chaque couche MoE route un token vers 8 des 352 experts, plus un expert partagé. C'est ce nombre d'experts qui explique que la PR vLLM comporte une modification du noyau router-GEMM : elle ajoute (4096, 352) comme paire (hidden_dim, num_experts) prise en charge, aux côtés des paires existantes (3072, 256) et (6144, 128).

• Attention — un motif répétitif à quatre couches : trois couches à fenêtre glissante qui s'occupent des 512 tokens les plus récents, puis une couche d'attention sparse. Les couches sparse divisent l'historique KV en régions de 8 tokens, évaluent un résumé de chaque région avec un indexeur léger, et sélectionnent jusqu'à 512 régions historiques auxquelles prêter attention au niveau des tokens. SGLang appelle cela l'attention sparse par régions (region-sparse attention) ; la conséquence pratique est qu'un contexte de 1M de tokens reste abordable en mémoire.

• Décodage spéculatif — trois couches MTP. Le « MTP à trois couches » de SGLang et le --spec-method mtp --spec-tokens 3 de la recette vLLM sont la même affirmation vue sous deux angles.

• Précision — les poids des experts routés sont en FP8 (E4M3, échelles par blocs 128×128), sauf dans les trois dernières couches MoE, qui restent en BF16. Un checkpoint NVFP4 distinct, stepfun-ai/Step-5-Preview-NVFP4, est référencé par la recette vLLM comme variante. Les deux piles laissent intacte la répartition des couches en précision mixte plutôt que de la convertir vers une précision supérieure.

• Comportement de raisonnement — le modèle réfléchit toujours avant de répondre. reasoning_effort définit la profondeur et la valeur par défaut est high lorsqu'elle n'est pas définie, ce qui est le réglage le plus susceptible de vous surprendre dans un budget de latence. L'échantillonnage recommandé par StepFun est temperature=1.0, top_p=0.95, top_k=0, et le cookbook de SGLang les signale comme informatifs plutôt que comme des valeurs à coder en dur.

Le socle matériel est l’élément qui détermine si cela vous concerne.

C'est ici que la recette vLLM gagne sa place, car personne d'autre n'a publié de minimums stricts.

• Plancher FP8 — 773 Go de VRAM, avec un minimum de 4 GPU et une cible matérielle par défaut de B300. Des configurations vérifiées sont répertoriées pour H200, B300 et GB300. Sur quatre B300, la recette propose des dispositions TP4, TEP4 ou DEP4 ; les poids FP8 ne tiennent pas sur quatre H200, donc le chemin Hopper est de huit GPU.

• Seuil minimal NVFP4 — 473 Go de VRAM pour le checkpoint quantifié, soit 300 Go de moins que FP8. La contrepartie, c’est le contexte : la variante NVFP4 s’exécute avec --max-model-len 320000, vous renoncez donc à environ 724 000 tokens sur les 1 048 576 annoncés pour tenir dans l’empreinte réduite.

• Parallélisme expert — sur Blackwell, les dispositions TEP et DEP passent par MegaMoE avec --moe-backend deep_gemm_mega_moe ; la disposition purement tensor-parallel ne le fait délibérément pas, car MegaMoE exige le parallélisme expert pour avoir quoi que ce soit à répartir. Sur H200, la recette se rabat sur un MoE Triton pour chaque couche expert, y compris les trois en BF16, car les kernels MoE de TRT-LLM sont réservés à Blackwell.

• Coût de démarrage — le cookbook SGLang estime le premier lancement à environ 15 minutes de compilation FlashInfer sur B300, puis à environ 6 minutes lors des démarrages suivants, et il vous recommande de conserver FLASHINFER_WORKSPACE_BASE et ~/.cache/sglang entre les redémarrages. Si vous faites de l'autoscaling à partir de zéro, il s'agit d'un plancher de démarrage à froid, pas d'une erreur d'arrondi.

• Ce qui n'est pas encore pris en charge — la recette vLLM indique que le délestage KV Simple et LMCache ne sont pas pris en charge pour ce modèle. Le chemin HiCache de SGLang est documenté comme disponible dans le cookbook, ce qui constitue une véritable différence de capacités entre les deux piles telles qu'elles se présentent aujourd'hui.

Lecture pratique : Step 5 Preview est un déploiement de quatre à huit accélérateurs, pas un projet amateur sur un seul nœud. Si cette phrase met fin à votre intérêt, la section API ci-dessous constitue le reste de l’article.

L'appeler, et combien coûte chaque token

La page tarifaire de StepFun elle-même liste step-5-preview à 1,00 $ par million de tokens d'entrée en cas d'échec de cache, 0,10 $ en cas de succès de cache, et 2,70 $ par million de tokens de sortie — des chiffres provenant du fournisseur, et non d'un revendeur. Deux détails modifient le calcul. Premièrement, la tarification des entrées en cas d'échec de cache inclut l'écriture de nouveau contenu dans le cache, donc une première passe sur un long document est facturée une fois et peu coûteuse lors de la deuxième passe. Deuxièmement, les tokens de sortie incluent le raisonnement du modèle ainsi que sa réponse, ce qui compte davantage ici que sur un modèle qui répond directement.

Artificial Analysis, le seul évaluateur neutre à avoir publié un run, attribue à Step 5 Preview un Intelligence Index de 43,7 — affiché comme 44 — avec une vitesse de sortie médiane de 88,5 jetons par seconde et un temps jusqu'au premier jeton de réponse de 24,7 secondes, contre environ 2 000 jetons de raisonnement par réponse. Le chiffre de vitesse est respectable, mais la latence du jeton de réponse ne l'est pas : un modèle qui commence toujours par réfléchir convient mal à l'autocomplétion interactive et convient bien aux traitements par lots et aux tâches agentiques, ce qui est précisément la façon dont StepFun le positionne. Ce sont des chiffres indépendants sur un harnais tiers, et ce sont les seuls disponibles — StepFun ne publie aucun tableau de benchmarks pour ce modèle.

Là où l’histoire est encore douce, et où tout n’est pas doux de la même manière

Trois choses méritent d’être signalées plutôt que lissées, car chacune a une durée de conservation différente.

Le premier point est de savoir si le checkpoint du fournisseur est réellement téléchargeable. Les deux documents de service first-party référencent stepfun-ai/Step-5-Preview et stepfun-ai/Step-5-Preview-NVFP4 comme les checkpoints canoniques, et le cookbook de SGLang renvoie à un LICENSE.txt sous la StepFun Model License 1.0. Ce que cette page ne peut pas faire, c'est confirmer depuis Hugging Face que ces dépôts sont aujourd'hui accessibles publiquement : l'API Hugging Face renvoie le même 401 Invalid username or password pour stepfun-ai/Step-5-Preview que pour un identifiant de dépôt qui n'a jamais existé, si bien que la réponse ne permet pas de distinguer un modèle soumis à autorisation d'un modèle absent. La recommandation du recipe lui-même — « use hf auth login if the checkpoint requires authentication » — est la seule indication concernant l'accès, et elle est conditionnelle. Considérez le téléchargement comme référencé par les personnes qui ont écrit les loaders, et vérifiez vous-même l'accès avant de planifier un lancement autour de celui-ci.

Le second est la date de sortie, que trois sources présentent de trois façons différentes : les documents d'annonce de StepFun situent le lancement au 20 septembre 2026 ; Artificial Analysis date le modèle du 18 septembre 2026 dans ses propres métadonnées et affiche « Released September 2026 » ; et les agrégateurs de métadonnées de modèles que la plupart des outils lisent indiquent le 16 septembre 2026. Aucune des trois n'explique l'écart. Cet article utilise le 20 septembre du fournisseur lorsqu'une date est nécessaire, et il vaut la peine de savoir quel chiffre l'outil que vous lisez a obtenu.

Le troisième est la maturité, et ici les deux stacks ne sont pas équivalents. Le cookbook de SGLang est fusionné, et fusionné dans main, mais le texte de SGLang lui-même indique que la prise en charge n'a pas encore été livrée dans une version publiée ; la voie Python se résume donc à une image Docker de préversion, et à rien d'autre. La recette de vLLM est ouverte, sa PR de modèle est un brouillon non fusionné que GitHub signale actuellement comme comportant des conflits de fusion et nécessitant un rebase, et ses propres relecteurs ont déjà soulevé trois points en suspens à l'encontre de la recette — une barrière matérielle FP8, un profil B300 par défaut qui émet des commandes pour huit GPU alors que le guide en prévoit quatre, et un plafond de contexte NVFP4 qui n'est pas encodé dans les arguments de variante. Rien de tout cela n'est éliminatoire. Tout cela plaide pour considérer un premier déploiement auto-hébergé cette semaine comme une évaluation, et non comme une migration.

Que faire avec ceci, cette semaine

Si vous disposez déjà de quatre B300 ou de huit H200 et d'une charge de travail qui ressemble à de l'analyse de documents longs, à des appels d'outils multi-tours ou à des exécutions d'agents pendant la nuit, la recette vLLM s'apparente à un runbook : récupérez vllm/vllm-openai:step-5-preview, copiez une commande TP4 ou TEP4, et vérifiez si --max-model-len 1048576 survit au contact de votre budget KV réel avant de promettre un million de tokens à qui que ce soit. Si vous avez du Hopper et non du Blackwell, commencez par le checkpoint NVFP4 et acceptez le contexte de 320k, ou prévoyez huit H200. Dans un cas comme dans l'autre, définissez reasoning_effort explicitement sur chaque requête plutôt que d'hériter de la valeur par défaut élevée, et mesurez le délai de 24,7 secondes avant le premier token de réponse sur votre propre trafic avant de tirer la moindre conclusion du chiffre de 88,5 tokens par seconde.

Si vous ne disposez pas de ce matériel, l'API n'est pas un lot de consolation — ce sont les mêmes poids, facturés au token, à 1,00 $ en entrée et 2,70 $ en sortie, avec une remise de 90 % sur le cache pour le contexte répété. Et voici la partie de cette page où la réponse honnête à notre sujet a sa place : Step 5 Preview ne figure pas sur la liste des modèles actifs d'OrcaRouter à ce jour. Notre catalogue compte 207 modèles répartis sur 13 fournisseurs et il ne contient actuellement aucun modèle StepFun, donc pour ce modèle précis, l'API propre de l'éditeur est le seul chemin appelable, et rien sur cette page ne doit être lu comme une affirmation que nous le servons. Ce que nous acheminons, c'est la décision qui l'entoure : lorsque vous choisissez quel modèle de pointe portera une charge de production, l'argument pour y accéder via un point de terminaison unique est que le prix catalogue du fournisseur est répercuté avec 0 % de marge, de sorte qu'un changement de prix d'un éditeur devient votre prix le jour même, et que le basculement automatique entre fournisseurs signifie qu'un après-midi difficile pour un seul modèle n'est pas votre panne. Cela concerne les modèles que nous proposons, et ce n'est délibérément pas une affirmation à propos de celui-ci.

Ce qu'il faut surveiller ensuite est précis et vérifiable. Que stepfun-ai/Step-5-Preview aboutisse à un dépôt lisible avec un fichier de licence que vous pouvez montrer à une équipe juridique ; que le #61727 de vLLM franchisse le stade de brouillon et son conflit de fusion ; que la PR de support #44356 de SGLang soit intégrée dans une version étiquetée, point où la recette cesse d'être une image d'aperçu pour devenir quelque chose que votre CI peut épingler. N'importe laquelle de ces trois choses transforme le « vous pouvez probablement l'exécuter » de cette semaine en un oui catégorique, et d'ici là, la seule affirmation qui vaut la peine d'être faite est celle que les preuves soutiennent : le 15 octobre 2026, deux stacks de service ont publié leurs propres chemins vers un modèle qui est appelable depuis le 20 septembre 2026.

Choisir d’exécuter un modèle de 600 milliards de paramètres sur votre propre matériel est aussi le type de décision où l’historique compte : les incidents d’IA documentés et les défaillances d’agents autour des modèles de cette classe sont recensés dans l’OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son niveau de gravité, sa note de confiance et son indicateur de contestation.