Step 5 Previewは初日からセルフホスト可能：vLLMとSGLangがともにStepFunの600B MoE向けサービングパスを実現

2026年10月15日の朝の時点で、Step 5 Previewは新しいものではなかった。StepFunの6000億パラメータのフラッグシップモデルは、2026年9月20日からベンダー自身のAPIを通じて呼び出し可能であり、独立系評価機関のArtificial Analysisは9月18日からこれをスコアリングしてきた。その朝に新しかったのは、より限定的で、はるかに有用なものだった。2つの主流推論スタックが、自分で所有または借りているハードウェア上でそれを実行するための独自の道筋を公開したのだ。vLLMは、Step 5 Previewを追加するドラフトプルリクエストを開いた。129ファイル、+16,996行で、併せてコンパニオンレシピと専用のvllm/vllm-openai:step-5-previewイメージを提示し、後者は00:51 UTCにDocker Hubに登場した。SGLangはBlackwellおよびHopperのデプロイレシピを含むクックブックページをマージし、その背後にあるモデルサポートのプルリクエストは同じ時刻に開かれた。その朝まで、Step 5 Previewを自分のGPU上で動かす唯一の方法は、誰もあなたに再配布を許諾していないチェックポイントのコミュニティによる再アップロードだった。

だから、正直な見出しは「StepFunがモデルをリリースした」ではない。StepFunはこれを9月にリリースしており、このモデル自体の日付は、それについて書くどの記事でも最初の一文に入れるべきだ。見出しは、2026年10月15日時点で、サービングの問いの答えにコマンドが含まれている、というものだ。

10月15日に実際に何が変わったのですか？

4つの成果物はすべて同じ日付だが、それぞれ異なるレベルのコミットメントを伴うため、分けて扱う価値がある。

• vLLM モデルサポート — プルリクエスト #61727、タイトルは「Add Step-5 Preview support」、jeejeelee が 01:18 UTC にオープンし、ドラフトフラグが付いている。129 ファイルに及ぶ単一のスカッシュコミットであり、まだマージされていない。ドラフト PR は著者がレビューを求めているものであり、メンテナーの約束ではない。

• The vLLM レシピ — vllm-project/recipes のプルリクエスト #1122 は、2分前の 01:16 UTC にオープンされ、これもまだオープン状態にあり、models/stepfun-ai/Step-5-Preview.yaml を FP8 デフォルト版と NVFP4 版とともに追加する。これは数字が記載された文書であり、本記事が最も多く依拠しているものである。

• コンテナイメージ — vllm/vllm-openai:step-5-preview は、2026-10-15 00:51 UTC に2アーキテクチャのマニフェストとしてプッシュされた：linux/amd64 は圧縮時 8.56 GB、linux/arm64 は 9.58 GB で、それらと並んで step-5-preview-x86_64-cu130 と step-5-preview-arm64-cu130 がある。公開済みのイメージは、オープンなPRよりも強いシグナルである。つまり、レビューがいつ完了するかに関係なく、誰かがこれをビルドしてプッシュしたことを意味する。

• SGLang クックブック — プルリクエスト #44357「Step 5 Preview クックブックを追加」は、レビュー後に 01:21 UTC に main へマージされ、SGLang ドキュメントが現在 docs.sglang.ai/cookbook/autoregressive/StepFun/Step-5-Preview で提供し、NEW としてタグ付けしているデプロイページを追加しました。その付随するサポート PR #44356 はまだオープンです。クックブックのページには、「Step 5 Preview のサポートはまだ SGLang のリリースに含まれていないため、通常の pip install sglang ではこれをサービングできません」とはっきり書かれています。これがこのページで最も重要な一文です。

この4つをまとめて読むと、一貫した全体像が見えてくる。StepFunは、APIがほぼ1か月前から稼働しているモデル向けに、オープンなサービングを立ち上げつつある。ここにあるのはローンチ発表でもなければ、ベンチマークでもない。これは、そのモデルを実際に動かせるものかどうかを決める基盤なのだ。

サービングエンジニアが真っ先に尋ねる観点で言うと、Step 5 Previewとは何か

StepFun自身の英語ドキュメントはアーキテクチャに関する記述が薄い — 公開しているのは、モデルID、100万トークンのコンテキストウィンドウ、テキスト/画像/動画入力、テキストのみの出力、最大64kトークンの出力、JSON Schemaサポート、プロンプトキャッシュ、およびlow、medium、high設定を備えたreasoning_effort制御だ。パラメータ数は公開していない。以下のアーキテクチャの数値は、本日公開された2つのファーストパーティのサービング文書に由来する。これらはローダーを書くためにチェックポイントを読む必要があり、互いに一致している。

• サイズ — 総パラメータ数600B、トークンあたり27BがアクティブというスパースなMixture-of-Experts設計。vLLMのレシピは独自に604Bと記載しており、「チェックポイントのテンソル形状から数えた」もので、この2つの数値は同じ数を異なる方法で丸めたものにすぎない。

• 深さとルーティング — 92層。各MoE層は、トークンを352個のエキスパートのうち8個に、さらに1個の共有エキスパートにルーティングする。そのエキスパート数こそが、vLLMのPRにrouter-GEMMカーネルの変更が含まれている理由である。これは、既存の(3072, 256)および(6144, 128)と並んで、(4096, 352)をサポートされる(hidden_dim, num_experts)の組として追加する。

• アテンション — 4層の繰り返しパターン：直近512トークンにアテンションする3つのスライディングウィンドウ層に続いて、1つのスパースアテンション層。スパース層はKV履歴を8トークンの領域に分割し、各領域の要約を軽量なインデクサーでスコア付けし、トークンレベルでアテンションする過去領域を最大512個選択する。SGLangはこれをリージョンスパースアテンションと呼んでおり、実用的な結果として、100万トークンのコンテキストでもメモリコストを抑えられる。

• 投機的デコーディング — 3つのMTP層。SGLangの「3層MTP」とvLLMレシピの --spec-method mtp --spec-tokens 3 は、同じ主張を2つの方向から述べたものである。

• 精度 — ルーティングされたエキスパート重みは FP8（E4M3、128×128 ブロックスケール）ですが、最後の3つの MoE 層では BF16 のままです。別個の NVFP4 チェックポイント stepfun-ai/Step-5-Preview-NVFP4 は、vLLM レシピによってバリアントとして参照されています。どちらのスタックも、混合精度の層分割をアップキャストせず、そのまま維持します。

• 推論の挙動 — モデルは常に回答する前に考えます。reasoning_effort がその深さを設定し、デフォルトは highです（未設定の場合）。これはレイテンシ予算において最も意表を突かれやすい設定です。StepFun の推奨サンプリングは temperature=1.0、top_p=0.95、top_k=0 で、SGLang のクックブックはこれらをハードコードすべきものではなく情報提供としてのものだと示しています。

ハードウェアの下限が、これがあなたにとって重要かどうかを決める部分です。

ここがvLLMのレシピの真価が発揮される場面だ。というのも、厳密な最低要件を公表しているのは他に誰もいないからである。

• FP8の下限 — VRAM 773 GB、最小4 GPU、デフォルトのハードウェアターゲットはB300。検証済み構成はH200、B300、GB300向けに記載されています。4台のB300では、このレシピはTP4、TEP4、DEP4レイアウトを提供します。FP8の重みは4台のH200には収まらないため、Hopperパスは8 GPUです。

• NVFP4 の下限 — 量子化チェックポイントには 473 GB の VRAM が必要で、FP8 より 300 GB 少ない。その代償はコンテキストだ。NVFP4 版は --max-model-len 320000 で動作するため、公称 1,048,576 トークンのうち約 724,000 トークンを諦めて、より小さなフットプリントに収めることになる。

• エキスパート並列化 — Blackwell では、TEP および DEP レイアウトは --moe-backend deep_gemm_mega_moe を指定して MegaMoE を経由します。純粋なテンソル並列レイアウトは意図的に経由しません。MegaMoE は分割する対象を得るためにエキスパート並列化を必要とするためです。H200 では、TRT-LLM の MoE カーネルは Blackwell 専用であるため、このレシピは BF16 の 3 つを含むすべてのエキスパート層で Triton MoE にフォールバックします。

• 起動コスト — SGLang クックブックでは、B300 での初回起動時に FlashInfer のコンパイルに約15分かかり、以降の起動では約6分に短縮されるとされており、再起動をまたいで FLASHINFER_WORKSPACE_BASE と ~/.cache/sglang を永続化するよう指示しています。ゼロからオートスケーリングする場合、これはコールドスタートの下限であり、丸め誤差ではありません。

• まだサポートされていない点 — vLLM のレシピでは、Simple と LMCache KV オフロードの両方がこのモデルでは未サポートとされています。SGLang の HiCache パスはクックブックで利用可能として記載されており、これは現時点における両スタック間の実際の機能差です。

実用的な見方：Step 5 Preview は単一ノードのホビープロジェクトではなく、4～8基のアクセラレータによるデプロイだ。もしその一文で興味が終わるなら、以下の API セクションが記事の残りだ。

それを呼び出すこと、そして各トークンのコスト

StepFun自身の価格ページでは、step-5-previewがキャッシュミス時の入力トークン100万個あたり$1.00、キャッシュヒット時は$0.10、出力トークン100万個あたり$2.70と記載されています——これはベンダーによる数字であり、再販業者によるものではありません。2つの詳細が計算を変えます。第一に、キャッシュミスの入力価格には新しいコンテンツをキャッシュに書き込むことが含まれるため、長い文書の最初のパスは一度価格が付けられ、2回目のパスでは安くなります。第二に、出力トークンにはモデルの答えだけでなくその推論も含まれ、これは直接答えるモデルよりもここで重要になります。

公開された実行結果を持つ唯一の中立な評価者であるArtificial Analysisは、Step 5 Previewをインテリジェンス指数43.7——表示上は44——と評価しており、出力速度の中央値は毎秒88.5トークン、最初の回答トークンまでの時間は24.7秒で、応答あたりおよそ2,000の推論トークンを使用しています。この速度の数値は悪くありませんが、回答トークンのレイテンシはそうではありません。常にまず考えてから答えるモデルは、対話型オートコンプリートには不向きで、バッチ処理やエージェント的な作業には適しています。これはまさにStepFunが本モデルを位置づけている通りです。これらは第三者のハーネス上で得られた独立した数値であり、入手可能な唯一の数値でもあります。StepFunはこのモデルに関するベンチマーク表を一切公開していません。

物語がまだ柔らかいところで、しかもすべてが同じように柔らかいわけではない

3つの事柄は、ならしてしまうよりも指摘する価値がある。それぞれの賞味期限が異なるからだ。

最初の点は、ベンダーのチェックポイントが実際にダウンロード可能かどうかです。ファーストパーティのサービングドキュメントはどちらも、正規のチェックポイントとして stepfun-ai/Step-5-Preview と stepfun-ai/Step-5-Preview-NVFP4 を参照しており、SGLang のクックブックは StepFun Model License 1.0 の下の LICENSE.txt にリンクしています。このページにできないのは、それらのリポジトリが今日公開で閲覧可能であることを Hugging Face から確認することです。Hugging Face API は、stepfun-ai/Step-5-Preview に対して、これまで一度も存在したことのないリポジトリ ID に対する場合と同一の 401 Invalid username or password を返すため、その応答ではゲート付きモデルと存在しないモデルを区別できません。レシピ自体のガイダンス —「チェックポイントが認証を必要とする場合は hf auth login を使用してください」— がアクセスに関する唯一の記述であり、それは条件付きです。ダウンロードは、ローダーを書いた人々によって参照されているものとして扱い、それを前提に起動を計画する前に、自分でアクセスを確認してください。

2つ目はリリース日であり、3つの情報源が3通りの日付を示している。StepFunの発表資料は開始日を2026年9月20日としている。Artificial Analysisは自身のメタデータでこのモデルを2026年9月18日とし、「Released September 2026」と表示している。そして、ほとんどのツールが参照するモデルメタデータアグリゲーターは2026年9月16日を掲載している。3つのどれも、このずれを説明していない。本記事では、日付が必要な箇所ではベンダーの9月20日を用いる。そして、あなたが読んでいるツールがどの数字を取得したのかを知っておく価値がある。

第三は成熟度であり、ここで両スタックは等価ではない。SGLangのcookbookはマージ済みでmainにマージされているが、SGLang自身の記述によればサポートはリリースとして出荷されていない。したがってPythonの経路はプレビューDockerイメージ以外の何ものでもない。vLLMのレシピは公開されているが、そのモデルPRは未マージのドラフトで、GitHubは現在マージコンフリクトがありリベースが必要だと報告しており、vLLM自身のレビュアーはすでにレシピに対して3つの未解決項目を挙げている——FP8ハードウェアゲート、4 GPUのガイドに対して8 GPUのコマンドを出力するデフォルトのB300プロファイル、そしてバリアント引数にエンコードされていないNVFP4コンテキスト上限である。そのどれも失格要因ではない。そのすべては、今週の最初のセルフホスト導入を移行ではなく評価として扱うべきだと主張している。

これで今週何をする？

すでにB300を4台、またはH200を8台持っていて、長文書分析、マルチターンのツール呼び出し、夜通しのエージェント実行のようなワークロードがあるなら、vLLMのレシピはほぼランブックだ。vllm/vllm-openai:step-5-previewをプルし、TP4またはTEP4のコマンドをコピーし、誰かに100万トークンを約束する前に、--max-model-len 1048576が実際のKV予算と突き合わせても成り立つか確認しよう。Hopperを持っていてBlackwellを持っていないなら、NVFP4チェックポイントから始めて320kコンテキストを受け入れるか、H200を8台確保するかだ。いずれにせよ、高いデフォルトを継承するのではなく、すべてのリクエストでreasoning_effortを明示的に設定し、88.5トークン/秒という数値から何かを結論づける前に、自分のトラフィックで24.7秒のtime-to-answer-tokenを測定しよう。

そのハードウェアをお持ちでない場合、APIは慰めの賞品ではありません — 同じ重みをトークン単位で課金し、入力$1.00、出力$2.70、繰り返しコンテキストには90%のキャッシュ割引が適用されます。そして、このページで私たちについて正直に答えるべき部分はここです。Step 5 Previewは本日時点でOrcaRouterのライブモデルリストに載っていません。私たちのカタログは13プロバイダーにまたがる207モデルで、現在StepFunのモデルを1つも含んでいません。したがって、この特定のモデルについては、ベンダー自身のAPIだけが呼び出し可能な唯一の経路であり、このページのいかなる記述も、私たちがそれを提供しているという主張として読まれるべきではありません。私たちがルーティングするのは、その周辺の意思決定です。本番ワークロードをどのフロンティアモデルに担わせるかを選ぶとき、単一のエンドポイント経由でそれに到達する論拠は、プロバイダーの定価が0%のマークアップでそのまま渡されるため、ベンダーの価格変更が当日のあなたの価格になること、そしてプロバイダー間の自動フェイルオーバーにより、単一モデルの不調な午後があなたのサービス停止にはならないことを意味します。それは、私たちが実際に取り扱っているモデルについての記述であり、意図的にこのモデルについての記述ではありません。

次に注目すべき点は限定的で、検証可能だ。stepfun-ai/Step-5-Preview が、法務チームに提示できるライセンスファイルを備えた読めるリポジトリとして解決されるかどうか。vLLM の #61727 がドラフト状態とマージコンフリクトを解消するかどうか。SGLang のサポート PR #44356 がタグ付きリリースに入るかどうか——それは、このレシピがプレビューイメージであることをやめ、あなたの CI が固定できるものになる時点だ。それら3つのうちどれか1つでも、今週の「おそらく実行できる」を単なるイエスに変える。そしてそれまでは、主張する価値のある唯一のことは、証拠が支持するものだ。2026年10月15日時点で、2つのサービングスタックが、2026年9月20日以来呼び出し可能なモデルへのそれぞれの道筋を公開した。

6000億パラメータモデルを自前のハードウェアで実行するという選択も、実績が問われる類の決断です。このクラスのモデルに関する記録されたAIインシデントやエージェント障害は、OrcaRouter AI Incident Archiveに集められており、各エントリには独自の情報源、重大度、信頼度グレード、および異議申し立てフラグが付いています。