「Beam 1.0 - 4GPUサービングの計算」というタイトルと、「合計501.3B、トークンあたり23.4Bがアクティブ」というサブタイトルの生成されたヒーローカード。角丸カードが3枚横並びで、1枚目には「273 GiB」「4x B300 SXM, NVLink」「リファレンスビルド」、2枚目には「468.72 GiB」「8x H200で動作」「E4M3, ModelOpt」、3枚目には「933.81 GiB」「8x B200またはB300」「188 safetensorsシャード」と書かれている。フッター行には「サービングレシピでは、KVキャッシュを64トークンのページでFP8 E4M3に保持する。」とある。OrcaRouterのロゴは、アートワークの下のストリップ内、右下に合成されている。
Guides & Insights

4基のB300上でのBeam 1.0:サービングの計算、そして誰も公表しなかったスループットの主張

著者

Elias Hawthorne

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

ReflectionのBeam 1.0リリースで、いったん立ち止まって考える価値のある数字は5010億ではない。4だ。総パラメータ数5013億、トークンあたりのアクティブパラメータ数234億のモデルが、NVLinkで接続した4台のNVIDIA B300 GPUを備えた単一サーバーに載るようになった。そしてこの2つの数字の隔たり——任意のトークンでモデルの約4.7パーセントだけが稼働している——こそ、この規模のチェックポイントが、クラスタを持たない誰にでもダウンロードできる理由そのものである。Reflectionは2026年10月16日にApache 2.0の下で重みを公開し、発表資料は、それらを提供するために何が必要かについて異例なほど具体的だ。NVFP4ビルドにはNVLink上の4台のB300 GPU、FP8には8台のH200、BF16には8台のB200またはB300である。このハードウェア表は、ベンチマーク表よりも興味深い。というのも、読者が自分の調達シートと実際に照らし合わせられる部分だからだ。

それはまた、Beam 1.0 を、比較対象となるモデルたちから区別する部分でもある。Kimi K3 と GLM-5.2 は API の背後で提供されており、その重みは公開されていないか、異なる条件のもとで提供されている。Qwen3.8-Max はフラッグシップ層ではプロプライエタリだ。Beam の売り文句は、そのトレードオフの難しい半分——ダウンロード可能なフロンティア隣接モデル——が出荷されたこと、そして提供コストがデータセンターではなくラック1台分であることだ。

10月16日に実際に届いたもの

Reflectionの「Beam is now available」という投稿の日付は2026年10月16日で、モデルが10月5日に発表されてから11日後のことである。4つの成果物が出荷されており、見出しよりも細部の精度のほうが重要だ:

• BF16 — 501.3Bパラメータ、ディスク上933.81 GiB、188個のsafetensorsシャード。基準となる精度であり、ベンチマーク表の最初の列。

• FP8 — E4M3で同一のパラメータ数、468.72 GiB。N​VIDIA ModelOptで量子化。Hopperおよびそれ以前のハードウェアに推奨。

• NVFP4 — 273 GiB のパック済み4ビットビルド。これは Reflection 自身のサービングガイドがダウンロードを推奨しているものであり、Blackwell 上で逆量子化のペナルティなしにネイティブに動作する唯一のものです。

• DFlash2 — 1.93Bパラメータの投機的デコーディング用ドラフターで、独自のリポジトリとして公開され、サンプルコマンドに別個の重みセットとして組み込まれています。

それらのチェックポイントの背後にあるアーキテクチャは、スパース混合エキスパートです。52層のうち3層が稠密で49層がMoE、MoE層あたり256エキスパート、ゲート付きグループ化クエリ注意とスライディングウィンドウ注意の併用、そして152,000トークンの語彙。テキスト入力、テキスト出力、モデルカードでは100万トークンのコンテキスト、APIでは最大131,072トークンの出力。知識カットオフは2026年6月30日です。

Screenshot of the Hugging Face model card for Reflection's Beam-1.0-501B-A23B-NVFP4 repository, showing the Apache 2.0 licence badge, the tags TextGeneration, Safetensors, English, mixture-of-experts, reasoning, code, tool-use, nvfp4, conversational and 8-bit precision modelopt, 24 likes and 864 downloads in the last month, a model size of 255B parameters in the safetensors panel, the model card opening on Beam as an open model built by Reflection that takes text in and generates text out, and the note that the release also includes BF16 and FP8 checkpoints.

ドキュメントに記載されていないスループットの数値

このリリースに伴い、初日からある数字が出回っている。Blackwell Ultra 上で GPU あたり毎秒 70,000 以上の出力トークンというものだ。魅力的な数字であり、それがどこに現れ、どこに現れないのかを正確にしておく価値がある。それは Reflection のローンチ投稿にも、モデルカードにも、Hugging Face のリリースノートにも、開発者ドキュメントにもない。一次情報源のどこにも見つけられなかった。

ベンダー資料が実際に記録しているのは、絶対値ではなく相対値だ。モデルカードに記された唯一の効率性に関する主張は、Beamが「推論時の推論トークン数をおよそ3分の1に抑えつつ、主要なオープンモデルと同等の解品質に到達する」というものであり、ローンチ記事も同じ考えを「トークンあたりの知能がより高い」と表現している。このリリースが実際に公表しているスループット関連の数値は一つだけで、それはレートではなく実測された高速化倍率だ。DFlash2ドラフターは、Beam単体と比べてデコード速度を1.7倍から3.0倍に引き上げる。これは4台のB300上でNVFP4チェックポイントを用いて測定されたもので、アクセプタンス長は最大8トークンに対して4.11から5.88トークンである。これはBeam自身のベースラインに対する比率であるため、GPU1基あたりの絶対的な毎秒トークン数については何も語らない。70,000という数値の決着をどちらかに付けることもない。

効率性の主張が単なるマーケティングではないことを示す、独立したシグナルが1つある。Artificial Analysisは、Intelligence Index全体でBeam 1.0を7900万出力トークンと測定した。比較対象のモデルの中央値は1億3000万で、その指標では46件中10位だった。これは第三者機関が生成トークンを数え、Beamがこの分野の大半より倹約的だと見出したものであり、GPUあたりのスループット数値より弱い主張ではあるが、はるかに裏付けの強い主張だ。

Screenshot of the SGLang Cookbook documentation site showing Beam 1.0 listed under the Reflection heading with a New badge among the autoregressive-model vendors, and the deployment panel below it offering Blackwell NVFP4, FP8 and BF16 recipes on B300, GB300 and H200 hardware, with the generated Docker command setting page-size 64, context-length 1048576 and the DFlash2 drafter at block size 8.

B300を4枚積むと実際に何が得られるのか、メモリの観点から

サービングのドキュメントは、Reflection が公開したものの中で最も役立つ。ベンチマーク表が決して問わない疑問に答えてくれるからだ。3つの数字が際立っている。

• KVキャッシュのフットプリント — vLLMとNVIDIA Dynamoのレシピはどちらも、64トークンのページサイズを持つFP8 E4M3キャッシュをデフォルトとしている。vLLMのレシピでは、FP8チェックポイントを実行する8台のH200上で、キャッシュ可能なコンテキストが約1400万~2800万トークンに倍増すると注記されている。これがデプロイのサイズを見積もる基準となる数字であり、GPU 3枚の計画はキャッシュが限界に達するよりはるかに早く破綻する。

• NVFP4チェックポイントは、ルーティングされるエキスパートのみを量子化します。アテンション、デンスMLP、ルーター、埋め込み、LMヘッドはBF16のままです。そのため、完全な4ビットパスなら得られるはずの250 GiB強ではなく、273 GiBというファイルサイズになっています。BlackwellではW4A4で動作し、HopperではvLLMがBF16アクティベーションでMarlinを介してFP4エキスパートを提供します。

• 4台のB300上のNVFP4チェックポイントがリファレンス構成であり、SGLangレシピは、テンソル並列度を4に設定し、DFlash2ドラフターをブロックサイズ8で有効化し、FP8 KVキャッシュと併せて投機的デコーディングを構成した、ピン留めされたDockerイメージとして提供されます。

検証ツールもあります。オープンソースのbeam-verifier CLIは、稼働中のあらゆるBeamエンドポイントに対して適合性スイート — リクエスト契約、レスポンス契約、ツールプロトコル — を実行し、その後メインのベンチマークで評価するため、自社のデプロイやプロバイダーのものをReflectionの参照スコアと比較できます。ベンチマーク表が完全にベンダー報告によるモデルにとって、購入者がそれを再現できるハーネスを提供することは、その表の中のどんな単一の数値よりも意味のある約束です。

Day-zeroのフレームワーク対応はデプロイのもう半分であり、ほとんどのオープンリリースが実現できる範囲よりも広範です。Transformers、vLLM、SGLang、Unsloth、Axolotl、TokenSpeed、NVIDIA Dynamoに対応し、SGLang、vLLM、TokenSpeed向けのステップバイステップのレシピと、Kubernetes向けのHelmチャートを用意しています。トレーニング側では、Reflectionはワークフローの構築に使用したスタックを挙げています — NVIDIAのNeMo RLとAutoModelとMegatron Bridge、RadixArkのMiles、Hugging FaceのTRL、AnyscaleのSkyRLとAxolotl — そして、それらについてハードウェアの数値ではなく、RLランブックの数値を公開しています:4週間にわたる10.5K基のGB300 GPU、1億回を超えるロールアウト、トレーニング中の最大256Kトークンのコンテキスト、そして約13億のサンドボックスです。

A generated single-column scoreboard titled "Beam 1.0 - the scoreboard". The rows read 'Total parameters: 501.3B', 'Active per token: 23.4B, a 4.7% activation ratio', 'Context: 1M tokens on the card, 131,072 max output on the API', 'Licence: Apache 2.0, weights out 16 Oct 2026', 'Serving floor: 4x B300 SXM on NVLink for the 273 GiB NVFP4 build', 'Independent index: 30, ranked 19th of 120'. The sourcing footer reads "Serving figures from Reflection's own deployment docs; index per Artificial Analysis v4.3.2. No first-party source publishes a per-GPU throughput figure.". The OrcaRouter logo is composited in the strip below the artwork, bottom right.

APIは存在するが、相変わらず価格がない

重みに加えて、api.reflection.ai にはファーストパーティのエンドポイントがあり、O​penAI 互換のサーフェスとモデル ID Beam-1.0-501B-A23B を備えています。そこには文書化された契約があります。必須の推論で、エフォートは max、xhigh、high、medium、low であり、max が既定です。構造化出力とツール呼び出し。組織全体のレート制限は、1 分あたりおよび UTC 1 日あたりのリクエスト数とトークン数で測定され、すべてのプロジェクトとキーで共有されるため、キーを追加しても制限値は上がりません。また、1 日の許容量を使い切ると x-should-retry を false に設定する 429 応答。これは、素朴なリトライループが真夜中まで回り続けるのを防ぐ細部です。

ドキュメントには100万トークンあたりの価格が記載されておらず、発表にもない。このたった一つの欠落が、購入者にとって効率性の主張を決着不能にする。常に推論し、既定で最大の努力を尽くし、推論トークンが3分の1で済むと主張するモデルは、出力100万トークンあたり1ドルなのか10ドルなのかで、商業的な意味合いが異なる。そして現在、Reflectionの外部の誰も、どちらなのかを言えない。セルフホスティングはこの問いを完全に消し去り、代わりに設備投資額という数字を持ち込む。それは少なくとも計算できる数字だ。

これを試してみたいチームがどうなるか

Beam 1.0 は当社のルートの一つではないため、お客様に提供することはできません。また、ここに書かれている内容は、当社による可用性の主張として読まれるべきものではありません。当社にできるのは、評価にかかるコストを下げることです。目の前の判断が、2週間の Beam パイロットにエンジニアリング時間の四半期分を費やすかどうかというものであれば、有用な策は、パイロットを走らせている間は本番環境を公開された料金表と運用実績を持つモデルに載せたままにし、フォールバックをあらかじめ組み込んでおくことです。OrcaRouter は、1つの OpenAI 互換キーで 200 以上のモデルを利用でき、プロバイダーの定価をそのまま適用し、上乗せは一切ありませんそのため、ベンダーの値下げはその日のうちに請求に反映され、自動フェイルオーバーにより、来月には利用できなくなると判明したパイロットも、移行ではなくルーティングの変更で済みます。

Beam に最も近いモデルは、それが対象とするワークロードにおいては、すべてその方法で利用できる。自社カタログから、パイロットの価格を比較検討する価値のある3つを挙げる:

• GLM-5.2 — 1,000,000トークンのコンテキスト、100万入力トークンあたり$1.40、100万出力トークンあたり$4.40。Reflectionが自身の効率性の主張を測定する際の基準となるモデル。

• Kimi K3 — コンテキスト1,048,576トークン、入力トークン100万あたり3.00ドル、キャッシュ利用時0.30ドル、出力15.00ドル。Reflectionのローンチ投稿は、K3が純粋な能力で依然として先行していることを認めている。

• Qwen3.8-Max — 100万トークンのコンテキスト、入力は100万トークンあたり$2.00、出力は$6.00。Beamが最大の効率優位性を主張する、2兆パラメータ級。

注目すべき3つのこと

第一は価格だ。Reflectionが料金表を公開するまでは、効率性に関する命題は金銭に関する事実ではなく計算資源に関する仮説であり、GLM-5.2やKimi K3との比較は方法論をめぐる議論にとどまる。

2つ目は、独立したスループット測定です。Artificial Analysis は現在、Beam を Intelligence Index 30 として掲載しており、速度と価格は記載していません。これは、このモデルについて「公開されているAPIはない」と記録しているためです。これが変われば、GPUあたりの問いには、ベンダー由来ではない答えが得られるでしょう。

第三は、検証器が実際に使われるかどうかだ。誰も実行しない適合性スイートはドキュメントであり、十数のデプロイが結果を公開する適合性スイートはベンチマークだ。Beam 1.0は初日からこのツールを出荷した。それが数値を出荷するかどうかが、まだ未解決の部分だ。

そうした話は決して仮定ではない。このようなリリースの背景にある、記録に残されたAIの障害やエージェントのインシデントはOrcaRouter AIインシデントアーカイブに集められており、各項目には独自の情報源、深刻度、信頼度グレード、係争中フラグが付されています。

この記事で比較したモデル1

この記事から検出 · ベンチマーク:Artificial Analysis · 毎日更新