在四張 B300 上的 Beam 1.0：服務數學，以及無人發表過的吞吐量宣稱

在 Reflection 的 Beam 1.0 發布中，值得停下來細想的數字不是 5010 億，而是四。一個總參數量達 5013 億、每個 token 有 234 億活躍參數的模型，如今能裝在單一伺服器上，靠的是四張以 NVLink 連接的 NVIDIA B300 GPU；而這兩個數字之間的差距——在任何給定 token 上，模型約有 4.7% 處於活躍狀態——正是這種規模的檢查點能讓任何沒有自己叢集的人下載的全部原因。Reflection 於 2026 年 10 月 16 日在 Apache 2.0 授權下發布了權重，且發布資料對於要服務它們需要什麼，異常具體：NVFP4 版本需要四張以 NVLink 連接的 B300 GPU，FP8 需要八張 H200，BF16 則需要八張 B200 或 B300。那張硬體表比基準測試表更有意思，因為那正是讀者能真正拿來對照自己採購清單的部分。

這也是 Beam 1.0 與那些被用來衡量它的模型之間的分野所在。Kimi K3 和 GLM-5.2 是透過 API 提供服務，其權重不是未公開，就是附帶另一套條件；Qwen3.8-Max 在旗艦層級屬於專有模型。Beam 的賣點在於，這樁取捨中困難的那一半——一個可供下載、貼近前沿水準的模型——已經交付，而且服務成本只需一個機架，而非一座資料中心。

10月16日實際登陸的是什麼？

Reflection 的「Beam 現已推出」貼文日期為 2026 年 10 月 16 日，也就是該模型於 10 月 5 日宣布後的十一天。四項產物已推出，而精度比標題更重要：

• BF16 — 501.3B 個參數，磁碟上佔 933.81 GiB，188 個 safetensors 分片。參考精度；基準測試表的第一欄。

• FP8 — 相同參數數量，以 E4M3 表示，468.72 GiB。使用 NVIDIA ModelOpt 量化。建議用於 Hopper 及較舊的硬體。

• NVFP4 — 一個大小為 273 GiB 的封裝 4 位元版本。這是 Reflection 自家服務指南要你下載的那個版本，也是唯一能在 Blackwell 上原生執行、不必付出反量化代價的版本。

• DFlash2 — 一個 1.93B 參數的推測解碼草擬模型，以其專屬儲存庫發布，並作為獨立權重集接入範例指令中。

這些檢查點背後的架構是稀疏混合專家（MoE）：52 層，其中 3 層為稠密層、49 層為 MoE，每個 MoE 層有 256 位專家，閘控式分組查詢注意力與滑動視窗注意力混合並用，詞彙表規模為 152,000 個詞元。文字進、文字出，模型卡上標示的上下文長度為 1M 詞元，API 上的最大輸出為 131,072 個詞元。知識截止日為 2026 年 6 月 30 日。

未列於文件中的吞吐量數據

自從這次發布的第一天起，就有一個數字一直在流傳：在 Blackwell Ultra 上，每顆 GPU 每秒超過 70,000 個輸出 token。這是個吸引人的數字，值得精確說明它出現在哪裡、又不出現在哪裡。它不在 Reflection 的發布貼文中，不在模型卡中，不在 Hugging Face 的發布說明中，也不在開發者文件中。我們在任何第一方來源中都找不到它。

廠商資料確實記載的是相對而非絕對的數據。模型卡上唯一的效率主張是，Beam「在使用約少 3 倍的推論時推理 token 情況下，達到與領先開放模型相當的解答品質」，而發布文章將同一概念表述為「每 token 更多智慧」。該發布內容唯一公布的吞吐量型數字，是實測的加速比而非速率：DFlash2 草稿模型將解碼速度提升至單獨使用 Beam 的 1.7 倍到 3.0 倍，此數據是在四台 B300 上以 NVFP4 檢查點測得，接受長度為 4.11 到 5.88 個 token（上限為八個）。那是相對於 Beam 自身基準的比率，因此完全無法說明每顆 GPU 每秒的絕對 token 數——它也無法以任何方式確定 70,000 這個數字。

有一項獨立訊號顯示，效率方面的宣稱並非純粹的行銷話術。Artificial Analysis 在 Intelligence Index 上測得 Beam 1.0 的輸出符元為 79M，而其對比模型的中位數為 130M——在該指標上於 46 個模型中排名第 10。這是第三方在計算生成符元，並發現 Beam 比該領域大多數模型更節省；這項說法比每 GPU 吞吐量數據來得弱，但獲得的佐證卻充分得多。

四張 B300 在記憶體方面，實際上能為你帶來什麼

服務說明文件是 Reflection 發表過最實用的東西，因為它回答了基準測試表永遠不會問的問題。有三個數字特別突出。

• KV 快取佔用量 —— vLLM 與 NVIDIA Dynamo 這兩種配方都預設採用 FP8 E4M3 快取，分頁大小為 64 個 token；vLLM 配方指出，在八張 H200 上執行 FP8 檢查點時，這會倍增至約 1,400 萬至 2,800 萬個 token 的可快取上下文。這才是規劃部署規模時該依據的數字；三 GPU 的方案會遠在快取之前就先撐不住。

• NVFP4 檢查點只量化路由專家。注意力、稠密 MLP、路由器、嵌入層與 LM head 都維持在 BF16，這就是為什麼檔案是 273 GiB，而不是完整 4 位元處理會得到的 250 多 GiB。在 Blackwell 上它以 W4A4 執行；在 Hopper 上，vLLM 透過 Marlin 以 BF16 活化值來服務 FP4 專家。

• 四張 B300 上的 NVFP4 檢查點是參考配置，而 SGLang 配方以釘選版本的 Docker 映像檔形式提供，張量平行度設為 4、DFlash2 草稿模型在區塊大小 8 時啟用，並搭配 FP8 KV 快取進行推測解碼。

此外還有一個驗證工具。這個開源的 beam-verifier CLI 會針對任何運作中的 Beam 端點執行符合性測試套件——請求合約、回應合約、工具協定——接著再以主要基準測試對其進行評估，讓你將自己的部署，或供應商的部署，與 Reflection 的參考分數相比較。對於一個基準測試表完全由供應商自行報告的模型來說，提供能讓買方重現該結果的測試框架，比那張表上的任何單一數字都是更有意義的承諾。

Day-zero 框架支援是部署故事的另一半，而且它比大多數開源發佈所能做到的涵蓋範圍更廣：Transformers、vLLM、SGLang、Unsloth、Axolotl、TokenSpeed 和 NVIDIA Dynamo，並附上 SGLang、vLLM 與 TokenSpeed 的逐步操作指南，以及 Kubernetes 的 Helm chart。在訓練方面，Reflection 列出了它用來建構這些工作流程的技術堆疊——來自 NVIDIA 的 NeMo RL、AutoModel 與 Megatron Bridge，來自 RadixArk 的 Miles，來自 Hugging Face 的 TRL，來自 Anyscale 的 SkyRL 與 Axolotl——並且公布的是其 RL 執行手冊的數字，而非這些的硬體規格數字：為期四週、10.5K 顆 GB300 GPU、超過 1 億次 rollout、訓練期間最高 256K token 的上下文，以及約 13 億個沙箱。

API 確實存在，但它仍然沒有價格。

除了權重之外，在 api.reflection.ai 還有一個第一方端點，提供與 OpenAI 相容的介面，以及模型 ID Beam-1.0-501B-A23B。它帶有一份有文件記載的合約：強制推理，努力等級為 max、xhigh、high、medium 和 low，其中 max 是預設值；結構化輸出與工具呼叫；組織範圍的速率限制，以每分鐘及每 UTC 日的請求和權杖數計算，並在所有專案和金鑰之間共享，因此新增金鑰不會提高這些限制；以及一個 429 回應，會在每日額度用完後將 x-should-retry 設為 false，這正是阻止天真的重試迴圈一路空轉到午夜的細節。

文件並未載明每百萬詞元的價格，公告也沒有。正是這一項遺漏，讓買家無法對效率論點下定論：一個總是進行推理、預設以最大努力運作，並宣稱推理詞元少三倍的模型，在每百萬輸出詞元一美元與十美元的情況下，是截然不同的商業命題，而目前除了 Reflection 之外，沒有人能說出究竟是哪一種。自行託管則完全消除了這個問題，並以一筆資本支出數字取而代之，而這至少是個你能計算的數字。

這會讓想要嘗試它的團隊處於什麼境地

Beam 1.0 並不是我們提供的路由之一，因此我們無法為你提供該服務，而這裡的任何內容都不應被解讀為我們對其可用性的聲明。我們能做的是讓評估變得便宜。如果你眼前要決定的是是否要投入四分之一的工程時間進行為期兩週的 Beam 試行，那麼有用的做法是：在試行期間讓生產環境繼續使用有公開價目表與服務紀錄的模型，並且先把備援接好。OrcaRouter 以單一 OpenAI 相容金鑰跨 200 多個模型運行，並原樣傳遞供應商的標價、不額外加價，因此供應商降價當天就能反映到你的帳單，而自動容錯移轉意味著一個下個月才發現無法使用的試行，只是路由變更，而不是遷移。

在 Beam 所針對的工作負載上，與 Beam 最為接近的模型都能透過那種方式取得。以下是自家產品型錄中，值得用來為這次試點比價的三個：

• GLM-5.2 — 1,000,000 token 上下文，每百萬輸入 token 1.40 美元、每百萬輸出 4.40 美元。Reflection 自身效率主張所對照的模型。

• Kimi K3 — 1,048,576 個 token 上下文，每百萬個輸入 token 3.00 美元，快取 0.30 美元，輸出 15.00 美元。Reflection 的發布貼文承認 K3 在原始能力方面仍保持領先。

• Qwen3.8-Max — 1,000,000 個符元的上下文，每百萬輸入符元 2.00 美元、輸出 6.00 美元，Beam 聲稱這是其擁有最大效率優勢的 2 兆參數等級。

三個值得關注的重點

首先是價格。在 Reflection 公布價目表之前，效率論述只是關於運算的假設，而不是關於金錢的事實；而與 GLM-5.2 或 Kimi K3 的比較，也仍會是方法論上的爭論。

第二項是獨立的吞吐量測量。Artificial Analysis 目前列出 Beam 的 Intelligence Index 為 30，且沒有速度與價格，因為它對該模型記錄的是「沒有公開可用的 API」。當這一點改變時，每 GPU 的問題就會得到一個並非源自供應商的答案。

第三點是驗證器是否真的會被使用。一套沒人執行的符合性測試套件只是文件；一套有十幾個部署據以發佈結果的符合性測試套件則是一項基準。Beam 1.0 在第零天就推出了這項工具。它是否會發佈這些數字，才是仍懸而未決的部分。

這些都不是假設：像這次發布這類版本背後那些有紀錄的 AI 失效與代理事件，全都收錄在OrcaRouter AI Incident Archive，其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。