Beam 1.0 trên bốn B300s: Phép toán serving, và tuyên bố thông lượng chưa ai công bố

Con số đáng để dừng lại trong bản phát hành Beam 1.0 của Reflection không phải là 501 tỷ. Mà là bốn. Một mô hình với 501,3 tỷ tham số tổng và 23,4 tỷ tham số hoạt động mỗi token giờ đây vừa vặn trên một máy chủ duy nhất với bốn GPU N​VIDIA B300 trên NVLink, và khoảng cách giữa hai con số đó — khoảng 4,7% mô hình hoạt động trên bất kỳ token nào — chính là toàn bộ lý do khiến một checkpoint cỡ này có thể được tải xuống bởi bất kỳ ai không sở hữu một cụm máy chủ. Reflection đã công bố trọng số vào ngày 16 tháng 10 năm 2026 theo Apache 2.0, và tài liệu ra mắt đặc biệt cụ thể về những gì cần để phục vụ chúng: bốn GPU B300 trên NVLink cho bản dựng NVFP4, tám H200 cho FP8, và tám B200 hoặc B300 cho BF16. Bảng phần cứng đó thú vị hơn bảng điểm chuẩn, vì đó là phần mà người đọc thực sự có thể đối chiếu với bảng mua sắm của chính họ.

Đây cũng là phần phân biệt Beam 1.0 với những mô hình mà nó được đem ra so sánh. Kimi K3 và GLM-5.2 được cung cấp qua API, và trọng số của chúng hoặc không công khai, hoặc đi kèm một bộ điều kiện khác; Qwen3.8-Max là độc quyền ở phân khúc hàng đầu. Lời giới thiệu của Beam là nửa khó của sự đánh đổi đó — một mô hình tiệm cận hàng đầu có sẵn để tải xuống — đã được phát hành, và chi phí phục vụ chỉ là một rack chứ không phải cả một trung tâm dữ liệu.

Điều gì thực sự đã hạ cánh vào ngày 16 tháng 10

Bài đăng “Beam hiện đã có sẵn” của Reflection được ghi ngày 16 tháng 10 năm 2026, mười một ngày sau khi mô hình được công bố vào ngày 5 tháng 10. Bốn artefact đã được phát hành, và các mức precision quan trọng hơn tiêu đề:

• BF16 — 501,3 tỷ tham số, 933,81 GiB trên đĩa, 188 phân đoạn safetensors. Độ chính xác tham chiếu; cột đầu tiên của bảng benchmark.

• FP8 — cùng số lượng tham số trong E4M3, 468,72 GiB. Được lượng tử hóa bằng NVIDIA ModelOpt. Được khuyến nghị cho Hopper và phần cứng cũ hơn.

• NVFP4 — bản dựng 4-bit đóng gói ở mức 273 GiB. Đây là bản mà chính các hướng dẫn phục vụ của Reflection bảo bạn tải xuống, và cũng là bản duy nhất chạy gốc trên Blackwell mà không phải chịu chi phí giải lượng tử hóa.

• DFlash2 — một drafter giải mã suy đoán 1,93 tỷ tham số, được phát hành dưới dạng repository riêng và được tích hợp vào các lệnh mẫu như một bộ trọng số riêng biệt.

Kiến trúc đằng sau các checkpoint đó là một hỗn hợp chuyên gia thưa: 52 lớp, trong đó 3 lớp dày đặc và 49 lớp MoE, 256 chuyên gia mỗi lớp MoE, cơ chế chú ý truy vấn nhóm có cổng kết hợp với cơ chế chú ý cửa sổ trượt, và vốn từ vựng 152.000 token. Văn bản vào, văn bản ra, ngữ cảnh 1M token trên thẻ mô hình, 131.072 token đầu ra tối đa trên API. Thời điểm cắt kiến thức 30 tháng 6 năm 2026.

Con số thông lượng không có trong tài liệu

Một con số đã lan truyền cùng với bản phát hành này ngay từ ngày đầu tiên: hơn 70.000 token đầu ra mỗi giây trên mỗi GPU trên Blackwell Ultra. Đó là một con số hấp dẫn và cần phải chính xác về việc nó xuất hiện ở đâu và không xuất hiện ở đâu. Nó không có trong bài đăng ra mắt của Reflection, không có trong thẻ mô hình, không có trong ghi chú phát hành trên Hugging Face, và không có trong tài liệu dành cho nhà phát triển. Chúng tôi không thể tìm thấy con số đó trong bất kỳ nguồn chính chủ nào.

Điều mà tài liệu của nhà cung cấp thực sự ghi lại là tương đối chứ không phải tuyệt đối. Tuyên bố hiệu quả duy nhất trong model card là Beam “đạt chất lượng giải pháp tương đương với các mô hình mở hàng đầu khi dùng ít hơn khoảng 3 lần token suy luận trong lúc suy luận”, và bài đăng ra mắt diễn đạt cùng ý đó là “nhiều trí tuệ hơn trên mỗi token”. Con số duy nhất mang dạng thông lượng mà bản phát hành công bố là mức tăng tốc được đo chứ không phải một tốc độ: bộ dự thảo DFlash2 nâng tốc độ giải mã lên 1,7× đến 3,0× so với chỉ riêng Beam, được đo trên checkpoint NVFP4 trên bốn B300, với độ dài chấp nhận từ 4,11 đến 5,88 token trong tối đa tám token. Đó là một tỷ lệ so với chính đường cơ sở của Beam, nên nó không nói gì về số token tuyệt đối mỗi giây trên mỗi GPU — nó sẽ không thể kết luận con số 70.000 theo bất kỳ hướng nào.

Có một tín hiệu độc lập cho thấy tuyên bố về hiệu quả không phải chỉ là chiêu tiếp thị. Artificial Analysis đo được Beam 1.0 đạt 79M token đầu ra trên toàn bộ Intelligence Index, so với mức trung vị 130M của các mô hình mà nó được đem ra so sánh — xếp hạng #10 trong số 46 theo thước đo đó. Đó là một bên thứ ba đếm số token được tạo ra và nhận thấy Beam tiết kiệm hơn phần lớn các mô hình khác, đây là một tuyên bố yếu hơn so với con số thông lượng trên mỗi GPU, nhưng lại được chống đỡ tốt hơn nhiều.

Bốn chiếc B300 thực sự mang lại cho bạn những gì, xét về bộ nhớ

Tài liệu về serving là thứ hữu ích nhất mà Reflection từng công bố, vì nó trả lời những câu hỏi mà một bảng benchmark không bao giờ đặt ra. Ba con số nổi bật.

• Mức chiếm dụng bộ nhớ đệm KV — các recipe vLLM và N​VIDIA Dynamo đều mặc định dùng bộ nhớ đệm FP8 E4M3 với kích thước trang 64 token; recipe vLLM lưu ý rằng con số này tăng gấp đôi lên khoảng 14M đến 28M token ngữ cảnh có thể lưu vào bộ nhớ đệm trên tám H200 chạy checkpoint FP8. Đó là con số để làm căn cứ định cỡ một triển khai; một phương án ba GPU sẽ thất bại rất lâu trước khi bộ nhớ đệm cạn.

• Checkpoint NVFP4 chỉ lượng tử hóa các chuyên gia được định tuyến. Attention, các MLP dày đặc, bộ định tuyến, embeddings và đầu LM vẫn ở BF16, đó là lý do tại sao tệp có kích thước 273 GiB thay vì khoảng 250 GiB mà một lượt 4-bit đầy đủ sẽ mang lại. Trên Blackwell, nó chạy W4A4; trên Hopper, vLLM phục vụ các chuyên gia FP4 thông qua Marlin với activation BF16.

• Checkpoint NVFP4 trên bốn B300 là cấu hình tham chiếu, và recipe SGLang được phát hành dưới dạng một Docker image được ghim phiên bản với tensor parallelism đặt thành 4, DFlash2 drafter được bật ở kích thước khối 8, cùng giải mã speculative được cấu hình song song với KV cache FP8.

Ngoài ra còn có một công cụ xác minh. Mã nguồn mở beam-verifier CLI chạy một bộ kiểm thử tuân thủ đối với bất kỳ endpoint Beam đang hoạt động nào — hợp đồng yêu cầu, hợp đồng phản hồi, giao thức công cụ — và sau đó đánh giá nó trên các benchmark chính để bạn có thể so sánh triển khai của riêng mình, hoặc của nhà cung cấp, với điểm tham chiếu của Reflection. Đối với một mô hình mà bảng benchmark hoàn toàn do nhà cung cấp tự báo cáo, việc phát hành bộ khung kiểm thử cho phép người mua tái tạo nó là một cam kết có ý nghĩa hơn bất kỳ con số đơn lẻ nào trong bảng đó.

Hỗ trợ framework từ ngày đầu là nửa còn lại của câu chuyện triển khai, và nó rộng hơn mức mà hầu hết các bản phát hành mở làm được: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed và NVIDIA Dynamo, với các hướng dẫn từng bước cho SGLang, vLLM và TokenSpeed cùng một Helm chart cho Kubernetes. Về phía huấn luyện, Reflection nêu tên các stack mà mình đã dùng để xây dựng quy trình làm việc — NeMo RL và AutoModel và Megatron Bridge từ NVIDIA, Miles từ RadixArk, TRL từ Hugging Face, SkyRL từ Anyscale và Axolotl — và công bố các con số runbook RL của mình thay vì một con số về phần cứng: 10,5K GPU GB300 trong bốn tuần, hơn 100 triệu lượt rollout, ngữ cảnh tối đa 256K token trong quá trình huấn luyện, và khoảng 1,3 tỷ sandbox.

API đã tồn tại, và nó vẫn chưa có giá

Bên cạnh các trọng số, có một endpoint first-party tại api.reflection.ai với bề mặt tương thích OpenAI và ID mô hình Beam-1.0-501B-A23B. Nó mang một hợp đồng đã được ghi tài liệu: suy luận bắt buộc với các mức effort là max, xhigh, high, medium và low, trong đó max là mặc định; đầu ra có cấu trúc và gọi công cụ; giới hạn tốc độ trên toàn tổ chức được đo bằng số yêu cầu và token mỗi phút và mỗi ngày UTC, dùng chung cho mọi dự án và khóa, để việc thêm một khóa không làm tăng chúng; và phản hồi 429 đặt x-should-retry thành false khi hạn mức hằng ngày đã hết, đây là chi tiết ngăn một vòng lặp thử lại ngây thơ quay mãi cho đến nửa đêm.

Các tài liệu không ghi giá trên mỗi triệu token, và thông báo cũng không. Chính sự thiếu sót duy nhất đó là thứ khiến lập luận về hiệu quả không thể ngã ngũ đối với người mua: một mô hình luôn suy luận, mặc định ở mức nỗ lực tối đa, và tuyên bố dùng ít hơn ba lần số token suy luận là một đề xuất thương mại khác hẳn ở mức một đô-la một triệu token đầu ra so với mười đô-la, và hiện không ai ngoài Reflection có thể nói được đó là mức nào. Tự vận hành loại bỏ hoàn toàn câu hỏi đó và thay bằng một con số vốn, mà ít nhất thì đó cũng là con số bạn có thể tính được.

Điều này đặt một nhóm muốn thử nó vào tình thế nào

Beam 1.0 không phải là một trong những tuyến của chúng tôi, nên chúng tôi không thể cung cấp nó cho bạn, và không có gì ở đây nên được hiểu là một tuyên bố về tính khả dụng từ phía chúng tôi. Điều chúng tôi có thể làm là khiến việc đánh giá trở nên rẻ. Nếu quyết định trước mắt bạn là có nên dành một phần tư thời gian kỹ thuật cho một thử nghiệm Beam kéo dài hai tuần hay không, thì nước đi hữu ích là giữ môi trường production chạy trên một mô hình có bảng giá được công bố và có lịch sử phục vụ trong khi thử nghiệm diễn ra, đồng thời chuẩn bị sẵn phương án dự phòng. OrcaRouter chạy một khóa tương thích với OpenAI trên hơn 200 mô hình, với giá niêm yết của nhà cung cấp được chuyển nguyên và không cộng thêm gì, nên khi nhà cung cấp giảm giá, hóa đơn của bạn sẽ thấy điều đó ngay trong ngày, và tính năng chuyển đổi dự phòng tự động nghĩa là một thử nghiệm mà hóa ra lại không khả dụng vào tháng sau chỉ là một thay đổi định tuyến chứ không phải một cuộc di trú.

Các mô hình gần nhất với Beam trên những khối lượng công việc mà nó hướng đến đều có thể tiếp cận theo cách đó. Ba mô hình đáng để làm mốc định giá cho bản thử nghiệm, lấy từ danh mục của chính chúng tôi:

• GLM-5.2 — ngữ cảnh 1.000.000 token, 1,40 USD cho mỗi triệu token đầu vào và 4,40 USD cho mỗi triệu token đầu ra. Mô hình mà tuyên bố hiệu quả của chính Reflection được đo lường dựa trên.

• Kimi K3 — ngữ cảnh 1.048.576 token, 3,00 USD cho mỗi triệu token đầu vào, 0,30 USD cho token được lưu đệm, 15,00 USD cho token đầu ra. Bài đăng ra mắt của Reflection thừa nhận K3 vẫn dẫn trước về năng lực thuần.

• Qwen3.8-Max — ngữ cảnh 1.000.000 token, 2,00 USD cho mỗi triệu token đầu vào và 6,00 USD cho đầu ra, lớp 2 nghìn tỷ tham số mà Beam tuyên bố có lợi thế hiệu quả lớn nhất so với.

Ba điều cần theo dõi

Đầu tiên là giá. Cho đến khi Reflection công bố bảng giá, luận đề về hiệu quả vẫn chỉ là một giả thuyết về năng lực tính toán chứ không phải một dữ kiện về tiền bạc, và việc so sánh với GLM-5.2 hay Kimi K3 vẫn chỉ là một cuộc tranh luận về phương pháp luận.

Thứ hai là một phép đo thông lượng độc lập. Artificial Analysis hiện liệt kê Beam với Chỉ số Thông minh là 30, không có tốc độ và không có giá, vì nó ghi nhận "Không có API công khai" cho mô hình này. Khi điều đó thay đổi, câu hỏi về chỉ số trên mỗi GPU sẽ có câu trả lời không đến từ nhà cung cấp.

Điều thứ ba là liệu trình xác minh có được sử dụng hay không. Một bộ kiểm thử tuân thủ mà không ai chạy chỉ là tài liệu; một bộ kiểm thử tuân thủ mà hàng chục đơn vị triển khai công bố kết quả từ đó là một chuẩn đánh giá. Beam 1.0 đã phát hành công cụ này ngay từ ngày đầu tiên. Việc nó có công bố những con số hay không là phần vẫn còn để ngỏ.

Không có gì trong số đó là giả thuyết: các lỗi AI và sự cố tác nhân được ghi nhận đằng sau những bản phát hành như bản này đều được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.