Beam 1.0 auf vier B300s: Die Serving-Mathematik und die Durchsatz-Behauptung, die niemand veröffentlicht hat

Die Zahl, bei der es sich lohnt, in Reflections Beam 1.0-Release innezuhalten, ist nicht 501 Milliarden. Sie ist vier. Ein Modell mit 501,3 Milliarden Gesamtparametern und 23,4 Milliarden aktiven Parametern pro Token passt jetzt auf einen einzelnen Server mit vier NVIDIA B300 GPUs über NVLink, und der Abstand zwischen diesen beiden Zahlen — etwa 4,7 Prozent des Modells, die bei jedem beliebigen Token aktiv sind — ist der eigentliche Grund, warum ein Checkpoint dieser Größe für jeden herunterladbar ist, der keinen Cluster besitzt. Reflection veröffentlichte die Gewichte am 16. Oktober 2026 unter Apache 2.0, und das Launch-Material ist ungewöhnlich konkret dazu, was nötig ist, um sie zu betreiben: vier B300 GPUs über NVLink für den NVFP4-Build, acht H200 für FP8 und acht B200 oder B300 für BF16. Diese Hardware-Tabelle ist interessanter als die Benchmark-Tabelle, denn sie ist der Teil, den ein Leser tatsächlich mit der eigenen Beschaffungsliste abgleichen kann.

Es ist auch der Teil, der Beam 1.0 von den Modellen trennt, an denen es gemessen wird. Kimi K3 und GLM-5.2 werden über APIs bereitgestellt, und ihre Gewichte sind entweder nicht öffentlich oder an andere Bedingungen geknüpft; Qwen3.8-Max ist in der Flaggschiff-Klasse proprietär. Der Pitch von Beam ist, dass die schwierige Hälfte dieses Kompromisses – ein frontier-nahes Modell, das zum Download verfügbar ist – veröffentlicht wurde, und dass die Bereitstellungskosten ein Rack statt eines Rechenzentrums sind.

Was ist am 16. Oktober tatsächlich gelandet?

Der Beitrag „Beam ist jetzt verfügbar“ von Reflection ist auf den 16. Oktober 2026 datiert, elf Tage, nachdem das Modell am 5. Oktober angekündigt wurde. Vier Artefakte wurden ausgeliefert, und die präzisen Angaben sind wichtiger als die Schlagzeile:

• BF16 — 501,3 Mrd. Parameter, 933,81 GiB auf der Festplatte, 188 Safetensors-Shards. Die Referenzpräzision; die erste Spalte der Benchmark-Tabelle.

• FP8 — die gleiche Parameteranzahl in E4M3, 468,72 GiB. Quantisiert mit NVIDIA ModelOpt. Empfohlen für Hopper und ältere Hardware.

• NVFP4 — ein gepackter 4-Bit-Build mit 273 GiB. Dies ist der Build, den man laut den eigenen Serving-Guides von Reflection herunterladen soll, und der einzige, der nativ auf Blackwell ohne Dequantisierungsstrafe läuft.

• DFlash2 — ein Spekulative-Decoding-Drafter mit 1,93B Parametern, veröffentlicht als eigenes Repository und als separater Gewichtssatz in die Beispielbefehle eingebunden.

Die Architektur hinter diesen Checkpoints ist ein sparse Mixture-of-Experts: 52 Schichten, von denen 3 dicht und 49 MoE sind, 256 Experten pro MoE-Schicht, gated grouped-query attention gemischt mit sliding-window attention, und ein Vokabular von 152.000 Tokens. Text rein, Text raus, 1M-Token-Kontext auf der Modellkarte, 131.072 Tokens maximale Ausgabe auf der API. Wissensstichtag 30. Juni 2026.

Der Durchsatzwert, der nicht in der Dokumentation steht

Seit Tag null kursiert zu diesem Release eine Zahl: mehr als 70.000 Output-Tokens pro Sekunde pro GPU auf Blackwell Ultra. Sie ist attraktiv, und es lohnt sich, genau zu sein, wo sie auftaucht und wo nicht. Sie steht nicht im Launch-Post von Reflection, nicht in der Model Card, nicht in den Hugging-Face-Release-Notes und nicht in der Entwicklerdokumentation. Wir konnten sie in keiner First-Party-Quelle finden.

Was das Herstellermaterial tatsächlich dokumentiert, ist relativ und nicht absolut. Die einzige Effizienzbehauptung der Modellkarte ist, dass Beam „mit etwa 3× weniger Reasoning-Tokens zur Inferenzzeit eine vergleichbare Lösungsqualität wie führende offene Modelle erreicht“, und der Launch-Post formuliert dieselbe Idee als „mehr Intelligenz pro Token“. Die einzige durchsatzartige Zahl, die das Release tatsächlich veröffentlicht, ist eine gemessene Beschleunigung statt einer Rate: Der DFlash2-Drafter hebt die Decode-Geschwindigkeit um das 1,7- bis 3,0-Fache gegenüber Beam allein, gemessen am NVFP4-Checkpoint über vier B300s, mit Akzeptanzlängen von 4,11 bis 5,88 Tokens bei einem Maximum von acht. Das ist ein Verhältnis gegenüber Beams eigener Baseline, sagt also nichts über absolute Tokens pro Sekunde pro GPU aus – die 70.000er-Zahl wird es so oder so nicht klären.

Es gibt ein unabhängiges Signal dafür, dass die Effizienzbehauptung nicht reines Marketing ist. Artificial Analysis hat Beam 1.0 über den Intelligence Index hinweg mit 79 Mio. Output-Tokens gemessen, gegenüber einem Median von 130 Mio. bei den Modellen, mit denen es verglichen wird – auf dieser Messgröße Platz 10 von 46. Das ist ein Drittanbieter, der generierte Tokens zählt und Beam sparsamer findet als den Großteil des Feldes, was eine schwächere Behauptung ist als eine Durchsatzangabe pro GPU und zugleich eine deutlich besser belegte.

Was vier B300s hinsichtlich des Speichers tatsächlich bringen

Die Serving-Dokumentation ist das Nützlichste, was Reflection veröffentlicht hat, denn sie beantwortet Fragen, die eine Benchmark-Tabelle nie stellt. Drei Zahlen stechen hervor.

• Speicherbedarf des KV-Cache — die vLLM- und die NVIDIA-Dynamo-Rezepte verwenden beide standardmäßig einen FP8-E4M3-Cache mit einer 64-Token-Seitengröße, wobei das vLLM-Rezept anmerkt, dass sich dies auf acht H200s, die den FP8-Checkpoint ausführen, auf etwa 14 Mio. bis 28 Mio. Tokens cachefähigen Kontexts verdoppelt. Das ist die Zahl, nach der eine Bereitstellung dimensioniert werden muss; ein Drei-GPU-Plan scheitert lange bevor der Cache an seine Grenzen stößt.

• Der NVFP4-Checkpoint quantisiert nur die gerouteten Experten. Attention, dense MLPs, der Router, Embeddings und der LM-Head bleiben in BF16, weshalb die Datei 273 GiB statt der rund 250 GiB groß ist, die ein vollständiger 4-Bit-Durchlauf ergeben würde. Auf Blackwell läuft er mit W4A4; auf Hopper bedient vLLM die FP4-Experten über Marlin mit BF16-Aktivierungen.

• Der NVFP4-Checkpoint auf vier B300-GPUs ist die Referenzkonfiguration, und das SGLang-Rezept wird als gepinntes Docker-Image ausgeliefert, wobei die Tensor-Parallelität auf 4 gesetzt, der DFlash2-Drafter mit Blockgröße 8 aktiviert und spekulatives Dekodieren zusammen mit dem FP8-KV-Cache konfiguriert ist.

Es gibt außerdem ein Verifikationstool. Das quelloffene beam-verifier CLI führt eine Konformitätssuite gegen jeden Live-Beam-Endpunkt aus — Request-Vertrag, Response-Vertrag, Tool-Protokoll — und bewertet ihn anschließend anhand der wichtigsten Benchmarks, sodass Sie Ihre eigene Bereitstellung oder die eines Anbieters mit den Referenzwerten von Reflection vergleichen können. Für ein Modell, dessen Benchmark-Tabelle vollständig vom Anbieter gemeldet wird, ist das Bereitstellen der Testumgebung, mit der ein Käufer sie reproduzieren kann, eine aussagekräftigere Verpflichtung als jede einzelne Zahl in dieser Tabelle.

Framework-Unterstützung ab Tag eins ist die andere Hälfte der Deployment-Story, und sie ist breiter, als die meisten Open-Source-Releases hinbekommen: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed und N​VIDIA Dynamo, mit Schritt-für-Schritt-Anleitungen für SGLang, vLLM und TokenSpeed plus einem Helm-Chart für Kubernetes. Auf der Trainingsseite nennt Reflection die Stacks, mit denen es die Workflows aufgebaut hat — NeMo RL und AutoModel und Megatron Bridge von N​VIDIA, Miles von RadixArk, TRL von Hugging Face, SkyRL von Anyscale und Axolotl — und veröffentlicht dazu statt einer Hardware-Kennzahl seine RL-Runbook-Zahlen: 10,5K GB300-GPUs über vier Wochen, mehr als 100 Millionen Rollouts, ein maximaler Kontext von 256K Token während des Trainings und rund 1,3 Milliarden Sandboxes.

Die API existiert, und sie hat immer noch keinen Preis.

Neben den Gewichten gibt es einen First-Party-Endpunkt unter api.reflection.ai mit einer OpenAI-kompatiblen Oberfläche und der Modell-ID Beam-1.0-501B-A23B. Er bringt einen dokumentierten Vertrag mit: obligatorisches Reasoning mit den Effort-Stufen max, xhigh, high, medium und low, wobei max der Standard ist; strukturierte Ausgaben und Tool-Calling; organisationsweite Rate-Limits, gemessen in Anfragen und Tokens pro Minute und pro UTC-Tag, die von jedem Projekt und jedem Schlüssel gemeinsam genutzt werden, sodass das Hinzufügen eines Schlüssels sie nicht erhöht; und eine 429-Antwort, die x-should-retry auf false setzt, sobald ein Tageskontingent aufgebraucht ist – das ist das Detail, das eine naive Retry-Schleife davon abhält, bis Mitternacht weiterzudrehen.

Die Dokumentation führt keinen Preis pro Million Token auf, und die Ankündigung ebenso wenig. Genau diese eine Auslassung macht das Effizienzargument für einen Käufer unabschließbar: Ein Modell, das immer Schlussfolgerungen zieht, standardmäßig mit maximalem Aufwand arbeitet und behauptet, dreimal weniger Reasoning-Tokens zu benötigen, ist bei einem Dollar pro Million Output-Tokens ein anderes kommerzielles Angebot als bei zehn, und niemand außerhalb von Reflection kann derzeit sagen, welches davon zutrifft. Self-Hosting beseitigt die Frage vollständig und ersetzt sie durch eine Kapitalzahl, die zumindest eine Zahl ist, die man berechnen kann.

Was das für ein Team bedeutet, das es ausprobieren möchte

Beam 1.0 ist keine unserer Routen, daher können wir es nicht für Sie bereitstellen, und nichts hier sollte als Verfügbarkeitszusage unsererseits gelesen werden. Was wir tun können, ist die Evaluierung günstig zu machen. Wenn die Entscheidung, die vor Ihnen liegt, darin besteht, ob ein Viertel der Engineering-Zeit in ein zweiwöchiges Beam-Pilotprojekt zu investieren ist, ist es sinnvoll, die Produktion während des Pilotprojekts auf einem Modell mit veröffentlichter Preisliste und Servicehistorie zu belassen und den Fallback bereits verdrahtet zu haben. OrcaRouter bietet einen einzigen OpenAI-kompatiblen Schlüssel für über 200 Modelle, wobei der Listenpreis des Anbieters durchgereicht und nichts aufgeschlagen wird, sodass eine Preissenkung des Anbieters noch am selben Tag auf Ihrer Rechnung ankommt, und automatisches Failover bedeutet, dass ein Pilotprojekt, das sich nächsten Monat als nicht verfügbar erweist, eine Routing-Änderung statt einer Migration ist.

Die Modelle, die Beam bei den Workloads, auf die es abzielt, am nächsten kommen, sind alle auf diesem Weg erreichbar. Die drei, mit denen sich der Pilot preislich vergleichen lassen sollte, aus unserem eigenen Katalog:

• GLM-5.2 — 1.000.000-Token-Kontext, 1,40 $ pro Million Eingabe-Tokens und 4,40 $ pro Million Ausgabe-Tokens. Das Modell, an dem der eigene Effizienzanspruch von Reflection gemessen wird.

• Kimi K3 — 1.048.576-Token-Kontext, 3,00 $ pro Million Eingabe-Tokens, 0,30 $ gecacht, 15,00 $ Ausgabe. Der Launch-Beitrag von Reflection räumt ein, dass K3 bei der Rohleistung weiterhin vorne liegt.

• Qwen3.8-Max — 1.000.000-Token-Kontext, 2,00 $ pro Million Eingabe und 6,00 $ Ausgabe, die 2-Billionen-Parameter-Klasse, gegenüber der Beam seinen größten Effizienzvorteil beansprucht.

Die drei Dinge, auf die man achten sollte

Das erste ist der Preis. Solange Reflection keine Preisliste veröffentlicht, bleibt die Effizienzthese eine Hypothese über Rechenleistung statt eine Tatsache über Geld, und der Vergleich mit GLM-5.2 oder Kimi K3 bleibt eine Debatte über Methodik.

Das zweite ist eine unabhängige Durchsatzmessung. Artificial Analysis führt Beam derzeit mit einem Intelligence Index von 30 sowie ohne Geschwindigkeits- und Preisangabe auf, weil für das Modell „No publicly available API“ vermerkt wird. Wenn sich das ändert, erhält die Frage pro GPU eine Antwort, die nicht vom Anbieter selbst stammt.

Der dritte Punkt ist, ob der Verifizierer tatsächlich verwendet wird. Eine Konformitätssuite, die niemand ausführt, ist Dokumentation; eine Konformitätssuite, aus der ein Dutzend Deployments Ergebnisse veröffentlichen, ist ein Benchmark. Beam 1.0 hat das Tool bereits zum Start ausgeliefert. Ob es die Zahlen liefert, ist der Teil, der noch offen ist.

Nichts davon ist hypothetisch: Die dokumentierten KI-Ausfälle und Agent-Vorfälle, die hinter Releases wie diesem stehen, finden sich im OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Konfidenzgrad und sein Umstritten-Flag führt.