Beam 1.0 am Tag Null bereitstellen: Was das SGLang-Rezept tatsächlich festlegt

Ein Checkpoint, den man herunterladen kann, ist noch kein Modell, das man deployen kann, und der Abstand zwischen den beiden wird normalerweise in Wochen an Framework-Arbeit gemessen, die von demjenigen erledigt wird, der ungeduldig genug ist, sie zu tun. Reflection Beam 1.0 ist der seltene Fall, in dem diese Arbeit mit den Gewichten kam. Reflection kündigte das Modell am 5. Oktober 2026 an; am 16. Oktober 2026 wurden die Gewichte, die Apache-2.0-Lizenz, ein First-Party-Endpunkt und Day-Zero-Support für sieben Inferenz-Stacks alle zusammen veröffentlicht, und einer dieser Stacks – SGLang, dessen eigener Projekt-Account am 16. erklärte, dass es Beam bei Reflection in der Produktion bereitstellt – lieferte ein Rezept, das detailliert genug ist, um darüber zu streiten.

Dieses Rezept ist das interessante Artefakt, mehr noch als die Benchmark-Tabelle. Ein Launch-Post sagt dir, dass ein Modell gut ist. Eine Deployment-Matrix sagt dir, was es kostet, das herauszufinden, und wo die Entscheidungen, die du triffst, still und leise deine Latenz bestimmen. Die SGLang-Dokumentation von Reflection Beam 1.0 ist ein Generator: Du wählst eine Hardware-Plattform und eine Strategie, und er gibt einen gepinnten Docker-Befehl aus. Die Optionen, durch die es dich zwingt, sind die eigentliche Neuigkeit für jeden, der das ausführen will, statt es nur aufzurufen.

Die drei Achsen, die das Rezept nicht verbirgt

Die Seite fragt nach Hardwareplattform, Strategie und Quantisierung und baut dann den Befehl zusammen. Das ist ein kleinerer Entscheidungsraum, als die meisten Modellveröffentlichungen zugeben, und jede Achse hat eine reale Konsequenz:

• Hardware-Plattform — B300, GB300 oder H200. Die Blackwell-Komponenten verwenden den NVFP4-Build nativ; H200 ist der FP8- und BF16-Pfad. Dies ist dieselbe Untergrenze, die die Versionshinweise von Reflection beschreiben, hier als Dropdown wiedergegeben.

• Strategie — niedrige Latenz oder hoher Durchsatz, und dies ist die Achse, bei der die meisten Deployments standardmäßig falsch liegen. Niedrige Latenz verwendet Tensor-Parallelität mit aktiviertem DFlash2-Drafter bei Blockgröße 8. Hoher Durchsatz deaktiviert DFlash2 vollständig.

• Quantisierung – NVFP4, FP8 oder BF16, die mit der Plattform und der Strategie abgestimmt sein müssen, statt frei kombinierbar zu sein.

Die beiden Strategie-Presets sind kein Leistungsregler, sie sind ein Wechsel des Algorithmus. Spekulatives Dekodieren tauscht Dekodierungslatenz gegen zusätzliche Arbeit des Draft-Modells pro Schritt ein; bei einer Blockgröße von 8 mit einem Drafter mit 1,93B Parametern lohnt sich dieser Tausch, wenn Sie jeweils einen Nutzer bedienen, und sollte abgelehnt werden, wenn Sie aggressiv batchen. DFlash2 für das Hochdurchsatz-Rezept auszuschalten ist kein Rückschritt, es ist die richtige Antwort auf eine andere Frage.

Wo die Rezepte nicht mehr austauschbar sind

Lies über die Voreinstellungen hinaus, und die Seite dokumentiert eine Handvoll Konfigurationsaufteilungen, die aus konkreten Hardwaregründen existieren, und es lohnt sich, sie zu kennen, bevor du den ersten Docker-Befehl kopierst, den du siehst:

• H200 BF16 führt TP8 mit einem automatischen statischen Speicheranteil aus. Der 933,81 GiB große BF16-Checkpoint passt nicht auf weniger Geräte, und der Speicheranteil wird berechnet statt offengelegt — was bedeutet, dass dies das einzige Rezept ist, das man nicht manuell abstimmen kann, ohne den unterstützten Pfad zu verlassen.

Jedes andere Rezept verwendet Tensor-Parallelität plus DPA. DPA ist hier die datenparallele Attention-Anordnung, die Attention vom Expert-Parallel-Split entkoppelt, und deshalb tolerieren die Nicht-BF16-Rezepte Geräteanzahlen, die das BF16-Rezept nicht toleriert.

• Blackwell NVFP4 ermöglicht zusätzlich Expertenparallelität und FlashInfer MegaMoE. Dies ist die Kombination, auf die die eigenen Leitfäden von Reflection verweisen, und sie wird erst dann verfügbar, wenn der Checkpoint der gepackte 4-Bit-Build mit 273 GiB statt FP8 mit 468,72 GiB ist.

Der praktische Kern: „Wir betreiben Beam 1.0 auf SGLang“ ist keine Aussage über Hardware. Zwei Teams können das beide sagen, während sie unterschiedliche Präzisionen, unterschiedliche Parallelisierungs-Layouts und unterschiedliche Decodierungsalgorithmen verwenden, und die einzige Möglichkeit, sich auszutauschen, besteht darin, alle drei zu benennen.

Was „Tag Null" wert ist und was nicht

Framework-Unterstützung an dem Tag, an dem die Gewichte erscheinen, ist ein echtes Signal, und es ist eine ganz bestimmte Art von Signal. Die Unterstützung von SGLang für Beam 1.0 gibt es, weil die Ingenieure von Reflection vor der Veröffentlichung mit der SGLang-Community zusammengearbeitet haben – das hat das SGLang-Projekt am 16. Oktober öffentlich gesagt, und es passt dazu, dass Reflection SGLang neben Transformers, vLLM, Unsloth, Axolotl, TokenSpeed und NVIDIA Dynamo zu seinen Day-zero-Partnern zählt, mit schriftlichen Rezepten für SGLang, vLLM und TokenSpeed sowie einem Helm-Chart für Kubernetes.

• Was es etabliert — einen dokumentierten, gepflegten Weg vom veröffentlichten Checkpoint zu einem bereitgestellten Endpunkt, auf benannter Hardware, mit berücksichtigten Quantisierungsvarianten. Das ist wirklich mehr, als die meisten offenen Releases in der ersten Woche schaffen.

• Was es nicht belegt — dass die Konfiguration optimal ist oder dass die Durchsatzwerte, die Sie erzielen werden, mit denen anderer übereinstimmen. Die Behauptung production-at-Reflection stammt vom Anbieter und vom Framework und wird von den Leuten berichtet, die das Serving durchführen. Wir haben keine unabhängige Reproduktion davon gesehen, und es wurde kein Drittanbieter-Benchmark einer selbst gehosteten Beam-Bereitstellung veröffentlicht.

Dieser Unterschied ist hier wichtiger als sonst, denn dies ist ein Sparse-Mixture-of-Experts-Modell mit 501,3 Milliarden Parametern, von denen pro Token 23,4 Milliarden Parameter aktiv sind, und der ganze Wert der Architektur liegt darin, dass die Serving-Kosten nur ein Bruchteil dessen sind, was der Name des Modells verspricht. Framework-Unterstützung ist das, was diese Behauptung von einem Architekturdiagramm in ein Speicherbudget überführt. Sie überführt sie nicht in eine gemessene Durchsatzrate, und kein First-Party-Material, das wir finden konnten, veröffentlicht eine solche für die Inferenz – die einzige konkrete Tokens-pro-Sekunde-Zahl in der Veröffentlichung beschreibt überwachtes LoRA-Fine-Tuning auf einem einzelnen Knoten mit 8 B300 GPUs, was ein Trainingsschritt ist, keine Serving-Rate.

Der Fehlermodus, den ein selbst gehosteter Day-Zero-Stack tatsächlich hat

Es gibt eine ganz bestimmte Art, wie das schiefgeht, und es liegt nicht am Modell. Es ist die zweite Woche. Ein gepinntes Docker-Image, das für eine Quantisierung und ein Parallelitätslayout gebaut wurde, ist kein Fallback für sich selbst: Wenn der Drafter schlecht mit Ihrem Traffic-Muster interagiert, wenn ein Treiber-Update ändert, was der Speicheranteil allokiert, oder wenn Ihre Kapazität hinter einem anderen Mandanten in der Warteschlange steht, dann bleibt Ihnen keine Konfiguration mehr zum Zurückfallen – Sie haben einen Ausfall, in dem ein sehr leistungsfähiges Modell sitzt.

Beam 1.0 ist keine unserer Routen, daher können wir es nicht für Sie anbieten, und nichts hier sollte als Verfügbarkeitszusage unsererseits verstanden werden. Was wir tun können, ist, den Fallback an einer nützlichen Stelle unterzubringen. OrcaRouter betreibt einen einzigen OpenAI-kompatiblen Schlüssel über mehr als 200 Modelle hinweg, wobei der Listenpreis des Anbieters durchgereicht und nichts aufgeschlagen wird, und automatisches Failover über Anbieter hinweg, sodass ein selbst gehosteter Beam-Pilot, der nicht mehr antwortet, eine Routing-Änderung statt eines Vorfalls ist. Die Modelle, die eine Beam-Bereitstellung am häufigsten ersetzt, und die auf diesem Weg erreichbar sind, kommen mit veröffentlichten Preislisten:

• GLM-5.2 — 1,40 $ pro Million Input-Tokens und 4,40 $ pro Million Output bei einem Kontext von 1.000.000 Tokens. Das Modell, an dem sich Reflections eigener Effizienzanspruch messen lassen muss, und der direkteste Ersatz für Beams Long-Context-Coding-Arbeit.

• Kimi K3 — 3,00 $ pro Million Input, 0,30 $ gecacht, 15,00 $ Output mit einem Fenster von 1.048.576 Token. Der Launch-Post von Reflection räumt ein, dass K3 bei der reinen Leistungsfähigkeit weiterhin vorne liegt.

• Qwen3.8-Max — 2,00 $ pro Million Eingabe- und 6,00 $ Ausgabe-Token bei einem 1.000.000-Token-Fenster, die proprietäre Option der Flaggschiff-Klasse für Teams, die die Leistungsfähigkeit ohne das Rack wollen.

Was das Rezept Ihnen noch nicht verrät

Drei Lücken sind es wert, benannt zu werden, denn jede einzelne ist eine Entscheidung, die Sie letztlich mit weniger Informationen treffen werden, als Ihnen lieb ist.

Der erste Punkt ist der Preis. Der Endpunkt von Reflection ist dokumentiert und OpenAI-kompatibel, mit Reasoning-Stufen max, xhigh, high, medium und low, verpflichtendem Reasoning, das standardmäßig auf max steht, und organisationsweiten Limits, die für jeden Schlüssel gemeinsam gelten. Er hat keinen veröffentlichten Preis pro Million Token, daher lässt sich der Effizienznachweis für Beam 1.0 nicht als reine Rechenübung abschließen. Ein Modell, das immer Reasoning betreibt und standardmäßig auf maximalen Aufwand setzt, ist ein anderes kommerzielles Angebot, je nachdem, ob das Ausgabe-Token einen Dollar oder zehn Dollar kostet.

Der zweite Punkt ist die unabhängige Messung. Artificial Analysis listet das Modell mit einem Intelligence Index von 30, ohne Geschwindigkeitsangabe und ohne Preis, und verzeichnet keine öffentlich verfügbare API dafür – was eine Drittanbieter-Aussage ist, dass die gehostete Oberfläche für die Leute, die diese Dinge messen, noch nicht sichtbar ist. Sein einziger unabhängig gezählter Effizienz-Datenpunkt ist echt: Beam generierte 79 Mio. Output-Tokens über AA's Intelligence Index gegenüber einem Median von 130 Mio. für die Vergleichsgruppe. Das stützt die Behauptung „weniger Reasoning-Tokens“. Es sagt nicht, wie schnell die Tokens ausgegeben werden.

Das dritte ist Versionsdrift. Die veröffentlichten Rezepte sind auf einen bestimmten Checkpoint und einen bestimmten SGLang-Build zugeschnitten, und der Drafter ist ein eigenes Repository. Wenn sich eines von beiden ändert, ist das Rezept, das du im Oktober gepinnt hast, eine Konfiguration, die im November niemand getestet hat. Betrachte den Docker-Befehl als Ausgangspunkt mit Ablaufdatum, nicht als Deployment.

Wer sollte jetzt darauf reagieren, und wer sollte abwarten?

Wenn Sie bereits über Blackwell-Kapazität verfügen, reicht das SGLang-Rezept tatsächlich aus, um zu starten: Vier B300 sind die Referenz-NVFP4-Konfiguration, die Speicherberechnung ist veröffentlicht, die Konformitätssuite existiert, und das Risiko ist auf Engineering-Zeit begrenzt. Wenn Sie die Hardware nicht besitzen, geht die Rechnung immer noch nicht auf, weil die gehostete Option keine Preisliste hat, mit der man sie gegen einen Kapitalkauf abgleichen könnte – und die Framework-Unterstützung ab Tag null ist, so gut sie auch sein mag, kein Ersatz für einen Preis.

Worauf es zu achten gilt, ist nicht ein weiteres Framework, das Unterstützung ankündigt. Es ist die erste veröffentlichte Zahl, die nicht von Reflection oder aus einem Framework-Projekt stammt: eine unabhängige Durchsatzmessung auf einer benannten Konfiguration oder eine Preisliste für den First-Party-Endpoint. Eines von beidem macht aus diesem gut dokumentierten Experiment eine Budgetposition. Bis dahin ist die richtige Lesart des 16. Oktober, dass die anspruchsvolle Engineering-Arbeit planmäßig ausgeliefert wurde – und der Business Case der Teil ist, der sich noch im Aufbau befindet.

Nichts davon ist hypothetisch: Die dokumentierten KI-Ausfälle und Agent-Vorfälle, die hinter Releases wie diesem stehen, finden sich im OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Konfidenzgrad und sein Umstritten-Flag führt.