Een gegenereerde hero-kaart met de titel "Beam 1.0 op dag nul: het SGLang-recept" en de ondertitel "501,3B totaal, 23,4B actief per token". De linkerkaart, "Het SGLang-recept", somt op: "Hardware: B300, GB300, H200", "Lage latentie: TP met de DFlash2-drafter bij blokgrootte 8", "Hoge doorvoer: DFlash2 uit, TP + DPA" en "Blackwell NVFP4: EP + FlashInfer MegaMoE"; de rechterkaart, "Waarom het ertoe doet", somt op: "501,3B totaal / 23,4B actief", "52 lagen, 256 experts", "1M-token context" en "Apache 2.0, gewichten verschijnen op 16 oktober 2026". Het OrcaRouter-logo is gecompositeerd in de strook onder de afbeelding, rechtsonder.
Engineering & Research

Beam 1.0 serveren op dag nul: wat het SGLang-recept echt vastlegt

Auteur

Magnus Corvin

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Een checkpoint die je kunt downloaden is nog geen model dat je kunt deployen, en de afstand tussen die twee wordt normaal gesproken gemeten in weken frameworkwerk door wie maar ongeduldig genoeg is om het te doen. Reflection Beam 1.0 is het zeldzame geval waarin dat werk samen met de gewichten aankwam. Reflection kondigde het model aan op 5 oktober 2026; op 16 oktober 2026 kwamen de gewichten, de Apache 2.0-licentie, een first-party endpoint en day-zero-ondersteuning voor zeven inferentie-stacks allemaal tegelijk beschikbaar, en een van die stacks — SGLang, waarvan het eigen projectaccount op de 16e zei dat het Beam in productie bij Reflection draait — leverde een recept dat gedetailleerd genoeg is om over te discussiëren.

Dat recept is het interessante artefact, meer dan de benchmarktabel. Een lanceringspost vertelt je dat een model goed is. Een deploymentmatrix vertelt je wat het kost om daarachter te komen, en waar de keuzes die je maakt je latentie geruisloos zullen bepalen. De SGLang-documentatie van Reflection Beam 1.0 is een generator: je kiest een hardwareplatform en een strategie, en hij produceert een vastgepind Docker-commando. De opties waar het je doorheen dwingt, zijn het echte nieuws voor iedereen die dit wil draaien in plaats van het aan te roepen.

De drie assen die het recept weigert te verbergen

De pagina vraagt om een hardwareplatform, strategie en kwantisatie, en stelt vervolgens het commando samen. Dat is een kleinere beslissingsruimte dan de meeste modelreleases toegeven, en elke as heeft een reële consequentie:

• Hardwareplatform — B300, GB300 of H200. De Blackwell-modellen ondersteunen de NVFP4-build native; H200 is het FP8- en BF16-pad. Dit is dezelfde ondergrens die de releaseopmerkingen van Reflection beschrijven, opnieuw geformuleerd als een dropdown.

• Strategie — lage latentie of hoge doorvoer, en dit is de as waarop de meeste implementaties standaard de verkeerde keuze maken. Lage latentie draait tensor-parallelisme met de DFlash2-conceptmodel ingeschakeld op blokgrootte 8. Hoge doorvoer schakelt DFlash2 volledig uit.

• Kwantisatie — NVFP4, FP8 of BF16, die moeten aansluiten bij het platform en de strategie in plaats van vrij combineerbaar te zijn.

De twee strategie-presets zijn geen prestatieregelaar, ze zijn een algoritmewijziging. Speculatieve decoding ruilt decode-latentie tegen extra werk van het draftmodel per stap; bij blokgrootte 8 met een drafter van 1,93 miljard parameters is die afweging het waard wanneer je één gebruiker tegelijk bedient, en het niet waard wanneer je agressief batcht. DFlash2 uitschakelen voor het recept voor hoge doorvoer is geen downgrade, het is het juiste antwoord op een andere vraag.

Waar de recepten ophouden uitwisselbaar te zijn

Lees verder dan de presets, en de pagina documenteert een handvol configuratiesplitsingen die om concrete hardwareredenen bestaan, en ze zijn het waard om te weten voordat je het eerste Docker-commando kopieert dat je ziet:

• H200 BF16 draait TP8 met een automatische statische geheugenfractie. Het BF16-checkpoint van 933,81 GiB past niet op minder apparaten, en de geheugenfractie wordt berekend in plaats van weergegeven — wat betekent dat dit het enige recept is dat je niet handmatig kunt afstellen zonder het ondersteunde pad te verlaten.

• Elk ander recept gebruikt tensor-parallellisme plus DPA. DPA is hier de data-parallelle attention-opstelling die attention loskoppelt van de expert-parallelle splitsing, en daarom verdragen de niet-BF16-recepten apparaataantallen die de BF16-variant niet verdraagt.

• Blackwell NVFP4 maakt daarnaast expert-parallelisme en FlashInfer MegaMoE mogelijk. Dit is de combinatie waar Reflection's eigen handleidingen naar verwijzen, en die komt pas beschikbaar zodra het checkpoint de gepakte 4-bits build van 273 GiB is in plaats van FP8 met 468,72 GiB.

De praktische conclusie: "we runnen Beam 1.0 op SGLang" is geen uitspraak over hardware. Twee teams kunnen het allebei zeggen terwijl ze met verschillende precisies, verschillende parallellisme-indelingen en verschillende decoderingsalgoritmen draaien, en de enige manier om ervaringen uit te wisselen is om alle drie te benoemen.

Wat 'day zero' waard is, en wat het niet is

Frameworkondersteuning op de dag dat de weights verschijnen is een echt signaal, en het is een specifiek soort signaal. De ondersteuning van SGLang voor Beam 1.0 bestaat omdat de engineers van Reflection vóór de release met de SGLang-community hebben samengewerkt — dat heeft het SGLang-project op 16 oktober publiekelijk gezegd, en het komt overeen met het feit dat Reflection SGLang noemt onder zijn day-zero-partners, naast Transformers, vLLM, Unsloth, Axolotl, TokenSpeed en NVIDIA Dynamo, met uitgeschreven recepten voor SGLang, vLLM en TokenSpeed plus een Helm-chart voor Kubernetes.

• Wat het tot stand brengt — een gedocumenteerd, onderhouden pad van de gepubliceerde checkpoint naar een geserveerd endpoint, op bij naam genoemde hardware, waarbij de kwantisatievarianten zijn meegenomen. Dat is werkelijk meer dan de meeste open releases in de eerste week voor elkaar krijgen.

• Wat het niet aantoont — dat de configuratie optimaal is, of dat de doorvoercijfers die je krijgt overeenkomen met die van iemand anders. De bewering over productie bij Reflection is afkomstig van de leverancier en het framework, gerapporteerd door de mensen die de serving uitvoeren. We hebben geen onafhankelijke reproductie ervan gezien, en er is geen benchmark door derden van een zelfgehoste Beam-deployment gepubliceerd.

Dat onderscheid is hier meer dan anders van belang, want dit is een sparse mixture of experts van 501,3 miljard parameters met 23,4 miljard parameters actief per token, en de hele waarde van de architectuur is dat je serveerkosten een fractie zijn van de naam van het model. Frameworkondersteuning is wat die claim omzet van een architectuurdiagram in een geheugenbudget. Het zet die niet om in een gemeten doorvoercijfer, en geen first-party materiaal dat we konden vinden publiceert er een voor inferentie — het enige concrete aantal tokens per seconde in de release beschrijft LoRA supervised fine-tuning op één node met 8 B300 GPU's, wat een trainingsstap is, niet een serveersnelheid.

Screenshot of the SGLang cookbook page for Reflection Beam 1.0, showing the site's vendor sidebar with Reflection and "Beam 1.0 New" selected, and the deployment panel reading "Deploy Reflection Beam 1.0 with SGLang on B300, GB300, and H200: NVFP4, FP8, and BF16 recipes for low latency and high throughput", with the hardware platform options B300, GB300 and H200, and the strategy and quantisation controls.

De faalmodus die een self-hosted day-zero stack daadwerkelijk heeft

Er is een specifieke manier waarop dit misgaat, en het is niet het model. Het is de tweede week. Een vastgezette Docker-image die voor één kwantisatie en één parallellisme-indeling is gebouwd, is geen terugvaloptie voor zichzelf: als de drafter een slechte interactie heeft met je verkeerspatroon, als een driverupdate verandert wat de geheugenfractie toewijst, of als je capaciteit achter een andere tenant in de wachtrij staat, dan heb je geen configuratie meer om op terug te vallen — je hebt een storing met een zeer capabel model dat erin zit.

Beam 1.0 is geen van onze routes, dus we kunnen het niet voor je leveren, en niets hier mag worden opgevat als een beschikbaarheidsclaim van ons. Wat we wel kunnen doen, is de fallback ergens nuttigs onderbrengen. OrcaRouter laat één OpenAI-compatibele key werken over meer dan 200 modellen, waarbij de lijstprijs van de provider wordt doorgegeven en er niets wordt toegevoegd, en met automatische failover tussen providers, zodat een zelfgehoste Beam-pilot die niet meer antwoordt een routeringswijziging is in plaats van een incident. De modellen die een Beam-implementatie het vaakst vervangt, en die op die manier bereikbaar zijn, komen met gepubliceerde tariefkaarten:

• GLM-5.2 — $1,40 per miljoen inputtokens en $4,40 per miljoen output met een context van 1.000.000 tokens. Het model waartegen Reflection zijn eigen efficiëntieclaim afzet, en de meest directe vervanger voor Beams long-context-codeerwerk.

• Kimi K3 — $3,00 per miljoen invoer, $0,30 in cache, $15,00 uitvoer met een venster van 1.048.576 tokens.De lanceringspost van Reflection geeft toe dat K3 voorop blijft qua ruwe capaciteit.

• Qwen3.8-Max — $2,00 per miljoen input en $6,00 output bij een contextvenster van 1.000.000 tokens, de propriëtaire optie in de topklasse voor teams die de capaciteit willen zonder het rack.

A generated scoreboard titled "Beam 1.0 - the two recipe presets" comparing the SGLang low-latency and high-throughput configurations. Low-latency: tensor parallel, DFlash2 speculative draft at block size 8, NVFP4/FP8/BF16, reference hardware B300 or GB300, best for single-user latency, published throughput none by Reflection. High-throughput: tensor parallel plus DPA, speculative draft disabled, NVFP4/FP8/BF16, reference hardware B300, GB300 or H200, best for batched throughput, published throughput none by Reflection. The OrcaRouter logo is composited in the strip below the artwork, bottom right.

Wat het recept je nog steeds niet vertelt

Drie hiaten zijn het benoemen waard, want elk ervan is een beslissing die je uiteindelijk zult nemen met minder informatie dan je zou willen.

Het eerste is prijs. De endpoint van Reflection is gedocumenteerd en OpenAI-compatibel, met reasoning-inspanningen van max, xhigh, hoog, medium en laag, verplichte reasoning die standaard op max staat, en limieten per organisatie die voor elke sleutel gelden. Het heeft geen gepubliceerd tarief per miljoen tokens, dus het efficiëntieargument voor Beam 1.0 kan niet worden afgerond als een rekenkundige oefening. Een model dat altijd redeneert en standaard op maximale inspanning staat, is een andere commerciële propositie, afhankelijk van of het outputtoken wordt geprijsd op één dollar of tien dollar.

De tweede is een onafhankelijke meting. Artificial Analysis vermeldt het model met een Intelligence Index van 30, geen snelheidscijfer en geen prijs, en registreert geen publiek beschikbare API ervoor — wat een verklaring van een derde partij is dat het gehoste oppervlak nog niet zichtbaar is voor de mensen die deze dingen meten. Het ene onafhankelijk getelde efficiëntiedatapunt is echt: Beam genereerde 79M outputtokens in AA's Intelligence Index tegenover een mediaan van 130M voor de vergelijkingsset. Dat ondersteunt de bewering "minder redeneertokens". Het vertelt je niet hoe snel de tokens eruit komen.

Het derde is versiedrift. De gepubliceerde recepten zijn geschreven voor een specifieke checkpoint en een specifieke SGLang-build, en de drafter heeft zijn eigen repository. Wanneer een van beide verandert, is het recept dat je in oktober hebt vastgezet een configuratie die niemand in november heeft getest. Beschouw het Docker-commando als een beginpunt met een vervaldatum, niet als een deployment.

Screenshot of the Hugging Face collection page for Reflection's Beam 1.0, listing the three repositories reflection/Beam-1.0-501B-A23B, reflection/Beam-1.0-501B-A23B-FP8 and reflection/Beam-1.0-501B-A23B-DFlash2 under the heading "Beam 1.0 - Reflection's first open-weight model, built for coding, reasoning, and agentic tasks".

Wie moet hier nu actie op ondernemen, en wie moet wachten?

Als u al over de Blackwell-capaciteit beschikt, is het SGLang-recept echt voldoende om te beginnen: vier B300's vormen de referentie-NVFP4-configuratie, de geheugenberekening is gepubliceerd, de conformiteitssuite bestaat, en het neerwaartse risico blijft beperkt tot engineeringtijd. Als u de hardware niet bezit, komt de berekening nog steeds niet uit, want de gehoste optie heeft geen tarievenkaart om af te zetten tegen een kapitaalaankoop — en de day-zero-ondersteuning voor frameworks, hoe goed ook, is geen vervanging voor een prijs.

Waar je op moet letten is niet nog een framework dat ondersteuning aankondigt. Het is het eerste gepubliceerde cijfer dat niet van Reflection of van een frameworkproject afkomstig is: een onafhankelijke doorvoermeting op een met naam genoemde configuratie, of een tariefkaart op het first-party endpoint. Een van beide verandert dit van een goed gedocumenteerd experiment in een regelpost. Tot dan is de juiste lezing van 16 oktober dat het harde engineeringwerk op schema is opgeleverd — en dat de commerciële onderbouwing het deel is dat nog in aanbouw is.

Niets daarvan is hypothetisch: de gedocumenteerde AI-fouten en agent-incidenten achter releases zoals deze zijn verzameld in the OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en markering voor betwisting bevat.