Servera Beam 1.0 på dag noll: Vad SGLang-receptet faktiskt fastställer

En checkpoint som du kan ladda ner är inte en modell som du kan driftsätta, och avståndet däremellan mäts vanligtvis i veckor av ramverksarbete utfört av den som är otålig nog att göra det. Reflection Beam 1.0 är det sällsynta fallet där det arbetet kom tillsammans med vikterna. Reflection tillkännagav modellen den 5 oktober 2026; den 16 oktober 2026 landade vikterna, Apache 2.0-licensen, en förstaparts-endpoint och dag-noll-support för sju inferensstackar allt samtidigt, och en av dessa stackar – SGLang, vars eget projektkonto den 16:e uppgav att det kör Beam i produktion hos Reflection – släppte ett recept som var tillräckligt detaljerat för att man ska kunna argumentera emot det.

Det receptet är den intressanta artefakten, mer än benchmarktabellen. Ett lanseringsinlägg säger att en modell är bra. En driftsättningsmatris säger vad det kostar att ta reda på, och var valen du gör i det tysta kommer att avgöra din latens. Reflection Beam 1.0:s SGLang-dokumentation är en generator: du väljer en hårdvaruplattform och en strategi, och den genererar ett pinnat Docker-kommando. De alternativ den tvingar dig igenom är den egentliga nyheten för alla som tänker köra det här snarare än att anropa det.

De tre axlarna som receptet vägrar dölja

Sidan frågar efter hårdvaruplattform, strategi och kvantisering och bygger sedan kommandot. Det är ett mindre beslutsutrymme än vad de flesta modellsläpp medger, och varje axel har en verklig konsekvens:

• Hårdvaruplattform — B300, GB300 eller H200. Blackwell-delarna använder NVFP4-bygget nativt; H200 är FP8- och BF16-vägen. Detta är samma miniminivå som Reflections release notes beskriver, omformulerad som en dropdown.

• Strategi — låg latens eller hög genomströmning, och detta är den axel som de flesta driftsättningar gör fel på som standard. Låg latens kör tensorparallellism med DFlash2-draftern aktiverad vid blockstorlek 8. Hög genomströmning inaktiverar DFlash2 helt.

• Kvantisering — NVFP4, FP8 eller BF16, vilka måste stämma överens med plattformen och strategin snarare än att vara fritt kombinerbara.

De två strategiförinställningarna är inte en prestandadial, de är ett byte av algoritm. Speculativ avkodning byter avkodningslatens mot extra arbete med draftmodellen per steg; vid blockstorlek 8 med en draftmodell på 1,93B parametrar är den avvägningen värd att göra när du betjänar en användare i taget och värd att avstå från när du batchar aggressivt. Att stänga av DFlash2 för receptet för hög genomströmning är inte en nedgradering, det är rätt svar på en annan fråga.

Där recepten slutar vara utbytbara

Läs förbi förinställningarna och sidan dokumenterar en handfull konfigurationsuppdelningar som finns av konkreta hårdvaruskäl, och de är värda att känna till innan du kopierar det första Docker-kommandot du ser:

• H200 BF16 kör TP8 med en automatisk statisk minnesfraktion. BF16-checkpointen på 933,81 GiB får inte plats på färre enheter, och minnesfraktionen beräknas i stället för att exponeras – vilket innebär att detta är det enda receptet du inte kan justera manuellt utan att lämna den väg som stöds.

• Alla andra recept använder tensorparallelism plus DPA. DPA är här det data-parallella uppmärksamhetsarrangemang som frikopplar uppmärksamheten från expert-parallelluppdelningen, och det är därför som de icke-BF16-recepten tolererar enhetsantal som BF16-receptet inte gör.

• Blackwell NVFP4 möjliggör dessutom expertparallelism och FlashInfer MegaMoE. Det här är kombinationen som Reflections egna guider pekar på, och den blir först tillgänglig när checkpointen är den packade 4-bitarsversionen på 273 GiB i stället för FP8 på 468,72 GiB.

Den praktiska slutsatsen: "vi kör Beam 1.0 på SGLang" är inte ett påstående om hårdvara. Två team kan båda säga det medan de kör med olika precisioner, olika parallellismupplägg och olika avkodningsalgoritmer, och det enda sättet att jämföra erfarenheter är att namnge alla tre.

Vad "dag noll" är värt, och vad det inte är

Ramverksstöd den dag vikterna släpps är en verklig signal, och det är en specifik sorts signal. SGLangs stöd för Beam 1.0 finns eftersom Reflections ingenjörer arbetade med SGLang-gemenskapen inför lanseringen – det är vad SGLang-projektet sade offentligt den 16 oktober, och det stämmer överens med att Reflection namngav SGLang bland sina partners från dag noll tillsammans med Transformers, vLLM, Unsloth, Axolotl, TokenSpeed och NVIDIA Dynamo, med skriftliga recept för SGLang, vLLM och TokenSpeed plus ett Helm-chart för Kubernetes.

• Vad det etablerar – en dokumenterad, underhållen väg från den publicerade checkpointen till en serverad slutpunkt, på namngiven hårdvara, med kvantiseringsvarianterna beaktade. Det är verkligen mer än vad de flesta öppna släpp klarar under första veckan.

• Vad den inte fastställer – att konfigurationen är optimal, eller att de genomströmningssiffror du får motsvarar någon annans. Påståendet om produktion hos Reflection kommer från leverantören och ramverket, rapporterat av dem som sköter serveringen. Vi har inte sett någon oberoende reproduktion av det, och ingen tredjepartsbenchmark av en egenhostad Beam-driftsättning har publicerats.

Den distinktionen betyder mer här än vanligt, eftersom detta är en gles mixture of experts med 501,3 miljarder parametrar och 23,4 miljarder parametrar aktiva per token, och hela arkitekturens värde är att din serveringskostnad är en bråkdel av modellens namn. Ramverksstöd är det som omvandlar det påståendet från ett arkitekturdiagram till en minnesbudget. Det omvandlar det inte till en uppmätt genomströmningssiffra, och inget förstapartsmaterial som vi kunde hitta publicerar en sådan för inferens – det enda konkreta antalet tokens per sekund i utgåvan beskriver LoRA-övervakad finjustering på en enda nod med 8 B300 GPU:er, vilket är ett träningssteg, inte en serveringshastighet.

Felsättet som en självhostad day-zero-stack faktiskt har

Det finns ett särskilt sätt som detta går fel på, och det är inte modellen. Det är andra veckan. En pinnad Docker-image byggd för en kvantisering och en parallellitetslayout är inte en reservlösning för sig själv: om draftaren har en dålig interaktion med ditt trafikmönster, om en drivrutinsuppdatering ändrar vad minnesfraktionen allokerar, eller om din kapacitet står i kö bakom en annan tenant, har du ingen konfiguration kvar att falla tillbaka på – du har ett avbrott med en mycket kapabel modell sittande i det.

Beam 1.0 är inte en av våra rutter, så vi kan inte betjäna den åt dig, och inget här bör läsas som ett tillgänglighetsanspråk från oss. Vad vi kan göra är att placera reservlösningen någonstans användbar. OrcaRouter kör en OpenAI-kompatibel nyckel över 200-plus modeller med leverantörens listpris vidarebefordrat och inget tillagt, och automatisk failover mellan leverantörer, så en självhostad Beam-pilot som slutar svara är en routingändring snarare än en incident. Modellerna som en Beam-distribution oftast ersätter, och som är nåbara den vägen, kommer med publicerade priskort:

• GLM-5.2 — 1,40 USD per miljon indatatokens och 4,40 USD per miljon utdatatokens med en kontext på 1 000 000 tokens. Modellen som Reflections egen effektivitetsutsaga mäts mot, och den mest direkta ersättaren för Beams arbete med långkontextkodning.

• Kimi K3 — 3,00 USD per miljon indata, 0,30 USD cachad, 15,00 USD utdata med ett fönster på 1 048 576 token.Reflections lanseringsinlägg medger att K3 fortfarande ligger före i rå kapacitet.

• Qwen3.8-Max — $2.00 per miljon indata och $6.00 utdata med ett fönster på 1 000 000 token, det proprietära alternativet i flaggskeppsklass för team som vill ha kapaciteten utan racket.

Vad receptet fortfarande inte berättar för dig

Tre luckor är värda att namnge, eftersom var och en är ett beslut som du till slut kommer att fatta med mindre information än du skulle vilja.

Det första är pris. Reflections endpoint är dokumenterad och OpenAI-kompatibel, med resonemangsinsatser på max, xhigh, high, medium och low, obligatoriskt resonerande som styrs av standardvärdet max, och gränser per organisation som delas mellan alla nycklar. Det har ingen publicerad prisnivå per miljon token, så effektivitetskalkylen för Beam 1.0 kan inte slutföras som en räkneövning. En modell som alltid resonerar och som standard använder maximal insats är en annan kommersiell proposition beroende på om output-token prissätts till en dollar eller tio.

Den andra är oberoende mätning. Artificial Analysis listar modellen med ett Intelligence Index på 30, ingen hastighetssiffra och inget pris, och registrerar inget offentligt tillgängligt API för den — vilket är ett uttalande från tredje part om att den hostade ytan ännu inte är synlig för dem som mäter dessa saker. Dess enda oberoende räknade effektivitetsdatapunkt är verklig: Beam genererade 79M utdatatokens över AA:s Intelligence Index mot en median på 130M för jämförelsegruppen. Det stöder påståendet om "färre resonemangstokens". Det säger dig inte hur snabbt tokens kommer ut.

Den tredje är versionsdrift. De publicerade recepten är skrivna mot en specifik checkpoint och en specifik SGLang-build, och draftaren har sitt eget repository. När endera ändras är receptet du pinnade i oktober en konfiguration som ingen har testat i november. Behandla Docker-kommandot som en utgångspunkt med ett utgångsdatum, inte som en driftsättning.

Vem ska agera på detta nu, och vem ska vänta

Om du redan äger Blackwell-kapaciteten är SGLang-receptet verkligen tillräckligt för att komma igång: fyra B300 är referenskonfigurationen för NVFP4, minneskalkylen är publicerad, konformitetssviten finns och nedsidan är begränsad till ingenjörstid. Om du inte äger hårdvaran går kalkylen fortfarande inte ihop, eftersom det hostade alternativet inte har någon prislista att jämföra med ett kapitalköp — och ramverksstödet från dag noll, hur bra det än är, är inte en ersättning för ett pris.

Det man bör hålla ögonen på är inte ännu ett ramverk som meddelar stöd. Det är den första publicerade siffran som inte kom från Reflection eller från ett ramverksprojekt: en oberoende genomströmningsmätning på en namngiven konfiguration, eller en prislista för förstaparts-endpointen. Endera förvandlar detta från ett väldokumenterat experiment till en post. Fram till dess är den korrekta tolkningen av den 16 oktober att det tunga ingenjörsarbetet levererades enligt schema — och att affärscaset är den del som fortfarande är under uppbyggnad.

Inget av detta är hypotetiskt: de dokumenterade AI-felen och agentincidenterna bakom släpp som detta samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsgrad och omtvistad flagga.