Beam 1.0 op vier B300's: de rekensom achter serving, en de throughputclaim die niemand publiceerde

Het getal waar je even bij stil moet staan in Reflection's Beam 1.0 release is niet 501 miljard. Het is vier. Een model met 501,3 miljard totale parameters en 23,4 miljard actief per token past nu op één enkele server met vier NVIDIA B300 GPU's op NVLink, en het verschil tussen die twee cijfers — ongeveer 4,7 procent van het model dat op elk gegeven token wakker is — is de hele reden waarom een checkpoint van deze omvang downloadbaar is voor iedereen die geen cluster bezit. Reflection publiceerde de gewichten op 16 oktober 2026 onder Apache 2.0, en het lanceringsmateriaal is ongewoon specifiek over wat er nodig is om ze te serveren: vier B300 GPU's op NVLink voor de NVFP4-build, acht H200's voor FP8, en acht B200's of B300's voor BF16. Die hardwaretabel is interessanter dan de benchmarktabel, want het is het onderdeel dat een lezer daadwerkelijk kan afzetten tegen diens eigen inkooplijst.

Het is ook het onderdeel dat Beam 1.0 onderscheidt van de modellen waarmee het wordt vergeleken. Kimi K3 en GLM-5.2 worden achter API's aangeboden en hun gewichten zijn ofwel niet openbaar, ofwel ze komen met een andere set voorwaarden; Qwen3.8-Max is propriëtair in de topklasse. De propositie van Beam is dat de moeilijke helft van die afweging — een model dat het frontier benadert en dat je kunt downloaden — is geleverd, en dat de kosten voor het serveren neerkomen op een rack in plaats van een datacenter.

Wat landde er eigenlijk op 16 oktober?

Het bericht "Beam is nu beschikbaar" van Reflection is gedateerd op 16 oktober 2026, elf dagen nadat het model op 5 oktober werd aangekondigd. Vier artefacten zijn uitgebracht, en de precieze details wegen zwaarder dan de kop:

• BF16 — 501,3B parameters, 933,81 GiB op schijf, 188 safetensors-shards. De referentieprecisie; de eerste kolom van de benchmarktabel.

• FP8 — hetzelfde aantal parameters in E4M3, 468,72 GiB. Gekwantiseerd met N​VIDIA ModelOpt. Aanbevolen voor Hopper en oudere hardware.

• NVFP4 — een gepakte 4-bit build van 273 GiB. Dit is degene die Reflection's eigen servinggidsen je aanraden te downloaden, en de enige die native op Blackwell draait zonder dequantisatiepenalty.

• DFlash2 — een drafter voor speculatieve decodering met 1,93 miljard parameters, gepubliceerd als een eigen repository en geïntegreerd in de voorbeeldcommando's als een afzonderlijke gewichtenset.

De architectuur achter die checkpoints is een sparse mixture of experts: 52 lagen, waarvan 3 dense en 49 MoE, 256 experts per MoE-laag, gated grouped-query attention gemengd met sliding-window attention, en een vocabulaire van 152.000 tokens. Tekst in, tekst uit, 1M-token context op de modelkaart, 131.072 tokens maximale uitvoer op de API. Kennisafsluitdatum 30 juni 2026.

Het doorvoercijfer dat niet in de documentatie staat

Er circuleert sinds dag nul een getal rond deze release: meer dan 70.000 outputtokens per seconde per GPU op Blackwell Ultra. Het is een aantrekkelijk cijfer, en het is de moeite waard om precies te zijn over waar het wel en niet voorkomt. Het staat niet in de launchpost van Reflection, niet in de modelkaart, niet in de releaseopmerkingen van Hugging Face en niet in de ontwikkelaarsdocumentatie. We konden het in geen enkele first-partybron vinden.

Wat het leveranciersmateriaal wel documenteert, is relatief in plaats van absoluut. De enige efficiëntieclaim in de modelkaart is dat Beam "een vergelijkbare oplossingskwaliteit bereikt als toonaangevende open modellen met ongeveer 3x minder redeneertokens tijdens inferentie", en de lanceringspost verwoordt hetzelfde idee als "meer intelligentie per token". Het enige getal in de vorm van doorvoer dat de release wel publiceert, is een gemeten versnelling in plaats van een snelheid: de DFlash2-drafter verhoogt de decodeersnelheid met 1,7× tot 3,0× ten opzichte van Beam alleen, gemeten op het NVFP4-checkpoint over vier B300's, met acceptatielengtes van 4,11 tot 5,88 tokens van een maximum van acht. Dat is een ratio ten opzichte van de eigen baseline van Beam, dus het zegt niets over absolute tokens per seconde per GPU — het zal het getal van 70.000 hoe dan ook niet beslechten.

Er is één onafhankelijk signaal dat de efficiëntieclaim niet louter marketing is. Artificial Analysis mat Beam 1.0 op 79M outputtokens over de Intelligence Index, tegenover een mediaan van 130M voor de modellen waarmee Artificial Analysis vergelijkt — gerangschikt als #10 van 46 op die maatstaf. Dat is een derde partij die gegenereerde tokens telt en Beam zuiniger vindt dan het grootste deel van het veld, wat een zwakkere claim is dan een per-GPU-doorvoercijfer en een veel beter onderbouwde.

Wat vier B300's je daadwerkelijk opleveren, qua geheugen

De servingdocumentatie is het nuttigste dat Reflection heeft gepubliceerd, omdat ze vragen beantwoordt die een benchmarktabel nooit stelt. Drie cijfers springen eruit.

• KV-cachevoetafdruk — de recepten voor vLLM en NVIDIA Dynamo gaan beide standaard uit van een FP8 E4M3-cache met een paginagrootte van 64 tokens; volgens het vLLM-recept verdubbelt dat tot ruwweg 14M tot 28M tokens aan cachebare context op acht H200's die de FP8-checkpoint draaien. Dat is het getal waarmee je een deployment moet dimensioneren; een plan met drie GPU's begeeft het ruim voordat de cache dat doet.

• Het NVFP4-checkpoint kwantiseert alleen de gerouteerde experts. Attention, dense MLP's, de router, embeddings en de LM-head blijven in BF16, daarom is het bestand 273 GiB in plaats van de ongeveer 250 die een volledige 4-bit-pass je zou opleveren. Op Blackwell draait het W4A4; op Hopper serveert vLLM de FP4-experts via Marlin met BF16-activaties.

• De NVFP4-checkpoint op vier B300's is de referentieconfiguratie, en het SGLang-recept wordt geleverd als een vastgepinde Docker-image met tensorparallellisme ingesteld op 4, de DFlash2-drafter ingeschakeld op blokgrootte 8, en speculatieve decoding geconfigureerd naast FP8 KV-cache.

Er is ook een verificatietool. De open-source beam-verifier CLI voert een conformiteitssuite uit tegen elk live Beam-endpoint — requestcontract, responsecontract, toolprotocol — en evalueert het vervolgens op de belangrijkste benchmarks, zodat u uw eigen deployment, of die van een provider, kunt vergelijken met de referentiescores van Reflection. Voor een model waarvan de benchmarktabel volledig door de leverancier is gerapporteerd, is het leveren van het testharnas waarmee een koper het kan reproduceren een betekenisvollere toezegging dan welk afzonderlijk getal dan ook in die tabel.

Day-zero-ondersteuning voor frameworks is de andere helft van het deploymentverhaal, en die is breder dan de meeste open releases voor elkaar krijgen: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed en NVIDIA Dynamo, met stapsgewijze recepten voor SGLang, vLLM en TokenSpeed plus een Helm-chart voor Kubernetes. Aan de trainingskant noemt Reflection de stacks waarmee het de workflows heeft gebouwd — NeMo RL en AutoModel en Megatron Bridge van NVIDIA, Miles van RadixArk, TRL van Hugging Face, SkyRL van Anyscale en Axolotl — en publiceert de cijfers uit het RL-runbook in plaats van een hardwarecijfer daarvoor: 10,5K GB300-GPU's gedurende vier weken, meer dan 100 miljoen rollouts, een maximale context van 256K tokens tijdens de training, en ongeveer 1,3 miljard sandboxes.

De API bestaat, en heeft nog steeds geen prijs.

Naast de gewichten is er een first-party endpoint op api.reflection.ai met een O​penAI-compatibel oppervlak en het model-ID Beam-1.0-501B-A23B. Het heeft een gedocumenteerd contract: verplichte reasoning met inspanningsniveaus max, xhigh, high, medium en low, waarbij max de standaard is; gestructureerde outputs en tool calling; organisatiebrede rate limits, gemeten in requests en tokens per minuut en per UTC-dag, gedeeld over elk project en elke sleutel, zodat het toevoegen van een sleutel ze niet verhoogt; en een 429-respons die x-should-retry op false zet zodra een dagelijkse limiet is verbruikt, het detail dat voorkomt dat een naïeve retry-lus doordraait tot middernacht.

De documentatie bevat geen prijs per miljoen tokens, en de aankondiging ook niet. Juist die ene weglating maakt het efficiëntieargument voor een koper niet af te maken: een model dat altijd redeneert, standaard op maximale inspanning staat en claimt drie keer minder redeneertokens te gebruiken, is een andere commerciële propositie bij één dollar per miljoen outputtokens dan bij tien, en niemand buiten Reflection kan momenteel zeggen welke van de twee het is. Zelf hosten haalt de vraag volledig weg en vervangt die door een kapitaalbedrag, wat tenminste een getal is dat je kunt berekenen.

Wat dit betekent voor een team dat het wil proberen

Beam 1.0 is niet een van onze routes, dus we kunnen het niet voor je aanbieden, en niets hier mag worden gelezen als een beschikbaarheidsclaim van ons. Wat we wel kunnen doen, is de evaluatie goedkoop maken. Als de beslissing waar je voor staat is of je een kwart van de engineeringtijd aan een pilot van twee weken met Beam moet besteden, is de nuttige zet om productie op een model te houden met een gepubliceerde tariefkaart en een servicegeschiedenis terwijl de pilot loopt, en de fallback al te hebben aangesloten. OrcaRouter laat één OpenAI-compatibele sleutel over meer dan 200 modellen werken, met de lijstprijs van de provider doorgegeven en niets toegevoegd, zodat een prijsverlaging van een leverancier dezelfde dag op je factuur terechtkomt, en automatische failover betekent dat een pilot die volgende maand niet beschikbaar blijkt te zijn een routeringswijziging is in plaats van een migratie.

De modellen die het dichtst bij Beam liggen voor de workloads waarop het zich richt, zijn allemaal op die manier bereikbaar. De drie waartegen het de moeite loont om de pilot te prijzen, uit onze eigen catalogus:

• GLM-5.2 — context van 1.000.000 tokens, $1,40 per miljoen invoertokens en $4,40 per miljoen uitvoertokens. Het model waartegen de eigen efficiëntieclaim van Reflection wordt afgemeten.

• Kimi K3 — context van 1.048.576 tokens, $3,00 per miljoen invoertokens, $0,30 gecachet, $15,00 uitvoer. In het lanceringsbericht van Reflection wordt toegegeven dat K3 op het gebied van ruwe capaciteit nog steeds vooroploopt.

• Qwen3.8-Max — context van 1.000.000 tokens, $ 2,00 per miljoen input en $ 6,00 output, de klasse met 2 biljoen parameters waar Beam naar eigen zeggen zijn grootste efficiëntievoordeel tegenover heeft.

De drie dingen om in de gaten te houden

Het eerste is de prijs. Totdat Reflection een tarievenkaart publiceert, is de efficiëntiethese een hypothese over rekenkracht in plaats van een feit over geld, en blijft de vergelijking met GLM-5.2 of Kimi K3 een discussie over methodologie.

De tweede is een onafhankelijke doorvoermeting. Artificial Analysis vermeldt Beam momenteel met een Intelligence Index van 30 en zonder snelheid en zonder prijs, omdat het "Geen openbaar beschikbare API" voor het model registreert. Wanneer dat verandert, krijgt de vraag per GPU een antwoord dat niet van de leverancier afkomstig is.

Het derde is of de verificateur wordt gebruikt. Een conformiteitssuite die niemand uitvoert is documentatie; een conformiteitssuite waarvan een dozijn deployments resultaten publiceert, is een benchmark. Beam 1.0 bracht de tool op dag nul uit. Of het de cijfers levert, is het deel dat nog open is.

Niets daarvan is hypothetisch: de gedocumenteerde AI-fouten en agent-incidenten achter releases zoals deze zijn verzameld in the OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en markering voor betwisting bevat.