Beam 1.0 på fyra B300:or: Serveringsmatematiken, och genomströmningspåståendet som ingen publicerade

Siffran som är värd att stanna upp vid i Reflections Beam 1.0 lansering är inte 501 miljarder. Det är fyra. En modell med 501,3 miljarder parametrar totalt och 23,4 miljarder aktiva per token får nu plats på en enda server med fyra NVIDIA B300-GPU:er på NVLink, och avståndet mellan de två siffrorna – omkring 4,7 procent av modellen vaken vid varje given token – är hela anledningen till att en checkpoint av den här storleken kan laddas ner av vem som helst som inte äger ett kluster. Reflection publicerade vikterna den 16 oktober 2026 under Apache 2.0, och lanseringsmaterialet är ovanligt specifikt om vad som krävs för att serva dem: fyra B300-GPU:er på NVLink för NVFP4-bygget, åtta H200 för FP8 och åtta B200 eller B300 för BF16. Den hårdvarutabellen är mer intressant än benchmarktabellen, eftersom det är den delen en läsare faktiskt kan kontrollera mot sin egen inköpslista.

Det är också den del som skiljer Beam 1.0 från de modeller som den mäts mot. Kimi K3 och GLM-5.2 tillhandahålls bakom API:er och deras vikter är antingen inte offentliga eller kommer med en annan uppsättning villkor; Qwen3.8-Max är proprietärt på flaggskeppsnivå. Beams säljargument är att den svåra halvan av den avvägningen – en modell nära forskningsfronten som kan laddas ner – har levererats, och att kostnaden för att köra den är ett rack i stället för ett datacenter.

Vad landade faktiskt den 16 oktober?

Reflections inlägg "Beam är nu tillgänglig" är daterat den 16 oktober 2026, elva dagar efter att modellen tillkännagavs den 5 oktober. Fyra artefakter släpptes, och preciseringarna är viktigare än rubriken:

• BF16 — 501,3B parametrar, 933,81 GiB på disk, 188 safetensors-shards. Referensprecisionen; benchmarktabellens första kolumn.

• FP8 — samma antal parametrar i E4M3, 468,72 GiB. Kvantiserat med N​VIDIA ModelOpt. Rekommenderas för Hopper och äldre hårdvara.

• NVFP4 — ett packat 4-bitarsbygge på 273 GiB. Det här är bygget som Reflections egna servingguider säger att du ska ladda ner, och det enda som körs nativt på Blackwell utan dekvantiseringsstraff.

• DFlash2 — en utkastmodell för spekulativ avkodning med 1,93B parametrar, publicerad som ett eget repo och inkopplad i exempelkommandona som en separat uppsättning vikter.

Arkitekturen bakom dessa checkpoints är en gles mixture of experts: 52 lager, varav 3 är täta och 49 är MoE, 256 experter per MoE-lager, gated grouped-query attention i kombination med sliding-window attention, och en vokabulär på 152 000 token. Text in, text ut, 1M-tokenkontext på modellkortet, 131 072 token som maximal utdata i API:et. Kunskapsavgränsning 30 juni 2026.

Genomströmningssiffran som inte finns i dokumentationen

Ett nummer har cirkulerat med den här utgåvan sedan dag noll: mer än 70 000 utdatatoken per sekund per GPU på Blackwell Ultra. Det är en attraktiv siffra och det är värt att vara precis om var den förekommer och var den inte gör det. Den finns inte i Reflections lanseringsinlägg, inte i modellkortet, inte i Hugging Faces utgivningsanteckningar och inte i utvecklardokumentationen. Vi kunde inte hitta den i någon förstapartskälla.

Det leverantörens material faktiskt dokumenterar är relativt snarare än absolut. Modellkortets enda effektivitetsanspråk är att Beam "når jämförbar lösningskvalitet som ledande öppna modeller med ungefär 3x färre resonemangstoken vid inferenstid", och lanseringsinlägget ramar in samma idé som "mer intelligens per token". Det enda talet av genomströmningstyp som utgåvan faktiskt publicerar är en uppmätt hastighetsökning snarare än en hastighet: DFlash2-draftaren höjer avkodningshastigheten med 1,7× till 3,0× jämfört med enbart Beam, uppmätt på NVFP4-checkpointen över fyra B300:or, med acceptanslängder på 4,11 till 5,88 token av maximalt åtta. Det är ett förhållande mot Beams egen baslinje, så det säger ingenting om absoluta token per sekund per GPU – det avgör inte siffran 70 000 åt något håll.

Det finns en oberoende signal om att effektivitetsanspråket inte är ren marknadsföring. Artificial Analysis mätte Beam 1.0 till 79 miljoner utdatatoken i Intelligence Index, mot en median på 130 miljoner för de modeller den jämförs med – rankad #10 av 46 i det måttet. Det är en tredje part som räknar genererade token och finner att Beam är mer sparsam än större delen av fältet, vilket är ett svagare påstående än en genomströmningssiffra per GPU och ett mycket bättre underbyggt sådant.

Vad fyra B300s faktiskt ger dig, minnesmässigt

Serveringsdokumentationen är det mest användbara som Reflection har publicerat, eftersom den svarar på frågor som en benchmarktabell aldrig ställer. Tre siffror sticker ut.

• KV-cachens minnesavtryck — både vLLM- och NVIDIA Dynamo-recepten använder som standard en FP8 E4M3-cache med en sidstorlek på 64 tokens, vilket enligt vLLM-receptet fördubblas till ungefär 14M–28M tokens cachebar kontext på åtta H200:or som kör FP8-checkpointen. Det är siffran att dimensionera en driftsättning mot; en tre-GPU-plan misslyckas långt innan cachen gör det.

• NVFP4-kontrollpunkten kvantiserar endast de routade experterna. Attention, täta MLP:er, routern, inbäddningar och LM-huvudet ligger kvar i BF16, vilket är anledningen till att filen är 273 GiB i stället för de drygt 250 som en fullständig 4-bitarskörning skulle ge dig. På Blackwell kör den W4A4; på Hopper serverar vLLM FP4-experterna via Marlin med BF16-aktiveringar.

• NVFP4-checkpointen på fyra B300 är referenskonfigurationen, och SGLang-receptet levereras som en pinnad Docker-avbildning med tensorparallellism inställd på 4, DFlash2-draftaren aktiverad vid blockstorlek 8, och spekulativ avkodning konfigurerad tillsammans med FP8 KV-cache.

Det finns också ett verifieringsverktyg. Det öppen källkodsbaserade beam-verifier CLI kör en konformitetssvit mot vilken live Beam-slutpunkt som helst — förfrågningskontrakt, svarskontrakt, verktygsprotokoll — och utvärderar den sedan på de viktigaste riktmärkena så att du kan jämföra din egen distribution, eller en leverantörs, mot Reflections referenspoäng. För en modell vars riktmärkestabell helt och hållet är leverantörsrapporterad, är att tillhandahålla testramverket som gör att en köpare kan reproducera den ett mer meningsfullt åtagande än någon enskild siffra i den tabellen.

Ramverksstöd från dag noll är den andra halvan av utrullningshistorien, och det är bredare än vad de flesta öppna lanseringar klarar av: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed och NVIDIA Dynamo, med steg-för-steg-recept för SGLang, vLLM och TokenSpeed plus ett Helm-diagram för Kubernetes. På träningssidan namnger Reflection de stackar som arbetsflödena byggdes med – NeMo RL och AutoModel och Megatron Bridge från NVIDIA, Miles från RadixArk, TRL från Hugging Face, SkyRL från Anyscale och Axolotl – och publicerar sina RL-runbook-siffror i stället för en hårdvarusiffra för dem: 10,5K GB300 GPU:er under fyra veckor, fler än 100 miljoner rollouts, en maximal kontext på 256K tokens under träning och ungefär 1,3 miljarder sandlådor.

API:et finns, och det har fortfarande inget pris

Jämte vikterna finns det en förstaparts-endpoint på api.reflection.ai med ett OpenAI-kompatibelt gränssnitt och modell-ID:t Beam-1.0-501B-A23B. Den har ett dokumenterat kontrakt: obligatoriskt resonemang med nivåerna max, xhigh, high, medium och low, där max är standard; strukturerade utdata och verktygsanrop; organisationsövergripande hastighetsbegränsningar mätta i förfrågningar och tokens per minut och per UTC-dygn, delade mellan alla projekt och nycklar så att det att lägga till en nyckel inte höjer dem; och ett 429-svar som sätter x-should-retry till false när en daglig kvot är förbrukad, vilket är detaljen som hindrar en naiv återförsöksloop från att snurra ända till midnatt.

Dokumentationen innehåller inget pris per miljon token, och det gör inte tillkännagivandet heller. Det enda utelämnandet är vad som gör effektivitetsargumentet omöjligt att slutföra för en köpare: en modell som alltid resonerar, som standard använder maximal ansträngning och hävdar tre gånger färre resonemangstoken är en annan kommersiell ekvation vid en dollar per miljon utdatatoken än vid tio, och ingen utanför Reflection kan för närvarande säga vilket det är. Att hosta själv tar bort frågan helt och ersätter den med en siffra för kapitalkostnaden, vilket åtminstone är en siffra man kan räkna fram.

Var detta lämnar ett team som vill prova det

Beam 1.0 är inte en av våra rutter, så vi kan inte leverera den åt dig, och inget här bör läsas som ett tillgänglighetsanspråk från oss. Vad vi kan göra är att göra utvärderingen billig. Om beslutet framför dig är huruvida du ska lägga en fjärdedel av ingenjörstiden på en två veckor lång Beam-pilot, är det användbara draget att hålla produktionen på en modell med en publicerad prislista och en servicehistorik medan piloten körs, och att ha reservlösningen redan inkopplad. OrcaRouter kör en OpenAI-kompatibel nyckel över 200+ modeller med leverantörens listpris vidarebefordrat och inget tillagt, så en leverantörsprissänkning når din faktura samma dag, och automatisk redundansväxling innebär att en pilot som visar sig vara otillgänglig nästa månad är en ruttändring snarare än en migrering.

De modeller som ligger närmast Beam när det gäller de arbetsbelastningar den riktar sig mot är alla nåbara på det sättet. De tre som är värda att jämföra pilotens pris mot, från vår egen katalog:

• GLM-5.2 — kontextfönster på 1 000 000 tokens, 1,40 USD per miljon input-tokens och 4,40 USD per miljon output-tokens. Modellen som Reflections eget effektivitetsanspråk mäts mot.

• Kimi K3 — kontext på 1 048 576 tokens, 3,00 USD per miljon indatatokens, 0,30 USD cachelagrade, 15,00 USD utdata. I Reflections lanseringsinlägg medges att K3 fortfarande ligger före när det gäller rå kapacitet.

• Qwen3.8-Max — kontext på 1 000 000 tokens, 2,00 USD per miljon indata och 6,00 USD utdata, den 2 biljoner parametrar stora klass som Beam säger sig ha sin största effektivitetsfördel gentemot.

De tre sakerna att hålla koll på

Det första är priset. Fram till dess att Reflection publicerar en prislista är effektivitetstesen en hypotes om beräkningskraft snarare än ett faktum om pengar, och jämförelsen med GLM-5.2 eller Kimi K3 förblir en argumentation om metodik.

Det andra är en oberoende genomströmningsmätning. Artificial Analysis listar för närvarande Beam med ett Intelligence Index på 30, ingen hastighet och inget pris, eftersom det registrerar "Inget offentligt tillgängligt API" för modellen. När det ändras får per-GPU-frågan ett svar som inte härstammar från leverantören.

Det tredje är huruvida verifieraren faktiskt används. En konformitetssvit som ingen kör är dokumentation; en konformitetssvit som ett dussin driftsättningar publicerar resultat från är ett riktmärke. Beam 1.0 släppte verktyget dag noll. Huruvida den levererar siffrorna är den del som fortfarande är öppen.

Inget av detta är hypotetiskt: de dokumenterade AI-felen och agentincidenterna bakom släpp som detta samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsgrad och omtvistad flagga.