Beam 1.0 na czterech B300s: matematyka serwowania i twierdzenie o przepustowości, którego nikt nie opublikował

Liczba, nad którą warto się zatrzymać w wydaniu Beam 1.0 firmy Reflection nie wynosi 501 miliardów. To cztery. Model o łącznej liczbie 501,3 miliarda parametrów i 23,4 miliarda aktywnych na token mieści się teraz na pojedynczym serwerze z czterema GPU NVIDIA B300 na NVLink, a różnica między tymi dwiema liczbami — około 4,7 procent modelu jest aktywnych przy dowolnym tokenie — jest całym powodem, dla którego checkpoint tej wielkości może pobrać każdy, kto nie ma własnego klastra. Reflection opublikował wagi 16 października 2026 r. na licencji Apache 2.0, a materiały z premiery są nietypowo konkretne, jeśli chodzi o to, co jest potrzebne do ich serwowania: cztery GPU B300 na NVLink dla wersji NVFP4, osiem H200 dla FP8 i osiem B200 lub B300 dla BF16. Ta tabela sprzętowa jest ciekawsza niż tabela benchmarków, ponieważ to właśnie ją czytelnik może realnie zweryfikować względem własnego arkusza zakupowego.

To także element, który odróżnia Beam 1.0 od modeli, z którymi jest porównywany. Kimi K3 i GLM-5.2 są udostępniane przez API, a ich wagi albo nie są publiczne, albo wiążą się z innym zestawem warunków; Qwen3.8-Max jest własnościowy w segmencie flagowym. Beam przekonuje, że trudna połowa tego kompromisu — model bliski czołówce dostępny do pobrania — została wydana, a koszt obsługi to szafa serwerowa, a nie centrum danych.

Co tak naprawdę wylądowało 16 października

Wpis Reflection „Beam is now available” jest datowany na 16 października 2026 r., jedenaście dni po ogłoszeniu modelu 5 października. Dostarczono cztery artefakty, a precyzje mają większe znaczenie niż nagłówek:

• BF16 — 501,3 mld parametrów, 933,81 GiB na dysku, 188 shardów safetensors. Precyzja referencyjna; pierwsza kolumna tabeli benchmarku.

• FP8 — ta sama liczba parametrów w E4M3, 468,72 GiB. Skwantyzowane za pomocą N​VIDIA ModelOpt. Zalecane dla Hoppera i starszego sprzętu.

• NVFP4 — spakowana kompilacja 4-bitowa o rozmiarze 273 GiB. To ta, którą własne przewodniki serwowania Reflection każą ci pobrać, i jedyna, która działa natywnie na Blackwell bez kary za dekwantyzację.

• DFlash2 — drafter dekodowania spekulacyjnego o 1,93 mld parametrów, opublikowany jako własne repozytorium i wpięty do przykładowych poleceń jako oddzielny zestaw wag.

Architektura stojąca za tymi checkpointami to rzadka mieszanina ekspertów: 52 warstwy, z których 3 są gęste, a 49 to MoE, 256 ekspertów na warstwę MoE, bramkowana uwaga z grupowanymi zapytaniami połączona z uwagą z przesuwnym oknem oraz słownik o rozmiarze 152 000 tokenów. Wejście tekstowe, wyjście tekstowe, kontekst 1 mln tokenów w karcie modelu, maksymalnie 131 072 tokeny wyjściowe w API. Data odcięcia wiedzy: 30 czerwca 2026.

Wartość przepustowości, której nie ma w dokumentacji

Od samego początku wraz z tym wydaniem krąży pewna liczba: ponad 70 000 tokenów wyjściowych na sekundę na GPU w Blackwell Ultra. To atrakcyjna wartość i warto doprecyzować, gdzie się pojawia, a gdzie nie. Nie ma jej w poście premierowym Reflection, nie ma jej w karcie modelu, nie ma jej w informacjach o wydaniu Hugging Face ani w dokumentacji dla programistów. Nie udało nam się znaleźć jej w żadnym źródle własnym.

To, co materiał dostawcy dokumentuje, jest względne, a nie absolutne. Jedynym twierdzeniem o wydajności w karcie modelu jest to, że Beam „osiąga porównywalną jakość rozwiązania do wiodących otwartych modeli, zużywając około 3× mniej tokenów rozumowania w czasie wnioskowania”, a wpis premierowy ujmuje ten sam pomysł jako „więcej inteligencji na token”. Jedyną liczbą związaną z przepustowością, jaką wydanie faktycznie publikuje, jest zmierzone przyspieszenie, a nie tempo: model szkicujący DFlash2 zwiększa szybkość dekodowania od 1,7× do 3,0× względem samego Beam, mierzone na checkpointcie NVFP4 na czterech B300, przy długościach akceptacji od 4,11 do 5,88 tokena z maksymalnie ośmiu. To stosunek względem własnego punktu odniesienia Beam, więc nie mówi nic o absolutnej liczbie tokenów na sekundę na GPU — nie rozstrzygnie liczby 70 000 w jedną ani w drugą stronę.

Jest jeden niezależny sygnał, że twierdzenie o wydajności nie jest czystym marketingiem. Artificial Analysis zmierzyło Beam 1.0 na poziomie 79M tokenów wyjściowych w ramach Intelligence Index, wobec mediany 130M dla modeli, z którymi go porównuje — co plasuje go na #10 miejscu na 46 w tym pomiarze. To strona trzecia, która zlicza wygenerowane tokeny i uznaje Beam za oszczędniejszy niż większość konkurencji, co jest słabszym twierdzeniem niż wskaźnik przepustowości na GPU, ale znacznie lepiej udokumentowanym.

Co cztery B300 faktycznie dają ci pod względem pamięci

Dokumentacja serwowania to najbardziej użyteczna rzecz, jaką opublikował Reflection, ponieważ odpowiada na pytania, których nigdy nie zadaje tabela benchmarków. Wyróżniają się trzy liczby.

• Ślad pamięci podręcznej KV — receptury vLLM i NVIDIA Dynamo domyślnie ustawiają cache FP8 E4M3 ze stroną o rozmiarze 64 tokenów, co, jak zauważa receptura vLLM, podwaja się do około 14 mln–28 mln tokenów kontekstu możliwego do buforowania na ośmiu H200 uruchamiających checkpoint FP8. To jest liczba, według której należy dobierać rozmiar wdrożenia; plan z trzema GPU zawodzi na długo przed tym, zanim zawiedzie cache.

• Checkpoint NVFP4 kwantyzuje wyłącznie ekspertów routowanych. Mechanizmy attention, gęste MLP, router, embeddingi i głowica LM pozostają w BF16, dlatego plik ma 273 GiB, a nie około 250, jakie dałby pełny przebieg 4-bitowy. Na Blackwellu działa w trybie W4A4; na Hopperze vLLM obsługuje ekspertów FP4 przez Marlin z aktywacjami BF16.

• Punkt kontrolny NVFP4 na czterech B300 jest konfiguracją referencyjną, a przepis SGLang jest dostarczany jako przypięty obraz Docker z równoległością tensorową ustawioną na 4, włączonym drafterem DFlash2 przy rozmiarze bloku 8 oraz dekodowaniem spekulacyjnym skonfigurowanym wraz z pamięcią podręczną KV FP8.

Istnieje również narzędzie weryfikacyjne. Otwartoźródłowy beam-verifier CLI uruchamia zestaw testów zgodności wobec dowolnego działającego punktu końcowego Beam — kontrakt żądań, kontrakt odpowiedzi, protokół narzędzi — a następnie ocenia go na głównych benchmarkach, dzięki czemu można porównać własne wdrożenie lub wdrożenie dostawcy z wynikami referencyjnymi Reflection. W przypadku modelu, którego tabela benchmarków jest w całości raportowana przez dostawcę, udostępnienie środowiska testowego, które pozwala nabywcy ją odtworzyć, jest bardziej znaczącym zobowiązaniem niż jakakolwiek pojedyncza liczba w tej tabeli.

Wsparcie dla frameworków od dnia zerowego to druga połowa historii wdrożenia i jest szersze, niż udaje się większości otwartych wydań: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed i NVIDIA Dynamo, wraz z instrukcjami krok po kroku dla SGLang, vLLM i TokenSpeed oraz wykresem Helm dla Kubernetes. Po stronie trenowania Reflection wymienia stosy, na których zbudowała przepływy pracy — NeMo RL i AutoModel oraz Megatron Bridge od NVIDIA, Miles od RadixArk, TRL od Hugging Face, SkyRL od Anyscale i Axolotl — i publikuje liczby ze swojego runbooka RL, zamiast podawać dla nich wartość sprzętową: 10,5 tys. GPU GB300 przez cztery tygodnie, ponad 100 milionów rolloutów, maksymalny kontekst 256 tys. tokenów podczas trenowania oraz około 1,3 miliarda sandboxów.

API istnieje i nadal nie ma ceny.

Obok wag dostępny jest własny endpoint pod adresem api.reflection.ai z interfejsem zgodnym z OpenAI i identyfikatorem modelu Beam-1.0-501B-A23B. Ma on udokumentowany kontrakt: obowiązkowe rozumowanie z poziomami wysiłku max, xhigh, high, medium i low, gdzie max jest domyślny; ustrukturyzowane dane wyjściowe i wywoływanie narzędzi; limity szybkości dla całej organizacji mierzone w żądaniach i tokenach na minutę oraz na dzień UTC, współdzielone przez każdy projekt i klucz, tak że dodanie klucza ich nie zwiększa; oraz odpowiedź 429, która ustawia x-should-retry na false, gdy dzienny limit zostanie wyczerpany, co jest szczegółem, który powstrzymuje naiwną pętlę ponowień przed kręceniem się aż do północy.

Dokumentacja nie podaje ceny za milion tokenów, podobnie jak ogłoszenie. To jedno pominięcie sprawia, że argument o efektywności jest dla kupującego niemożliwy do domknięcia: model, który zawsze rozumuje, domyślnie działa z maksymalnym wysiłkiem i twierdzi, że zużywa trzy razy mniej tokenów rozumowania, jest inną propozycją komercyjną przy jednym dolarze za milion tokenów wyjściowych niż przy dziesięciu, a nikt spoza Reflection nie może obecnie powiedzieć, który to wariant. Samodzielne hostowanie całkowicie usuwa to pytanie i zastępuje je liczbą nakładów kapitałowych, którą przynajmniej można obliczyć.

Co to oznacza dla zespołu, który chce tego spróbować

Beam 1.0 nie jest jedną z naszych tras, więc nie możemy go dla Ciebie udostępnić, a nic tutaj nie powinno być odczytywane jako nasze twierdzenie o dostępności. Możemy natomiast sprawić, że ocena będzie tania. Jeśli decyzja przed tobą dotyczy tego, czy przeznaczyć jedną czwartą czasu pracy inżynierów na dwutygodniowy pilotaż Beam, użytecznym posunięciem jest utrzymanie produkcji na modelu z opublikowanym cennikiem i historią działania, podczas gdy trwa pilotaż, i mieć już podłączony mechanizm awaryjny. OrcaRouter obsługuje jeden klucz kompatybilny z OpenAI w ponad 200 modelach, przekazując cenę katalogową dostawcy bez żadnych dodatków, dzięki czemu obniżka ceny u dostawcy trafia na twój rachunek tego samego dnia, a automatyczne przełączanie awaryjne oznacza, że pilotaż, który okaże się niedostępny w przyszłym miesiącu, jest zmianą routingu, a nie migracją.

Modele najbliższe Beamowi pod względem obciążeń, na które jest ukierunkowany, wszystkie są osiągalne w ten sposób. Trzy, względem których warto wycenić pilotaż, z naszego własnego katalogu:

• GLM-5.2 — kontekst 1 000 000 tokenów, 1,40 USD za milion tokenów wejściowych i 4,40 USD za milion tokenów wyjściowych. Model, względem którego mierzona jest własna deklaracja efektywności Reflection.

• Kimi K3 — kontekst 1 048 576 tokenów, 3,00 USD za milion tokenów wejściowych, 0,30 USD z pamięci podręcznej, 15,00 USD za tokeny wyjściowe. Wpis Reflectiona z okazji premiery przyznaje, że K3 pozostaje z przodu pod względem surowych możliwości.

• Qwen3.8-Max — kontekst 1 000 000 tokenów, 2,00 USD za milion tokenów wejściowych i 6,00 USD za milion tokenów wyjściowych, klasa modeli o 2 bilionach parametrów, nad którą Beam twierdzi, że ma największą przewagę pod względem wydajności.

Trzy rzeczy, na które warto zwrócić uwagę

Pierwszą kwestią jest cena. Dopóki Reflection nie opublikuje cennika, teza o efektywności pozostaje hipotezą dotyczącą obliczeń, a nie faktem dotyczącym pieniędzy, a porównanie z GLM-5.2 czy Kimi K3 pozostaje sporem o metodologię.

Drugi to niezależny pomiar przepustowości. Artificial Analysis obecnie podaje dla Beam Intelligence Index wynoszący 30, bez szybkości i bez ceny, ponieważ dla tego modelu odnotowuje „No publicly available API”. Gdy to się zmieni, pytanie o wydajność na GPU otrzyma odpowiedź, która nie pochodzi od dostawcy.

Trzecia kwestia dotyczy tego, czy weryfikator w ogóle jest używany. Zestaw testów zgodności, którego nikt nie uruchamia, jest dokumentacją; zestaw testów zgodności, z którego kilkanaście wdrożeń publikuje wyniki, jest benchmarkiem. Beam 1.0 dostarczył to narzędzie w dniu zerowym. Czy dostarczy liczby — to właśnie pozostaje kwestią otwartą.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.