Wygenerowana karta hero zatytułowana „Beam 1.0 w dniu zero: przepis SGLang" z podtytułem „501,3B łącznie, 23,4B aktywnych na token". Lewa karta, „Przepis SGLang", wymienia: „Sprzęt: B300, GB300, H200", „Niskie opóźnienia: TP z drafterem DFlash2 przy rozmiarze bloku 8", „Wysoka przepustowość: DFlash2 wyłączony, TP + DPA" oraz „Blackwell NVFP4: EP + FlashInfer MegaMoE"; prawa karta, „Dlaczego to ma znaczenie", wymienia: „501,3B łącznie / 23,4B aktywnych", „52 warstwy, 256 ekspertów", „kontekst 1M tokenów" oraz „Apache 2.0, wagi udostępnione 16 października 2026". Logo OrcaRouter jest złożone w pasku poniżej grafiki, w prawym dolnym rogu.
Engineering & Research

Serwowanie Beam 1.0 w dniu zerowym: co tak naprawdę ustala przepis SGLang

Autor

Magnus Corvin

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Checkpoint, który możesz pobrać, to nie model, który możesz wdrożyć, a odległość między nimi mierzy się zwykle w tygodniach pracy nad frameworkiem wykonanej przez tego, kto jest wystarczająco niecierpliwy, żeby ją wykonać. Reflection Beam 1.0 to rzadki przypadek, w którym ta praca przyszła razem z wagami. Reflection ogłosił model 5 października 2026 r.; 16 października 2026 r. wagi, licencja Apache 2.0, punkt końcowy first-party i wsparcie day-zero w siedmiu stosach inferencji pojawiły się jednocześnie, a jeden z tych stosów — SGLang, którego własne konto projektu oznajmiło 16 października, że obsługuje Beam w produkcji w Reflection — dostarczył przepis na tyle szczegółowy, że można się z nim spierać.

Ten przepis to ciekawszy artefakt niż tabela benchmarków. Wpis premierowy mówi ci, że model jest dobry. Macierz wdrożeń mówi ci, ile kosztuje przekonanie się o tym i gdzie podejmowane przez ciebie wybory po cichu zdeterminują twoją latencję. Dokumentacja SGLang Reflection Beam 1.0 to generator: wybierasz platformę sprzętową i strategię, a on generuje przypięte polecenie Docker. Opcje, przez które cię zmusza do przejścia, to właściwa nowina dla każdego, kto zamierza to uruchamiać, a nie tylko wywoływać.

Trzy osie, których przepis nie chce ukryć

Strona pyta o platformę sprzętową, strategię i kwantyzację, a następnie buduje polecenie. To mniejsza przestrzeń decyzyjna, niż większość wydań modeli chce przyznać, a każda oś ma realne konsekwencje:

• Platforma sprzętowa — B300, GB300 lub H200. Układy Blackwell natywnie obsługują kompilację NVFP4; H200 to ścieżka FP8 i BF16. To ten sam próg minimalny opisany w informacjach o wydaniu Reflection, wyrażony tutaj jako lista rozwijana.

• Strategia — niskie opóźnienia lub wysoka przepustowość, i to jest oś, którą większość wdrożeń domyślnie wybiera błędnie. Niskie opóźnienia uruchamiają równoległość tensorową z włączonym drafterem DFlash2 przy rozmiarze bloku 8. Wysoka przepustowość całkowicie wyłącza DFlash2.

• Kwantyzacja — NVFP4, FP8 lub BF16, które muszą być zgodne z platformą i strategią, a nie być dowolnie łączone.

Te dwa presety strategii nie są suwakiem wydajności, lecz zmianą algorytmu. Dekodowanie spekulatywne wymienia opóźnienie dekodowania na dodatkową pracę modelu szkicującego na krok; przy rozmiarze bloku 8 i modelu szkicującym o 1,93 mld parametrów ta wymiana jest warta zachodu, gdy obsługujesz jednego użytkownika naraz, a gdy agresywnie przetwarzasz wsadowo — warto z niej zrezygnować. Wyłączenie DFlash2 w przepisie na wysoką przepustowość nie jest degradacją, to właściwa odpowiedź na inne pytanie.

Gdzie przepisy przestają być wymienne

Nie poprzestawaj na presetach — strona dokumentuje kilka podziałów konfiguracji, które istnieją z konkretnych powodów sprzętowych, i warto je znać, zanim skopiujesz pierwszą komendę Docker, jaką zobaczysz:

• H200 BF16 uruchamia TP8 z automatycznym statycznym ułamkiem pamięci. Punkt kontrolny BF16 o rozmiarze 933,81 GiB nie mieści się na mniejszej liczbie urządzeń, a ułamek pamięci jest obliczany, a nie udostępniany — co oznacza, że to jedyna recepta, której nie można ręcznie dostroić bez opuszczenia obsługiwanej ścieżki.

• Każdy inny przepis wykorzystuje równoległość tensorową oraz DPA. DPA to tutaj układ uwagi z równoległością danych, który oddziela uwagę od podziału równoległego względem ekspertów, i właśnie dlatego przepisy inne niż BF16 tolerują liczby urządzeń, których nie toleruje przepis BF16.

• Blackwell NVFP4 dodatkowo umożliwia równoległość ekspertów i FlashInfer MegaMoE. To kombinacja, na którą wskazują własne przewodniki Reflection, i staje się dostępna dopiero wtedy, gdy checkpoint jest spakowaną wersją 4-bitową o rozmiarze 273 GiB, a nie FP8 o rozmiarze 468,72 GiB.

Praktyczny wniosek: „uruchamiamy Beam 1.0 na SGLang” nie jest stwierdzeniem o sprzęcie. Dwa zespoły mogą mówić to samo, mimo że działają z różnymi precyzjami, różnymi układami równoległości i różnymi algorytmami dekodowania, a jedynym sposobem porównania doświadczeń jest wymienienie wszystkich trzech.

Czym jest wart „dzień zero", a czym nie

Wsparcie dla frameworków w dniu premiery wag to prawdziwy sygnał i jest to szczególny rodzaj sygnału. Wsparcie SGLang dla Beam 1.0 istnieje, ponieważ inżynierowie Reflection współpracowali ze społecznością SGLang przed premierą — tak publicznie stwierdził projekt SGLang 16 października i jest to spójne z tym, że Reflection wymienia SGLang wśród swoich partnerów dnia zerowego obok Transformers, vLLM, Unsloth, Axolotl, TokenSpeed i NVIDIA Dynamo, wraz z gotowymi przepisami dla SGLang, vLLM i TokenSpeed oraz chartem Helm dla Kubernetes.

• Co to ustanawia — udokumentowaną, utrzymywaną ścieżkę od opublikowanego checkpointu do endpointu udostępniającego model, na konkretnie wskazanym sprzęcie, z uwzględnieniem wariantów kwantyzacji. To naprawdę więcej, niż większości otwartych wydań udaje się osiągnąć w pierwszym tygodniu.

• Czego to nie dowodzi — że konfiguracja jest optymalna albo że liczby przepustowości, które uzyskasz, będą takie same jak te, które uzyska ktokolwiek inny. Twierdzenie o wdrożeniu produkcyjnym w Reflection należy do dostawcy i frameworku, zgłaszane przez osoby zajmujące się serwowaniem. Nie widzieliśmy jego niezależnego odtworzenia i nie opublikowano żadnego benchmarku strony trzeciej dla samodzielnie hostowanego wdrożenia Beam.

To rozróżnienie ma tu większe znaczenie niż zwykle, ponieważ jest to rzadka mieszanina ekspertów o 501,3 miliarda parametrów, z 23,4 miliarda parametrów aktywnych na token, a cała wartość tej architektury polega na tym, że koszt obsługi jest ułamkiem tego, co sugeruje nazwa modelu. Wsparcie frameworków jest tym, co przekształca to twierdzenie ze schematu architektury w budżet pamięci. Nie przekształca go jednak w zmierzoną wartość przepustowości, a żadne znalezione przez nas materiały własne nie publikują takiej wartości dla wnioskowania — jedyna konkretna liczba tokenów na sekundę w tym wydaniu opisuje nadzorowane dostrajanie LoRA na pojedynczym węźle z 8 GPU B300, co jest krokiem treningowym, a nie tempem obsługi.

Screenshot of the SGLang cookbook page for Reflection Beam 1.0, showing the site's vendor sidebar with Reflection and "Beam 1.0 New" selected, and the deployment panel reading "Deploy Reflection Beam 1.0 with SGLang on B300, GB300, and H200: NVFP4, FP8, and BF16 recipes for low latency and high throughput", with the hardware platform options B300, GB300 and H200, and the strategy and quantisation controls.

Tryb awarii, który faktycznie ma samodzielnie hostowany stos day-zero

Jest pewien konkretny sposób, w jaki to się psuje, i nie chodzi w nim o model. Chodzi o drugi tydzień. Przypięty obraz Dockera zbudowany pod jedną kwantyzację i jeden układ równoległości nie jest sam dla siebie rozwiązaniem zapasowym: jeśli model szkicujący wchodzi w szkodliwą interakcję z Twoim wzorcem ruchu, jeśli aktualizacja sterownika zmienia to, ile pamięci przydziela ustawienie udziału pamięci, albo jeśli Twoja pojemność stoi w kolejce za innym dzierżawcą, nie pozostaje Ci żadna konfiguracja awaryjna — masz awarię, w której siedzi bardzo zdolny model.

Beam 1.0 nie jest jedną z naszych tras, więc nie możemy go dla Ciebie udostępnić, a niczego w tym tekście nie należy odczytywać jako naszego oświadczenia o dostępności. Możemy natomiast umieścić rozwiązanie zapasowe w użytecznym miejscu. OrcaRouter obsługuje jeden klucz zgodny z OpenAI dla ponad 200 modeli, z ceną katalogową dostawcy przekazywaną bez żadnych doliczeń, oraz automatyczne przełączanie awaryjne między dostawcami, więc hostowany samodzielnie pilot Beam, który przestaje odpowiadać, to zmiana routingu, a nie incydent. Modele, które wdrożenie Beam najczęściej zastępuje i które są w ten sposób osiągalne, mają opublikowane cenniki:

• GLM-5.2 — 1,40 USD za milion tokenów wejściowych i 4,40 USD za milion tokenów wyjściowych przy kontekście 1 000 000 tokenów. Model, względem którego mierzona jest własna deklaracja wydajności Reflection, oraz najbardziej bezpośredni zamiennik pracy Beam nad kodowaniem z długim kontekstem.

• Kimi K3 — 3,00 USD za milion tokenów wejściowych, 0,30 USD za milion tokenów z pamięci podręcznej, 15,00 USD za milion tokenów wyjściowych, z oknem 1 048 576 tokenów.Wpis z okazji premiery Reflection przyznaje, że K3 pozostaje na czele pod względem surowych możliwości.

• Qwen3.8-Max — 2,00 USD za milion tokenów wejściowych i 6,00 USD za milion tokenów wyjściowych przy oknie 1 000 000 tokenów, flagowa zastrzeżona opcja dla zespołów, które chcą mieć tę możliwość bez własnej infrastruktury.

A generated scoreboard titled "Beam 1.0 - the two recipe presets" comparing the SGLang low-latency and high-throughput configurations. Low-latency: tensor parallel, DFlash2 speculative draft at block size 8, NVFP4/FP8/BF16, reference hardware B300 or GB300, best for single-user latency, published throughput none by Reflection. High-throughput: tensor parallel plus DPA, speculative draft disabled, NVFP4/FP8/BF16, reference hardware B300, GB300 or H200, best for batched throughput, published throughput none by Reflection. The OrcaRouter logo is composited in the strip below the artwork, bottom right.

Czego przepis wciąż ci nie mówi

Warto nazwać trzy luki, ponieważ każda z nich to decyzja, którą w końcu podejmiesz, mając mniej informacji, niż byś chciał.

Pierwsza to cena. Punkt końcowy Reflection jest udokumentowany i zgodny z OpenAI, z poziomami wysiłku rozumowania max, xhigh, high, medium i low, obowiązkowym rozumowaniem z domyślnym poziomem max oraz limitami na organizację wspólnymi dla każdego klucza. Nie ma opublikowanej stawki za milion tokenów, więc argumentu za efektywnością Beam 1.0 nie można dokończyć jako ćwiczenia arytmetycznego. Model, który zawsze rozumuje i domyślnie wybiera maksymalny wysiłek, to inna propozycja komercyjna w zależności od tego, czy token wyjściowy jest wyceniony na jednego dolara czy na dziesięć dolarów.

Drugi to niezależny pomiar. Artificial Analysis wymienia ten model z Intelligence Index wynoszącym 30, bez danych o szybkości i bez ceny, i nie odnotowuje dla niego żadnego publicznie dostępnego API — co jest oświadczeniem strony trzeciej, że hostowana powierzchnia nie jest jeszcze widoczna dla osób, które mierzą takie rzeczy. Jego jedyny niezależnie policzony punkt danych dotyczący wydajności jest prawdziwy: Beam wygenerował 79 mln tokenów wyjściowych w ramach Intelligence Index AA wobec mediany 130 mln dla zestawu porównawczego. To wspiera tezę o „mniejszej liczbie tokenów rozumowania”. Nie mówi to jednak, jak szybko wychodzą tokeny.

Trzecim jest dryf wersji. Opublikowane przepisy są napisane pod konkretny checkpoint i konkretną kompilację SGLang, a drafter ma własne repozytorium. Gdy którekolwiek z nich się zmieni, przepis przypięty w październiku staje się konfiguracją, której nikt nie testował w listopadzie. Polecenie Docker traktuj jako punkt wyjścia z datą ważności, a nie jako wdrożenie.

Screenshot of the Hugging Face collection page for Reflection's Beam 1.0, listing the three repositories reflection/Beam-1.0-501B-A23B, reflection/Beam-1.0-501B-A23B-FP8 and reflection/Beam-1.0-501B-A23B-DFlash2 under the heading "Beam 1.0 - Reflection's first open-weight model, built for coding, reasoning, and agentic tasks".

Kto powinien się tym teraz zająć, a kto powinien poczekać?

Jeśli już dysponujesz mocą obliczeniową Blackwell, przepis SGLang naprawdę wystarcza, by zacząć: cztery B300 to referencyjna konfiguracja NVFP4, obliczenia dotyczące pamięci są opublikowane, zestaw testów zgodności istnieje, a ryzyko ogranicza się do czasu pracy inżynierów. Jeśli nie posiadasz sprzętu, kalkulacja nadal się nie domyka, ponieważ opcja hostowana nie ma cennika, z którym można porównać zakup kapitałowy — a wsparcie frameworka od dnia zerowego, choćby najlepsze, nie zastąpi ceny.

Rzeczą, na którą warto zwrócić uwagę, nie jest kolejny framework ogłaszający wsparcie. To pierwsza opublikowana liczba, która nie pochodziła od Reflection ani z projektu frameworkowego: niezależny pomiar przepustowości na nazwanej konfiguracji albo cennik stawek dla endpointu first-party. Każda z nich zamienia to z dobrze udokumentowanego eksperymentu w pozycję w budżecie. Do tego czasu właściwym odczytem 16 października jest to, że trudna inżynieria została dostarczona zgodnie z harmonogramem — a uzasadnienie komercyjne to część wciąż będąca w budowie.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.