Сгенерированная hero-карточка с заголовком «Beam 1.0 в день ноль: рецепт SGLang» и подзаголовком «501.3B всего, 23.4B активных на токен». Левая карточка, «Рецепт SGLang», перечисляет «Оборудование: B300, GB300, H200», «Низкая задержка: TP с драфтером DFlash2 при размере блока 8», «Высокая пропускная способность: DFlash2 выключен, TP + DPA» и «Blackwell NVFP4: EP + FlashInfer MegaMoE»; правая карточка, «Почему это важно», перечисляет «501.3B всего / 23.4B активных», «52 слоя, 256 экспертов», «контекст 1M токенов» и «Apache 2.0, веса выйдут 16 октября 2026 г.». Логотип OrcaRouter наложен на полосу под иллюстрацией, в правом нижнем углу.
Engineering & Research

Запуск Beam 1.0 в день релиза: что на самом деле фиксирует рецепт SGLang

Автор

Magnus Corvin

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Чекпоинт, который можно скачать, — это не модель, которую можно развернуть, и разрыв между ними обычно измеряется неделями работы над фреймворком, которую выполняет тот, кому не терпится это сделать. Reflection Beam 1.0 — редкий случай, когда эта работа появилась вместе с весами. Reflection анонсировала модель 5 октября 2026 года; 16 октября 2026 года веса, лицензия Apache 2.0, собственный эндпоинт и поддержка с первого дня в семи стеках инференса появились одновременно, и один из этих стеков — SGLang, чей собственный аккаунт проекта 16-го числа сообщил, что обслуживает Beam в продакшене у Reflection, — выпустил рецепт, достаточно подробный, чтобы с ним можно было поспорить.

Этот рецепт — и есть интересный артефакт, куда больше, чем таблица бенчмарков. Пост о запуске говорит вам, что модель хороша. Матрица развёртывания говорит, во что обойдётся это выяснить, и где сделанный вами выбор незаметно определит вашу задержку. Документация Reflection Beam 1.0 по SGLang — это генератор: вы выбираете аппаратную платформу и стратегию, а он выдаёт Docker-команду с зафиксированными версиями. Варианты, через которые он заставляет вас пройти, — это и есть настоящая новость для всех, кто собирается это запускать, а не просто вызывать.

Три оси, которые рецепт отказывается скрывать

Страница запрашивает аппаратную платформу, стратегию и квантование, а затем формирует команду. Это меньшее пространство решений, чем признаёт большинство выпусков моделей, и у каждой оси есть реальное последствие:

• Аппаратная платформа — B300, GB300 или H200. Компоненты Blackwell нативно используют сборку NVFP4; H200 — это путь для FP8 и BF16. Это тот же минимальный порог, который описан в примечаниях к выпуску Reflection, переформулированный в виде выпадающего списка.

• Стратегия — низкая задержка или высокая пропускная способность, и именно на этой оси большинство развёртываний по умолчанию ошибаются. Режим низкой задержки запускает тензорный параллелизм с включённым драфтером DFlash2 при размере блока 8. Режим высокой пропускной способности полностью отключает DFlash2.

• Квантование — NVFP4, FP8 или BF16, которые должны согласовываться с платформой и стратегией, а не свободно комбинироваться.

Два пресета стратегий — это не регулятор производительности, а смена алгоритма. Спекулятивное декодирование обменивает задержку декодирования на дополнительную работу черновой модели на каждом шаге; при размере блока 8 с черновой моделью на 1,93 млрд параметров этот компромисс оправдан, когда вы обслуживаете одного пользователя за раз, и не оправдан, когда вы агрессивно формируете батчи. Отключение DFlash2 для рецепта с высокой пропускной способностью — это не понижение, а правильный ответ на другой вопрос.

Где рецепты перестают быть взаимозаменяемыми

Не останавливайтесь на пресетах: на странице описано несколько вариантов разделения конфигурации, которые существуют по конкретным аппаратным причинам, и о них стоит знать, прежде чем копировать первую команду Docker, которую вы увидите:

• H200 BF16 запускается с TP8 при автоматической статической доле памяти. BF16-чекпоинт размером 933,81 GiB не помещается на меньшее число устройств, а доля памяти вычисляется, а не задаётся явно, — это означает, что это единственный рецепт, который нельзя настроить вручную, не выходя за пределы поддерживаемого пути.

• Все остальные рецепты используют тензорный параллелизм вместе с DPA. Здесь DPA — это схема data-parallel attention, которая отделяет attention от expert-parallel разбиения, и именно поэтому не-BF16 рецепты допускают такие количества устройств, которые не допускает BF16-рецепт.

• Blackwell NVFP4 дополнительно включает экспертный параллелизм и FlashInfer MegaMoE. Именно на эту комбинацию указывают собственные руководства Reflection, и она становится доступной только тогда, когда чекпоинт представляет собой упакованную 4-битную сборку объёмом 273 GiB, а не FP8-версию объёмом 468.72 GiB.

Практический вывод: «мы запускаем Beam 1.0 на SGLang» — это не утверждение о железе. Две команды могут обе говорить это, используя разные точности, разные схемы параллелизма и разные алгоритмы декодирования, и единственный способ сверить результаты — назвать все три.

Чего стоит «нулевой день» и чем он не является

Поддержка фреймворков в день выпуска весов — это реальный сигнал, и это сигнал особого рода. Поддержка SGLang для Beam 1.0 существует потому, что инженеры Reflection работали с сообществом SGLang до релиза — это то, что проект SGLang публично заявил 16 октября, и это согласуется с тем, что Reflection назвала SGLang в числе своих партнёров с нулевого дня наряду с Transformers, vLLM, Unsloth, Axolotl, TokenSpeed и NVIDIA Dynamo, с письменными рецептами для SGLang, vLLM и TokenSpeed плюс Helm-чарт для Kubernetes.

• Что это даёт — задокументированный, поддерживаемый путь от опубликованного чекпоинта до обслуживаемой конечной точки, на указанном оборудовании, с учётом вариантов квантования. Это действительно больше, чем удаётся большинству открытых релизов за первую неделю.

• Чего это не доказывает — что конфигурация оптимальна или что показатели пропускной способности, которые получите вы, совпадут с чьими-либо ещё. Утверждение о работе в продакшене в Reflection принадлежит вендору и фреймворку, о нём сообщают те, кто занимается обслуживанием. Мы не видели независимого воспроизведения этого, и ни один сторонний бенчмарк развёртывания Beam на собственных серверах не был опубликован.

Это различие здесь важнее, чем обычно, потому что речь идёт о разреженной смеси экспертов с 501,3 млрд параметров, из которых 23,4 млрд активны на каждый токен, и вся ценность такой архитектуры в том, что стоимость обслуживания составляет лишь долю от числа в названии модели. Поддержка во фреймворках — это то, что превращает такое утверждение из схемы архитектуры в бюджет памяти. Она не превращает его в измеренное значение пропускной способности, и ни в одном из первоисточников, которые нам удалось найти, не публикуется такое значение для инференса — единственное конкретное число токенов в секунду в релизе описывает контролируемое дообучение LoRA на одном узле с 8 GPU B300, а это шаг обучения, а не скорость обслуживания.

Screenshot of the SGLang cookbook page for Reflection Beam 1.0, showing the site's vendor sidebar with Reflection and "Beam 1.0 New" selected, and the deployment panel reading "Deploy Reflection Beam 1.0 with SGLang on B300, GB300, and H200: NVFP4, FP8, and BF16 recipes for low latency and high throughput", with the hardware platform options B300, GB300 and H200, and the strategy and quantisation controls.

Режим отказа, который на самом деле присущ self-hosted стеку day-zero

Есть конкретный способ, которым это ломается, и дело не в модели. Это вторая неделя. Закреплённый Docker-образ, собранный под одну квантизацию и одну схему параллелизма, не является запасным вариантом для самого себя: если драфтер плохо взаимодействует с вашим шаблоном трафика, если обновление драйвера меняет то, что выделяет доля памяти, или если ваша мощность стоит в очереди за другим арендатором, у вас не остаётся конфигурации для отката — у вас авария, в которой сидит очень мощная модель.

Beam 1.0 не входит в число наших маршрутов, поэтому мы не можем предоставить его вам, и ничто здесь не должно восприниматься как заявление о доступности с нашей стороны. Что мы можем сделать — это разместить резервный вариант там, где он принесёт пользу. OrcaRouter использует один ключ, совместимый с OpenAI, для более чем 200 моделей, передавая прейскурантную цену провайдера без наценок, и обеспечивает автоматическое переключение при сбое между провайдерами, поэтому если самостоятельно развёрнутый пилот Beam перестаёт отвечать, это изменение маршрутизации, а не инцидент. Модели, которые развёртывание Beam чаще всего заменяет и которые доступны таким образом, поставляются с опубликованными тарифами:

• GLM-5.2 — $1,40 за миллион входных токенов и $4,40 за миллион выходных токенов при контексте в 1 000 000 токенов. Модель, с которой сравнивается собственное заявление Reflection об эффективности, и самый прямой заменитель для длинноконтекстной работы Beam по кодингу.

• Kimi K3 — $3.00 за миллион входных токенов, $0.30 за кэшированные, $15.00 за выходные при окне в 1 048 576 токенов. В посте Reflection о запуске признаётся, что K3 по-прежнему впереди по сырым возможностям.

• Qwen3.8-Max — $2,00 за миллион входных и $6,00 за миллион выходных токенов при окне в 1 000 000 токенов: проприетарный вариант флагманского уровня для команд, которым нужны эти возможности без собственной инфраструктуры.

A generated scoreboard titled "Beam 1.0 - the two recipe presets" comparing the SGLang low-latency and high-throughput configurations. Low-latency: tensor parallel, DFlash2 speculative draft at block size 8, NVFP4/FP8/BF16, reference hardware B300 or GB300, best for single-user latency, published throughput none by Reflection. High-throughput: tensor parallel plus DPA, speculative draft disabled, NVFP4/FP8/BF16, reference hardware B300, GB300 or H200, best for batched throughput, published throughput none by Reflection. The OrcaRouter logo is composited in the strip below the artwork, bottom right.

О чём рецепт всё ещё вам не рассказывает

Стоит назвать три пробела, потому что каждый из них — это решение, которое вам в итоге придётся принимать, располагая меньшей информацией, чем вам хотелось бы.

Первое — цена. Конечная точка Reflection документирована и совместима с OpenAI, с уровнями рассуждений max, xhigh, high, medium и low, обязательным рассуждением с уровнем по умолчанию max и лимитами на организацию, общими для всех ключей. У неё нет опубликованной ставки за миллион токенов, поэтому обоснование эффективности Beam 1.0 нельзя завершить как арифметическое упражнение. Модель, которая всегда рассуждает и по умолчанию использует максимальные усилия, представляет собой иное коммерческое предложение в зависимости от того, оценивается ли выходной токен в один доллар или десять.

Второе — независимое измерение. Artificial Analysis включает модель в список с Intelligence Index 30, без показателя скорости и без цены, и не фиксирует для неё общедоступного API — что является сторонним заявлением о том, что хостируемая поверхность ещё не видна людям, которые измеряют такие вещи. Её единственная независимо подсчитанная точка данных об эффективности реальна: Beam сгенерировала 79 млн выходных токенов в рамках Intelligence Index от AA против медианы в 130 млн для набора сравнения. Это подтверждает утверждение о «меньшем числе токенов рассуждения». Но это не говорит о том, как быстро выводятся токены.

Третье — это дрейф версий. Опубликованные рецепты написаны под конкретный чекпойнт и конкретную сборку SGLang, а драфтер — это отдельный репозиторий. Когда любой из них меняется, рецепт, который вы закрепили в октябре, — это конфигурация, которую никто не тестировал в ноябре. Воспринимайте команду Docker как отправную точку со сроком годности, а не как развёртывание.

Screenshot of the Hugging Face collection page for Reflection's Beam 1.0, listing the three repositories reflection/Beam-1.0-501B-A23B, reflection/Beam-1.0-501B-A23B-FP8 and reflection/Beam-1.0-501B-A23B-DFlash2 under the heading "Beam 1.0 - Reflection's first open-weight model, built for coding, reasoning, and agentic tasks".

Кто должен действовать сейчас, а кому следует подождать?

Если у вас уже есть мощности Blackwell, рецепта SGLang действительно достаточно для старта: четыре B300 — это эталонная конфигурация NVFP4, расчёты по памяти опубликованы, набор тестов на соответствие существует, а возможный ущерб ограничивается инженерным временем. Если у вас нет этого оборудования, расчёт всё равно не сходится, потому что у хостингового варианта нет прайс-листа, с которым можно сравнить капитальную закупку, — а поддержка фреймворков в день выхода, какой бы хорошей она ни была, не заменяет цену.

Следить нужно не за очередным фреймворком, объявляющим о поддержке. Следить нужно за первой опубликованной цифрой, которая пришла не от Reflection и не от проекта-фреймворка: независимым измерением пропускной способности на названной конфигурации или тарифной картой на эндпоинте первой стороны. Любое из этого превращает это из хорошо задокументированного эксперимента в статью расходов. До тех пор правильное прочтение 16 октября таково: сложная инженерная работа была выполнена в срок — а коммерческое обоснование — это та часть, которая всё ещё находится в стадии создания.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.