Beam 1.0 на четырёх B300: математика сервинга и заявление о пропускной способности, которое никто не публиковал

Число, на котором стоит задержаться в релизе Beam 1.0 от Reflection — не 501 миллиард. Это четыре. Модель с 501,3 млрд общих параметров и 23,4 млрд активных на один токен теперь помещается на одном сервере с четырьмя GPU NVIDIA B300 на NVLink, и разница между этими двумя цифрами — около 4,7 процента модели, активной на каждом отдельном токене, — и есть именно та причина, по которой чекпоинт такого размера может скачать любой, у кого нет кластера. Reflection опубликовала веса 16 октября 2026 года под лицензией Apache 2.0, и в материалах запуска необычайно подробно указано, что требуется для их обслуживания: четыре GPU B300 на NVLink для сборки NVFP4, восемь H200 для FP8 и восемь B200 или B300 для BF16. Эта таблица оборудования интереснее таблицы бенчмарков, потому что именно её читатель может реально сверить со своей закупочной ведомостью.

Это также та часть, которая отличает Beam 1.0 от моделей, с которыми его сравнивают. Kimi K3 и GLM-5.2 обслуживаются через API, и их веса либо не публичны, либо предоставляются с другим набором условий; Qwen3.8-Max — проприетарная модель на флагманском уровне. Питч Beam заключается в том, что сложная половина этого компромисса — модель, близкая к передовой, доступная для скачивания — уже выпущена, и что стоимость обслуживания — это стойка, а не дата-центр.

Что на самом деле приземлилось 16 октября?

Пост Reflection «Beam теперь доступен» датирован 16 октября 2026 года — через одиннадцать дней после анонса модели 5 октября. Выпущено четыре артефакта, и уточнения важнее заголовка:

• BF16 — 501,3 млрд параметров, 933,81 GiB на диске, 188 шардов safetensors. Эталонная точность; первый столбец таблицы бенчмарка.

• FP8 — то же количество параметров в E4M3, 468,72 ГиБ. Квантовано с помощью NVIDIA ModelOpt. Рекомендуется для Hopper и более старого оборудования.

• NVFP4 — упакованная 4-битная сборка объёмом 273 ГиБ. Именно её советуют скачивать собственные руководства Reflection по обслуживанию, и это единственная сборка, которая работает нативно на Blackwell без потери производительности из-за деквантования.

• DFlash2 — драфтер для спекулятивного декодирования с 1,93 млрд параметров, опубликованный как отдельный репозиторий и встроенный в примеры команд в виде отдельного набора весов.

Архитектура, лежащая в основе этих чекпойнтов, — разреженная смесь экспертов: 52 слоя, из которых 3 плотных и 49 MoE, 256 экспертов на слой MoE, стробированное групповое внимание к запросам в сочетании со вниманием со скользящим окном и словарь на 152 000 токенов. Текст на входе, текст на выходе, контекст на 1 млн токенов в карточке модели, 131 072 токена максимального вывода через API. Дата отсечки знаний — 30 июня 2026 года.

Показатель пропускной способности, которого нет в документации

С самого начала вместе с этим релизом циркулирует одна цифра: более 70 000 выходных токенов в секунду на GPU на Blackwell Ultra. Это привлекательная цифра, и стоит уточнить, где она встречается, а где нет. Её нет в посте Reflection о запуске, нет в карточке модели, нет в примечаниях к выпуску Hugging Face и нет в документации для разработчиков. Мы не смогли найти её ни в одном первоисточнике.

Что материал вендора действительно документирует, так это относительные, а не абсолютные показатели. Единственное заявление об эффективности в карточке модели состоит в том, что Beam «достигает сопоставимого качества решения, что и ведущие открытые модели, используя примерно в 3 раза меньше токенов рассуждения на этапе инференса», а в посте о запуске та же идея подаётся как «больше интеллекта на токен». Единственное число, связанное с пропускной способностью, которое публикует релиз, — это измеренное ускорение, а не скорость: драфтер DFlash2 повышает скорость декодирования в 1,7–3,0 раза по сравнению с одним только Beam, измерено на чекпоинте NVFP4 на четырёх B300, при длинах принятия от 4,11 до 5,88 токена из максимума в восемь. Это отношение к собственной базовой линии Beam, поэтому оно ничего не говорит об абсолютных токенах в секунду на GPU — оно не разрешит вопрос с цифрой 70 000 ни в ту, ни в другую сторону.

Есть один независимый сигнал того, что заявление об эффективности — не чистый маркетинг. Artificial Analysis измерила Beam 1.0 на уровне 79 млн выходных токенов по всему Intelligence Index против медианы 130 млн у моделей, с которыми его сравнивают, — и по этому показателю он занял 10-е место из 46. Это третья сторона, которая посчитала сгенерированные токены и обнаружила, что Beam экономнее большей части игроков в этой области; это более слабое утверждение, чем цифра пропускной способности на один GPU, но гораздо лучше подкреплённое.

Что четыре B300 на самом деле дают вам — в плане памяти

Документация по сервингу — самое полезное из опубликованного Reflection, потому что она отвечает на вопросы, которые таблица бенчмарков никогда не задаёт. Три числа бросаются в глаза.

• Объем KV-кэша — рецепты vLLM и NVIDIA Dynamo по умолчанию используют кэш FP8 E4M3 с размером страницы 64 токена, что, как отмечается в рецепте vLLM, удваивается до примерно 14–28 млн токенов кэшируемого контекста на восьми H200, работающих с FP8-чекпоинтом. Именно на это число следует ориентироваться при планировании развертывания; план на три GPU исчерпает себя задолго до того, как это сделает кэш.

• Чекпоинт NVFP4 квантует только маршрутизируемых экспертов. Внимание, плотные MLP, роутер, эмбеддинги и LM-голова остаются в BF16 — поэтому файл занимает 273 ГиБ, а не примерно 250, которые дал бы полный 4-битный проход. На Blackwell он работает в режиме W4A4; на Hopper vLLM обслуживает экспертов FP4 через Marlin с активациями BF16.

• Контрольная точка NVFP4 на четырёх B300 — это эталонная конфигурация, а рецепт SGLang поставляется в виде закреплённого Docker-образа с тензорным параллелизмом, установленным на 4, включённым драфтером DFlash2 при размере блока 8 и спекулятивным декодированием, настроенным вместе с FP8 KV cache.

Есть также инструмент верификации. С открытым исходным кодом beam-verifier CLI запускает набор тестов на соответствие для любого работающего эндпоинта Beam — контракт запроса, контракт ответа, протокол инструментов — а затем оценивает его на основных бенчмарках, чтобы вы могли сравнить собственное развёртывание или развёртывание провайдера с эталонными оценками Reflection. Для модели, таблица бенчмарков которой полностью основана на данных вендора, выпуск инструментария, позволяющего покупателю воспроизвести её, — более значимое обязательство, чем любая отдельная цифра в этой таблице.

Поддержка фреймворков с первого дня — это вторая половина истории развёртывания, и она охватывает больше, чем удаётся большинству открытых релизов: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed и NVIDIA Dynamo, с пошаговыми рецептами для SGLang, vLLM и TokenSpeed, а также Helm-чартом для Kubernetes. Что касается обучения, Reflection называет стеки, с помощью которых строила рабочие процессы, — NeMo RL, AutoModel и Megatron Bridge от NVIDIA, Miles от RadixArk, TRL от Hugging Face, SkyRL от Anyscale и Axolotl — и публикует цифры из своего RL-ранбука, а не аппаратную цифру для них: 10,5 тыс. GPU GB300 за четыре недели, более 100 миллионов роллаутов, максимальный контекст в 256K токенов во время обучения и примерно 1,3 миллиарда песочниц.

API существует, но у него всё ещё нет цены

Наряду с весами есть собственный эндпоинт на api.reflection.ai с OpenAI-совместимым интерфейсом и ID модели Beam-1.0-501B-A23B. У него есть задокументированный контракт: обязательное рассуждение с уровнями усилий max, xhigh, high, medium и low, где max используется по умолчанию; структурированные выходные данные и вызов инструментов; ограничения скорости на уровне организации, измеряемые в запросах и токенах в минуту и в сутки по UTC, общие для всех проектов и ключей, так что добавление ключа их не повышает; и ответ 429, который устанавливает x-should-retry в false, как только дневной лимит исчерпан, — именно эта деталь не даёт наивному циклу повторных попыток крутиться до полуночи.

В документации нет цены за миллион токенов, и в анонсе её тоже нет. Именно это единственное упущение не позволяет покупателю довести аргумент об эффективности до конца: модель, которая всегда рассуждает, по умолчанию работает с максимальными усилиями и заявляет о в три раза меньшем числе токенов рассуждений, — это иное коммерческое предложение при одном долларе за миллион выходных токенов, чем при десяти, и никто за пределами Reflection сейчас не может сказать, какой именно вариант имеет место. Самостоятельный хостинг полностью снимает этот вопрос и заменяет его цифрой капитальных затрат, которую по крайней мере можно вычислить.

Что это значит для команды, которая хочет это попробовать

Beam 1.0 не является одним из наших маршрутов, поэтому мы не можем предоставить его вам, и ничто здесь не следует воспринимать как заявление о доступности с нашей стороны. Что мы можем — сделать оценку недорогой. Если перед вами стоит решение, стоит ли тратить четверть инженерного времени на двухнедельный пилот Beam, полезный шаг — держать продакшен на модели с опубликованным прайс-листом и историей обслуживания, пока идёт пилот, и заранее настроить резервный вариант. OrcaRouter работает с одним ключом, совместимым с OpenAI, по более чем 200 моделям, передавая цену из прайс-листа провайдера без каких-либо надбавок, так что снижение цены вендором отражается в вашем счёте в тот же день, а автоматическое переключение при сбое означает, что пилот, который в следующем месяце окажется недоступным, — это изменение маршрутизации, а не миграция.

Модели, наиболее близкие к Beam по целевым рабочим нагрузкам, все доступны этим путём. Три, с которыми стоит сравнить стоимость пилота, из нашего собственного каталога:

• GLM-5.2 — контекст в 1 000 000 токенов, $1,40 за миллион входных токенов и $4,40 за миллион выходных. Модель, относительно которой измеряется собственное заявление Reflection об эффективности.

• Kimi K3 — контекст объёмом 1 048 576 токенов, $3.00 за миллион входных токенов, $0.30 за кэшированные, $15.00 за выходные. В посте Reflection о запуске признаётся, что K3 по-прежнему впереди по сырым возможностям.

• Qwen3.8-Max — контекст на 1 000 000 токенов, $2.00 за миллион входных токенов и $6.00 за миллион выходных, класс моделей с 2 трлн параметров, над которым Beam, по его заявлению, имеет наибольшее преимущество в эффективности.

Три вещи, за которыми стоит следить

Первое — это цена. Пока Reflection не опубликует тарифную сетку, тезис об эффективности остаётся гипотезой о вычислениях, а не фактом о деньгах, и сравнение с GLM-5.2 или Kimi K3 остаётся спором о методологии.

Второе — это независимое измерение пропускной способности. Artificial Analysis сейчас указывает Beam с Intelligence Index 30, но без скорости и цены, потому что для модели отмечено «Нет публично доступного API». Когда это изменится, вопрос о производительности на одну GPU получит ответ, исходящий не от вендора.

Третий вопрос — будет ли верификатор вообще использоваться. Набор тестов на соответствие, который никто не запускает, — это документация; набор тестов на соответствие, из которого результаты публикует дюжина развёртываний, — это бенчмарк. Beam 1.0 выпустил этот инструмент в самый первый день. А вот опубликует ли он цифры — это пока открытый вопрос.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.