Beam 1.0 em Quatro B300s: A Matemática do Serving, e a Alegação de Throughput que Ninguém Publicou

O número sobre o qual vale a pena parar no lançamento do Beam 1.0 da Reflection não é 501 bilhões. É quatro. Um modelo com 501,3 bilhões de parâmetros totais e 23,4 bilhões ativos por token agora cabe em um único servidor com quatro GPUs NVIDIA B300 em NVLink, e a distância entre esses dois números — cerca de 4,7 por cento do modelo desperto em qualquer token dado — é exatamente o motivo pelo qual um checkpoint desse tamanho pode ser baixado por qualquer pessoa que não possua um cluster. A Reflection publicou os pesos em 16 de outubro de 2026 sob a licença Apache 2.0, e o material de lançamento é incomumente específico sobre o que é necessário para servi-los: quatro GPUs B300 em NVLink para a versão NVFP4, oito H200s para FP8, e oito B200s ou B300s para BF16. Essa tabela de hardware é mais interessante do que a tabela de benchmarks, porque é a parte que um leitor pode realmente conferir com sua própria planilha de compras.

É também a parte que separa o Beam 1.0 dos modelos com os quais é comparado. Kimi K3 e GLM-5.2 são servidos por trás de APIs e seus pesos ou não são públicos ou vêm com um conjunto diferente de condições; Qwen3.8-Max é proprietário no nível flagship. A proposta do Beam é que a metade difícil dessa troca — um modelo próximo da fronteira disponível para download — foi lançada, e que o custo de servir é um rack em vez de um data center.

O que realmente aterrou em 16 de outubro

A publicação “Beam já está disponível” da Reflection é datada de 16 de outubro de 2026, onze dias depois de o modelo ter sido anunciado em 5 de outubro. Quatro artefatos foram lançados, e as precisões importam mais do que a manchete:

• BF16 — 501,3B parâmetros, 933,81 GiB em disco, 188 fragmentos safetensors. A precisão de referência; a primeira coluna da tabela de benchmark.

• FP8 — a mesma contagem de parâmetros em E4M3, 468,72 GiB. Quantizado com a N​VIDIA ModelOpt. Recomendado para hardware Hopper e mais antigo.

• NVFP4 — uma build empacotada de 4 bits com 273 GiB. É aquela que os próprios guias de serving da Reflection mandam baixar, e a única que roda nativamente em Blackwell sem penalidade de desquantização.

• DFlash2 — um drafter de decodificação especulativa com 1,93 bilhão de parâmetros, publicado como repositório próprio e integrado aos comandos de exemplo como um conjunto de pesos separado.

A arquitetura por trás desses checkpoints é uma mistura esparsa de especialistas: 52 camadas, das quais 3 são densas e 49 são MoE, 256 especialistas por camada MoE, atenção grouped-query com gating combinada com atenção de janela deslizante, e um vocabulário de 152.000 tokens. Texto entra, texto sai, contexto de 1M tokens no cartão do modelo, 131.072 tokens de saída máxima na API. Data de corte de conhecimento: 30 de junho de 2026.

O valor de throughput que não consta na documentação

Um número tem circulado com este lançamento desde o dia zero: mais de 70.000 tokens de saída por segundo por GPU no Blackwell Ultra. É um número atraente e vale a pena ser preciso sobre onde ele aparece e onde não aparece. Ele não está no post de lançamento da Reflection, nem no model card, nem nas notas de lançamento do Hugging Face, nem na documentação para desenvolvedores. Não conseguimos encontrá-lo em nenhuma fonte primária.

O que o material do fornecedor de fato documenta é algo relativo, e não absoluto. A única alegação de eficiência do model card é que o Beam "alcança qualidade de solução comparável à dos principais modelos abertos usando aproximadamente 3x menos tokens de raciocínio em tempo de inferência", e o post de lançamento formula a mesma ideia como "mais inteligência por token". O único número com formato de throughput que o lançamento de fato publica é um ganho de velocidade medido, e não uma taxa: o drafter DFlash2 eleva a velocidade de decodificação em 1,7× a 3,0× em relação ao Beam sozinho, medido no checkpoint NVFP4 em quatro B300s, com comprimentos de aceitação de 4,11 a 5,88 tokens de um máximo de oito. Isso é uma razão em relação à própria linha de base do Beam, então não diz nada sobre tokens absolutos por segundo por GPU — não vai definir o número de 70.000 em nenhum sentido.

Há um sinal independente de que a alegação de eficiência não é puro marketing. A Artificial Analysis mediu o Beam 1.0 em 79M tokens de saída no Intelligence Index, contra uma mediana de 130M para os modelos com que se compara — classificado em #10 de 46 nessa medida. Isso é um terceiro que conta tokens gerados e considera o Beam mais econômico que a maioria do campo, o que é uma alegação mais fraca do que um número de throughput por GPU e uma muito melhor fundamentada.

O que quatro B300s realmente oferecem, em termos de memória

A documentação de serving é a coisa mais útil que a Reflection publicou, porque responde a perguntas que uma tabela de benchmark nunca faz. Três números se destacam.

• Pegada do cache KV — as receitas do vLLM e da NVIDIA Dynamo usam, ambas, por padrão um cache FP8 E4M3 com tamanho de página de 64 tokens; a receita do vLLM observa que isso dobra para cerca de 14M a 28M tokens de contexto cacheável em oito H200s executando o checkpoint FP8. Esse é o número com base no qual dimensionar uma implantação; um plano de três GPUs falha muito antes que o cache falhe.

• O checkpoint NVFP4 quantiza apenas os especialistas roteados. Atenção, MLPs densos, o roteador, embeddings e o LM head permanecem em BF16, e é por isso que o arquivo tem 273 GiB em vez dos cerca de 250 que uma passagem completa de 4 bits daria. No Blackwell, ele roda em W4A4; no Hopper, o vLLM serve os especialistas FP4 por meio do Marlin com ativações BF16.

• O checkpoint NVFP4 em quatro B300s é a configuração de referência, e a receita do SGLang é distribuída como uma imagem Docker fixada com paralelismo de tensores definido como 4, o drafter DFlash2 habilitado com tamanho de bloco 8 e decodificação especulativa configurada em conjunto com o cache KV FP8.

Há também uma ferramenta de verificação. A CLI de código aberto beam-verifier executa uma suíte de conformidade contra qualquer endpoint Beam ativo — contrato de requisição, contrato de resposta, protocolo de ferramentas — e depois o avalia nos principais benchmarks, para que você possa comparar sua própria implantação, ou a de um provedor, com as pontuações de referência da Reflection. Para um modelo cuja tabela de benchmarks é inteiramente reportada pelo fornecedor, disponibilizar a estrutura de testes que permite a um comprador reproduzi-la é um compromisso mais significativo do que qualquer número individual nessa tabela.

O suporte a frameworks no dia zero é a outra metade da história de implantação, e é mais amplo do que a maioria dos lançamentos abertos consegue oferecer: Transformers, vLLM, SGLang, Unsloth, Axolotl, TokenSpeed e NVIDIA Dynamo, com receitas passo a passo para SGLang, vLLM e TokenSpeed, além de um Helm chart para Kubernetes. No lado do treinamento, a Reflection nomeia as stacks com as quais construiu os fluxos de trabalho — NeMo RL, AutoModel e Megatron Bridge da NVIDIA, Miles da RadixArk, TRL da Hugging Face, SkyRL da Anyscale e Axolotl — e publica os números do seu runbook de RL em vez de um número de hardware para elas: 10,5 mil GPUs GB300 ao longo de quatro semanas, mais de 100 milhões de rollouts, um contexto máximo de 256K tokens durante o treinamento e aproximadamente 1,3 bilhão de sandboxes.

A API existe e ainda não tem preço.

Juntamente com os pesos, há um endpoint de primeira parte em api.reflection.ai com uma interface compatível com OpenAI e o ID do modelo Beam-1.0-501B-A23B. Ele possui um contrato documentado: raciocínio obrigatório com esforços de max, xhigh, high, medium e low, em que max é o padrão; saídas estruturadas e chamada de ferramentas; limites de taxa em toda a organização medidos em solicitações e tokens por minuto e por dia UTC, compartilhados entre todos os projetos e chaves, de modo que adicionar uma chave não os aumenta; e uma resposta 429 que define x-should-retry como false assim que a cota diária se esgota, que é o detalhe que impede um loop de repetição ingênuo de ficar girando até a meia-noite.

A documentação não traz um preço por milhão de tokens, e o anúncio também não. Essa única omissão é o que torna o argumento de eficiência impossível de fechar para um comprador: um modelo que sempre raciocina, usa o esforço máximo por padrão e alega três vezes menos tokens de raciocínio é uma proposta comercial diferente a um dólar por milhão de tokens de saída do que a dez, e ninguém fora da Reflection pode dizer atualmente qual é. A auto-hospedagem elimina a questão por completo e a substitui por um número de capital, que é pelo menos um número que você pode calcular.

Onde isso deixa uma equipe que quer experimentar

O Beam 1.0 não é uma das nossas rotas, então não podemos atendê-lo para você, e nada aqui deve ser interpretado como uma afirmação de disponibilidade da nossa parte. O que podemos fazer é tornar a avaliação barata. Se a decisão diante de você é se vale gastar um quarto do tempo de engenharia em um piloto de duas semanas do Beam, o movimento útil é manter a produção em um modelo com uma tabela de preços publicada e um histórico de serviço enquanto o piloto roda, e ter o fallback já configurado. O OrcaRouter opera uma única chave compatível com OpenAI em mais de 200 modelos, com o preço de lista do provedor repassado e nada adicionado, então um corte de preço do fornecedor chega à sua fatura no mesmo dia, e o failover automático significa que um piloto que se mostrar indisponível no próximo mês é uma mudança de roteamento, e não uma migração.

Os modelos mais próximos do Beam nas cargas de trabalho que ele tem como alvo são todos alcançáveis dessa forma. Os três com os quais vale a pena comparar o preço do piloto, do nosso próprio catálogo:

• GLM-5.2 — contexto de 1.000.000 de tokens, $1,40 por milhão de tokens de entrada e $4,40 por milhão de saída. O modelo em relação ao qual a própria alegação de eficiência do Reflection é medida.

• Kimi K3 — contexto de 1.048.576 tokens, US$ 3,00 por milhão de tokens de entrada, US$ 0,30 em cache, US$ 15,00 de saídaA postagem de lançamento da Reflection admite que o K3 continua à frente em capacidade bruta.

• Qwen3.8-Max — contexto de 1.000.000 de tokens, US$ 2,00 por milhão de entrada e US$ 6,00 de saída, a classe de 2 trilhões de parâmetros sobre a qual a Beam alega ter sua maior vantagem de eficiência.

As três coisas a observar

A primeira é o preço. Até que a Reflection publique uma tabela de preços, a tese da eficiência é uma hipótese sobre capacidade computacional, e não um fato sobre dinheiro, e a comparação com o GLM-5.2 ou o Kimi K3 continua sendo uma discussão sobre metodologia.

O segundo é uma medição independente de throughput. Atualmente, a Artificial Analysis lista o Beam com um Intelligence Index de 30, sem velocidade e sem preço, porque registra "Nenhuma API disponível publicamente" para o modelo. Quando isso mudar, a questão por GPU receberá uma resposta que não se originou no fornecedor.

O terceiro é se o verificador chega a ser usado. Uma suíte de conformidade que ninguém executa é documentação; uma suíte de conformidade da qual uma dúzia de implantações publica resultados é um benchmark. O Beam 1.0 entregou a ferramenta no dia zero. Se entregará os números é a parte que ainda está em aberto.

Nada disso é hipotético: as falhas de IA documentadas e os incidentes com agentes por trás de lançamentos como este estão reunidos no Arquivo de Incidentes de IA da OrcaRouter, onde cada entrada traz as suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.