Day Zero에 Beam 1.0 서빙하기: SGLang 레시피가 실제로 못 박아 두는 것

다운로드할 수 있는 체크포인트는 배포할 수 있는 모델이 아니며, 그 둘 사이의 거리는 보통 그것을 할 만큼 조급한 누군가가 수행하는 몇 주간의 프레임워크 작업으로 측정된다. Reflection Beam 1.0은 그 작업이 가중치와 함께 도착한 드문 사례다. Reflection은 2026년 10월 5일에 모델을 발표했으며, 2026년 10월 16일에는 가중치, Apache 2.0 라이선스, 자사 엔드포인트, 그리고 7개 추론 스택 전반에 걸친 출시 당일 지원이 모두 함께 등장했고, 그 스택 중 하나인 SGLang은 — 자체 프로젝트 계정이 16일에 Reflection의 프로덕션 환경에서 Beam을 서빙한다고 밝혔는데 — 논쟁할 만큼 상세한 레시피를 내놓았다.

그 레시피가 벤치마크 표보다 더 흥미로운 결과물이다. 출시 게시물은 모델이 좋다고 말해준다. 배포 매트릭스는 그것을 알아내는 데 드는 비용과, 당신이 내리는 선택이 조용히 지연 시간을 결정하게 될 지점을 알려준다. Reflection Beam 1.0의 SGLang 문서는 생성기다: 하드웨어 플랫폼과 전략을 선택하면 고정된 Docker 명령을 내놓는다. 그것이 강제하는 옵션들은, 이걸 호출하는 게 아니라 실제로 실행하려는 사람에게 진짜 뉴스다.

레시피가 숨기기를 거부하는 세 가지 축

페이지에서는 하드웨어 플랫폼, 전략, 양자화를 요구한 다음 명령을 구성합니다. 이는 대부분의 모델 공개가 인정하는 것보다 더 작은 결정 공간이며, 각 축에는 실제적인 결과가 따릅니다:

• 하드웨어 플랫폼 — B300, GB300 또는 H200. Blackwell 제품군은 NVFP4 빌드를 네이티브로 지원하며, H200은 FP8 및 BF16 경로입니다. 이는 Reflection의 릴리스 노트에서 설명하는 것과 동일한 최소 기준을 드롭다운으로 다시 표현한 것입니다.

• 전략 — 저지연 또는 고처리량이며, 이는 대부분의 배포가 기본값으로 잘못 설정하는 축입니다. 저지연은 블록 크기 8에서 DFlash2 드래프터를 활성화한 상태로 텐서 병렬 처리를 실행합니다. 고처리량은 DFlash2를 완전히 비활성화합니다.

• 양자화 — NVFP4, FP8 또는 BF16은 자유롭게 조합할 수 있는 것이 아니라 플랫폼과 전략에 맞춰져야 합니다.

두 전략 프리셋은 성능 다이얼이 아니라 알고리즘의 변경입니다. 추측 디코딩은 디코드 지연 시간과 단계당 추가 드래프트 모델 작업을 맞바꿉니다; 블록 크기 8에서 1.93B 매개변수 드래프터를 사용할 때, 그 트레이드오프는 한 번에 한 사용자에게 서비스할 때는 받아들일 가치가 있고, 공격적으로 배칭할 때는 거부할 가치가 있습니다. 고처리량 레시피를 위해 DFlash2를 끄는 것은 다운그레이드가 아니라, 다른 질문에 대한 정답입니다.

레시피가 더 이상 호환되지 않는 지점

프리셋을 넘어 더 읽어 보면, 이 페이지에는 구체적인 하드웨어 이유로 존재하는 몇 가지 구성 분할이 문서화되어 있으며, 눈에 띄는 첫 번째 Docker 명령을 복사하기 전에 알아 둘 만합니다:

• H200 BF16은 자동 정적 메모리 비율로 TP8을 실행합니다. 933.81 GiB BF16 체크포인트는 더 적은 장치에 적재할 수 없으며, 메모리 비율은 노출되지 않고 계산됩니다 — 즉, 지원되는 경로를 벗어나지 않고서는 직접 튜닝할 수 없는 유일한 레시피입니다.

• 다른 모든 레시피는 텐서 병렬 처리와 DPA를 사용합니다. 여기서 DPA는 어텐션을 expert-parallel 분할로부터 분리하는 데이터 병렬 어텐션 구성이며, 이것이 비BF16 레시피가 BF16 레시피는 허용하지 않는 장치 수를 허용하는 이유입니다.

• Blackwell NVFP4는 추가로 전문가 병렬화와 FlashInfer MegaMoE를 가능하게 합니다. 이것은 Reflection 자체 가이드가 가리키는 조합이며, 체크포인트가 468.72 GiB의 FP8이 아니라 273 GiB의 패킹된 4비트 빌드일 때에만 비로소 사용할 수 있게 됩니다.

실질적인 결론은 이것이다. "우리는 SGLang에서 Beam 1.0을 돌린다"는 말은 하드웨어에 관한 진술이 아니다. 두 팀이 서로 다른 정밀도, 서로 다른 병렬화 레이아웃, 서로 다른 디코딩 알고리즘을 쓰면서도 둘 다 그렇게 말할 수 있고, 서로 정보를 맞춰 보는 유일한 방법은 이 세 가지를 모두 밝히는 것이다.

"day zero"의 가치, 그리고 그것이 아닌 것

가중치가 공개되는 당일의 프레임워크 지원은 실질적인 신호이며, 그것도 아주 특정한 종류의 신호다. SGLang의 Beam 1.0 지원이 존재하는 이유는 Reflection의 엔지니어들이 출시 전에 SGLang 커뮤니티와 함께 작업했기 때문이다 — 이것은 SGLang 프로젝트가 10월 16일에 공개적으로 밝힌 내용이며, Reflection이 Transformers, vLLM, Unsloth, Axolotl, TokenSpeed, N​VIDIA Dynamo와 함께 SGLang을 day-zero 파트너로 꼽은 것, 그리고 SGLang, vLLM, TokenSpeed를 위한 문서화된 레시피와 Kubernetes용 Helm 차트를 내놓은 것과 일치한다.

• 이것이 확립하는 것 — 공개된 체크포인트에서 서빙되는 엔드포인트까지, 명시된 하드웨어 상에서, 양자화 변형들까지 고려한, 문서화되고 유지 관리되는 경로. 이는 대부분의 오픈 릴리스가 첫 주에 해내는 것보다 정말로 더 많은 것이다.

• 이것이 입증하지 않는 것 — 구성이 최적이라는 점, 또는 여러분이 얻게 될 처리량 수치가 다른 사람들의 수치와 일치한다는 점입니다. Reflection에서의 프로덕션 주장은 벤더와 프레임워크의 주장이며, 서빙을 수행하는 사람들이 보고한 것입니다. 우리는 이에 대한 독립적인 재현을 본 적이 없으며, 자체 호스팅 Beam 배포에 대한 제3자 벤치마크는 공개된 바 없습니다.

그 구분은 여기서 평소보다 더 중요하다. 왜냐하면 이 모델은 토큰당 234억 개 파라미터가 활성화되는 5,013억 개 파라미터의 희소 전문가 혼합 모델이며, 이 아키텍처의 가치는 전적으로 서빙 비용이 모델 이름값의 일부에 불과하다는 데 있기 때문이다. 그 주장을 아키텍처 다이어그램에서 메모리 예산으로 바꿔 주는 것은 프레임워크 지원이다. 그것이 그 주장을 측정된 처리량 수치로 바꿔 주는 것은 아니며, 우리가 찾을 수 있었던 어떤 퍼스트파티 자료도 추론에 관한 그런 수치를 공개하지 않는다. 릴리스에서 유일하게 구체적인 초당 토큰 수치는 8개 B300 GPU로 구성된 단일 노드에서의 LoRA 지도 미세조정을 설명하는데, 이는 서빙 속도가 아니라 학습 단계다.

셀프 호스팅 데이제로 스택이 실제로 가진 실패 모드

이것이 잘못되는 구체적인 방식이 있고, 그건 모델 때문이 아닙니다. 바로 둘째 주입니다. 하나의 양자화와 하나의 병렬화 레이아웃을 위해 빌드된 고정 Docker 이미지는 자기 자신을 위한 폴백이 아닙니다: 드래프터가 여러분의 트래픽 패턴과 나쁜 상호작용을 일으키거나, 드라이버 업데이트가 메모리 비율이 할당하는 양을 바꾸거나, 여러분의 용량이 다른 테넌트 뒤에 큐로 밀리면, 폴백할 구성이 남아 있지 않습니다 — 매우 유능한 모델이 그 안에 앉아 있는 장애가 있을 뿐입니다.

Beam 1.0은 저희 라우트 중 하나가 아니므로 저희가 이를 제공해 드릴 수 없으며, 여기 있는 어떤 내용도 저희의 가용성 보장으로 해석되어서는 안 됩니다. 저희가 할 수 있는 일은 폴백을 유용한 곳에 두는 것입니다. OrcaRouter는 하나의 OpenAI 호환 키로 200개 이상의 모델을 실행하며, 제공업체의 정가를 그대로 전달하고 아무것도 추가하지 않으며, 제공업체 전반에 걸친 자동 장애 조치를 제공합니다, 따라서 응답을 멈춘 자체 호스팅 Beam 파일럿은 장애가 아니라 라우팅 변경입니다. Beam 배포가 가장 흔히 대체하는 모델 중 그런 방식으로 접근할 수 있는 모델에는 공개된 요금표가 있습니다:

• GLM-5.2 — 입력 토큰 100만 개당 $1.40, 출력 토큰 100만 개당 $4.40, 1,000,000토큰 컨텍스트. Reflection이 자체 효율성 주장을 견줄 때 기준으로 삼는 모델이며, Beam의 장문맥 코딩 작업에 대한 가장 직접적인 대체재입니다.

• Kimi K3 — 입력 100만 토큰당 $3.00, 캐시 $0.30, 출력 $15.00, 1,048,576토큰 윈도우. Reflection의 출시 게시물은 K3가 순수 성능 면에서 여전히 앞서 있음을 인정한다.

• Qwen3.8-Max — 1,000,000토큰 창에서 입력 백만 개당 $2.00, 출력 $6.00이며, 랙 없이 그 성능을 원하는 팀을 위한 플래그십 등급의 독점 옵션입니다.

레시피가 여전히 알려주지 않는 것

세 가지 격차는 짚고 넘어갈 가치가 있습니다. 각각은 당신이 원하는 것보다 더 적은 정보를 가진 채 결국 내리게 될 결정이기 때문입니다.

첫 번째는 가격입니다. Reflection의 엔드포인트는 문서화되어 있고 OpenAI 호환되며, 추론 강도는 max, xhigh, high, medium, low이고, 추론은 필수이며 기본값은 max로 설정되며, 조직별 한도는 모든 키에 걸쳐 공유됩니다. 공개된 백만 토큰당 요율이 없으므로 Beam 1.0의 효율성 근거는 산술 연습으로 마무리될 수 없습니다. 항상 추론하고 기본값이 최대 강도인 모델은 출력 토큰 가격이 1달러인지 10달러인지에 따라 상업적 제안이 달라집니다.

두 번째는 독립적인 측정입니다. Artificial Analysis는 이 모델을 Intelligence Index 30으로 등록하고 있으며, 속도 수치와 가격은 없고, 이에 대해 공개적으로 사용 가능한 API도 기록하지 않습니다 — 이는 호스팅된 표면이 이런 것들을 측정하는 사람들에게 아직 보이지 않는다는 제3자의 진술입니다. 독립적으로 집계된 효율성 데이터 포인트 하나는 사실입니다: Beam은 AA의 Intelligence Index 전반에서 79M개의 출력 토큰을 생성했으며, 비교 집합의 중앙값은 130M이었습니다. 이는 "더 적은 추론 토큰"이라는 주장을 뒷받침합니다. 토큰이 얼마나 빨리 나오는지는 알려주지 않습니다.

세 번째는 버전 드리프트입니다. 공개된 레시피는 특정 체크포인트와 특정 SGLang 빌드를 기준으로 작성되며, 드래프터는 자체 저장소를 가지고 있습니다. 둘 중 하나라도 바뀌면, 10월에 고정해 둔 레시피는 11월에는 아무도 테스트해 보지 않은 구성이 됩니다. Docker 명령을 배포가 아니라 유효 기간이 있는 시작점으로 취급하세요.

누가 지금 이 일을 처리해야 하고, 누가 기다려야 합니까?

이미 Blackwell 용량을 보유하고 있다면, SGLang 레시피만으로도 정말 시작하기에 충분합니다. B300 네 대가 참조 NVFP4 구성이고, 메모리 계산은 공개되어 있으며, 적합성 테스트 스위트도 존재하고, 단점은 엔지니어링 시간으로 제한됩니다. 하드웨어를 보유하고 있지 않다면 계산은 여전히 맞아떨어지지 않습니다. 호스팅 옵션에는 자본 구매와 비교할 요금표가 없기 때문입니다. 그리고 출시 첫날부터의 프레임워크 지원은 아무리 좋아도 가격을 대신하지 못합니다.

주목해야 할 것은 또 다른 프레임워크가 지원을 발표하는 것이 아니다. 그것은 Reflection이나 프레임워크 프로젝트에서 나오지 않은 첫 번째 공개 수치, 즉 명명된 구성에서의 독립적인 처리량 측정치이거나 퍼스트파티 엔드포인트의 요금표다. 둘 중 하나만 나와도 이것은 잘 문서화된 실험에서 하나의 세부 항목으로 바뀐다. 그때까지 10월 16일에 대한 올바른 해석은 난도 높은 엔지니어링이 일정대로 출시되었다는 것 — 그리고 상업적 사업성은 아직 구축 중인 부분이라는 것이다.

그중 어느 것도 가정이 아닙니다: 이번과 같은 릴리스의 배경이 된 문서화된 AI 실패와 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 분쟁 플래그가 함께 제공됩니다.