Step 5 Preview의 가중치는 결코 누락되지 않았다: NVFP4 체크포인트가 바꾸는 것

Step 5 Preview는 StepFun이 2026년 9월 20일에 공개한 날부터 다운로드할 수 있었습니다 — 그리고 그 이후로 이 모델에 관해 쓰인 글의 상당 부분은 다른 이야기를 합니다. FP8 저장소 stepfun-ai/Step-5-Preview는 그날 아침 03:15 UTC에 만들어졌고 첫 샤드는 36분 뒤에 커밋되었습니다. BF16 저장소가 03:52에 뒤따랐고 그 샤드들은 04:18에 들어왔습니다. 둘 다 StepFun 자체의 것이고, 둘 다 게이트 없이 제공되며, 합쳐서 1.86테라바이트의 가중치를 담고 있습니다. 10월 중순에 바뀐 것은 재출시보다 범위가 좁고 더 유용한 것입니다. StepFun이 NVIDIA의 NVFP4 형식으로 세 번째 체크포인트를 공개했고, 2026년 10월 15일에 NVIDIA가 이를 공개적으로 지지했습니다 — "그들의 가장 큰 오픈 가중치 릴리스"라고 부르면서, 이 모델이 "최대 24시간 지속되는 에이전트 작업을 처리하도록 만들어졌다"고 말하고, 숫자까지 제시했습니다. "NVIDIA GB300에서 NVFP4를 사용해 GPU당 초당 거의 8K 토큰."

그게 뉴스다. 정정이 바로 이 글이 공지 대신 날짜를 앞세우는 이유다. 9월 20일에 작성된 보도는 불과 몇 분 된, 잠시 비어 있던 저장소를 대상으로 했고, "가중치는 추후 날짜에 공개될 예정"이라는 프레이밍은 같은 날 아침에 가중치가 도착한 뒤에도 굳어졌다. 이 사이트의 자매 기사도 늦게는 10월 13일에도 이를 반복했다. 그것은 지금도 사실이 아니고 그때도 사실이 아니었으며, 이는 중요하다. 오픈 웨이트 문제가 이 모델에 관한 모든 글에서 가장 큰 단일 미해결 항목이었기 때문이다.

10월 14일과 15일에 실제로 출시된 것은 무엇인가요?

새 아티팩트는 stepfun-ai/S​tep-5-Preview-NVFP4입니다. 저장소는 2026년 10월 14일 02:59 UTC에 생성되었고, 가중치 업로드는 같은 날 07:10 UTC에 계정이 huangyu-nv인 한 기여자가 올린 커밋이며, 그 기여자는 한 시간 뒤에 README도 다시 작성해 FP8 및 BF16 저장소에 맞게 정렬했습니다. 이 아티팩트는 92개의 레이어별 파일에 2개의 추가 파일과 1개의 비전 타워 파일을 더한 구성인 95개의 safetensors 파일에 걸쳐 394.18 GB를 담고 있습니다. 이는 24개의 텍스트 샤드와 다중 토큰 예측 헤드, ViT를 함께 제공하는 FP8 및 BF16 저장소와는 다른 샤딩 방식입니다.

그 안에 무엇이 들어 있는지는 정확히 밝힐 가치가 있습니다. 왜냐하면 "NVFP4"가 통용되는 과정에서 느슨하게 사용되고 있기 때문입니다. 양자화 블록은 config.json에 다음과 같이 나옵니다: quant_method: modelopt, quant_algo: NVFP4, group_size: 16, 그리고 kv_cache_quant_algo: null. 무시 목록은 길고 구체적입니다: 92개의 셀프 어텐션 블록, 88개의 MoE 게이트, 88개의 공유 전문가, 임베딩 테이블, 최종 norm 및 언어 모델 헤드, 그리고 비전 타워와 그 프로젝터. 전체 목록에서 단 세 항목만이 손대는 것은 moe.experts. 다시 말해, 어텐션과 라우팅 메커니즘은 더 높은 정밀도로 유지되고, 전문가 피드포워드 가중치 — 6000억 파라미터의 대부분 — 가 양자화된 부분입니다. KV 캐시는 손대지 않았으며, 이것이 장기 컨텍스트 서빙 구성이 전환 후에도 살아남는지를 결정하는 세부 사항입니다.

허깅페이스(Hugging Face) 자체의 파라미터 집계는 해당 저장소에서 3206억으로 나오며, 2824억 U8, 382억 BF16, 240만 F32로 나뉘고, 파일 페이지에는 모델 크기로 "321B params"가 표시됩니다. 같은 페이지에 있는 StepFun의 카드에는 총 600B, 활성 27B라고 적혀 있습니다. 둘 다 맞으며 서로 다른 것을 세고 있습니다. 321B 수치는 양자화된 요소의 저장 개수이며, 아키텍처 설명에서 사용하는 의미의 파라미터 수가 아닙니다. 메모리 용량을 산정한다면 저장 수치를 사용하세요. 모델을 설명한다면 카드를 사용하세요.

세 개의 체크포인트, 세 개의 하드웨어 청구서

NVFP4 릴리스가 폴더에 파일이 하나 더 추가되는 것보다 더 중요한 이유는, 이 모델을 실행할 수 있는 가장 작은 기기 자체를 바꾸기 때문입니다. 모델 카드에 있는 StepFun 자체의 배포 표에는 이전 두 체크포인트의 형태가 나와 있고, 리포지토리에는 크기가 나와 있습니다. 여기에 NVFP4 행을 추가해 함께 정리했습니다.

• 정밀도 — 디스크 기준 FP8 650.32 GB vs BF16 1,214.9 GB vs NVFP4 394.18 GB

• 공개된 가장 작은 vLLM 구성 — FP8: GPU 4개가 있는 B300 노드 1대 또는 GPU 8개가 있는 H200 노드 1대 vs BF16: GPU 8개가 있는 B300 노드 1대 또는 GPU 16개가 있는 H200 노드 2대 vs NVFP4: 아직 StepFun의 표에 없음

• 카드가 권장하는 병렬성 — B300에서 FP8 TP4, TEP4 또는 DEP4 vs BF16 TP8, TEP8 또는 DEP8 vs NVFP4는 명시되지 않음

• 어텐션 및 라우터 가중치 — 8비트로 양자화된 FP8 vs BF16 전체 정밀도 vs ModelOpt 무시 목록에 의해 양자화되지 않은 채로 남겨진 NVFP4

• KV 캐시 — 세 가지 모두에서 양자화되지 않음. NVFP4 구성이 kv_cache_quant_algo를 null로 설정하기 때문입니다

• 서빙 스택 — 세 가지 모두 vLLM 또는 SGLang을 통해 OpenAI 호환 엔드포인트로, 또는 독립 실행형 Transformers 경로를 통해 오프라인으로

마지막 두 행의 빈틈은 새 체크포인트에 대한 솔직한 유의점입니다. NVIDIA의 게시물에서는 이 모델이 GB300에서 NVFP4를 사용해 GPU당 초당 거의 8K 토큰으로 실행된다고 하지만, StepFun의 배포 표에는 NVFP4 행이 아직 업데이트되지 않았기 때문에 아직 벤더가 공개한 병렬화 레시피가 없습니다. 이번 주에 배포를 계획하고 있다면, 문서화된 구성이 있는 쪽은 FP8 경로이고, 다른 사람의 하드웨어에 붙은 헤드라인 수치가 있는 쪽은 NVFP4 경로입니다.

8K 수치는 공급업체가 제시한 숫자이며, 그렇게 말한 공급업체는 한 곳뿐이다.

NVIDIA의 10월 15일 게시물이 이에 관한 1차 기록의 전부다. NVIDIA 개발자 블로그 항목도, StepFun의 발표 페이지도, 외부에서 검증할 수 있는 제3자의 처리량 주장 재현 결과도 없다. "GPU당 초당 거의 8K 토큰"이라는 것 역시 측정 당시의 배치 크기, 시퀀스 길이, 동시성이 제시되지 않으면 의미가 거의 없는 진술이다. 동일한 모델 구성이라도 이 세 축에 따라 10배까지 차이가 날 수 있으며, 전문가 혼합(MoE) 모델용 서빙 프레임워크는 토큰당 활성화되는 전문가 수에 특히 민감하다. 이는 말 그대로 NVIDIA가 NVIDIA 하드웨어에 관해 보고한 것으로 받아들여야 하며, 독립적으로 검증된 처리량 수치로 취급해서는 안 된다.

24시간 에이전트 주장도 같은 성격을 지닌다. 그것은 측정값이라기보다는 능력 설명이며, StepFun 자체 카드도 장기 호라이즌 실행을 같은 표현으로 설명하면서 거기에 기간을 붙이지 않는다. 이 모델에 대해 공급업체가 공개한 평가 노트에는 하네스와 설정 — temperature 1.0, top-p 0.95, top-k 0, High 추론 설정, DeepSWE v1.1용 SWE-agent 하네스 — 이 실제로 나열되어 있는데, 이는 많은 출시 카드가 제공하는 것보다 많다. 그러나 점수표 자체는 그림이고, StepFun은 문서에 수치 벤치마크 표를 공개하지 않는다. 이 모델의 실시간 점수를 보유한 유일한 중립 평가자는 Artificial Analysis이며, 여기서 S​tep 5 Preview는 Intelligence Index에서 44점에 위치하고 원래 인덱스 과제당 실행 비용이 $1.03이었다.

배포 레시피는 체크포인트와 함께 도착했으며, 바로 당신이 사용하게 될 부분입니다.

리포지토리 히스토리를 읽어 보면, 가중치 파일과 지침은 함께 도착하지 않았다. 두 오래된 리포지토리 모두 10월 13일과 14일에 걸쳐 재작성되었고 — FP8 리포지토리에는 10월 13일부터 15일 사이에 README 커밋이 일곱 개 있었다 — 그 커밋들이 추가한 것은 완전한 서빙 가이드다: vllm/vllm-openai:step-5-preview에 게시된 컨테이너 이미지, 텐서 병렬화, 전문가 병렬화, 결합 병렬화를 위한 작동하는 명령어, 이 모델에 필요한 플래그 세트, 그리고 검증된 SGLang 경로. 플래그에서 모델별 작업이 드러난다: --max-model-len 1048576, --spec-method mtp --spec-tokens 3(으)로 구성된 추측 디코딩 헤드, 그리고 모델의 추론 블록과 도구 호출이 OpenAI 형태의 API를 왕복하는 동안에도 살아남도록 하는 전용 --reasoning-parser step5 및 --tool-call-parser step5 파서. Blackwell에서는 TEP 및 DEP 구성이 MoE 백엔드를 deep_gemm_mega_moe(으)로 전환한다. 일반 TP4 구성은 그럴 수 없는데, 그 백엔드가 전문가 병렬화를 필요로 하기 때문이다.

그것은 프레임워크 지원이 안착하는 모습이며, 이 모델 위에 구축할지 결정하려는 사람에게는 처리량 주장보다 더 가치가 있다. 검증되지 않은 실행 명령과 함께 받는 650GB 다운로드는 연구 프로젝트다. 고정된 컨테이너 이미지, 정밀도별로 테스트된 네 가지 병렬 구성, 그리고 모델 자체의 출력 형식을 이해하는 파서가 함께하는 650GB 다운로드는 배포다.

그 어느 것도 직접 소유하고 싶지 않다면, 이 모델의 셈법은 이례적입니다. S​tep 5 Preview는 StepFun 자체 플랫폼에서 백만 입력 토큰당 $1.00, 백만 캐시 적중 입력 토큰당 $0.10, 백만 출력 토큰당 $2.70에 실행되므로, 한 달에 입력 토큰 2억 개와 출력 토큰 2억 개를 쓰면 각각 $200과 $540이 청구됩니다. 이는 이를 구동하는 하드웨어에 대해 매달 4-GPU B300 노드 가격 정도와 맞먹습니다. 여기서 셀프 호스팅은 비용 결정이 아니라 통제와 데이터 상주에 관한 결정이며, 가중치가 공개되어 있다는 점이 바로 그것을 애초에 내릴 수 있는 결정으로 만들어 줍니다. 분명히 말해 둘 만합니다. S​tep 5 Preview는 OrcaRouter의 라이브 모델 목록에 없으므로, 이를 호출할 곳은 벤더 자체 API입니다. 200개가 넘는 모델을 위한 단일 API가 이 상황에서 여러분에게 사 주는 것은 질문의 나머지 절반, 즉 셀프 호스팅 배포가 잘 풀리지 않을 경우 워크로드를 옮기게 될 모델의 비용이며, 0% 마진으로 모든 제공업체의 정가에 적용됩니다.

문자 그대로 읽은 라이선스

"오픈 웨이트"는 NVIDIA의 표현에서 라이선스가 온전히 뒷받침하지 못하는 역할을 하고 있으며, 이 부분이 이 이야기에서 가장 잘못 읽히기 쉬운 대목이다. StepFun Model License 1.0은 가중치를 사용, 복제, 배포, 재라이선스, 수정하고 가중치로부터 2차적 저작물을 생성할 수 있는 영구적이고 전 세계적이며 로열티 없는 비독점적 허여이며, 이에 상응하는 특허 허여도 포함한다. 이는 OSI 승인 오픈 소스 라이선스가 아니며, 그 위에 사업을 세우기 전에 알아 둘 만한 두 가지 조건이 있다.

• 저작자 표시 — 모델을 포함하는 상업적 제품 또는 서비스가 어느 역월이든 월간 활성 사용자 수 1억 명 또는 매출 2천만 달러를 넘으면, 제품 인터페이스와 귀하의 사용자 계약에 "Powered by StepFun AI"를 눈에 띄게 표시해야 합니다.

• 별도의 상업용 라이선스가 필요합니다 — 하드웨어 제조업체 또는 브랜드 소유자로서 기기에 모델의 기능을 탑재하여 출하하거나, 모델 서비스형(model-as-a-service) 사업을 운영하면서 어느 12개월 동안이든 합산 매출이 2,000만 달러를 초과하는 경우

• 명시적으로 MaaS가 아닌 것 — 모델의 역량을 고정된 최종 사용자 기능에 내장하는 것, 또는 단순히 다른 제공자의 모델로 요청을 중계하는 것

• 별도 계약 없이 명시적으로 허용되는 사항 — 모델이나 그 기능을 제3자에게 노출하지 않는 내부 사용, 그리고 해당 인증 범위 내에서 StepFun 인증 배포 채널을 통해 획득한 사용

• 해지 — 중대한 위반 시 부여된 권리가 종료되며, 서면 통지 후 30일의 시정 기간이 주어집니다

그래서 실무적으로 해석하면, 가중치는 실제로 다운로드할 수 있고 섹션 2의 기준선까지는 상업적 사용을 포함해 실제로 사용할 수 있다는 뜻이다. 내부 문서 작업을 위해 이 모델을 파인튜닝하는 스타트업은 허여 범위 안에 있다. 이를 기능으로 탑재해 출시하는 휴대폰 제조사나 2,000만 달러를 넘는 호스팅 추론 사업자는 그렇지 않다. 이는 Llama와 Qwen 라이선스가 사용하는 것과 같은 형태의 제한이며, "오픈" 아래에 분류하기보다 분명히 말할 가치가 있다.

이것이 모델을 어디에 두는가

6000억 파라미터 규모의 전문가 혼합(MoE) 모델로, 활성 파라미터 270억 개, 100만 토큰 컨텍스트, 텍스트·이미지·비디오 입력, StepFun 문서상 최대 출력 64k, 약 $1.00 / $2.70의 요금표, 이 모델을 평가한 유일한 중립 평가자의 인덱스 점수 44, 그리고 세 가지 정밀도로 제공되는 다운로드 가능한 체크포인트 세 개를 갖추고 있습니다. 2026년 9월 20일 출시. 가중치는 출시 당일 아침부터 공개되었습니다. 10월 14일 Blackwell용으로 양자화되었고, 10월 15일 GPU 공급업체의 승인을 받았으며, N​VIDIA 외부에서는 아무도 재현하지 못한 처리량 수치를 기록했습니다.

다음으로 주목할 만한 것은 또 다른 엔드포인트가 아니다. 그것은 NVFP4 체크포인트에 대한 최초의 독립적 측정, 즉 하드웨어를 팔지 않는 누군가가 FP8 경로와 비교한 처리량 또는 품질 비교다. 어텐션 스택은 제외한 4비트 양자화는 합리적인 설계이며, 구체적으로 묻는 것은 전문가 가중치가 이를 견뎌내느냐다. 누군가 그것을 공개할 때까지, 새 체크포인트에 대한 정직한 입장은 9월 보도가 예전 체크포인트들에 대해 취했어야 했던 것과 같다: 가중치는 실제이고, 레시피는 실제이며, 성능 주장은 벤더의 것이다.

이런 결과는 모델의 실수가 이미 문서화되어 있다는 점을 다시 일깨워 주기도 합니다: 이 계열 모델의 배후에 있는 AI 사고와 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목은 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그를 함께 갖추고 있습니다.