Step 5 Preview의 1M 토큰 윈도우가 방금 StepFun 자체 API를 떠났다

Step 5 Preview는 2026년 10월 16일에 단일 벤더 모델이기를 그쳤습니다. StepFun의 자체 계정은 그날 자사의 100만 토큰 플래그십이 이제 타사 추론 호스트에서 라이브 상태임을 확인했습니다. 이는 StepFun 계정과 StepFun 잔액, 그리고 제2통화로 표시된 StepFun 요금표를 원하지 않는 개발자가 이 모델에 접근할 수 있게 된 첫 사례입니다. 그것이 이 발표의 뉴스 가치 전부이며, 발표 자체에는 새로운 사양도, 가격 변경도, 벤치마크도 담기지 않았기 때문에 분명히 말할 가치가 있습니다. 발표가 담고 있던 것은 배포 변화였습니다. StepFun은 2026년 9월 20일에 Step 5 Preview를 출시했고, 10월 16일에 일어난 일은 그 모델이 집이 아닌 다른 곳에서 나타나기 시작했다는 것입니다. 스코어보드가 측정하는 것과 배포가 실제로 마주하는 것 사이의 그 간극이 이 기록이 중요한 이유입니다: 이 등급의 모델과 관련된 문서화된 AI 실패 및 에이전트 사건들은 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그가 있습니다.

배포 방식의 변화는 과소평가되기 쉽지만, 바로 그것이 조달을 움직입니다. 단 하나의 공급업체에서만 제공되는 모델은 단일 장애점이며, 단일한 요청 속도 제한 집합과 단일한 리전 엔드포인트 집합을 뜻합니다. 그리고 "그 공급업체가 안 좋은 오후를 보내면 어떻게 되는가"에 대한 솔직한 답은 "당신의 제품이 안 좋은 오후를 보낸다"입니다. 여러 독립적인 호스트에서 제공되는 모델은 라우팅 문제이며, 라우팅 문제에는 해결책이 있습니다. 함정은 Step 5 Preview의 모든 것이 가중치와 함께 새 호스트로 이동하는 것은 아니라는 점이고, 이동하지 않는 것은 당신의 청구서를 결정지을 가능성이 가장 높은 숫자입니다.

StepFun이 실제로 말한 것, 그리고 빠뜨린 것

이 발표는 실질적으로 한 문장 분량입니다: 모델은 제3자 추론 플랫폼에서 라이브 상태이며, 1M 토큰 컨텍스트 윈도우가 강조되는 기능입니다. 해당 플랫폼에서 가격을 명시하지 않고, 컨텍스트 윈도우가 전체 길이로 제공된다고 약속하지도 않으며, 프롬프트 캐시 할인이 그 경계를 넘어 모델을 따라오는지에 대해서도 아무 말도 하지 않습니다. 이 세 가지 누락은 팀이 파이프라인을 옮기기 전에 물어야 할 세 가지 질문이며, 이는 지나치게 세세한 지적이 아닙니다 — 각 질문에는 그럴듯한 오답이 존재합니다.

배포되고 있는 모델은 StepFun이 9월에 문서화한 바로 그 모델이며, 문서에 기재된 수치도 달라지지 않았습니다. StepFun 자체 모델 페이지에서:

• 모델 ID — step-5-preview, 여기서 "Preview"는 이 기사가 덧붙인 접미사가 아니라 식별자의 일부입니다

• 컨텍스트 윈도우 및 최대 입력 — StepFun의 사양 표에 따르면 각각 1M 토큰

• 최대 출력 — 64k 토큰, max_tokens는 기본적으로 무제한으로 문서화되어 있어, 별도로 설정하지 않으면 모델이 자체적으로 중단 지점을 선택합니다

• 입력 — 텍스트, 이미지 및 비디오; 이미지는 URL 또는 Base64로 JPG, PNG, WebP 또는 정적 GIF 형식이며 요청당 최대 60개, 비디오는 MP4, QuickTime 또는 Matroska

• 출력 — 텍스트 전용, 스트리밍, 도구 호출, JSON Schema 구조화 출력 및 낮음·중간·높음의 추론 강도 지원

• 아키텍처 — StepFun의 출시 자료와 이를 게재한 모델 카드 미러에 따르면, 총 6,000억 개 파라미터와 토큰당 270억 개 활성 파라미터를 갖는 희소 전문가 혼합(MoE) 모델; StepFun 자체 문서 페이지에는 파라미터 수가 표기되어 있지 않다

• StepFun 자체 플랫폼 가격 — 입력 토큰 100만 개당 $1.00, 캐시 적중 입력 토큰 100만 개당 $0.10, 출력 토큰 100만 개당 $2.70

그 중 새로운 것은 없습니다. 그것은 10월 발표가 배포하는 기준선이며, 제3자 호스트가 다른 양자화, 더 짧은 유효 창 또는 다른 캐시 배열을 제공할 수 있고 그러한 선택 중 어느 것도 출시 게시물에 나타나지 않기 때문에 다시 언급할 가치가 있습니다.

왜 1M 윈도우가 판매 포인트인가

100만 토큰 컨텍스트는 이 모델에 배포 스토리가 존재하는 이유 그 자체다. StepFun은 Step 5 Preview를 장기 지평(long-horizon) 에이전트 작업을 중심으로 구축했으며, 바로 이 창이 저장소 규모나 문서 세트 규모의 프롬프트를 직접 구축하고 유지해야 하는 검색 계층을 거치지 않고 단일 호출로 가능하게 만든다. 독립 평가 기관인 Artificial Analysis는 자사의 Intelligence Index에서 Step 5 Preview에 44점을 부여하고 완료된 인덱스 작업당 약 $0.71의 비용을 산출하는데 — 이 수치는 장황함(verbosity)을 가격에 포함시킨 것이어서 요금표(rate card)보다 덜 후한 평가다. 같은 페이지의 출력 속도 측정값은 캡처 시점마다 88.1에서 99.8 출력 토큰/초로 변동했는데, 이는 호스팅된 처리량이 모델만큼이나 호스트의 속성이라는 점을 그 자체로 상기시켜 준다.

바로 그 마지막 요점이 이 발표를 관련 있게 만드는 부분이다. 활성 파라미터가 270억 개인 6,000억 파라미터 희소 모델은 100만 토큰 컨텍스트로 서비스하기에는 비용이 많이 든다. 긴 프롬프트에 대한 KV 캐시가 동시 요청마다 실제 메모리 비용으로 잡히기 때문이다. 그것을 서비스하는 사람은 그 윈도우를 어느 정도까지 실제로 지원할지, 동시에 얼마나 많은 요청을 실행할지, 그리고 카드 한 장에 더 많이 올리기 위해 어텐션 스택을 양자화할지에 대한 결정을 내린 것이다. StepFun 자사의 FP8 체크포인트는 디스크 기준 650GB이고 BF16 체크포인트는 1,215GB이다. 둘 중 하나를 구동하는 호스트는 StepFun이 구동하는 머신과는 다른 머신을 구동하는 셈이며, 벤더가 자사 클러스터를 위해 제시하는 처리량은 다른 누군가의 클러스터에 대한 약속이 아니다.

이동하지 않는 숫자: 캐시 할인

Step 5 Preview의 요금표는 캐시된 입력에 대해 95% 할인을 제공하여, 재읽기 토큰을 백만 개당 $1.00에서 $0.10으로 낮춥니다. 단일 턴 요청에는 이것이 무관합니다. 모델이 실제로 판매되는 워크로드, 즉 매 턴마다 동일한 시스템 프롬프트, 도구 스키마, 저장소 맵을 재전송하는 에이전트 루프에서는 이것이 청구서의 지배적인 항목이며, 이것이 Step 5 Preview의 긴 세션에서의 실효 요율이 표시 가격에 전혀 미치지 못하는 이유입니다.

프롬프트 캐싱은 서빙 스택의 구현 세부 사항이지 가중치의 속성이 아닙니다. 특정 호스트가 이를 제공하는지, 캐시 적중을 어떻게 식별하는지, 프리픽스가 얼마나 오래 웜 상태로 유지되는지, 그리고 읽기에 대해 얼마를 청구하는지는 모두 호스트의 결정입니다. StepFun은 StepFun 플랫폼에서의 캐싱을 문서화합니다. 모델이 다른 곳에서 라이브라는 발표는 그에 관해 아무것도 알려주지 않으며, StepFun의 가격표에서 모델링한 경제성이 여전히 성립한다고 가정하기 전에 새 호스트의 가격 페이지에서 읽어야 할 바로 그 항목입니다. 매 턴마다 전체 입력 가격을 청구하는 호스트는 동일한 워크로드에 대해 StepFun보다 몇 배 더 비쌀 수 있으면서도, 페이지에서는 백만 토큰당 더 저렴해 보일 수 있습니다.

StepFun 자체의 출시 주간 배포는 중국 연구소의 플래그십치고 이례적으로 광범위했고, 한꺼번에가 아니라 단계적으로 이루어졌다. 이 모델은 10월 초 일주일 동안 무료 체험판으로 서드파티 코딩 도구에 등장했고, 10월 16일에 발표된 서드파티 API 호스팅은 더 나중이자 더 일반적인 단계다. 두 가지를 함께 놓고 보면, 이 연구소는 개발자들을 자체 콘솔로 몰아넣기보다 개발자들이 이미 있는 곳 어디든 모델을 노출시키고 싶어 하는 패턴을 보인다. 이는 일관된 전략이며, 동시에 명백한 대가가 따르는 전략이기도 하다. 추가 호스트 하나하나는 모델의 외연이 다른 누군가의 구현에 의해 좌우되는 또 하나의 장소다.

새 호스트에게 물어볼 만한 세 가지 질문

이 발표에 대한 유용한 대응은 갈아타는 것이 아니라 확인하는 것입니다. 새로운 엔드포인트가 같은 제품인지를 결정하는 세 가지 항목은 다음과 같습니다.

• 양자화 — 어떤 체크포인트가 제공되는지 물어보세요. StepFun은 FP8, BF16, 그리고 10월 14일부터 394GB의 NVFP4 빌드를 공개했으며, 이 세 가지는 품질이나 메모리 사용량 측면에서 서로 바꿔 쓸 수 있는 것이 아닙니다. Blackwell에서 NVFP4를 실행하는 호스트는 어텐션과 라우팅 게이트는 제외한 4비트 전문가 스택을 실행하는 것입니다. 그것이 해당 작업의 정확도에 손해를 주는지는 오직 자체 평가만이 답할 수 있는 질문입니다.

• 실질적 컨텍스트 — 1M 토큰이 모든 호출자에게 제공되는지, 아니면 티어별로 제한되는지 물어보세요. 100만 토큰 프롬프트를 처리하는 데는 동시성 비용이 따르며, 이는 가격보다 먼저 속도 제한으로 드러납니다. 그리고 컨텍스트 창을 광고하면서 동시성을 제한하는 호스트는 서비스가 아니라 모델의 문서를 광고하는 셈입니다.

• 캐시 시맨틱 — 반복되는 프리픽스에 드는 비용이 얼마인지 물어보세요. 이 항목이 장기 세션의 경제성을 결정하며, 가장 빠뜨리기 쉬운 항목이기도 합니다.

두 엔드포인트에서 동일한 프롬프트로 한 번 실행해, 백만 토큰당 달러가 아니라 완료된 작업당 달러로 측정하면, 세 가지 모두를 한 번에 해결할 수 있고 오후 한나절이면 된다.

이것이 모델을 어디에 두는가

Step 5 Preview는 6000억 개 매개변수의 희소 전문가 혼합(mixture-of-experts) 모델로, 100만 토큰 창, 텍스트·이미지·비디오 입력, 64k 출력 상한, $1.00 / $2.70 요금표, StepFun 자체 플랫폼에서 95% 캐시 할인을 제공하며, 이를 다루는 유일한 독립 지수에서 44점을 기록했다. 2026년 9월 20일 출시됨. 10월 16일 기준으로, 어떤 형태와 가격으로든 StepFun이 아닌 최소 한 곳의 호스트에서도 접근할 수 있다.

Step 5 Preview가 OrcaRouter의 라이브 카탈로그에 없다는 점은 분명히 말할 가치가 있습니다. 따라서 이를 호출할 곳은 여전히 벤더 자체의 API나 서드파티 호스트이며, 이를 평가하고 있다면 그 공백이 바로 나머지 스택을 단일 엔드포인트에 유지해야 하는 이유입니다. 200개 이상의 모델을 제공자 정가로, 마크업 없이 아우르는 하나의 API가 있기에 새 모델에 대한 2주짜리 실험이 실험에 머물 수 있습니다. 폴백은 두 번째 통합이 아니라 라우팅 규칙이 되고, 자동 장애 조치 덕분에 낯선 엔드포인트가 프로덕션 경로를 함께 무너뜨릴 수 없으며, 패스스루가 제공자의 자체 가격이므로 벤더의 요금 변경이 다음 계약 주기가 아니라 발생한 당일 청구서에 반영됩니다. 테스트 중인 모델이 리스크입니다. 그 주변의 배관이 두 번째 리스크가 되어서는 안 됩니다.

다음으로 주목할 것은 또 다른 호스트가 아니다. 그것은 자체 처리량, 캐시 조건, 양자화를 같은 페이지에 공개하는 첫 번째 호스트다. 그래야 StepFun이 아닌 다른 누군가가 GPU 비용을 지불할 때 1M 토큰 윈도우에 드는 비용에 관한 비교가 더 이상 추측에 그치지 않게 된다.