A.X-K2-DSpark: SK텔레콤의 스펙큘레이티브 디코딩 드래프트 모델, 예고 없이 등장

A.X-K2-DSpark는 여러분이 직접 호출할 일이 아마 없을 모델이다. 그리고 바로 그 사실 때문에 읽어볼 가치가 있다. SK Telecom은 이 모델을 Hugging Face에 조용히 올려두었다. 출시 소식도, 보도자료도 없었다. 모델 카드는 그저 체크포인트가 "현재 최종 검증 단계에 있으며 며칠 내 공개 배포될 예정"이라고만 밝히고 있다. 이것은 스페큘레이티브 디코딩(speculative decoding)을 위한 드래프터 전용 체크포인트로, 단 하나의 목적을 위해 만들어졌다. 바로 A.X K2가 검증할 토큰을 제안하여 SK Telecom의 688B 파라미터 플래그십 모델인 A.X K2의 서빙을 더 빠르고 저렴하게 만드는 것이다. 이 글에서는 이 레포지토리가 실제로 알려주는 내용과 아직 확인되지 않은 사항, 그리고 이렇게 작은 헬퍼 모델이 차세대 LLM 서빙 비용 절감의 해답이 될 이유를 살펴본다.

A.X-K2-DSpark가 실제로 무엇인지

A.X-K2-DSpark는 어떤 의미 있는 관점에서도 독립형 모델이 아닙니다. 모델 카드의 사용 목적 주의사항에도 이 점이 명시되어 있습니다. 이 모델은 "드래프터 전용 체크포인트"이며 "단독 사용 용도가 없고", vLLM이 추측 디코딩 루프 안에서 대상 모델인 A.X K2와 함께 로드합니다. 이는 2단계 생성기의 초안 단계로, 작은 모델이 후보 토큰을 빠르게 제안하면 대상 모델이 출력에 토큰이 확정되기 전에 이를 검증하는 구조입니다.

맥락상 이 대상은 현존하는 가장 큰 오픈 가중치 모델 중 하나입니다. A.X K2는 SK텔레콤의 총 688B 파라미터, 활성 33B 파라미터 규모의 Mixture-of-Experts 모델로, 2026년 7월 말 Hugging Face에 Apache 2.0 라이선스로 공개되었습니다. 기본 아키텍처는 Multi-head Latent Attention과 DeepSeek Sparse Attention을 결합하고, SK텔레콤 자체의 Sparse Gate Attention 장문맥 변형을 추가한 구조를 기반으로 합니다. A.X-K2-DSpark는 A.X K2의 히든 스테이트를 조건으로 사용하며 후보 위치 간의 가벼운 로컬 의존성 모델링을 추가하므로, 엄격한 자기회귀 방식으로 초안을 작성하는 대신 여러 토큰을 병렬로 제안할 수 있습니다. 이후 모든 후보는 커밋되기 전에 A.X K2에 의해 검증됩니다. 이것이 모델 카드가 그 결과를 '구조적 무손실(lossless by construction)'이라고 부르는 이유입니다. 출력 분포는 초안 작성 모델에 의해 변경되지 않으며, 서빙 속도만 달라집니다.

추측적 디코딩이 어떻게 작동하는지, 그리고 왜 688B MoE에 필요한지

{{1}}추측 디코딩이 존재하는 이유는 자기회귀 생성이 직렬적이고 메모리 대역폭에 제약을 받기 때문이다.{{/1}} {{2}}각 토큰을 생성한다는 것은 모델의 가중치를 메모리에서 읽어야 한다는 뜻이며, 688B 모델의 경우 모든 단일 토큰에 대해 이동해야 할 바이트 수가 엄청나게 많다 — 각 순방향 패스에서 33B 매개변수만 활성화되더라도 마찬가지다.{{/2}} {{3}}핵심 비결은 작은 드래프터(drafter) 모델에 약간의 추가 연산을 투입해 다음 여러 개의 토큰을 한 번에 추측하게 한 다음, 큰 모델이 단일 순방향 패스에서 모든 추측을 검증하고 자체 분포와 일치하는 가장 긴 접두사를 채택하는 것이다.{{/3}} {{4}}드래프터가 우수하면 큰 모델 패스당 하나가 아닌 두세 개의 토큰을 얻을 수 있으며, 최종 출력에는 변화가 없다.{{/4}}

이 게임의 전부는 수용률이다. 예측을 잘못한 드래프터는 제안이 거부되며, 검증 패스는 여전히 동일한 메모리 대역폭을 소모하므로 속도 향상은 사라진다. 그래서 드래프터는 그 자체로 진지한 연구 주제가 되었다. A.X K2 크기의 모델에서 1.5배와 3배 속도 향상의 차이는 GPU 10대 서빙 팜과 5대 서빙 팜의 차이와 같다. 이와 같은 효율성 계층이 호스팅 LLM API의 다음 가격 인하가 나올 지점이다. 기본 모델의 품질 수치에서가 아니라, 그 주변을 감싸는 서빙 스택에서 말이다.

DSpark가 바로 그 방법입니다 — DeepSeek 팀에서 나온 것입니다

모델 이름의 "DSpark"는 특정 기법을 가리키며, SK텔레콤이 발명한 것이 아닙니다. 모델 카드는 "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation"(arXiv 2607.05147) 논문을 인용하는데, 이는 2026년 7월 6일 DeepSeek의 33명 저자 팀이 작성한 프리프린트로, 저자들은 이 기법을 자체 V4 세대 서빙 시스템에 실제 트래픽 환경에서 배포했습니다. SK텔레콤은 동일한 기법을 자체 대상 모델에 적용했습니다.

이 논문의 두 가지 기여는 A.X-K2-DSpark 카드가 설명하는 내용에 직접적으로 대응합니다. 첫째, 반자기회귀적(semi-autoregressive) 드래프팅입니다. 병렬 백본이 윈도우 전반에 걸쳐 토큰을 제안하고, 경량 순차 모듈이 후보 위치 간의 의존성을 모델링함으로써, 병렬 드래프터의 수용률이 제안된 시퀀스에 걸쳐 급격히 감소한다는 고전적인 문제를 해결합니다. 둘째, 신뢰도 기반(confidence-scheduled) 검증입니다. 시스템은 항상 고정된 수의 드래프트 토큰을 검증하는 대신 각 접두사가 살아남을 확률을 추정하고, 엔진의 처리량 프로필에 맞춰 요청별 검증 길이를 설정합니다. 따라서 검증 노력은 균일하지 않고 부하를 인지하는 방식으로 조정됩니다.

논문 자체의 수치(저자들의 측정값으로, 독립적으로 검증된 것은 아님)에 따르면, DSpark는 동일한 처리량에서 프로덕션 MTP-1 기준선보다 사용자당 생성 속도가 60~85% 빨랐으며, 엄격한 상호작용 제약 조건에서 심각한 처리량 저하를 방지했다. 이 릴리스를 읽을 때 두 가지 주의사항이 중요하다. 해당 결과는 A.X K2가 아닌 저자들의 자체 스택과 타겟에서 측정되었으며, A.X-K2-DSpark 모델 카드는 자체 평가가 아직 진행 중이라고 명시적으로 밝히고 있다. 이 논문은 해당 방법이 프로덕션에서 작동한다는 것을 증명한다. 그러나 SK Telecom의 체크포인트가 이러한 개선 효과를 재현한다는 것은 증명하지 않는다. 그것이 바로 확인되지 않은 부분이다.

리포지토리가 말하는 것 — 그리고 말하지 않는 것

현재 저장소에서 알 수 있는 것은 전부 모델 카드에서 나온 것입니다:

• 역할 — A.X K2용 드래프터 전용 체크포인트; 단독 사용 불가; 다른 대상으로는 검증되지 않았으며 "관련 없는 모델과 호환되지 않음."

• 타깃 — A.X K2, 총 688B / 활성 33B, Mixture-of-Experts.

• 컨텍스트 길이 — 262,144 토큰 (256K), A.X K2의 기본 구성과 일치합니다.

• 라이선스 — Apache 2.0.

• 메커니즘 — DSpark 반자기회귀 드래프팅; 모든 후보는 커밋 전에 A.X K2에 의해 검증됩니다 (무손실).

• 상태 — "현재 최종 검증 중"; 출시는 "며칠 내로" 예정.

그리고 여기에 아직 명시적으로 확인되지 않은 것이 있습니다:

• 체크포인트 정밀도 및 크기 — 둘 다 모델 카드에 TBD로 기재되어 있습니다.

• 처리량(Throughput), TPOT, 그리고 평균 승인 길이 — 드래프터가 실제로 작동하는지 알려줄 세 가지 수치로, 모두 TBD(미정)이며 "평가가 현재 진행 중입니다."라고 되어 있습니다.

• 영역별 결과 — 이 카드는 한국어, 수학, 과학, 코드 분석 결과를 "나중에" 제공하겠다고 약속하지만, 날짜는 명시하지 않았습니다.

• 공식 발표 — SK Telecom은 우리가 찾을 수 있는 어디에서도 A.X-K2-DSpark를 발표하지 않았습니다. 저장소가 발표입니다.

• 독립적인 점수 — 존재하지 않습니다. 카드에 있는 모든 것은 SK텔레콤 자체의 주장이며, 그중 대부분은 여전히 약속에 불과합니다.

가장 중요한 미확인 수치는 평균 채택 길이(mean accepted length), 즉 A.X K2가 검증 패스당 수용하는 드래프트 토큰의 평균 개수입니다. 이 단일 수치가 이 드래프터가 1.2배의 사소한 개선인지 2.5배의 서빙 업그레이드인지를 결정하며, 또한 릴리스가 공개된 후 출처 없이 유포될 가능성이 가장 높은 수치이기도 합니다. 그 숫자가 나타나면 회의적으로 대하십시오. DSpark 논문의 60~85% 수치는 다른 모델의 서빙 스택에서 측정된 것이며, A.X K2는 고유한 드래프트 채택 특성을 가지고 있습니다.

실제로 어떻게 실행하는지

드래프터를 실행한다는 것은 SK Telecom의 vLLM 포크에서 A.X K2를 서빙하는 것을 의미합니다. 모델 카드의 예시를 약간 다듬으면 다음과 같습니다:

vllm serve skt/A.X-K2 --tensor-parallel-size 8 --tool-call-parser hermes --reasoning-parser deepseek_v3 --speculative-config '{"method": "dspark", "model": "skt/A.X-K2-DSpark", "num_speculative_tokens": N}'

SKT-AI vLLM 저장소의 axk2-v0.23.0 브랜치에서 설치된 포크를 기준으로, 카드가 분명히 밝히는 몇 가지 주의사항이 있습니다. 이 설정은 A.X K2의 기본 256K 컨텍스트 구성을 대상으로 하며, 속도 향상은 워크로드에 따라 달라집니다. 동시성, 출력 길이, 수용률, 그리고 초안 생성과 검증의 상대적 비용이 모두 결과에 영향을 미칩니다. 즉, 이것은 다운로드해서 바로 실행하는 스크립트가 아니라 서빙 인프라입니다. A.X K2의 가중치, 텐서 병렬 8을 위한 충분한 클러스터, 그리고 튜닝을 위한 인내심이 필요합니다.num_speculative_tokens 이 값을 자신의 트래픽에 맞게 조정해야 한다는 뜻입니다. 이는 이미 A.X K2를 서빙하는 팀에게는 의미 있는 프로젝트이지만, 새로 구축할 이유는 아닙니다.

경제적 측면: 효율성 레이어가 품질 주장을 이긴다

688B 모델용 드래프트 모델이 주목할 만한 이유는 {{1}}베이스 모델 벤치마크 경쟁{{/1}}이 거의 포화 상태에 이르렀지만, {{2}}서빙 비용 경쟁{{/2}}은 아직 그렇지 않기 때문입니다. SK텔레콤의 자체 출시는 이미 효율성에 초점을 맞추고 있었습니다 — {{3}}Sparse Gate Attention{{/3}} 변경으로 120K-토큰 입력에서 이전 세대 대비 총 토큰 처리량이 67.7% 향상되었다고 주장했습니다 — 그리고 드래프터는 디코딩에 적용된 동일한 논리입니다. 수락된 모든 드래프트 토큰은 비용을 지불하지 않은 대형 모델 순전파입니다.

이 모델들을 자체 호스팅하지 않고 API를 통해 소비하는 사람에게 드래프터는 보이지 않습니다. 그리고それが 바로 핵심입니다. {{2}}공급자가 서빙 스택에 추측 디코딩(speculative decoding)을 추가할 때, 새로운 모델이 보이지 않습니다. 같은 모델이 토큰당 더 빠르고 저렴해지는 것만 보입니다.{{/2}} {{3}}가격 레이어가 같은 이유로 중요합니다: OrcaRouter에서는 공급자의 정가를 0% 마크업으로 그대로 전달합니다. 따라서 벤더의 서빙 효율성 개선이 가격 인하로 나타나면, 그날 바로 우리 쪽에도 반영됩니다 — 재협상도, 계약 변경도 없이요.{{/3}} {{4}}그리고 성공 여부가 불확실한 검증되지 않은 모델의 경우, 자동 장애 조치(failover)가 있는 라우팅이 프로덕션 경로를 걸지 않고 시도해볼 수 있는 방법입니다: API 키 하나로, 첫 번째 공급자가 성능이 저하되면 요청이 다른 공급자로 자동 전환됩니다.{{/4}}

이번 릴리스와 관련된 한 가지 솔직한 참고 사항: A.X-K2-DSpark는 드래프터 전용 체크포인트이므로, 호스팅된 모델 API가 라우팅할 수 있는 대상이 아닙니다. 우리 API조차도요. 드래프터는 서빙 측 컴포넌트이지 호출 가능한 제품이 아닙니다. 드래프터가 출시되고 평가 수치가 확정되면, 가격표에 표시될 것은 더 빠르고 저렴한 A.X K2이지 "DSpark"라는 새 엔드포인트가 아닙니다.

답할 가치가 있는 몇 가지 질문

A.X-K2-DSpark를 단독으로 사용할 수 있나요? 아니요 — 이것이 이번 릴리스의 결정적 사실입니다. 이는 단독 사용이나 공개 API가 없는 드래프터 전용 체크포인트이며, A.X K2를 서빙하는 vLLM 추측 디코딩 루프 내부의 헬퍼로만 존재합니다. 그리고 카드에는 다른 대상으로는 검증되지 않았다고 명시되어 있습니다.

A.X-K2-DSpark는 A.X K2의 경쟁 제품인가요? 반대입니다. A.X K2를 위한 가속기입니다. 동일한 모델의 속도가 빨라지며 출력 분포는 변경되지 않습니다. 라인업의 신제품이 아니라 효율을 높이는 부착형 부품이라고 생각하면 됩니다.

언제 실제로 출시되나요? 모델 카드에 따르면 최종 검증 단계에 있으며 "며칠 내" 공개 출시가 예정되어 있다고 합니다. 확인된 것은 그게 전부입니다. 주목해야 할 날짜는 TBD 수치 — 처리량, TPOT, 평균 채택 길이 — 가 채워지는 날입니다. 그때가 되면 출시가 약속이 아니라 평가할 수 있는 무언가가 되기 때문입니다.

API를 통해 A.X K2를 사용한다면 그것에 대해 생각해야 하나요? 아마 직접적으로는 아닐 것입니다. API 뒤의 서빙 스택이 드래프터가 루프에 포함될지 결정하며, 결과는 플래그가 아닌 가격과 지연 시간으로 확인됩니다. 이는 A.X K2를 자체 호스팅하는 팀에게 가장 중요하며, 여기서 옵트인은 그들이 제어하는 vLLM 구성 변경입니다.

여기서 이야기의 핵심은 드래프터 자체가 아니라 드래프터가 시사하는 바입니다. 효율성 작업은 조용히 독자적인 릴리스 범주가 되어가고 있으며, 올해 가장 흥미로운 새 모델들은 점점 더 큰 모델이 아니라 큰 모델을 저렴하게 만드는 헬퍼들입니다. A.X-K2-DSpark는 지금까지 가장 명확한 사례입니다. 단독 용도가 없는 체크포인트로, 발표 전에 게시되었으며, 자체 증거의 대부분이 TBD로 남아 있습니다. 채택 길이(accepted-length) 수치가 공개되면 주목하세요. DSpark 논문의 성과는 이 체크포인트에 대한 약속이 아니라 그 방법의 출처로 취급하세요. 그리고 직접 A.X K2를 서빙한다면 벤치마크 예산을 책정하세요. 그것이 조용히 게시된 드래프터가 1.2배의 소소한 개선인지 진짜인지 알 수 있는 유일한 방법입니다.