Ling 3.0 Flash DSPark를 위한 히어로 타이틀 카드로, 부제는 'Ling 3.0 Flash를 위해 조용히 출시된 1.36B 드래프터'이며, 'Drafter 1.36B'라고 표시된 작은 드래프터 카드가 'Ling 3.0 Flash 124B'라고 표시된 큰 카드에 토큰 칩들을 전달하고, 수락된 칩 위에는 체크 표시가 있으며, 두 카드 사이에는 빨리 감기 화살표가 있고, 오른쪽 하단에는 OrcaRouter 로고가 있는 모습을 보여준다.
Engineering & Research

Ling 3.0 Flash DSPark: Ling 3.0 Flash를 위해 조용히 출시된 1.36B 드래프터

작성자

Elias Hawthorne

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

Ling 3.0 Flash DSPark는 Ant Group의 inclusionAI 연구소가 8월 9일에 보도자료도, 블로그 포스트도, 출시 스레드도 없이 Hugging Face에 업로드한 13.6억 파라미터 드래프트 모델입니다. 작성 시점 기준으로 이 저장소는 다운로드 7회, 좋아요 1개를 기록하고 있습니다. 이는 Ling 3.0 Flash의 새로운 버전이 아니며, 직접 호출하게 될 모델도 아닙니다. 이것은 추측 디코딩(speculative decoding) 구성 요소로, Ling 3.0 Flash 앞에 로드하면 큰 모델이 검증할 토큰을 제안하여 124B/5.1B MoE가 단일 전방 패스당 하나가 아닌 여러 토큰을 생성할 수 있게 해줍니다. 아래 내용 중 저장소 자체에서 명확히 확인되지 않는 부분은 모두 미확인으로 표시되었습니다. 제공업체가 아무런 입장을 밝히지 않았기 때문입니다.

Ant Group는 7월 27일 Ling 3.0 Flash를 발표하고, 8월 7일 MIT 라이선스로 가중치를 공개했다. DSPark 저장소는 별개의, 좀 더 조용한 프로젝트다. 8월 9일에 생성되었고, "Ling3용 DSpark 추측기(speculator)"라고 체크포인트를 식별하는 모델 카드에만 설명이 있으며, 8월 21일에는 config.json 업데이트로 다시 손을 댔다. 발표도, 문서 페이지도, 벤치마크 블로그 게시물도 없다. 이 글은 저장소가 실제로 말하는 바를 모아, 나머지는 열린 질문으로 남겨 둔다.

'DSpark 스펙큘레이터'가 무엇인지, 전문 용어 없이

추측 디코딩은 실제 모델에 앞서 작고 저렴한 모델을 실행합니다. 작은 모델(드래프터)은 다음 몇 개의 토큰을 추측하고, 큰 모델(타깃)은 단일 순방향 패스로 전체 배치를 검사하여 동의하는 추측만 유지합니다. 드래프터가 맞히면 타깃의 순방향 패스 한 번으로 여러 토큰이 생성되므로, 타깃의 가중치를 건드리지 않고도 처리량이 향상됩니다.

DSpark는 DeepSeek 연구진이 제안한 아이디어의 한 버전으로, 2026년 7월에 도입되어 이미 DeepSeek-V4 내부에 배포되었으며, SGLang이 DSPARK라고 부르는 알고리즘입니다. 두 가지 점에서 일반적인 드래프터(drafter)와 구별됩니다. 병렬 드래프트 방식인 DFlash에 대상 모델 자체에서 가져온 보조 기능을 추가하여 드래프터가 큰 모델의 동작에 대한 정보를 얻을 수 있게 합니다. 또한 각 제안된 토큰에 점수를 매기는 컨피던스 헤드(confidence head)를 포함하여, 검증을 통과하지 못할 가능성이 높은 접미사가 보이면 블록을 일찍 중단하므로 곧 버려질 토큰에 검증 패스를 낭비하지 않습니다.

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Ling-3.0-flash-dspark 체크포인트는 정확히 그 기능을 구현합니다: SpecForge로 훈련된 추측기가 8개의 초안 토큰 블록을 제안하도록 크기가 정해져 있으며, 타깃의 보너스 토큰이 계산되면 9-토큰 검증 폭을 가집니다.

저장소가 정확히 말하는 것

모델 카드는 간결하지만 구체적입니다. Ling 3.0 Flash DSPark는 약 13.6억 파라미터의 드래프트 모델(1,363,707,905 파라미터, BF16)로, 은닉 크기 2,560의 5개 전체 어텐션 트랜스포머 레이어와 32개 쿼리 헤드 및 32개 키/밸류 헤드를 가진 멀티헤드 어텐션을 갖추고 있습니다. 이 모델은 대상 모델의 5개 레이어(카드에는 레이어 1, 11, 23, 29, 35로 명시)에서 보조 특징을 읽어 들이며, "vanilla Markov head, rank 256"으로 설명되는 신뢰도 헤드와 짝을 이룹니다. 위치 임베딩은 262,144에서 끝나며, 이는 대상 모델이 지닌 256K 컨텍스트와 동일합니다.

• 파라미터 — 1,363,707,905 (~1.36B), BF16, 약 2.7GB의 가중치.

• 아키텍처 — 풀 어텐션 레이어 5개, 히든 크기 2,560, 쿼리 32개와 키/값 헤드 32개를 갖춘 MHA; qwen3로 태그 지정됨.

• 타겟 훅 — Ling 3.0 Flash 레이어 1, 11, 23, 29 및 35의 보조 기능.

• 신뢰도 헤드 — 바닐라 마르코프 헤드, 랭크 256.

• 블록 — 드래프트 토큰 8개; 대상 보너스 토큰을 포함하여 너비 9 확인.

• 컨텍스트 — 262,144개 위치 임베딩으로, 타깃의 256K 네이티브 창과 일치.

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

마지막 행은 배포 계획에 중요합니다. 드래프터는 타깃과 동일한 긴 컨텍스트 서빙 프로파일로 구축되어 있으므로, 추측할 수 있는 컨텍스트의 범위를 축소하지 않습니다.

승인 번호를 주의 깊게 읽으십시오.

카드는 한 세트의 성능 수치를 보고한다: 평균 수용 길이(mean acceptance length)는 "추측 검증 단계당 수용된 토큰의 평균 수(대상 보너스 토큰 포함)"로 정의된다. 9개 워크로드에 걸쳐 매크로 평균은 5.29 — 검증 단계당 9개 위치 중 약 5개가 수용되며, 이는 속도 향상을 주도하는 수치이다. 워크로드별 분포는 드래프터가 강한 부분을 보여준다:

• 코드 및 수학 — GSM8K 6.40, MATH-500 6.29, HumanEval 6.57, MBPP 6.34, LiveCodeBench 5.33.

• 추론 — AIME 2025 5.56.

• 대화형 — MT-Bench 3.92, Alpaca 3.51, Arena-Hard-v2 3.72.

이 수치에는 세 가지 주의사항이 따른다. 이는 엔드투엔드 속도 향상이 아니라 수용 길이(acceptance length)다. 해당 카드는 초당 토큰 수치를 공개하지 않으므로, "5.29 수용 토큰(accepted tokens)"은 아직 이 모델에 대한 "x배 더 빠름" 주장으로 환산되지 않았다. 이는 공급업체가 보고한 것이며 재현되지 않았다. inclusionAI 외부에서는 누구도 측정 결과를 발표하지 않았다. 또한 이는 컨텍스트에 따라 달라진다. 수용 길이는 워크로드, 샘플링 온도, 정확한 대상 체크포인트에 따라 달라지므로, 코드·수학 열은 강력한 사례로, 채팅 열은 현실적인 하한선으로 간주하라.

확인된 것과 확인되지 않은 것은 무엇인가?

공개 저장소를 통해 확인된 바에 따르면, 체크포인트는 존재하며 다운로드 가능합니다. 이는 Ling 3.0 Flash용 DSpark 스페큘레이터로, SpecForge로 훈련되었고 SGLang의 DSPARK 알고리즘을 통해 서빙됩니다. 8월 9일에 생성되었으며 8월 21일에 최근 업데이트되었습니다.

확인되지 않았으며, 정확히 짚고 넘어갈 가치가 있는 것은 라이선스입니다. 해당 카드의 frontmatter에는 license: other라고 표시되어 있고 첨부된 라이선스 텍스트가 없습니다. 따라서 MIT 라이선스가 적용된 {{KEEP}}Ling 3.0 Flash{{/KEEP}} 가중치와 달리, DSPark 스페큘레이터의 조건은 현재 명시되어 있지 않습니다. 또한 확인되지 않은 사항으로는, 수용 길이가 다른 하드웨어에서도 재현되는지, 그것이 종단 간 초당 토큰 수로 어떤 의미를 갖는지, 어떤 추론 제공업체가 이 드래프터를 서비스하는지(그런 업체가 있다는 암시는 없음), 그리고 공식 발표가 예정되어 있는지 여부입니다. 이 중 어느 것도 비난이 아닙니다. 릴리스된 지 2주도 채 되지 않았습니다. 그것은 유망한 구성 요소와 검증된 구성 요소 사이의 차이입니다.

실행하기

실제로는 DSPARK 지원이 포함된 SGLang 빌드가 필요합니다. 해당 알고리즘은 7월 SGLang v0.5.16에 포함되었으며, DeepSeek-V4가 주도한 DSpark 통합 시기와 맞물립니다. 대상 모델로 서버를 시작하고 드래프터(drafter)를 지정하십시오:

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

명령은 모델 카드 자체에서 가져온 것이며, 블록 크기는 드래프터의 config에서 읽어옵니다. 아직 llama.cpp 경로는 없습니다. 하이브리드 KDA + MLA 아키텍처는 메인 모델조차도 커스텀 포크가 필요하므로, 현재 스페큘레이터는 SGLang 쪽으로 처리되는 상황입니다.

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

그것이 실행할 가치가 있는지 여부

Ling 3.0 Flash DSPark는 직접 Ling 3.0 Flash를 서빙할 때만 작동합니다. 이는 로컬 구성 요소로, 124B 대상 모델과 함께 약 2.7GB의 추가 BF16 가중치, 해당 알고리즘을 지원하는 SGLang 빌드, 그리고 감당할 메모리를 갖춘 하드웨어가 필요합니다. 그 대가로 얻는 것은 일반적인 소형 드래프터보다 높은 수용 길이(acceptance length)이지만, 메모리와 복잡한 구성 요소를 희생해야 합니다. 이미 자체 GPU에서 인터랙티브하고 지연 시간이 중요한 부하로 대상 모델을 운영하는 팀에게 드래프터는 측정 비용이 저렴합니다. 플래그 두 개, 그리디 디코딩, 초당 토큰 수 델타만 확인하면 됩니다. 호스팅 API를 통해 Ling 3.0 Flash를 호출하는 사용자에게는 무의미합니다. 남의 서빙 스택에 로컬 드래프터를 붙일 수 없기 때문입니다.

{{1}}모델 카드 정직성 격차가 가장 중요한 고려 사항입니다. 평균 수용률 5.29는 강력한 수치입니다 — DeepSeek-V4의 DSpark 스페큘레이터는 LMSYS 문서에 따르면 3.2–3.6 범위의 수용 길이를 보고했고, Liquid AI의 LFM2.5-2.6B 드래프터는 평균 4.83을 기록했습니다 — 하지만 수용 길이는 속도 향상과 같지 않으며, 누군가 이 정확한 조합에 대한 엔드투엔드 처리량을 발표하기 전까지 그 이점의 크기는 추정치에 불과합니다.{{/1}}

그리고 바로 여기서 자체 호스팅과 호스팅의 조합이 진짜 결정 포인트가 됩니다. 드래프터는 API로도 제공되는 모델 앞에 놓이는 또 하나의 자체 호스팅 구성 요소이며, 이 두 옵션을 동등하게 유지하는 것이 바로 라우팅 계층의 역할입니다. 200개 이상의 모델에 걸친 단일 API, 제공업체 성능 저하 시 자동 장애 조치, 0% 마크업으로 전달되는 제공업체 공시 가격 덕분에 지연 시간에 민감한 경로에는 자체 Ling-3.0-flash 서버를 실행하고 나머지 트래픽은 호스팅 엔드포인트로 라우팅하면서, 재작성이 아닌 구성 변경만으로 전환할 수 있습니다. DSPark 드래프터는 Ling 3.0 Flash가 실행되는 위치를 바꾸지 않습니다. 자체 하드웨어에서 실행될 때의 속도만 바꿀 뿐입니다.

지켜봐야 할 미해결 질문들

주목할 네 가지가 있습니다. 공식 발표나 블로그 게시물이 릴리스에 대한 빠진 맥락을 채워줄 것입니다. inclusionAI든 다른 누구든 공개한 초당 토큰 수(tokens-per-second) 수치는 5.29 수용 수치를 실제 속도 향상으로 바꿔줄 것입니다. 라이선스가 기타(other)에서 특정 이름의 라이선스로 변경되면 프로덕션 사용에 가장 큰 걸림돌이 해소될 것입니다. 그리고 제공업체가 스펙큘레이션을 활성화한 Ling 3.0 Flash를 제공하기 시작하면 전혀 자체 호스팅하지 않는 사람들의 판단 기준이 바뀔 것입니다.

그때까지, Ling 3.0 Flash DSPark는 저장소가 설명하는 그대로입니다: Ling 3.0 Flash용 실제 다운로드 가능한 1.36B DSpark 스펙큘레이터로, 별다른 홍보 없이 출시되었으며, 강력하지만 검증되지 않은 수용 수치와 공개된 속도 향상이 없습니다. 그것은 실험을 위한 실행 가능한 기반이며 — 아직 누구도 독립적으로 측정하지 않은 구성 요소에 대한 정직한 설명입니다.

이 글에서 비교한 모델1

이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트