
Ling-3.0-flash: 앤트 그룹의 오픈 가중치 패스트 티어 MoE에 대해 현재 우리가 아는 것
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 186 tok/s
- openaiNEWOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 100만 토큰당 · 86 tok/s
- openaiNEWOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 100만 토큰당 · 151 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 192 tok/s
- AlibabaNEWQwen: Qwen4 Max2026-11-16$1.50 / $4.50 100만 토큰당 · 86 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 705 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 100만 토큰당 · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 101 tok/s
Ling-3.0-flash — Ant Group의 InclusionAI 고속 티어 MoE로, 2026년 7월 24일 발표되었고 8월 7일 MIT 라이선스로 오픈소스화된 — 이제 구체적인 단일 디바이스 배포 경로를 갖추게 되었다. 10월 27일 NVIDIA는 이 모델의 FP4 빌드가 DGX Spark 한 대에서 초당 53.89토큰으로 디코딩하며, 이는 37.81 tok/s에서 42.5% 증가한 수치이고, 1,319개 GSM8K 질문 전체에서 정확도는 통계적으로 변화가 없음을 보여주는 기술 레시피를 공개했다. 이는 NVIDIA가 자사 하드웨어에서 직접 측정한 값이며 독립적인 제3자 실행이 아니고, 배치 크기 1에 해당한다. 이 수치는 아래의 호스팅 API 수치를 대체하지 않는다. 하지만 이 수치는 모델의 이전에는 모호했던 '단일 DGX Spark 배포 경로'를 기준선, 프로토콜, 문서화된 실패 모드를 갖춘 공개 구성으로 바꾸어 놓는다.
모델 자체는 바뀌지 않았습니다. 총 파라미터 124B, 토큰당 활성 파라미터 5.1B를 갖춘 네이티브 하이브리드 추론 전문가 혼합(MoE) 모델이며, Ling 제품군의 빠르고 저렴한 계층으로 구축되었습니다. MIT 라이선스 가중치는 8월 7일부터 Hugging Face와 ModelScope에 있었습니다. 이 글의 8월 버전 이후 바뀐 것은 주변 기록입니다. 이 글이 8월에 인용한 Artificial Analysis의 평가는 Ling-3.0-flash의 Intelligence Index 점수를 38로 매겼고, 지능 대 총 파라미터 기준 오픈 가중치 파레토 프런티어에 올렸습니다. AA의 실시간 페이지는 이제 이 모델을 Ling-3.1-flash로 대체되었다고 표시하고, 독자들을 그쪽으로 안내하며, 더 이상 현재 Intelligence Index를 표시하지 않습니다. 38은 여전히 이 체크포인트가 받은 마지막 독립 점수이며, 실시간 수치는 아닙니다.
이번 개정은 10월 DGX Spark 측정을 반영하고, 8월 글에서 달라진 부분들—AA의 현재 속도 수치와 지원 중단 상태—을 바로잡으면서 출처 표기는 그대로 유지합니다. Ant Group이나 NVIDIA가 특정 수치의 유일한 출처인 경우에는 문장에서 그 점을 밝힙니다.
TL;DR. Ling-3.0-flash는 Ant Group의 고속 등급 오픈 웨이트 MoE로, 총 124B / 활성 5.1B, MIT 라이선스, 256K 네이티브 컨텍스트(서빙 시 262K)입니다. 이제 최신 Ling 모델은 아니며 — AA는 Ling-3.1-flash를 선호한다며 이를 지원 중단(deprecated)으로 표시 — 하지만 여전히 사용 가능하고 문서화되어 있으며, 이제 측정된 단일 디바이스 레시피도 갖추고 있습니다. NVIDIA의 10월 27일 DGX Spark 구성은 GSM8K에서 배치 크기 1로 53.89 tok/s를 기록하며, 자체 기준선 대비 +42.5%로, 벤더 보고 기준입니다. 호스팅 API에서 AA는 현재 243 출력 tok/s와 2.79초의 첫 토큰까지 시간(TTFT)을 표기하고 있습니다. 여전히 벤더 제공 정보에만 의존합니다: Ant의 1,100+ tok/s 최고 처리량 주장, 100ms 미만 TTFT 수치, 모델 카드 벤치마크 표. 자사 API 가격은 100만 토큰당 입력 $0.075 / 출력 $0.22(캐시 적중 시 80% 할인)입니다; 출시 무료 티어는 8월 3일에 종료되었고, 75% 할인 Ling Studio 프로모션은 8월 31일에 종료되었습니다.
주요 시사점
• 플래그십이 아닌 빠르고 저렴한 등급입니다. 이전 세대의 1T 매개변수 플래그십은 여전히 InclusionAI의 가장 큰 모델이며, Ling-3.0-flash는 대량 텍스트와 도구 호출을 겨냥한 더 작고 더 빠른 동급 모델입니다.
• 가중치는 여전히 MIT 라이선스로 공개되어 있습니다. 8월 7일 Hugging Face(inclusionAI/Ling-3.0-flash)와 ModelScope에 공개되었으며, NVIDIA가 DGX Spark용으로 문서화한 MXFP4 빌드는 BF16 및 FP8 체크포인트와 함께 제공됩니다.
• 이제 그 독립 지표 점수는 과거의 것이 되었다. 이 글이 8월에 인용했던 AA 측정에서 이 모델은 38점을 기록했으며, 이는 Ling-2.6-flash보다 24점 높은 수치로, 모델을 오픈 웨이트 파레토 프론티어에 올려놓았다. 그러나 AA의 현재 라이브 페이지에서는 이 모델이 Ling-3.1-flash로 대체되어 지원 중단된 것으로 표시되며, 현재의 Intelligence Index 수치는 나타나지 않는다.
• 속도에는 세 가지 기준점이 있으며, 이들은 서로 바꿔 쓸 수 없습니다. AA는 현재 호스팅 API에서 243 output tok/s를 표시하고, NVIDIA는 배치 크기 1에서 DGX Spark 한 대로 53.89 tok/s를 측정하며, Ant는 지정된 클러스터 하드웨어에서 1,100+ tok/s를 여전히 주장합니다.
• 가격이 확정되었고 프로모션은 종료되었습니다. 100만 토큰당 입력 $0.075 / 출력 $0.22이며 캐시 적중 시 80% 할인이 적용됩니다. 출시 무료 티어는 8월 3일에 종료되었고, Ling Studio 75% 할인 기간은 8월 31일에 종료되었습니다.
• 이것은 3개 모델 패밀리의 한 구성원입니다. InclusionAI는 라인업을 Ling(범용 텍스트 및 도구 MoE, 이 모델), Ring(추론), Ming(멀티모달)으로 나눕니다.
이 업데이트를 읽는 방법에 관한 메모: 이 글은 7월 24일 미리보기와 그 이전의 8월 8일 수정본을 개정한 것입니다. 10월 27일 DGX Spark 결과가 새로운 내용이며, AA 수정은 더 이상 존재하지 않는 실시간 점수를 이 글에서 인용하지 않도록 하기 위한 정리 작업입니다. 아래의 모든 사양, 벤치마크, 가격은 출처가 표시되어 있습니다.
우리가 실제로 알고 있는 것
Ling-3.0-flash의 아키텍처는 모델 카드에 완전히 문서화되어 있습니다. Ling-3.0-flash는 네이티브 하이브리드-선형 어텐션 스택을 사용합니다 — Kimi Delta Attention(KDA)과 Gated MLA 레이어가 5:1 비율로 교대하며(35개 KDA + 7개 MLA, 총 42개 레이어), KDA의 세밀한 대각 게이팅을 적용합니다 — 그 위에 1/64 희소 MoE(512개의 라우팅 전문가, 토큰당 8개 활성화, 그리고 하나의 공유 전문가)를 얹습니다. 이것이 총 124B 파라미터에 활성 파라미터 5.1B만으로 도달하는 방식입니다. 컨텍스트 창은 네이티브로 256K이며, 추론 레시피에서는 262,144 토큰으로 제공되고, Ant는 이 아키텍처가 1M까지 확장된다고 주장합니다. 최대 출력 길이는 공개되지 않았습니다. 이 모델은 도구 호출을 지원하는 텍스트 전용이며, 멀티모달 입력은 별도의 Ming 라인에 있습니다.
연구소에서는 두 가지 가중치 형식을 공개합니다 — BF16(약 255GB)과 FP8(약 128GB) — 그리고 커뮤니티 양자화 변형은 모델 카드에서 링크됩니다. DGX Spark 레시피는 세 번째 형식을 사용합니다: 기기의 121GB 통합 메모리에 맞는 MXFP4 빌드입니다. 연구소 자체 배포 레시피는 SGLang과 vLLM을 대상으로 하며, NVIDIA의 Spark 경로는 Humming MoE 백엔드가 추가된 InclusionAI의 SGLang 빌드를 사용합니다.
가용성: MIT 라이선스 하의 오픈 가중치
8월 7일, Ant Group의 InclusionAI 팀은 MIT 라이선스로 가중치를 Hugging Face(inclusionAI/Ling-3.0-flash)와 ModelScope에서 오픈소스로 공개했습니다. 이는 허용적이고 상업적으로 사용 가능한 라이선스이며 — Ling 2.0과 Ling 2.6이 배포된 때와 동일한 라이선스입니다 — 즉 API를 통해 빌려 쓰는 대신 Ling-3.0-flash를 직접 셀프 호스팅하고, 파인튜닝하고, 배포할 수 있다는 뜻입니다. 이 모델은 Ant 자체 개발자 API와 여러 타사 플랫폼을 통해서도 호출할 수 있습니다. 이 가격대의 고속 등급 모델이라면, 이제 관심사는 셀프 호스팅이 가능한지가 아니라 121GB 장치 하나로 충분한지입니다. InclusionAI의 Ling Cookbook에는 이제 Ant Group과 NVIDIA의 공동 기여로 명시된 DGX Spark 노트북이 포함되어 있으며, 여기서 사용하는 MXFP4 체크포인트는 다른 형식들과 함께 공개되어 있습니다. 아래 섹션은 그 질문에 대한 첫 번째 실측 답변입니다.

독립 점수: 8월의 결과, 이제 역사가 되다
7월 게시물에서 가장 큰 단일 변화는 독립적인 수치가 등장했다는 점이었습니다. 이 게시물이 8월에 인용한 Artificial Analysis의 평가에서 Ling-3.0-flash는 Intelligence Index 38점을 받았습니다. 이는 이전 fast-tier 세대인 Ling-2.6-flash(14점)보다 24점 높고, MiMo-V2.5 및 Qwen 3.6 27B와 같은 수준이면서 해당 모델들의 매개변수 일부만 활성화한 결과입니다. AA는 또한 이 모델을 지능 대 총 매개변수 기준의 오픈 가중치 파레토 프런티어에 올렸습니다. 당시 총 매개변수가 더 적은 오픈 가중치 모델 중 더 높은 점수를 받은 모델은 없었습니다. AA에서 fast-tier 오픈 가중치 리더인 DeepSeek V4 Flash는 여전히 더 높은 점수(최대 추론 강도에서 Index 52)를 기록했습니다.
해당 기록은 이후 뒤집힌 것이 아니라 폐기되었습니다. AA의 Ling-3.0-flash 라이브 페이지에서는 이제 이 모델이 Ling-3.1-flash로 대체되어 더 이상 지원되지 않음(deprecated)으로 표시되고, 독자에게 최신 모델을 안내하며, 현재 Intelligence Index는 표시하지 않습니다. 38은 이 체크포인트가 받은 마지막 독립 점수로 남아 있습니다. 이는 실시간 순위가 아니라 특정 시점의 결과로 읽어야 합니다. 오늘 Ling 모델을 선택한다면 비교 대상은 AA가 현재 다루는 Ling-3.1-flash입니다.
해당 평가의 에이전틱 및 롱컨텍스트 결과도 방향성 측면에서 강력했습니다. AA의 τ3-Bench Banking 스위트에서 Ling-3.0-flash는 27%를 기록하며 플래시 등급 오픈 웨이트 모델 중 DeepSeek V4 Flash(39%)에 이어 2위를 차지했습니다. GDPval-AA v2에서는 Elo 1108에 도달해 Ling-2.6-flash의 545에서 상승했습니다. Ant는 10,000개 이상의 대화형 환경에서 모델을 훈련했다고 밝혔으며(공급업체 보고 기준), 빠르고 저렴하며 필요 시 버릴 수 있는 에이전트 워크플로의 실행 노드로 내세우고, 무거운 추론은 더 큰 플래그십 모델에 맡깁니다.
출처에 관한 한 가지 주의사항: Ant의 모델 카드에 있는 벤치마크 표 — SWE-Bench Pro 56.6, SWE-bench Multilingual 72.4, MathArena AIME 2026 93.2, HLE 22.7 — 는 벤더가 보고한 수치이며 독립적으로 재현된 바 없습니다. 이는 아래의 최고 속도 수치와 같은 범주에 속하는 연구소 자체의 주장으로 보십시오.
속도: 세 가지 숫자, 세 가지 서로 다른 설정
속도 이야기에는 이제 세 개의 숫자가 있으며, 가장 먼저 해야 할 일은 이들을 같은 측정값으로 취급하는 것을 멈추는 것입니다.
호스팅 API에서 Artificial Analysis는 현재 초당 출력 토큰 243개와 첫 토큰까지 걸리는 시간 2.79초를 제시합니다. 이는 이 글이 8월에 보고한 368 tok/s 및 1.98초보다 낮습니다. AA의 공급업체 패널과 실행은 바뀌며, 오늘 인용해야 하는 것은 라이브 페이지입니다. 이 모델은 여전히 속도 등급에서 최상위권에 가깝습니다.
단일 DGX Spark에서 NVIDIA는 GSM8K에서 배치 크기 1 기준 초당 53.89개의 디코드 토큰을 보고하며, 이는 자체 기준 대비 42.5% 향상된 수치입니다. 이는 로컬 단일 사용자 수치로, API 처리량 수치와 비교할 수 없고 동시성 결과도 아닙니다. 다음 섹션에서 이를 자세히 살펴봅니다.
지정된 클러스터 하드웨어에서 Ant는 SGLang HiCache 및 Mooncake 기반의 계층형 캐싱 레이어를 통해 평균 출력 속도 1,100 토큰/초 이상과 첫 토큰까지 100ms 미만을 주장합니다. 이는 여전히 벤더 단독 측정치입니다 — Ant가 통제하는 하드웨어와 배치 설정에서 측정되었으며, 독립적인 재실행 결과는 공개되지 않았습니다. 계획 수립 시 호스팅 작업에는 AA 수치를, 단일 Spark에는 NVIDIA 수치를 사용하고, 1,100+ tok/s는 자체 워크로드에서 검증해야 할 상한으로 간주하십시오.
DGX Spark 한 대: 42.5%가 실제로 측정하는 것
10월 27일 NVIDIA의 기술 블로그는 121GB 통합 메모리를 갖춘 GB10 데스크톱 시스템인 DGX Spark 한 대에서 Ling-3.0-flash-fp4를 서빙하는 레시피를 게시했으며, InclusionAI의 Ling Cookbook에는 그에 해당하는 노트북이 실려 있고 이는 Ant Group과 NVIDIA에 공동으로 기여된 것으로 표기되어 있습니다. Ant Group 자체의 설명에서는 이 작업을 NVIDIA와의 기술 협업이라고 밝혔습니다. 이는 데모가 아니라 신중한 벤치마크입니다. GSM8K 질문 1,319개 전체, 5-shot 사고 연쇄(chain-of-thought), 배치 크기 1, temperature 0.6, top-p 0.95, top-k 29, 그리고 32,768토큰 상한이 적용되었습니다.
베이스라인은 FlashInfer의 MXFP4 MoE 커널, CUTLASS dense GEMM, 32비트 LM head로 구동되는 W4A8 빌드입니다. 이 베이스라인에서 디코드는 37.81 tok/s로 동작합니다. 세 가지 변경을 중첩 적용하면 53.89 tok/s로 동작하며, 이것이 헤드라인의 42.5%입니다. 출력 토큰당 평균 시간은 26.45ms에서 18.56ms로(−29.8%), 평균 엔드투엔드 지연 시간은 15.21초에서 11.49초로(−24.5%), P50은 8.36초에서 6.11초로, P95는 50.20초에서 38.60초로 감소합니다. GSM8K 정확도는 96.89%에서 96.82%로 변하며, NVIDIA는 이 0.08포인트 차이를 통계적으로 감지할 수 없다고 설명합니다. 평균 첫 토큰까지의 시간은 사실상 평탄하게 0.207초에서 0.214초입니다. 이는 프리필 이득이 아니라 디코드 이득입니다.
세 가지 변경 사항은 각기 다른 비용을 겨냥합니다:
• Humming MXFP4 MoE 커널은 FlashInfer 백엔드를 대체합니다. Humming은 모델의 정확한 형태(좁은 768 너비의 MoE 중간 크기 포함)에 맞춰 NVRTC로 런타임에 커널을 컴파일하고 이를 ~/.humming/cache에 캐시합니다. NVIDIA의 합성 테스트에서 이것만으로 처리량이 9.3% 증가합니다.
LM head의 온라인 FP8 양자화. head는 체크포인트에서 BF16으로 유지되며, 157,184 × 2,560 GEMM은 매 토큰마다 전체 가중치 블록을 읽습니다. 로드 시 FP8로 양자화하면 해당 읽기가 절반으로 줄어듭니다. SGLANG_ENABLE_FP8_LM_HEAD=1로 활성화되며, 이는 베이스라인의 --enable-fp32-lm-head와 충돌하고, Humming 단독 대비 11.4%를 추가합니다.
• NEXTN 다중 토큰 예측. 모델에 내장된 NEXTN 레이어는 3개의 토큰을 드래프트하고 4개의 토큰 윈도우를 검증합니다. GSM8K에서 라운드당 평균 수용된 드래프트 길이는 2.68토큰입니다.
같은 게시물에는 더 큰, 더 눈에 띄는 수치도 있습니다: 배치 크기 1에서의 합성 32K 입력 / 2K 출력 워크로드가 36.09에서 102.88 tok/s로 상승해 +185.1%를 기록했습니다. NVIDIA 자체도 이를 일반화하지 말라고 경고합니다. 해당 실행은 그리디 디코딩, 고정 2K 출력, 반복적인 텍스트를 사용했으며, 수용 길이는 라운드당 3.90 토큰에 도달한 반면 GSM8K에서는 2.68이었습니다. 계획을 세울 때 기준으로 삼아야 할 수치는 42.5%라는 GSM8K 수치입니다. 185.1%는 최상의 경우를 가정한 합성 상한입니다.
운영상의 함정이 속도 향상보다 더 중요하다. FP8 LM-head 양자화와 MTP는 드래프트 모델이 단순히 가중치 텐서만 공유하는 것이 아니라 타깃 모델의 전체 LM-head 모듈을 공유할 때만 함께 동작한다. 해당 인터페이스가 없으면 프레임워크는 조용히 폴백하고, FP8 가중치를 BF16으로 읽으며, 수용률을 1.00으로 떨어뜨리고, 결국 최적화되지 않은 베이스라인보다 느려질 수 있다. NVIDIA의 권고는 이후 타이밍에서 추론하는 대신 시작 시점에 모든 최적화가 활성화되었는지 검증하라는 것이다.
독자에게 달라지는 점: single-Spark 경로는 이제 벤더의 슬라이드가 아니다. 기준선, 측정 프로토콜, 명시된 실패 모드를 갖춘 공개된 레시피이며 — 독자가 자신의 기기에서 재현하거나 기각할 수 있을 만큼 충분하다. 달라지지 않는 점: 여전히 NVIDIA 자체 측정이며, 단일 기기, 배치 크기 1, 디코드에 대한 것이다. 동시 서빙, 장문맥 처리량, 호스티드 API에 대해서는 아무것도 말하지 않는다. 그리고 FP4 빌드에 특정된 내용이다. BF16 및 FP8 체크포인트는 메모리와 대역폭 프로파일이 다르다.
가격은 저렴하고, 프로모션은 끝났습니다.
Artificial Analysis는 퍼스트파티 API를 100만 입력 토큰당 $0.075, 100만 출력 토큰당 $0.22로 표시하며, 캐시 적중 시에는 $0.015(−80%)입니다. 모두 벤더가 책정한 가격입니다. 출시 당시의 무료 등급(하루 50만 무료 토큰, 무료 API 액세스)은 8월 3일에 종료되었습니다. Ling Studio의 한시적 75% 할인 기간은 2026년 8월 31일까지 이어졌으며, 9월 1일부터는 정가가 적용되어 왔습니다. 정가를 기준으로 하더라도 $0.075/$0.22는 해당 평가에서 Index 38을 기록한 모델로서 Ling-3.0-flash를 확실히 저가 등급에 올려놓습니다.
가격이 이렇게 낮을 때는 토큰당 가격보다 전환 비용이 더 중요합니다. OrcaRouter의 역할은 그 비교에서 호스팅 쪽이 왜곡되지 않게 유지하는 것입니다. 200개 이상의 모델을 위한 단일 API, 공급자 정가를 0% 마크업으로 그대로 전달, 그리고 공급자 간 자동 장애 조치를 제공합니다. 로컬 DGX Spark 배포는 벤더의 프레젠테이션 자료가 아니라 실제 현재 시장 가격을 이겨야 합니다. 그리고 호스팅 공급자가 가격을 변경하면, 패스스루를 통해 같은 날 동일한 키에 표시됩니다.
링 / 링 / 밍 가문
Ling-3.0-flash는 홀로 존재하지 않습니다. InclusionAI는 출시 모델을 세 개의 이름 붙은 제품군으로 묶어 운영하며, 각 제품군은 서로 다른 작업을 겨냥합니다. Ling은 일상적인 텍스트 생성과 도구 호출을 위한 범용 MoE 라인이며, Ling-3.0-flash는 그중 빠르고 저렴한 끝단에 위치합니다. 즉, 이전 세대의 1T 파라미터 플래그십보다 한 단계 아래입니다. Ring은 다단계 사고 연쇄를 위해 구축된 추론 중심 라인입니다. Ming은 멀티모달 라인입니다. 작업에 더 무거운 추론이나 이미지 입력이 필요하다면, 맞는 InclusionAI 모델은 아마 Ling-3.0-flash가 아닐 것입니다. Ling-3.0-flash는 텍스트와 도구 영역 안에서 대량 처리와 속도를 위해 만들어졌습니다.
대상 사용자: 네 가지 시나리오
1. 대용량, 지연 시간에 민감한 텍스트 또는 도구 호출 파이프라인
이건 이 모델의 안방이다. MIT 라이선스, 공개된 single-Spark 레시피, 그리고 날짜가 명시된 독립 Index 38 덕분에, 고속 티어에 대한 선택은 가설이 아니라 검증 가능한 것이다 — 자체 평가 세트를 직접 돌려보거나, 가중치를 받아 셀프 호스팅하라. 다만 벤더가 내세우는 1,100+ tok/s 상한을 당신의 워크로드에서 직접 측정하기 전까지는 그것을 전제로 구축하지는 마라.
2. 예산이 제한적이지만 긴 컨텍스트가 필요한 팀
256K 네이티브 컨텍스트(262K 제공)와 1M까지의 명시된 확장 경로, $0.075/$0.22의 가격은 검색 집약적 또는 문서 처리 작업에 매력적인 조합입니다. 모델 카드의 장문맥 수치는 공급업체가 보고한 값이므로, 기존 장문맥 옵션들과 함께 후보로 비교해 보고 도입 전에 자체 코퍼스에서 검증하세요.
3. 중국 MoE 환경과 InclusionAI 로드맵을 추적하는 관찰자들
7월의 질문, 즉 InclusionAI가 계속 오픈 상태로 남을 것인가라는 질문에는 이제 답이 있습니다: 그렇습니다, MIT이며, 속도도 빠릅니다. 5.1B 활성 파라미터로 AA Pareto frontier에 오른 Ling-3.0-flash는 하나의 데이터 포인트였습니다. 10월의 DGX Spark 레시피는 두 번째입니다: 124B 모델이 배치 크기 1에서 데스크톱 한 대로 53.89 tok/s로 디코딩하며, 레시피도 공개되었습니다.
4. 책상 위에 DGX Spark 한 대를 갖춘 팀
이미 박스를 보유하고 있다면, NVIDIA의 레시피는 가장 먼저 참고할 만한 구성입니다: MXFP4 빌드, InclusionAI의 SGLang 포크, Humming MoE 커널, FP8 LM 헤드, 그리고 NEXTN MTP. 이를 배치 크기 1에서 측정한 단일 벤더의 결과값으로 취급하고, 시작 시 FP8과 MTP 구성 요소가 실제로 활성화되어 있는지 확인하세요 — 조용히 폴백되는 실패 모드는 실제로 존재합니다. Spark를 보유하고 있지 않다면, 이 레시피는 121GB 통합 메모리가 무엇을 제공하는지 보여주는 하나의 데이터 포인트일 뿐, 구매 이유가 되지는 않습니다.
아직 검증되지 않은 것이 무엇인가요?
큰 격차가 메워진 지금, 짧게 정리한 목록입니다. Ant의 최고 속도 주장(1,100+ tok/s, 100ms 미만 TTFT)은 여전히 독립적인 재측정이 없습니다. 모델 카드의 벤치마크 표는 여전히 벤더가 보고한 값입니다. FP4/INT4 빌드와 single-DGX-Spark 경로는 더 이상 모호하지 않습니다 — NVIDIA가 구성을 공개했고 InclusionAI가 노트북을 제공합니다 — 하지만 53.89 tok/s와 96.82% 수치는 한 장치에서 배치 크기 1로 수행한 NVIDIA 자체 측정치이며, 제3자 재현 결과가 아닙니다. 독립 점수는 과거의 것입니다: 이 글이 8월에 인용한 평가에서는 38점을 주었고, 현재 라이브 페이지에서는 이 모델을 Ling-3.1-flash로 대체한다며 지원 중단(deprecated)으로 표시합니다. 그리고 지식 측면에서, 해당 평가의 Omniscience Index는 이전 세대 대비 개선이 주로 답변 유보를 통해 이루어졌음을 보여주었습니다 — 환각은 감소했고(97% → 44%), 정확도는 약간만 상승했습니다(16% → 18%) — 따라서 헤드라인 Index 상승을 전반적인 지식 도약으로 오해하지 마세요.
사용하지 말아야 할 때
멀티모달 작업에는 Ling-3.0-flash를 건너뛰세요 — 그쪽은 Ming 계열입니다. 빠른 실행기보다 무거운 추론 플래그십이 필요하다면 이것도 건너뛰세요 — 그 영역은 Ring의 몫입니다. 셀프 호스팅을 계획한다면 실제 하드웨어 예산을 잡으세요: BF16은 대략 255GB, FP8은 대략 128GB이며, 121GB DGX Spark에 맞는 것은 MXFP4 빌드입니다. 기존 배포를 유지하는 대신 Ling 모델을 새로 선택하는 경우라면 먼저 Ling-3.1-flash와 비교하세요; AA는 적용 범위를 그쪽으로 옮겼습니다. 그리고 어떤 주장이 중요하다면 직접 검증하세요 — 최고 속도와 긴 컨텍스트 수치는 독립 연구소가 다시 측정할 때까지 Ant의 것입니다.
자주 묻는 질문
Ling-3.0-flash는 오픈 웨이트인가요?
네. 가중치는 8월 7일 MIT 라이선스로 Hugging Face(inclusionAI/Ling-3.0-flash)와 ModelScope에 오픈소스로 공개되었습니다. 이는 허용적이고 상업적으로 사용 가능한 라이선스로, Ling 2.0과 Ling 2.6이 배포될 때와 동일한 라이선스입니다.
Ling-3.0-flash는 벤치마크에서 어떤 성능을 보여주나요?
이 게시물이 8월에 인용한 Artificial Analysis의 평가에서 이 모델은 Intelligence Index에서 38점을 받았으며, 이는 Ling-2.6-flash보다 24점 높은 수치이고, 지능 대 전체 파라미터 기준의 오픈 가중치 파레토 프론티어에 올랐습니다. AA의 라이브 페이지는 이제 이 모델을 Ling-3.1-flash로 대체되었다며 deprecated로 표시하고 현재 Intelligence Index를 보여주지 않으므로, 38은 과거 결과입니다. Ant의 모델 카드에 있는 벤치마크 표(예: SWE-Bench Pro 56.6)는 벤더가 보고한 것이며 독립적으로 재현되지 않았습니다.
정말 얼마나 빠르죠?
세 가지 서로 다른 설정에 대해 서로 다른 세 가지 수치가 있습니다. AA는 현재 호스팅 API에서 초당 출력 토큰 243개와 첫 토큰까지 걸리는 시간 2.79초를 제시합니다. NVIDIA는 DGX Spark 한 대에서 배치 크기 1 기준 53.89 decode tok/s를 보고합니다. Ant는 명시된 클러스터 하드웨어에서 1,100+ tok/s와 100ms 미만의 TTFT를 주장합니다. AA 수치만 독립적이며, 나머지 두 수치는 서로 다른 하드웨어에서 벤더가 측정한 값입니다.
Ling-3.0-flash의 가격은 얼마인가요?
AA는 자사 API 가격을 100만 입력 토큰당 $0.075, 100만 출력 토큰당 $0.22로 명시하며, 캐시 적중 시 80% 할인을 제공합니다. 출시 기념 무료 티어는 8월 3일에 종료되었고, Ling Studio의 한시적 75% 할인 기간은 2026년 8월 31일에 종료되었습니다.
Ling, Ring, Ming의 차이점은 무엇인가요?
Ling은 InclusionAI의 범용 텍스트 및 도구 호출 MoE 계열이며, Ling-3.0-flash는 그중 빠르고 저렴한 쪽에 위치합니다. Ring은 추론 중심 계열입니다. Ming은 멀티모달 작업을 처리합니다. 이들은 한 모델의 계층이 아니라 서로 다른 작업을 위한 별개의 계열입니다.
Ling-3.0-flash가 단일 DGX Spark에서 실행될 수 있나요?
예. NVIDIA는 10월 27일 단일 DGX Spark(121GB 통합 메모리)에서 MXFP4 빌드를 위한 레시피를 공개했으며, Humming MXFP4 커널, FP8 LM 헤드, NEXTN 멀티토큰 예측을 사용합니다. 이 레시피는 배치 크기 1에서 1,319개의 GSM8K 질문 전반에 걸쳐 디코드 53.89 tok/s, 42.5% 향상, 96.82% 정확도를 보고합니다. 이 결과는 NVIDIA 자체 결과로 독립적으로 재현되지 않았으며 배치 크기 1에서만 유효합니다. FP8을 MTP와 결합하려면 드래프트가 전체 LM 헤드를 공유해야 하며, 그렇지 않으면 처리량이 최적화되지 않은 기준선 아래로 떨어질 수 있습니다.
오늘 프로덕션에서 Ling-3.0-flash를 사용해야 할까요?
이 모델은 성숙한 오픈웨이트 모델이지만, 이제 Ling 중 최신 모델은 아닙니다. AA는 Ling-3.1-flash를 선호한다며 이 모델을 deprecated로 표시합니다. 이미 Ling-3.0-flash를 운영 중이라면, DGX Spark 레시피는 재현해 볼 만한 구체적인 최적화입니다. 새로 선택하는 경우라면 Ling-3.1-flash와 비교하고 자체 평가 세트를 실행해 보세요. MIT 라이선스와 $0.075/$0.22 가격은 여전히 이 모델을 신뢰할 만한 저가 티어로 만들어 줍니다.
결론은
Ling-3.0-flash는 이제 최신 Ling이 아니며, AA의 라이브 페이지도 그렇게 표시합니다. 대부분의 오픈 가중치 모델이 좀처럼 갖지 못하는 이 모델의 자산은 측정된 단일 장치 구성입니다. DGX Spark 1대, 배치 크기 1에서 디코드 53.89 tok/s, GSM8K에서 96.82%이며, 기준선과 프로토콜, 실패 모드가 함께 공개되어 있습니다. 42.5%는 독립적인 판정이 아니라 NVIDIA 자체 결과로 해석하고, 8월 지수 38은 과거 기록으로 해석하세요. 그러한 한계 안에서 이 모델은 여전히 신뢰할 만한 로컬 고속 티어 옵션입니다. 새로 시작한다면 가장 먼저 비교할 대상은 Ling-3.1-flash입니다.
