Ling-3.1-flash-1019 vs Ling-3.1-flash: 같은 크기, 같은 가격, 더 커진 토큰 청구서

토큰 단위로 임대한다면, Ling-3.1-flash-1019는 다음을 대체하는 무료 업그레이드입니다: Ling-3.1-flash. 두 모델 모두 입력 토큰 100만 개당 $0.30, 출력 토큰 100만 개당 $0.90의 목록 가격을 가지며, 둘 다 MIT 라이선스를 적용받고, 둘 다 25B가 활성화된 560B 매개변수 전문가 혼합(MoE) 모델이며, 둘 다 디스크에서 573.8 GB를 차지합니다. 완료된 작업당 지불한다면, 업그레이드는 47% 더 비싼 쪽에 가깝습니다: Artificial Analysis는 1019 빌드의 Intelligence Index 작업당 비용을 $1.49로, 이전 모델은 $1.01로 측정했는데, 이는 최신 모델이 답에 도달하기 위해 출력 토큰을 약 59% 더 생성하기 때문입니다. 두 모델 간의 3포인트 지수 상승 — 44 대 41 — 은 실제입니다. 이 페이지가 답하는 질문은 누가 그 비용을 지불해야 하는가입니다.

날짜는 나머지 내용을 읽는 데 중요하다. Ling-3.1-flash는 10월 중순 MIT 라이선스로 공개되었으며, 저장소는 10월 13일에 생성되었고 Ant의 발표는 10월 15일에 이어졌다. 1019 빌드는 10월 22일에 점수와 함께 발표되었지만 다운로드는 없었고, 그 가중치와 베이스 체크포인트는 10월 27일에 공개되었다. 따라서 이것은 세대 격차가 아니다. 동일한 아키텍처에 적용된 하나의 포스트트레이닝 실행이며, 이를 설명하는 숫자보다 닷새 뒤에 출시된 것이다.

두 체크포인트의 공통점

겹치는 범위가 충분히 커서 마이그레이션 비용이 사실상 0이며, 이것이 더 새로운 빌드를 선택하는 주된 근거입니다:

아키텍처 — 72개 레이어로, 7:1 비율로 63개의 KDA 선형 어텐션 레이어와 9개의 게이티드 MLA 레이어로 나뉘며, 여기에 4개의 덴스 레이어가 더해집니다.

전문가 — 512개 라우팅, 토큰당 8개 활성화, 1개 공유; 은닉 크기 4,096; 어휘 157,184.

• 디스크상 가중치 — 두 모델 모두 54개 샤드에 걸쳐 573.8GB의 FP8 safetensors이며, 두 저장소의 파일 목록을 기준으로 저희가 집계한 수치입니다.

• 라이선스 — 둘 다 MIT이며, 상업적 재배포를 포함합니다.

• 가격 — 입력 $0.30, 출력 $0.90, 캐시 읽기 $0.06, 캐시 적중/입력/출력 7:2:1 혼합 기준 통합 $0.19.

• 선언된 컨텍스트 — 두 모델 카드 모두에서 1M 토큰 윈도우; 두 config.json 파일 모두에서 262,144 포지션이며 RoPE 스케일링은 없음.

마지막 문장은 두 모델을 비교하기 전에 가장 먼저 체득해야 할 점이다. 표면상으로는 두 모델 모두 100만 토큰을 제공한다. 실제 출하 구성에서는 Ant가 포함하지 않은 스케일링 방식을 추가하지 않는 한 둘 다 최대 256K에서 멈춘다. 이 제한은 양쪽이 동일하므로 승부를 가르지는 않는다. 하지만 어느 빌드도 광고 카드에 적힌 100만 토큰 모델이 아니라는 뜻이며, 1M 토큰 워크로드를 계획하는 사람은 거기에 도달하려면 둘 다 추가 작업이 필요한 두 모델 중에서 선택하는 셈이다.

세 가지 점은 어디에서 비롯되는가

Artificial Analysis는 대표 격차 자체를 측정합니다. Intelligence Index v4.3.2에서 Ling-3.1-flash는 41, Ling-3.1-flash-1019는 44이며, 이전 모델은 122개 중 8위, 최신 모델은 4위입니다. 이는 두 엔드포인트 모두에 대한 독립적인 측정이므로, 3점 차이는 이 비교에서 가장 신뢰할 수 있는 수치입니다.

벤치마크별 세부 내역은 벤더가 보고한 것이므로 그렇게 읽어야 합니다 — 이는 공개 하네스가 아니라 Ant의 모델 카드에서 나온 것입니다:

• AA-Briefcase — 대략 1,400 Elo에서 1,524 Elo로. 이는 지식 노동 결과물 벤치마크이며, 124포인트 상승은 이 세트에서 가장 큰 상대적 향상입니다.

• AutomationBench-AA — 62%에서 68%로, 에이전트 작업 자동화에서 6포인트 향상.

• CritPt — 18%에서 26%로, 비율상 가장 큰 상승: 모두의 절대 점수가 낮은 물리 추론 세트에서 8점 상승.

• SciCode — 54%에서 57%로, 네 가지 중 가장 작은 변화이자 가장 신중하게 비중을 둬야 하는 항목입니다. Artificial Analysis는 이 모델에 대해 SciCode를 검토 중으로 표시하고 있습니다.

함께 읽어 보면, 이 패턴은 Ant가 자신이 했다고 말하는 것과 일치합니다. 즉 새로운 능력 영역이 아니라 추론과 다단계 에이전트 작업에 대한 더 많은 사후 학습입니다. 이득은 의사 결정의 연쇄가 길고 부분적으로 맞는 답이 부분 점수를 받는 곳에 집중됩니다. 이는 순수한 과학 코드 생성에서 가장 희박하며, 바로 그곳이 아키텍처 변경보다 사후 학습 갱신이 가장 적게 움직일 것으로 예상할 수 있는 지점입니다.

청구서: 59% 더 많은 생각

이 지점에서 두 모델은 더 이상 서로 대체할 수 없게 된다. Artificial Analysis는 Ling-3.1-flash 인덱스 실행에서 2억 2,000만 개, 1019 실행에서 3억 5,000만 개의 출력 토큰을 기록했으며 — 비율은 1.59 — 최신 빌드를 말이 많은 정도(verbosity)에서 48개 모델 중 최하위로 평가했고, 중앙값은 1억 4,000만 개였다. 인덱스를 완료하는 데 드는 작업당 비용은 $1.01에서 $1.49로 상승했다.

이를 워크로드 규모로 확장해 보세요. 10,000개의 인덱스 형태 작업에서 작업당 수치는 이전 체크포인트에서 약 $10,100, 최신 체크포인트에서 $14,900을 시사합니다. 토큰 측면도 같은 방식으로 확장됩니다. Ling-3.1-flash에서 출력 토큰 22억 개를 소비하는 워크로드는 측정된 비율로 보면 1019 빌드에서 약 35억 개를 소비하게 되며, 백만 개당 $0.90 기준으로 $1,980 대 $3,150입니다. 작업당 격차의 나머지는 입력 및 캐시 가격에서 비롯되지만, 방향은 토큰 수가 결정합니다. 즉, 답변 하나당 대략 0.6개의 추가 답변을 내고 인덱스 포인트 3점을 사는 셈입니다.

그것이 좋은 거래인지는 당신이 대비하려는 실패 모드에 달려 있습니다. 잘못된 도구 호출이 재시도, 컨텍스트 재읽기, 또는 사람의 검토를 유발하는 에이전트 루프에서는 루프 하나를 피하는 대가로 토큰이 59% 더 드는 것이 저렴합니다. 분류, 추출, 짧은 채팅, 또는 답변이 한두 문장인 모든 대량 작업에서는 같은 비율이 순전히 오버헤드이며 — 인덱스는 이를 결코 보여주지 않을 것입니다. 왜냐하면 인덱스는 포스트트레이닝이 겨냥한 어려운 사례에 보상을 주기 때문입니다.

비용 그림의 나머지 절반은 요율 안정성입니다. OrcaRouter는 공급자 정가 대비 0% 마크업으로 200개 이상의 모델을 하나의 키로 제공, 따라서 벤더 가격 변경은 우리가 라우팅하는 모델의 경우 당일 그대로 반영됩니다. Ling 라인은 현재 해당 카탈로그에 없으므로, 위 수치는 Ant의 정가일 뿐 그 이상도 이하도 아닙니다. 바로 이런 이유로 작업당 계산이 토큰당 요율보다 더 중요합니다: 이 두 모델 간에는 요율이 동일하므로 선택에 도움이 될 수 없습니다.

속도: 숫자는 하나뿐이며, 그것은 구형 모델의 것입니다

Artificial Analysis는 Ling-3.1-flash를 초당 출력 토큰 215.7개, 첫 토큰까지 1.73초로 측정했으며, 속도 부문에서 78개 모델 중 6위로 기록했습니다. Ling-3.1-flash-1019의 경우 같은 페이지에 출력 속도 수치가 없습니다. 측정 당시에는 시간을 측정할 수 있는 공개 API가 없었고, 가중치는 오늘에야 공개되었기 때문입니다. 따라서 더 빠른 모델이라는 것은 의견의 문제가 아닙니다. 둘 중 측정치가 있는 유일한 모델이기 때문입니다.

그것을 토큰 비율과 결합하면 벤치마크가 아니라 산술이라고 분명히 표시된, 근거 있는 추정치를 얻을 수 있습니다. 두 빌드가 모두 초당 215.7토큰으로 디코딩했다면, Ling-3.1-flash에서 1,000토큰을 생성하는 응답은 디코딩에 약 4.6초가 걸리고, 1019 빌드에서의 동등한 1,590토큰 답변은 약 7.4초가 걸립니다. 첫 토큰까지의 시간은 별개의 변수이며 어느 방향으로든 달라질 수 있습니다. 요점은 더 새로운 모델이 의미 있을 만큼 더 빠르게 디코딩하지 않는 한 59%의 토큰 증가가 실제 경과 시간 기준으로 공짜일 수는 없다는 것이며, 그렇다는 증거를 공개한 사람은 아무도 없습니다.

셀프 호스팅: 동일한 풋프린트, 다른 README

자체 하드웨어에서는 선택이 더 간단합니다. 배포 대상이 바뀌지 않기 때문입니다. 두 체크포인트 모두 동일한 문서화된 구성이 필요합니다 — TP8 + EP8의 H200 8대 또는 TP4 + EP4의 GB300 4대 — 그리고 동일한 SGLang day-0 이미지가 필요하며, vLLM 레시피는 텐서 병렬 처리 8, 전문가 병렬 처리, 3개의 추측 토큰을 사용합니다. 아키텍처와 파일 크기가 동일하기 때문에 1019는 드롭인 교체입니다: 가중치 경로만 바꾸고 서빙 스택은 유지하세요. 그러면 인프라의 다른 어떤 것도 알 필요가 없습니다.

실용적인 경고 두 가지입니다. 첫째, {{1}}1019 모델 카드의 퀵스타트{{/1}}는 여전히 SGLang 명령에서 inclusionAI/Ling-3.1-flash를 가리키고, 클라이언트 예시에서 "model": "Ling-3.1-flash"를 전송합니다. 그대로 복사하면 44점짜리 모델을 테스트하고 있다고 믿으면서 41점짜리 모델을 서빙하게 됩니다. 둘째, Ant가 1019와 함께 공개한 기본 체크포인트는 Ling-3.1-flash-base입니다 — 이는 더 오래된 모델의 베이스이지, 1019의 포스트트레이닝 전후 스냅샷이 아닙니다. 업그레이드를 파인튜닝할 계획이라면, 그 업그레이드를 만들어 낸 레시피는 다운로드에 들어 있지 않습니다. MIT 라이선스의 560B 파운데이션으로 자신만의 무언가를 만들 계획이라면, 베이스가 올바른 출발점이며 이 두 체크포인트 사이의 인덱스 격차는 당신과 무관합니다.

이들을 부르는 이름: 하나의 이름, 두 가지 빌드

API 이야기는 가중치 이야기보다 더 복잡하다. 1019 빌드는 날짜가 찍힌 체크포인트인데, 대부분의 서빙 코드가 이를 전임자와 동일한 모델 문자열로 취급하는 이름 아래에 있다. Ant 자체 예시도 Ling-3.1-flash를 둘 다에 보낸다. 호스팅된 엔드포인트를 호출한다면 빌드를 명시적으로 고정하지 않으면 어느 쪽이 응답했는지 알 수 없다. Artificial Analysis는 측정 당시 1019에 대해 공개적으로 사용 가능한 API를 나열하지 않았으므로, 오늘날의 가용성은 확정되어 널리 미러링된 엔드포인트라기보다 공급업체 자체 API와 여러 타사 플랫폼을 통해 이루어진다.

그 모호함은 재현성을 중요하게 여긴다면 자체 호스팅을 해야 하는 가장 강력한 이유이고, 그렇지 않다면 기다려야 하는 가장 강력한 이유입니다. 이름이 빌드를 식별하지 못하는 모델은 사후에 감사할 수 없는 모델이며, "인덱스에서 44"는 버전 번호가 아닙니다.

직업별로는 어느 쪽이야?

• 고난도 추론과 장기적 에이전트 작업 — Ling-3.1-flash-1019를 예로 들어 보자. 성능 향상은 바로 그 지점에 집중되어 있으며, 추가 토큰은 부작용이 아니라 그 메커니즘이다.

• 대량 추출, 분류, 짧은 채팅 — Ling-3.1-flash를 유지하세요. 해당 워크로드가 활용하지 않는 기능에 대해 작업당 47% 더 지불하게 됩니다.

• 지연 시간에 민감한 제품 — 1019에 대한 독립적인 처리량 수치가 나올 때까지 Ling-3.1-flash를 유지하세요. 두 제품 중 측정된 속도가 있는 것은 이것뿐입니다.

• 미세 조정 또는 도메인 적응 — Ling-3.1-flash-base에서 시작하고 이 매치업은 무시하세요. 정렬된 체크포인트 중 어느 것도 학습 레시피를 제공하지 않습니다.

• 하나의 모델, 혼합 트래픽 — Ling-3.1-flash-1019를 기본으로 사용하고, 저렴하고 짧은 요청에는 그 뒤에서 이전 빌드를 활용합니다. 두 모델은 아키텍처와 가격, 서빙 스택을 공유하므로, 둘 사이에 트래픽을 분산해도 운영상 드는 비용이 없습니다.

이 판정을 바꿀 수 있는 것은 1019 빌드의 측정된 디코드 속도입니다. 만약 이것이 초당 215.7토큰보다 실질적으로 빠르다면 실제 소요 시간상의 페널티는 줄어들고, 토큰 비용만이 실질적인 반론이 됩니다. 같거나 더 느리다면 59%는 두 번 나타납니다. 한 번은 청구서에서, 한 번은 지연 시간에서요. 그러면 전체를 업그레이드하기보다 두 체크포인트를 모두 실행해야 한다는 주장이 더 강해집니다. 누군가 그 수치를 공개할 때까지 솔직한 요약은 이렇습니다. Ling-3.1-flash-1019는 토큰으로 품질을 사고, Ling-3.1-flash는 같은 단가로 처리량을 판다. 어느 쪽도 틀린 답이 아닙니다. 둘은 같은 아키텍처를 입은 서로 다른 제품입니다.