Kimi K3.1 Pro 가중치 공개: 디스크 1.56TB, 2,000만 달러 라이선스 조항

API 출시와 다운로드 사이의 11일 동안, 대부분의 보도는 Kimi K3.1 Pro를 5.6테라바이트의 BF16 가중치로 언급했습니다. Moonshot AI가 실제로 2026년 11월 4일 Hugging Face에 공개한 저장소는 1.56TB이며, 96개의 safetensors 샤드로 나뉘어 있습니다. 그것은 모두가 다룬 모델보다 더 작은 모델이 아니라, 동일한 Kimi K3 기반의 2.8조 파라미터 전문가 혼합(mixture-of-experts) 모델을 Moonshot이 서비스용으로 학습시킨 정밀도로 제공한 것입니다. 두 수치 사이의 격차는 이번 릴리스에서 가장 먼저 이해할 가치가 있는 부분입니다. 왜냐하면 그것이 이미 보유한 컴퓨터가 이를 담을 수 있는지를 결정하기 때문입니다.

두 번째는 라이선스인데, 이는 Apache 2.0도 MIT도 아니며, 관대해 보이는 첫 문단에도 불구하고 OSI 승인을 받지 않았습니다. 이는 Kimi K3.1-Pro License라는 맞춤형 문서이며, 특정 유형의 기업에게는 무료 다운로드를 협상으로 바꿔 놓는 매출 기준이 포함되어 있습니다. 두 사실 모두 10월 25일에는 확인할 수 없었습니다. 당시 가중치는 체크리스트가 첨부된 약속에 불과했습니다. 이제는 확인할 수 있습니다.

Hugging Face에 실제로 올라온 것은 무엇일까

저장소는 moonshotai/Kimi-K3.1-Pro이며, 게이트 제한이 없고 111개의 파일을 포함합니다. 그중 96개는 가중치 샤드이고, 나머지는 구성 파일, 토크나이저, 사용자 지정 아키텍처를 위한 Python 파일 4개, 모델 카드 및 라이선스입니다. 모든 파일의 총 크기는 1,561 GB입니다.

1.56TB에 들어가고 5.6TB에는 들어가지 않는 이유는 각주가 아니라 모델 카드에 스펙 라인으로 적혀 있습니다: MXFP4 가중치와 MXFP8 활성화를 양자화 인식 학습(quantization-aware training)을 통해 적용한 것입니다. 이것은 누군가 나중에 사후적으로 돌린 4비트 양자화가 아닙니다. 이것이 네이티브 서빙 정밀도이며, 저장소에 compressed-tensors 태그가 붙어 있고 그 옆에 BF16 체크포인트가 없는 이유입니다. 5.6TB 다운로드를 기준으로 계획하고 있었다면, 당신은 Moonshot이 실제로 출시한 적 없는 숫자를 기준으로 계획하고 있었던 것입니다.

작업 규모를 가늠하실 수 있도록, 사양서의 나머지 부분입니다:

• 총 파라미터 — 전문가 혼합(mixture-of-experts) 구조로 2.8T, 토큰당 104B 활성화

• 깊이 — 93개 레이어 중 하나는 dense이며, 어텐션 스택은 69개의 KDA 레이어와 24개의 Gated DeepSeek Sparse Attention 레이어로 구성되어 Kimi K3의 full-attention Gated MLA 레이어에서 변경된 점입니다.

• 전문가 — 총 896개, 토큰당 16개 선택 및 공유 2개, 잠재 MoE 차원 3,584

• 컨텍스트 — 1,048,576 토큰, Kimi K3와 동일

• 모달리티 — 텍스트와 이미지 입력, 텍스트 출력; 비전 인코더는 401M 파라미터의 MoonViT-V2입니다

• 어휘 — 160K 토큰

그 수치들 가운데 Kimi K3 대비 새로운 것은 단 하나뿐이며, 그것은 어텐션 변경이다. Moonshot은 이것이 새로운 아키텍처가 아니라 K3 베이스 위에서 수백 개 도메인에 걸쳐 더 강한 공동 강화학습을 적용한 사후 훈련 릴리스임을 분명히 밝힌다. Gated DSA 대체는 능력 도약이 아니라 긴 컨텍스트 효율성을 위한 것이다.

라이선스에는 세 가지 등급이 있으며, 중요한 것은 가운데 등급입니다.

Kimi K3.1-Pro 라이선스는 허용적 라이선스가 열릴 것이라고 기대하는 방식으로 열립니다. 사용, 복제, 수정, 병합, 게시, 배포, 서브라이선스 및 판매할 권한, 실행, 배포 및 파인튜닝할 권한, 그리고 2차적 저작물을 만들 권한입니다. 그런 다음 조건을 추가하는데, 결정은 바로 그 조건에 있습니다.

• 제2조, 모델-서비스 게이트 — 귀하 또는 귀하의 계열사가 제3자에게 추론 또는 파인튜닝에 대한 접근을 제공하는 사업을 운영하고, 그룹 매출이 연속 12개월 동안 $20 million을 초과하는 경우, 상업적 사용 전에 Moonshot과 별도의 계약을 체결해야 합니다. 두 가지 예외가 중요합니다: 모델이 기능이나 하네스 내부에 내장된 최종 사용자 제품은 "모델-서비스"가 아니며, 단순히 다른 사람이 호스팅하는 모델로 요청을 중계하는 것도 마찬가지입니다.

• 섹션 3, 저작자 표시 조항 — 월간 활성 사용자 수가 1억 명을 초과하거나 월간 매출이 2,000만 달러를 초과하는 상용 제품은 인터페이스에 "Kimi K3.1-Pro"를 눈에 띄게 표시해야 합니다. 이는 브랜딩 의무이며, 지급이 아닙니다.

• 섹션 4, 면제 조항 — 위의 두 가지 중 어느 것도 내부 사용에는 적용되지 않으며, 내부 사용은 소프트웨어, 그 출력물 또는 그 기반 역량을 제3자에게 이용 가능하게 하지 않는 모든 사용, 또는 Moonshot의 공식 제품 및 인증된 추론 파트너를 통한 사용으로 정의됩니다.

실무적 해석은 내부 배포는 무료이고 제한이 없으며, 자체 사용자를 위해 모델 위에 제품을 구축하는 것도 마찬가지라는 것입니다. 2천만 달러 논의를 촉발하는 것은 대규모로 원시 모델 접근권을 재판매하는 경우입니다. 이 가중치로 경쟁력 있는 추론 엔드포인트를 구축하려는 생각이었다면, 바로 그 문단을 변호사에게 가져가야 하며, 이는 구조적으로 Kimi K3가 배포된 것과 동일한 라이선스입니다. 따라서 K3에 대한 기존 법률 검토는 이름만 바꾸면 그대로 적용됩니다.

이 라이선스가 하지 않는 한 가지는 이를 OSI가 말하는 의미의 오픈 소스로 만드는 일이다. 저장소 메타데이터의 해당 필드는 license: other로 표시되어 있고, 라이선스 이름은 kimi-k3.1-pro로 설정되어 있다. 공개 직후 몇 시간 안에 이를 수정된 MIT라고 설명한 매체들은 관대한 도입부만 읽고 거기서 멈춘 것이었다.

실행에 필요한 것과 API가 앞서는 지점

이 모델에 대해 공개된 vLLM 레시피는 이용 가능한 가장 구체적인 배포 지침이며, 매우 명확합니다. 이 레시피는 vLLM 0.34.0 이상, 8개 GPU로 구성된 하나의 텐서 병렬 그룹(GB300 트레이 2개 또는 B300 노드 1개)을 기준으로 하며, --nnodes 2에 걸쳐 --tensor-parallel-size 8을 사용하도록 명시합니다. 선택적 롱컨텍스트 모드인 DCP8은 KV 캐시 용량을 약 1,850만 토큰으로 늘리는데, 이는 8개의 B300에서 FP8 KV를 사용할 때의 260만 토큰 대비 약 7배 더 많은 양입니다.

두 가지 결과가 따른다. 첫째, 8×H200 노드는 불가능하다. 1.13TB의 HBM은 캐시 토큰을 하나도 할당하기 전에 1.56TB의 가중치를 담지 못한다. 둘째, 소비자 경로는 없다. 이 모델은 워크스테이션이 가진 것보다 더 많은 VRAM을 필요로 하며, 느린 CPU 오프로드 버전을 감당할 만하게 만들어 줄 아키텍처들은 아직 사용자 정의 kimi_k31 코드를 따라잡는 중이다 — 해당 저장소는 자체 퀵스타트 스니펫에 trust_remote_code=True를 포함해 배포하는데, 이는 그 아키텍처가 아직 출시된 업스트림 라이브러리의 기본 경로에 없다는 것을 알려 준다.

경제성은 GPU 세부 비용 항목보다 출력 토큰 기준으로 파악하는 편이 더 쉽습니다. 출력 토큰 100만 개당 10달러라면, 한 노드의 추정 자본 비용 약 55만~65만 달러로는 API 정가 기준 출력 토큰 약 550억~650억 개를 사용할 수 있습니다. 자체 호스팅 노드가 이보다 유리하려면, 노후화되기 전에 그보다 더 많은 양을 처리할 만큼 충분히 계속 가동해야 합니다. 그리고 이 비교에는 전력, 운영 인력, 유휴 시간, 이중화를 위해 필요한 두 번째 노드 비용이 포함되지 않습니다. 이 글을 읽는 대부분의 팀에게 솔직한 답은 가중치가 전략적 자산이며, API가 모델을 사용하는 더 저렴한 방법이라는 것입니다.

그것이 또한 이유입니다kimi/kimi-k3.1-pro가 우리 카탈로그에서 입력 100만 토큰당 $2.00, 출력 100만 토큰당 $10.00에 제공되는 것이 계산을 중복시키는 대신 바꿔 놓습니다. 동일한 1,048,576토큰 컨텍스트와 동일한 104B 활성 파라미터를 2노드 클러스터 없이 Chat Completions, Responses API, Anthropic Messages를 통해 사용할 수 있습니다. 우리의 가격은 0% 마크업을 제공업체의 정가에 적용한 것이므로, Moonshot이 요율표를 변경하면 여기의 숫자는 다음 계약 갱신 때가 아니라 같은 날 변경됩니다. 그리고 이 모델은 200개가 넘는 다른 모델과 함께 하나의 키로 접근할 수 있으므로, 실제 워크로드에서 시험해 보는 데 프로덕션 경로를 이것에 커밋할 필요가 없습니다 — 페일오버 뒤에 두고 트래픽을 얻도록 하면 됩니다.

벤치마크 표는 양날의 검이다

이 섹션의 모든 수치는 모델 카드에서 벤더가 보고한 값이며, reasoning effort max, temperature 1.0, top-p 0.95 설정에서 실행되었습니다. 비교 열 또한 폴백이 활성화된 최대 노력 설정에서 측정된 것이므로, 1점 차이를 승리로 해석하기 전에 알아두면 좋습니다.

• Terminal-Bench 4.0 — Kimi K3.1 Pro 65.7%로, Claude Opus 5.5의 66.4%, GPT-6 Astra의 58.2%, Claude Fable 5.1의 57.9%와 비교됩니다. 0.8점 차로 2위이며, 비교 대상인 두 모델을 확실히 앞섭니다.

• SWE Marathon v1.1 — 51.7%로, Claude Opus 5.5의 46.3%와 Claude Fable 5.1의 45.6%를 앞섰습니다. 장시간에 걸친 소프트웨어 작업에서 확실한 우위입니다.

• 도구를 활용한 HLE-Full — Claude Opus 5.5의 67.7%, Claude Fable 5.1의 65.6%에 대해 70.0%를 기록했습니다. BrowseComp는 GPT-6 Astra의 91.5%에 대해 92.1%를 달성했습니다.

• Program Bench — Claude Opus 5.5의 65.0%, Claude Fable 5.1의 53.5%, GPT-6 Astra의 50.0%에 맞선 31.5%입니다. 이는 이 표에서 단연 가장 큰 격차의 패배이며, 여러분의 작업이 터미널 형태의 에이전트 루프가 아니라 프로그램 합성이라면 주목해야 할 행입니다.

• Terminal-Bench-Science 0.1 — GPT-6 Astra의 68.1%, Claude Opus 5.5의 63.3%에 비해 38.1%를 기록했습니다. 이 모델이 크게 뒤처지는 또 다른 항목입니다.

• 도구 없이 HLE-Full — Claude Opus 5.5의 59.8%에 비해 51.1%. 도구 사용 항목에서는 순위가 뒤집히는데, 이는 순수 추론 능력보다 하네스 품질에 대해 더 많은 것을 말해준다.

패턴은 유용할 만큼 일관적이다. Kimi K3.1 Pro는 에이전트가 셸, 브라우저 또는 장시간 실행되는 코딩 작업을 구동할 때 강하고, 독립적인 과학 및 프로그램 구성 벤치마크에서는 약하다. 단일 대표 수치 하나의 강점만 보고 Kimi K3.1 Pro와 Claude Opus 5.5 중 하나를 고르는 상황이라면, 그 대표 수치는 두 모델이 가장 가까운 지점이다.

독립적인 측정치는 빈약하며, 이 점은 분명히 말할 가치가 있습니다. Artificial Analysis는 현재 Kimi K3.1 Pro를 Intelligence Index v5.0.1에서 46점으로 평가하고, 오픈 웨이트로 표시하며, 초당 출력 토큰 32개, 해당 모델 페이지에 표시된 패널에서 25개 중 1위로 올려 두고 있습니다. 출시 주간 보도에서는 55라고 인용했지만, 이는 10월 27일 v5 재구축 이전에 사용되던 인덱스 빌드를 기준으로 한 것이었습니다. 서로 다른 측정 도구이며, 한쪽에서 다른 쪽을 빼면 아무 의미 없는 숫자가 나옵니다.

공개 체크포인트는 무제한 체크포인트가 아닙니다.

Moonshot은 이 가중치를 공개하기 전에 중간 훈련과 강화 학습의 일부에서 사이버 역량 훈련 데이터를 제거했다고 밝혔으며, 모델 카드에는 이를 보도용 문구로 남기는 대신 증거를 담고 있습니다. 내부 xdev-bench-hard 세트에서 공개된 체크포인트는 같은 모델의 제한 없는 체크포인트가 기록한 90.5%에 대해 81.0%를 기록했습니다. 해당 저장소에서 다운로드하는 것은 무엇이든 완화된 빌드입니다.

절대 수치도 다른 방향에서 결코 좋게 보이지 않습니다. ExploitBench에서 이 모델은 74.7점으로, GPT-6 Astra의 100점, Claude Opus 5.5의 91.0점에 못 미칩니다. ExploitGym에서는 20.7점으로 GPT-6 Astra의 42.4점에 뒤처집니다. 즉, 공개된 모델은 자체 무제한 변형보다도 약하고 익스플로이테이션 과제에서 최전선 모델에도 뒤처집니다. 공개적으로 다운로드 가능한 2.8조 파라미터 모델에서 바랄 만한 조합이기도 하지만, 오픈 가중치가 곧 무제한 역량을 뜻한다고 위협 모델을 가정했다면 알아둘 가치가 있습니다.

누가 이걸 다운로드해야 하고, 누가 하면 안 되나요?

가중치 자체를 보유해야 할 이유가 있다면 다운로드하세요. 제3자 추론을 배제해야 하는 데이터 상주 요구사항, 기본 모델을 사내에 두어야 하는 파인튜닝 프로그램, 모델을 임대해 쓰기보다 동작을 감사하는 연구 그룹, 또는 지속적인 물량이 충분해 전용 노드가 토큰당 과금보다 유리한 경우입니다. 노드는 하나가 아니라 두 개가 필요할 것이며, 백만 토큰에 가까운 컨텍스트를 사용할 계획이라면 KV 캐시에 대한 계획도 세워야 합니다.

적당한 워크로드에서 비용을 아끼는 것이 목적이거나, 이미 보유한 하드웨어에서 최전선급 모델을 실행하려는 것이라면 다운로드하지 마세요. 1.56 TB는 최소값일 뿐 요구사항이 아니며, 요구사항은 B300 또는 GB300급 클러스터입니다. 워크로드가 프로그램 합성이나 난도 높은 과학 분야라면 이것도 건너뛰세요. Program Bench와 Terminal-Bench-Science는 이 모델이 대안들과 가장 크게 벌어지는 영역이며, 아무리 라이선스가 허용적이어도 그 격차는 메워지지 않습니다.

그 사이에 있는 모든 이들에게도 여전히 더 중요한 소식은 가중치 공개입니다. 그것이 여러분에게 무엇을 실행할 수 있게 해주기 때문이 아니라, 다운로드 가능한 체크포인트는 감사할 수 있지만 API는 그렇지 않기 때문입니다. 그리고 Terminal-Bench 4.0에서 Claude Opus 5.5에 1점 이내로 근접한 2.8조 매개변수 모델은 이제 외부 연구자가 신뢰하기만 하는 대신 직접 검사할 수 있는 대상입니다. 바로 그 부분이 데이터센터를 소유했는지 여부에 달려 있지 않은 11월 4일의 핵심입니다.