Trọng số Kimi K3.1 Pro đã được phát hành: 1,56 TB trên đĩa và dòng giấy phép 20 triệu USD

Trong mười một ngày giữa thời điểm ra mắt API và lúc tải xuống, phần lớn các bài đưa tin về Kimi K3.1 Pro đã dẫn 5,6 terabyte trọng số BF16. Kho lưu trữ mà Moonshot AI thực tế đã công bố trên Hugging Face vào ngày 4 tháng 11 năm 2026 có dung lượng 1,56 TB, trải trên 96 phân đoạn safetensors. Đó không phải là một mô hình nhỏ hơn mô hình mà mọi người đã viết về — nó chính là cùng một mô hình mixture-of-experts 2,8 nghìn tỷ tham số Kimi K3 dẫn xuất, được phát hành ở độ chính xác mà Moonshot đã huấn luyện để phục vụ. Khoảng cách giữa hai con số là điều đầu tiên đáng hiểu về bản phát hành này, vì nó quyết định liệu một cỗ máy bạn đã sở hữu có thể chứa nổi nó hay không.

Điều thứ hai là giấy phép, vốn không phải Apache 2.0, không phải MIT, và không được OSI phê duyệt bất chấp một đoạn mở đầu mang tính cho phép. Đây là một văn bản tùy chỉnh có tên Kimi K3.1-Pro License, và nó chứa một ngưỡng doanh thu biến một bản tải xuống miễn phí thành một cuộc đàm phán đối với một kiểu công ty cụ thể. Cả hai sự thật đều không thể trả lời vào ngày 25 tháng 10, khi các trọng số chỉ là một lời hứa kèm theo một danh sách kiểm tra. Giờ đây chúng đã có thể trả lời được.

Điều gì thực sự đã xuất hiện trên Hugging Face

Kho lưu trữ là moonshotai/Kimi-K3.1-Pro, không bị hạn chế truy cập và chứa 111 tệp. Chín mươi sáu tệp trong số đó là các shard trọng số; phần còn lại là tệp cấu hình, tokenizer, bốn tệp Python cho kiến trúc tùy chỉnh, thẻ mô hình và giấy phép. Tổng dung lượng của tất cả các tệp là 1,561 GB.

Lý do nó vừa trong 1.56 TB thay vì 5.6 TB được ghi ngay trong thẻ mô hình dưới dạng một dòng thông số kỹ thuật, không phải chú thích cuối trang: trọng số MXFP4 với kích hoạt MXFP8, được áp dụng thông qua huấn luyện nhận biết lượng tử hóa. Đây không phải là lượng tử hóa 4-bit hậu nghiệm mà ai đó chạy sau khi hoàn tất. Đây là độ chính xác phục vụ gốc, đó là lý do kho lưu trữ mang thẻ compressed-tensors và lý do không có checkpoint BF16 nào nằm bên cạnh nó. Nếu bạn đang lập kế hoạch dựa trên một bản tải xuống 5.6 TB, thì bạn đang lập kế hoạch dựa trên một con số mà Moonshot chưa từng phát hành.

Phần còn lại của bảng thông số kỹ thuật, để bạn có thể ước lượng khối lượng công việc:

• Tổng số tham số — 2,8T trong một hỗn hợp chuyên gia, với 104B được kích hoạt trên mỗi token

• Độ sâu — 93 lớp, trong đó có một lớp dense; ngăn xếp attention gồm 69 lớp KDA cùng 24 lớp Gated DeepSeek Sparse Attention, một thay đổi so với các lớp Gated MLA full-attention của Kimi K3

Chuyên gia — tổng cộng 896, 16 được chọn cho mỗi token cộng 2 dùng chung, tại chiều ẩn MoE là 3.584

• Ngữ cảnh — 1.048.576 token, không thay đổi so với Kimi K3

• Phương thức — đầu vào là văn bản và hình ảnh, đầu ra là văn bản; bộ mã hóa thị giác là MoonViT-V2 với 401 triệu tham số

• Từ vựng — 160K token

Chỉ một trong những con số đó là mới so với Kimi K3, và đó chính là thay đổi về cơ chế attention. Moonshot nói rõ rằng đây là bản phát hành hậu huấn luyện trên nền tảng K3 với học tăng cường phối hợp mạnh mẽ hơn trên hàng trăm lĩnh vực, chứ không phải một kiến trúc mới. Việc thay thế bằng Gated DSA là để đạt hiệu quả với ngữ cảnh dài, không phải để tạo ra bước nhảy về năng lực.

Giấy phép có ba cấp, và cấp giữa là cấp quan trọng.

Giấy phép Kimi K3.1-Pro mở ra theo đúng cách bạn kỳ vọng ở một giấy phép cho phép: được phép sử dụng, sao chép, sửa đổi, hợp nhất, xuất bản, phân phối, cấp phép lại và bán, được chạy, triển khai và tinh chỉnh, cũng như tạo ra các tác phẩm phái sinh. Sau đó, giấy phép bổ sung các điều kiện, và chính các điều kiện là nơi các quyết định thực sự nằm.

• Mục 2, điều kiện cổng mô hình dưới dạng dịch vụ — nếu bạn hoặc các đơn vị liên kết của bạn điều hành một doanh nghiệp cung cấp cho bên thứ ba quyền truy cập vào suy luận hoặc tinh chỉnh, và doanh thu của tập đoàn vượt quá 20 triệu USD trong bất kỳ khoảng 12 tháng liên tiếp nào, bạn cần một thỏa thuận riêng với Moonshot trước khi sử dụng thương mại. Có hai ngoại lệ quan trọng: sản phẩm dành cho người dùng cuối mà mô hình được nhúng bên trong một tính năng hoặc bộ khung không phải là “mô hình dưới dạng dịch vụ”, và việc chỉ chuyển tiếp yêu cầu đến các mô hình do người khác lưu trữ cũng không phải.

• Mục 3, điều khoản ghi công — các sản phẩm thương mại có hơn 100 triệu người dùng hoạt động hàng tháng hoặc hơn 20 triệu USD doanh thu hàng tháng phải hiển thị "Kimi K3.1-Pro" một cách nổi bật trong giao diện. Đó là nghĩa vụ về thương hiệu, không phải thanh toán.

• Mục 4, các trường hợp miễn trừ — không điều nào ở trên áp dụng cho việc sử dụng nội bộ, được định nghĩa là bất kỳ việc sử dụng nào không làm cho phần mềm, các đầu ra của phần mềm hoặc các khả năng cốt lõi của phần mềm trở nên khả dụng cho bên thứ ba, hoặc việc sử dụng thông qua các sản phẩm chính thức và các đối tác suy luận được chứng nhận của Moonshot.

Cách hiểu thực tế là việc triển khai nội bộ được miễn phí và không bị hạn chế, và việc xây dựng một sản phẩm dựa trên mô hình cho người dùng của riêng bạn cũng vậy. Điều làm phát sinh cuộc trao đổi về 20 triệu đô-la là việc bán lại quyền truy cập mô hình thô ở quy mô lớn. Nếu bạn hy vọng dựng một endpoint suy luận cạnh tranh trên các trọng số này, thì đó là đoạn cần mang đến luật sư, và về mặt cấu trúc, đây là cùng loại giấy phép mà Kimi K3 đã được phát hành theo — vì vậy một đánh giá pháp lý hiện có về K3 sẽ chuyển được sang, chỉ với tên được thay đổi.

Một điều mà giấy phép này không làm là biến nó thành mã nguồn mở theo nghĩa OSI. Trường trong siêu dữ liệu của kho ghi là license: other, với tên giấy phép được đặt thành kimi-k3.1-pro. Các trang báo mô tả nó là MIT đã sửa đổi trong những giờ đầu sau khi phát hành đã chỉ đọc phần mở đầu mang tính cho phép rộng rãi và dừng lại ở đó.

Cần những gì để vận hành và API vượt trội ở đâu

Công thức vLLM được công bố cho mô hình này là hướng dẫn triển khai cụ thể nhất hiện có, và nó rất chi tiết. Nó chỉ định vLLM 0.34.0 trở lên, cấu hình cơ sở gồm một nhóm song song tensor 8 GPU — hai khay GB300 hoặc một nút B300 — với --tensor-parallel-size 8 trên --nnodes 2. Chế độ ngữ cảnh dài tùy chọn, DCP8, nâng dung lượng bộ nhớ đệm KV lên khoảng 18,5 triệu token so với 2,6 triệu với FP8 KV trên 8 B300, tức khoảng bảy lần.

Có hai hệ quả kéo theo. Thứ nhất, một node 8×H200 là không khả thi: 1.13 TB HBM không chứa nổi 1.56 TB trọng số trước khi bạn cấp phát dù chỉ một token bộ nhớ đệm. Thứ hai, không có lộ trình dành cho người dùng phổ thông. Mô hình cần nhiều VRAM hơn mức một máy trạm có, và những kiến trúc có thể khiến một phiên bản offload CPU chậm chạp trở nên chấp nhận được vẫn đang bắt kịp đoạn mã kimi_k31 tùy chỉnh — repo đưa trust_remote_code=True vào chính đoạn quickstart của nó, điều này cho thấy kiến trúc vẫn chưa nằm trong đường dẫn mặc định của một thư viện upstream đã phát hành.

Các phép tính kinh tế dễ nắm bắt hơn khi tính theo token đầu ra thay vì các dòng chi phí GPU. Với $10 cho mỗi triệu token đầu ra, chi phí vốn ước tính của một node khoảng $550.000 đến $650.000 mua được khoảng từ 55 đến 65 tỷ token đầu ra thông qua API theo giá niêm yết. Một node tự vận hành chỉ đánh bại được mức đó nếu bạn duy trì nó đủ bận rộn để phục vụ nhiều hơn con số đó trước khi nó trở nên lỗi thời — và phép so sánh đó là trước khi tính đến điện, nhân sự vận hành, thời gian nhàn rỗi và node thứ hai mà bạn cần cho dự phòng. Với hầu hết các nhóm đang đọc bài này, câu trả lời trung thực là trọng số là một tài sản chiến lược và API là cách rẻ hơn để sử dụng mô hình.

Đó cũng là lý do kimi/kimi-k3.1-pro nằm trong danh mục của chúng tôi với giá $2.00 mỗi triệu token đầu vào và $10.00 mỗi triệu token đầu ra thay đổi cách tính toán thay vì nhân bản nó. Cùng ngữ cảnh 1.048.576 token và cùng 104B tham số hoạt động có sẵn qua Chat Completions, Responses API và Anthropic Messages, mà không cần cụm hai nút. Giá của chúng tôi là mức tăng giá 0% trên giá niêm yết của nhà cung cấp, vì vậy khi Moonshot thay đổi bảng giá, con số ở đây sẽ thay đổi ngay trong ngày thay vì vào lần gia hạn hợp đồng tiếp theo. Và vì mô hình có thể truy cập được qua một khóa cùng với hơn 200 mô hình khác, việc dùng thử nó trên một khối lượng công việc thực tế không đòi hỏi phải cam kết một đường dẫn production cho nó — bạn có thể đặt nó phía sau cơ chế chuyển đổi dự phòng và để nó tự giành lưu lượng.

Bảng benchmark có hai mặt

Mọi con số trong phần này đều do nhà cung cấp tự báo cáo từ model card, được chạy ở mức reasoning effort tối đa với temperature 1.0 và top-p 0.95. Các cột so sánh cũng được lấy ở mức effort tối đa với tính năng fallback được bật, một điều đáng để biết trước khi bạn đọc một khoảng cách một điểm thành một chiến thắng.

• Terminal-Bench 4.0 — {{1}}Kimi K3.1 Pro 65.7% so với Claude Opus 5.5 ở 66.4%, GPT-6 Astra ở 58.2% và Claude Fable 5.1 ở 57.9%{{/1}}. Đứng thứ hai trên bảng với cách biệt tám phần mười điểm, và rõ ràng dẫn trước hai mô hình mà nó đang được đem so sánh với.

• SWE Marathon v1.1 — 51,7% so với 46,3% của Claude Opus 5.5 và 45,6% của Claude Fable 5.1. Một lợi thế thực sự trong công việc phần mềm dài hạn.

• HLE-Full khi dùng công cụ — 70,0% so với 67,7% của Claude Opus 5.5 và 65,6% của Claude Fable 5.1. BrowseComp đạt 92,1% so với 91,5% của GPT-6 Astra.

Program Bench — 31,5% so với 65,0% của Claude Opus 5.5, 53,5% của Claude Fable 5.1 và 50,0% của GPT-6 Astra. Đây là mức thua lớn nhất trên bảng với khoảng cách rõ rệt, và đây là dòng bạn nên xem nếu công việc của bạn là tổng hợp chương trình chứ không phải các vòng lặp tác nhân kiểu terminal.

• Terminal-Bench-Science 0.1 — 38,1% so với 68,1% của GPT-6 Astra và 63,3% của Claude Opus 5.5. Một hạng mục khác mà mô hình còn kém xa.

• HLE-Full không dùng công cụ — 51,1% so với 59,8% của Claude Opus 5.5. Cột sử dụng công cụ đảo ngược thứ tự, điều này phản ánh chất lượng harness nhiều hơn là năng lực suy luận thuần túy.

Quy luật này đủ nhất quán để hữu ích: Kimi K3.1 Pro mạnh khi một tác nhân đang điều khiển shell, trình duyệt hoặc một tác vụ lập trình chạy dài, và yếu trên các bài kiểm chuẩn khoa học khép kín và xây dựng chương trình. Nếu bạn định chọn giữa nó và Claude Opus 5.5 chỉ dựa vào một con số nổi bật duy nhất, thì con số nổi bật đó lại chính là điểm chúng sát nhau nhất.

Đo lường độc lập còn khan hiếm và đáng được nói thẳng. Artificial Analysis hiện chấm Kimi K3.1 Pro đạt 46 trên Intelligence Index v5.0.1 và liệt kê mô hình này là trọng số mở, với tốc độ 32 token đầu ra mỗi giây, xếp hạng nhất trong số 25 mô hình trên bảng hiển thị tại trang mô hình của nó. Các bài đưa tin trong tuần ra mắt dẫn con số 55, nhưng đó là so với bản dựng chỉ số được dùng trước lần tái dựng v5 vào ngày 27 tháng 10 — những công cụ khác nhau, và lấy số này trừ số kia sẽ chỉ tạo ra một con số vô nghĩa.

Điểm kiểm tra mở không phải là điểm kiểm tra không hạn chế.

Moonshot nói rằng họ đã loại bỏ dữ liệu huấn luyện năng lực tấn công mạng khỏi một số phần của giai đoạn huấn luyện giữa chừng và học tăng cường trước khi phát hành các trọng số này, và thẻ mô hình mang theo bằng chứng thay vì chỉ để đó như một câu tuyên bố báo chí. Trên bộ xdev-bench-hard nội bộ của họ, checkpoint được phát hành đạt 81.0% so với 90.5% của một checkpoint không bị giới hạn của cùng mô hình. Bất cứ thứ gì bạn tải xuống từ kho lưu trữ đó đều là bản dựng đã được giảm thiểu.

Các con số tuyệt đối ở chiều ngược lại cũng không mấy khả quan. Trên ExploitBench, mô hình đạt 74,7 so với 100 của GPT-6 Astra và 91,0 của Claude Opus 5.5; trên ExploitGym, mô hình đạt 20,7 so với 42,4 của GPT-6 Astra. Vậy nên mô hình được phát hành vừa yếu hơn biến thể không giới hạn của chính nó, vừa kém hơn các mô hình tiên phong trong các tác vụ khai thác — một sự kết hợp hợp lý khi mong muốn ở một mô hình 2,8 nghìn tỷ tham số có thể tải xuống công khai, và đáng để biết nếu mô hình mối đe dọa của bạn giả định rằng trọng số mở đồng nghĩa với năng lực không hạn chế.

Ai nên tải xuống cái này, và ai không nên

Hãy tải nó xuống nếu bạn có lý do để tự giữ trọng số: một yêu cầu lưu trú dữ liệu loại trừ mọi hình thức suy luận của bên thứ ba, một chương trình tinh chỉnh cần có mô hình nền tảng trong nội bộ, một nhóm nghiên cứu đang kiểm toán hành vi thay vì thuê nó, hoặc khối lượng đủ lớn và ổn định đến mức một nút chuyên dụng vượt trội hơn việc tính phí theo từng token. Bạn sẽ cần hai nút, không phải một, cùng một kế hoạch cho KV cache nếu bạn định dùng ngữ cảnh gần một triệu token.

Đừng tải nó xuống nếu mục tiêu là tiết kiệm tiền với khối lượng công việc vừa phải, hoặc để chạy một mô hình đẳng cấp hàng đầu trên phần cứng bạn đã sở hữu. 1,56 TB là mức sàn, không phải yêu cầu, và yêu cầu là một cụm thuộc cấp B300 hoặc GB300. Cũng hãy bỏ qua nó nếu khối lượng công việc của bạn là tổng hợp chương trình hoặc khoa học khó — Program Bench và Terminal-Bench-Science là những nơi mô hình này xa nhất so với các lựa chọn thay thế, và không mức độ dễ dãi giấy phép nào lấp được khoảng cách đó.

Đối với tất cả những người ở giữa, việc phát hành trọng số vẫn là tin quan trọng hơn, và không phải vì những gì chúng cho phép bạn chạy. Mà vì một checkpoint có thể tải xuống thì có thể kiểm toán, còn một API thì không — và một mô hình 2,8 nghìn tỷ tham số chỉ kém Claude Opus 5.5 trong khoảng một điểm trên Terminal-Bench 4.0 giờ là thứ mà một nhà nghiên cứu bên ngoài có thể kiểm tra thay vì phải tin tưởng. Đó là phần của ngày 4 tháng 11 không phụ thuộc vào việc sở hữu một trung tâm dữ liệu.