Kimi K3.1 so với Kimi K3: Những gì trọng số mở nói mà bài đăng ra mắt không nói

Kimi K3.1 Pro và Kimi K3 hiện phát hành cùng 96 shard safetensors, cùng 1.56 TB trên đĩa, nhưng có stack attention khác nhau. Cấu hình trong kho lưu trữ mới của Moonshot mô tả 93 lớp là “69 KDA + 24 Gated DSA”. Cấu hình trong kho lưu trữ của Kimi K3, công bố vào tháng 7, ghi là “69 KDA + 24 Gated MLA”. Bài đăng ra mắt Kimi K3.1 Pro của Moonshot, ngày 24 tháng 10 năm 2026, gọi mô hình mới hơn là “một phiên bản post-trained của Kimi K3” và không hề đề cập đến việc hoán đổi. Mọi thứ còn lại trong phép so sánh này đều là hệ quả của đúng một dòng đó, kể cả lý do mô hình mới hơn lại là mô hình rẻ hơn.

Bản thân các trọng số đã xuất hiện mà không có thông báo nào. Blog của Moonshot không có bài nào sau ngày 24 tháng 10. Commit duy nhất của kho lưu trữ có dấu thời gian là ngày 2 tháng 11 năm 2026, hai ngày trước hạn chót ngày 4 tháng 11 mà công ty đã đặt ra cho chính mình; việc các tệp có thể được đọc công khai trước hạn chót đó hay không không phải là điều kho lưu trữ ghi lại. Điều mà nó ghi lại là kiến trúc, giấy phép và bản kiểm kê — chính xác là những gì bài đăng ra mắt đã bỏ sót.

Cuộc hoán đổi mà thông báo không đề cập đến

Thẻ mô hình mang lời thừa nhận trong một chú thích cuối trang, một dòng dưới một bảng thông số quen thuộc: "So với Kimi K3, chúng tôi thay thế các lớp Gated MLA chú ý đầy đủ bằng các lớp Gated DeepSeek Sparse Attention (Gated DSA) để mô hình hóa ngữ cảnh dài hiệu quả hơn."

Hai mươi tư trong số 93 lớp thay đổi. 69 lớp còn lại vẫn là Kimi Delta Attention, cơ chế attention tuyến tính mà Kimi K3 đã giới thiệu, và số lớp, số lượng expert cùng các chiều ẩn đều không thay đổi. Gated MLA là full attention với bộ đệm key-value được nén; Gated DSA chọn một tập con thưa thớt các token trong quá khứ cho mỗi truy vấn và áp cổng cho kết quả. Khác biệt thực tế nằm ở cách mô hình dùng compute và cache khi ngữ cảnh tăng lên, tức phần của cửa sổ 1M token thể hiện trên hóa đơn phục vụ của bạn chứ không phải trong bảng benchmark.

Điều mà tấm thẻ không cung cấp là một con số. Không có con số token mỗi giây, không có so sánh bộ nhớ đệm, không có đo độ trễ ngữ cảnh dài — chỉ có cụm từ “mô hình hóa ngữ cảnh dài hiệu quả hơn”. Bài đăng ra mắt của Moonshot không đưa ra bất kỳ chi tiết kiến trúc nào. Vì vậy, tuyên bố rằng việc hoán đổi khiến bất cứ thứ gì nhanh hơn, vào lúc này, là một tuyên bố thiết kế chứ không phải một phép đo, và chưa ai bên ngoài Moonshot công bố so sánh hiệu năng phục vụ giữa hai checkpoint.

Điều đó quan trọng hơn nghe có vẻ. Nếu bạn đã tinh chỉnh batching, phân bổ cache hoặc quản lý ngữ cảnh dựa trên hồ sơ attention của Kimi K3, thì checkpoint mới hơn không thể thay thế trực tiếp ở lớp serving, dù nó có thể thay thế trực tiếp ở lớp API. API che giấu điều này; một triển khai tự vận hành thì không.

Điều mà hai điểm kiểm tra thực sự có chung

Bản tải xuống giống hệt nhau chính là dấu hiệu cho thấy đây không phải là một mô hình lớn hơn. Mọi kích thước chính bên dưới đều giống nhau trên cả hai thẻ, và danh mục tệp xác nhận điều đó:

• Tổng số tham số và tham số hoạt động — tổng cộng 2,8 nghìn tỷ, 104 tỷ hoạt động ở cả hai mô hình.

• Độ sâu — 93 lớp, trong đó có một lớp dense, trên cả hai.

• Chuyên gia — tổng cộng 896, 16 được chọn mỗi token, 2 dùng chung, trên cả hai.

• Từ vựng — 160K token ở cả hai.

• Thị giác — MoonViT-V2, 401 triệu tham số, trên cả hai.

• Ngữ cảnh — 1,048,576 token trên cả hai; trang mô hình của chúng tôi liệt kê đầu ra tối đa 943,718 token cho Kimi K3.1 Pro.

• Lượng tử hóa — trọng số MXFP4 và kích hoạt MXFP8, huấn luyện nhận biết lượng tử hóa, trên cả hai.

• Tải xuống — 96 shard safetensors với tổng dung lượng 1,56 TB cho mỗi kho lưu trữ.

• Các phương thức đầu vào — thẻ thông số của Kimi K3 liệt kê văn bản, hình ảnh và video; thẻ của Kimi K3.1 Pro liệt kê văn bản và hình ảnh, trong khi tài liệu API lại quảng cáo cả video. Hãy coi tuyên bố về video là chưa được xác minh cho đến khi mã xử lý được chạy thử.

Một bản phát hành điểm giữ nguyên số lượng tham số, cách định tuyến chuyên gia và kích thước tệp, đồng thời thay đổi 24 lớp attention, là một kiểu phát hành khác với một thế hệ mới. Nó gần với một bản sửa đổi kiến trúc giữa chu kỳ cộng với một đợt hậu huấn luyện quy mô lớn hơn là một mô hình nền tảng mới, và mức giá phản ánh điều đó.

Hai bảng giá, và một hóa đơn không giảm một phần ba

Trên lý thuyết, mẫu mới rẻ hơn ở mọi mục. Kimi K3.1 Pro có giá $2.00 mỗi triệu token đầu vào và $10.00 mỗi triệu token đầu ra; Kimi K3 là $3.00 và $15.00. Tỷ lệ trúng bộ nhớ đệm giảm từ $0.30 xuống $0.20, ghi bộ nhớ đệm từ $3.00 và $6.00 xuống $2.00 và $4.00 ở TTL năm phút và một giờ, và một biến thể Highspeed ở mức $4.00 và $20.00 đánh đổi giá để lấy tốc độ đầu ra gấp hai đến ba lần. Suy luận theo lô trên Kimi K3.1 Pro được tính ở 60% mức tiêu chuẩn, tức $1.20 và $6.00.

Hóa đơn lại là câu chuyện khác. Kimi K3.1 Pro mặc định suy luận ở mức nỗ lực tối đa, và mức nỗ lực tối đa tạo ra nhiều token hơn. So sánh lập trình tác tử của Bito cho thấy hai mô hình ngang nhau ở mức 72% tổng thể, trong khi Kimi K3.1 Pro phát ra khoảng 98.000 token đầu ra so với 44.000 của Kimi K3, mất 28 phút so với 17 phút và tốn 4,28 USD so với 2,46 USD cho một phiên dài. Lần chạy phân tích dữ liệu của Plotly đi theo hướng ngược lại về chất lượng và cùng hướng về chi phí: giải được 42 trong 43 nhiệm vụ so với 35, với chi phí tăng từ 5,01 USD lên 13,47 USD và thời gian trung vị từ 43 giây lên hai phút rưỡi. Ultralytics, khi thử nghiệm tự động gán nhãn, đo được mức cải thiện 33% về mAP50, 0,444 so với 0,334, vươn từ vị trí thứ 19 lên thứ 9 trong số 39 mô hình.

Ba bài đó là các bài kiểm tra do nhà cung cấp công bố trên mẫu nhỏ, không phải đánh giá được bình duyệt, và chúng không nhất quán về mức độ tốt hơn của mô hình mới. Chúng lại đồng ý về hướng của chi phí: mức giảm một phần ba giá mỗi token không đứng vững trước một mô hình suy nghĩ lâu hơn. Hãy lập ngân sách theo mỗi tác vụ hoàn thành, không phải mỗi triệu token.

Cả hai bên của phép so sánh này đều có thể gọi bằng cùng một key. Kimi K3.1 Pro được định tuyến thành kimi/kimi-k3.1-pro với giá $2.00 và $10.00 của Moonshot, còn Kimi K3 là kimi/kimi-k3 với giá $3.00 và $15.00, với giá niêm yết của nhà cung cấp được chuyển nguyên vẹn và không cộng thêm markup, nên thay đổi trong bảng giá của Moonshot sẽ có hiệu lực tại đây ngay trong ngày. Đó chính là lý do cụ thể khiến nó thuộc về phần định giá thay vì phần chân trang: toàn bộ lý lẽ để chuyển đổi là khoảng cách về giá, và bất kỳ khoản chênh lệch nào cộng thêm trên giá niêm yết cũng sẽ ăn mất một phần khoản tiết kiệm trước khi bạn đo được dù chỉ một tác vụ.

Bảng điểm chuẩn đã chuyển xuống dưới cả hai mô hình

{{1}}Artificial Analysis đã xây dựng lại Chỉ số Trí tuệ của mình vào ngày 27 tháng 10 năm 2026, và việc xây dựng lại này có hệ quả lớn hơn đối với so sánh này so với bất kỳ điều gì Moonshot đã công bố.{{/1}} Trên chỉ số v5 hiện tại, {{2}}Kimi K3.1 Pro đạt 46 điểm và đứng thứ chín, kém Claude Opus 5.5 12 điểm ở mức 58, trong khi Gemini 4 Carbon đạt 59, GPT-6 Astra đạt 57 và GPT-6.1 Sol đạt 55 xếp trên nó.{{/2}} Trên chỉ số v4.3.2 trước đó, {{3}}cùng mô hình này đạt 55 điểm và xếp thứ tư, kém người dẫn đầu ba điểm.{{/3}}

Hai con số đó không phải là một sự thoái lui, và chúng không thể so sánh với nhau. Version 5 đã chuyển khoảng 60% chỉ số sang các bộ held-out riêng tư, thêm FrontierCode 2.0 và Terminal-Bench-Science, loại bỏ SciCode và AA-LCR, đồng thời tăng độ dài đầu ra trung vị mỗi tác vụ từ khoảng 35.000 token lên khoảng 59.000. Một mô hình trả lời ngắn gọn sẽ tụt lại trên một chỉ số giờ đây thưởng cho công việc agentic dài hơi. Kimi K3.1 Pro vẫn là mô hình xếp hạng cao nhất được nhà cung cấp của nó mô tả là open-weight.

Con số của mô hình tiền nhiệm chính là cái bẫy. Kimi K3 đạt 57 trên chỉ số v4 khi ra mắt và xếp thứ ba. Con số 43.6 được lưu truyền cho Kimi K3 (max) đến từ các ảnh chụp nhanh của bên tổng hợp được thực hiện trước thời điểm chuyển sang v5, và chúng tôi không thể tìm thấy điểm v5 nào được công bố cho chính Kimi K3. Vì vậy, “46 so với 43.6” không phải là một cặp được kiểm soát, và bất kỳ ai trình bày chênh lệch đó như một mức tăng năng lực được đo lường đều đang thực hiện phép trừ giữa hai công cụ khác nhau. Điều có thể nói thì hẹp hơn: trên chỉ số hiện tại, mô hình mới hơn là mô hình đã được chấm điểm, và nó đứng thứ chín.

Bảng của chính nhà cung cấp — lại là một bộ công cụ đo khác nữa — xếp Kimi K3.1 Pro ở mức 65,7 trên Terminal-Bench 4.0, so với 66,4 của Claude Opus 5.5; 51,7 trên SWE Marathon v1.1; 92,7 trên BenchCAD khi dùng công cụ; 94,2 trên GPQA-Diamond và 51,1 trên HLE-Full. Các điểm yếu của nó cũng lộ rõ tương tự: 38,1 trên Terminal-Bench-Science, so với 68,1 của GPT-6 Astra, và 39,4 trên HLE-Diamond, so với 60,9 của Opus 5.5. Moonshot đã chạy các đánh giá lập trình qua harness Claude Code với mức nỗ lực suy luận tối đa. Chưa có kết quả nào trong số đó được tái lập độc lập.

Những cặp số liệu gọn gàng nhất trong đợt ra mắt là những con số Moonshot đo với chính phiên bản tiền nhiệm của mình: Kimi Code Bench 3.0 Long-horizon đạt 61,2% so với 55,95%, tỷ lệ ảo giác ở cấp độ khẳng định là 8,3% so với 23,4% khi có công cụ, và 81,0% so với 33,3% trên xdev-bench-hard. Cùng một benchmark nội bộ thuộc về Moonshot, nên các mức chênh lệch nhất quán nhưng không phải từ đánh giá bên ngoài. Số liệu về ảo giác là số liệu có hệ quả thực tiễn rộng nhất và ít được kiểm chứng nhất.

Giấy phép này là giấy phép của Kimi K3 với một tên đã được thay đổi

Cả hai kho lưu trữ đều kèm một tệp giấy phép khoảng ba kilobyte, và so sánh từng dòng cho thấy một khác biệt thực chất duy nhất: "Kimi K3.1-Pro" được thay cho "Kimi K3" trong điều khoản ghi công. Phần còn lại đều là cùng một tài liệu.

Điều đó có nghĩa là các điều khoản đã được biết rõ chứ không còn ở trạng thái chờ xử lý. Việc sử dụng, sao chép, sửa đổi, phân phối, cấp phép phụ và bán đều được phép, và việc tinh chỉnh được cho phép rõ ràng. Một doanh nghiệp cung cấp mô hình dưới dạng dịch vụ và có tổng doanh thu vượt quá 20 triệu đô la trong bất kỳ mười hai tháng liên tiếp nào phải ký một thỏa thuận riêng với Moonshot trước khi sử dụng cho mục đích thương mại. Các sản phẩm có trên 100 triệu người dùng hoạt động hàng tháng hoặc 20 triệu đô la doanh thu hàng tháng phải hiển thị tên mô hình một cách nổi bật. Việc sử dụng nội bộ và việc sử dụng thông qua các sản phẩm chính thức của Moonshot hoặc các đối tác suy luận được chứng nhận của công ty đều được miễn trừ khỏi cả hai yêu cầu.

Miễn trừ dành cho các đối tác được chứng nhận là điều khoản đáng đọc lại lần hai nếu bạn dự định bán lại quyền truy cập. Ngưỡng 20 triệu đô la được tính trên cơ sở mười hai tháng cuộn, không phải theo từng dòng sản phẩm, và “mô hình như một dịch vụ” được định nghĩa đủ rộng để bao gồm API cho phép khách hàng kiểm soát đầu vào, tham số hoặc dữ liệu huấn luyện — đồng thời loại trừ các sản phẩm dành cho người dùng cuối nơi mô hình được nhúng trong một tính năng, và việc chỉ chuyển tiếp yêu cầu đến các mô hình được lưu trữ ở nơi khác.

Cần những gì để vận hành một trong hai

Một checkpoint MXFP4 1,56 TB không phải là bản tải về dành cho máy trạm, và hai mô hình đều nặng tương đương nhau. Moonshot chỉ ra ba stack phục vụ — công thức vLLM, sách hướng dẫn SGLang và TokenSpeed — và cả ba đều giả định triển khai đa nút ở kích thước này. Huấn luyện nhận biết lượng tử hóa từ giai đoạn tinh chỉnh có giám sát chính là yếu tố giữ tệp ở mức 1,56 TB thay vì khoảng 5,6 TB mà một bản sao BF16 sẽ chiếm, và việc lượng tử hóa đó được tích hợp sẵn vào các điểm số ở trên chứ không được áp dụng sau đó.

Hệ quả thực tế của việc có cùng dấu chân phần cứng là việc hoán đổi kiến trúc không giúp giảm bớt yêu cầu phần cứng. Nếu bạn có thể phục vụ Kimi K3, bạn có thể phục vụ Kimi K3.1 Pro trên cùng một lớp cụm; bạn không thể phục vụ một trong hai trên một nút đơn.

Chọn cái nào?

• Bạn tự vận hành và hệ thống của bạn được tinh chỉnh cho Kimi K3 — hãy đo lại hiệu năng trước khi chuyển đổi. Thay đổi về attention làm thay đổi hành vi bộ nhớ đệm, và tuyên bố hiệu suất duy nhất đi kèm với nó chỉ là một câu trong phần chú thích.

• Bạn gọi API để lập trình tác tử, sử dụng công cụ trong thời gian dài hoặc xác minh tài liệu — Kimi K3.1 Pro, dựa trên các mức chênh lệch nội bộ được ghép cặp và bảng giá thấp hơn, với một đánh giá shadow trước tiên.

• Bạn cần một mô hình có hồ sơ lỗi đã ổn định — Kimi K3. Nó đã được đưa vào sản xuất từ tháng Bảy và những điểm bất thường của nó đã được người khác ghi lại. Mô hình mới hơn thay đổi hành vi suy luận theo thiết kế.

• Bạn cần tính tất định — hãy kiểm tra trước khi chuyển đổi. Kimi K3.1 Pro cố định temperature ở 1.0 và top_p ở 0.95, đồng thời từ chối các lựa chọn thay thế, và việc thay đổi mức nỗ lực suy luận giữa cuộc hội thoại sẽ làm mất hiệu lực các lần trúng bộ nhớ đệm tiền tố.

Tóm tắt trung thực là Kimi K3.1 Pro là một mô hình tốt hơn Kimi K3 trên gần như mọi trục mà nhà cung cấp đã đo lường, tốt hơn một chút trên chỉ số độc lập duy nhất đã chấm điểm nó, và đắt hơn tính trên mỗi tác vụ đã hoàn thành so với điều mà bảng giá của nó ngụ ý. Điều đã thay đổi trong tuần này không phải là phán quyết mà là bằng chứng: giờ đây có thể đọc, chạy phục vụ và kiểm thử checkpoint thay vì phải tin tưởng vào nó, và điều đầu tiên mà việc đọc nó tạo ra là một chỉnh sửa đối với bài viết công bố ra mắt.