Mistral Large 4 vs Kimi K3.1 Pro: Hai kỳ hạm đa phương thức, chỉ khác nhau ở giấy phép

Cả hai mô hình này đều nhận đầu vào là hình ảnh và cả hai đều được bán như những mẫu flagship bởi các phòng thí nghiệm nằm ngoài nhóm bốn ông lớn của Mỹ. Hầu như mọi thứ còn lại đều khác biệt. Mistral Large 4 niêm yết ở mức 1,36 USD mỗi triệu token đầu vào và 4,18 USD đầu ra — hiện bằng một nửa mức đó, không có ngày kết thúc được công bố — theo một giấy phép bảo lưu model-as-a-service cho một thỏa thuận riêng. Kimi K3.1 Pro có giá cố định 2,00 USD và 10,00 USD, với trọng số được hứa hẹn trước ngày 4 tháng 11 và, tính đến hôm nay, nhãn Artificial Analysis vẫn ghi là độc quyền. Một mô hình là trọng số mở của phương Tây kèm điều khoản thương mại; mô hình kia là flagship chỉ có API, sắp trở thành trọng số mở vào tuần tới.

Các thẻ

• Mistral Large 4 — 1,05 nghìn tỷ tham số với 52 tỷ tham số hoạt động theo model card của Mistral (49 tỷ theo Artificial Analysis), bộ mã hóa thị giác 1,6 tỷ tham số, ngữ cảnh 1M được công bố với 524.288 đo được trên cấu hình đã kiểm thử. 1,36 USD / 0,14 USD cho bộ nhớ đệm / 4,18 USD mỗi triệu token, giá khuyến mại ở mức 0,68 USD / 0,07 USD / 2,09 USD.

• Kimi K3.1 Pro — Ngữ cảnh 1M, đầu ra tối đa 943K, nhận văn bản, hình ảnh và video. $2.00 đầu vào và $10.00 đầu ra mỗi triệu trên OrcaRouter, theo giá niêm yết của Moonshot. Thời gian tới token đầu tiên đo được p50: 7,27 giây.

• Đồng hồ cấp phép — Trọng số của Mistral đã có sẵn ngay bây giờ, 1.060,6 GB ở định dạng bf16, không cần đăng ký, theo Giấy phép Trọng số Mở Hệ sinh thái Mistral. Trọng số của Kimi dự kiến sẽ có trước ngày 4 tháng 11; liệu giấy phép có dạng MIT hay bị hạn chế thì vẫn chưa được công bố.

Giá trên mỗi token là đơn vị không phù hợp ở đây.

So sánh các dòng kết quả đầu ra và Mistral trông rẻ hơn 58% theo giá niêm yết và rẻ hơn 79% khi khuyến mãi. So sánh chúng trên mỗi tác vụ đã hoàn thành và thứ hạng có thể đảo ngược, vì hai mô hình không dùng cùng số token để đi đến một câu trả lời.

Báo cáo của chính Mistral cho thấy Large 4 ít hơn 47% token mỗi tác vụ so với một đối thủ tương đương trên chỉ số coding agent của Artificial Analysis. Nếu Kimi tiêu tốn gấp đôi token đầu ra cho mỗi tác vụ, thì một dòng đầu ra $2.09 đang khuyến mãi tốn nhiều hơn cho mỗi công việc hoàn thành so với một dòng $10.00 hoàn thành chỉ với một nửa số token. Đó không phải là dự đoán về mô hình nào tốt hơn — mà là một khẳng định rằng so sánh theo từng token mà không có đo lường theo từng tác vụ chỉ là so sánh các nhãn dán.

Điều mà các bảng thông số thực sự cho bạn biết một cách trung thực chính là mức trần. Đầu ra tối đa 943K của Kimi cao hơn gấp đôi ngữ cảnh 524K được đo của Mistral, và việc tạo tài liệu bằng một lần gọi duy nhất cần 200.000 token đầu ra là khả thi trên cả hai, trong khi một lần cần 600.000 token chỉ khả thi trên một. Nếu khối lượng công việc của bạn là nội dung dài trong một yêu cầu, cột đó sẽ quyết định, còn cột giá thì không.

Giấy phép thực sự thay đổi điều gì đối với người mua

Điều khoản 2 của Mistral là lý do khiến phép so sánh này không chỉ đơn thuần là số học. Bất kỳ ai vận hành doanh nghiệp “Model as a Service” — cấp cho bên thứ ba quyền truy cập vào mô hình để suy luận hoặc huấn luyện sau, theo cách trao cho họ quyền kiểm soát thực chất đối với đầu vào, tham số hoặc dữ liệu huấn luyện — trước tiên đều phải ký một giấy phép thương mại riêng. Có ba ngoại lệ quan trọng: một sản phẩm có năng lực được nhúng vào các tính năng cụ thể thì được chấp nhận; việc chỉ chuyển tiếp đến các mô hình được lưu trữ ở nơi khác thì được chấp nhận; và việc sử dụng nội bộ thì được chấp nhận.

Giấy phép của Kimi K3.1 Pro đơn giản là chưa thể biết được. Moonshot đã nói rằng các trọng số sẽ có mặt trước ngày 4 tháng 11; họ chưa nói là theo điều khoản nào, và bản phát hành K3 trước đó không phải là kim chỉ nam, vì giấy phép được đọc từ chính bản phát hành trước mắt bạn. Bất kỳ ai dự định tinh chỉnh và bán lại nên coi đây là một hạng mục còn bỏ ngỏ với một ngày cụ thể.

Tuần này nên đặt cái nào phía sau traffic?

Nếu bạn cần đầu vào hình ảnh và một mô hình được huấn luyện tại châu Âu mà bạn có thể kiểm tra, Mistral Large 4 hiện có thể gọi qua API của Mistral và các máy chủ bên thứ ba — không phải qua chúng tôi; mô hình này không nằm trong danh mục của OrcaRouter. Nếu bạn muốn một mô hình trên một khóa cùng với mọi thứ khác bạn đang chạy, Kimi K3.1 Pro có trên OrcaRouter với giá niêm yết, cùng tính năng chuyển đổi dự phòng tự động và danh mục 224 mô hình phía sau cùng một điểm cuối.

Nếu bạn còn chưa quyết định, thử nghiệm hữu ích là giống nhau cho cả hai: hãy đo số token đầu ra trên mỗi tác vụ đã hoàn thành trong chính khối lượng công việc của bạn trước khi tin vào bất kỳ mức giá nào. Tuyên bố 47% của Mistral và giới hạn đầu ra dài tiêu tốn nhiều token của Kimi chỉ về hai hướng trái ngược nhau, và chỉ một trong hai điều đó sẽ đúng với các prompt của bạn.

Điều cần theo dõi tiếp theo: liệu bộ trọng số ngày 4 tháng 11 của Kimi có được phát hành theo một giấy phép thông thoáng hay không, điều này sẽ loại bỏ lợi thế cấu trúc duy nhất mà Mistral có trên trang này, và liệu chương trình khuyến mãi nửa giá của Mistral có kết thúc hay không, điều này sẽ khiến khoảng cách theo chiều ngược lại tăng gấp đôi chỉ sau một đêm.