MiMo-V2.6-Pro-UltraSpeed: Xiaomi tung ra cả dòng sản phẩm và định giá tốc độ gấp 10 lần

MiMo-V2.6-Pro-UltraSpeed là cùng một checkpoint 1,02 nghìn tỷ tham số như MiMo-V2.6-Pro, được phục vụ nhanh hơn, và chi phí gọi cao hơn khoảng mười lần: 4,35 đô la cho mỗi triệu token đầu vào và 8,70 đô la cho mỗi triệu token đầu ra, so với làn Pro tiêu chuẩn ở mức 0,44 đô la và 0,87 đô la. Tỷ lệ đó chính là toàn bộ câu chuyện của bản phát hành ngày 22 tháng 9 của Xiaomi, và đó là một câu chuyện lạ lùng hơn những gì các bài đưa tin ra mắt gợi ý — bởi vì thứ mà Xiaomi tung ra mà một tuần trước chưa ai có không phải là một mô hình. Đó là một bảng giá cho độ trễ.

Các mô hình giờ đã là thật. Trang ra mắt của Xiaomi ghi ngày 22 tháng 9, các kho Hugging Face cho những checkpoint học tăng cường của MiMo-V2.6 đã được đăng tải một ngày trước đó, và cả dòng sản phẩm — MiMo-V2.6-Pro, MiMo-V2.6-Flash, và tầng phục vụ UltraSpeed — được niêm yết trên các danh mục thương mại kèm mức giá. Ba tuần trước, không có gì trong số đó tồn tại. Bài viết của chính chúng tôi ngày 21 tháng 9 đã nói, một cách chính xác, rằng MiMo-V2.6-Pro không có ngày phát hành, không có model card, không có định danh API, không có giá và không có trọng số tải xuống được. Cả năm khoảng trống đó đều được lấp đầy trong vòng khoảng 48 giờ. Vậy nên câu hỏi thú vị không còn là liệu Xiaomi đã phát hành hay chưa. Mà là bạn thực sự đang mua gì khi trả gấp mười lần mức giá tiêu chuẩn cho cùng một bộ trọng số.

Bậc tốc độ là gì và không phải là gì

UltraSpeed không phải là một mô hình nhỏ hơn, một mô hình đã chưng cất, hay một mô hình được huấn luyện theo cách khác. Xiaomi mô tả nó là phiên bản tốc độ cao của dòng flagship, được xây dựng từ cùng một checkpoint 1T MiMo-V2.6-Pro, và các danh mục giá mang cùng cửa sổ ngữ cảnh 1M token và cùng khả năng đa phương thức gốc. Không có năng lực mới nào trong phân hạng này. Điều thay đổi là cách checkpoint được phục vụ: việc gom lô, giải mã suy đoán, phân bổ phần cứng, giới hạn đồng thời — phần kỹ thuật nằm giữa các trọng số và yêu cầu HTTP của bạn.

Sự phân biệt đó quan trọng hơn nghe có vẻ, vì nó quyết định những gì bạn có thể và không thể kết luận từ sự tồn tại của một bậc tốc độ. Một biến thể được tối ưu cho việc phục vụ cho bạn biết Xiaomi tin rằng có một thị trường người mua mà với họ, độ trễ token đáng giá hơn chi phí token. Nó không cho bạn biết mô hình đã tốt hơn, và cũng không cho bạn biết các trọng số đã thay đổi. Nếu bạn đánh giá hiệu năng UltraSpeed và làn Pro tiêu chuẩn trên cùng các prompt, bạn nên kỳ vọng nhận được cùng những câu trả lời nhưng đến với tốc độ khác nhau. Nếu bạn nhận được các câu trả lời khác nhau, đó là một phát hiện đáng để báo cáo, chứ không phải một tính năng.

Tuyên bố 20x và tuyên bố 10x

Đây là chỗ việc truy tìm nguồn gốc trở nên thú vị, và cũng là chỗ hầu hết các bài đưa tin về buổi ra mắt đã lặng lẽ chọn một con số mà không nói rõ mình đã chọn con số nào. Tài liệu của chính Xiaomi khẳng định UltraSpeed đạt tốc độ đầu ra gấp tới 20 lần so với dịch vụ Pro tiêu chuẩn với cùng mức chất lượng. Các danh mục niêm yết của bên thứ ba, mô tả cùng mẫu máy đó trong cùng một ngày, lại nói rằng nó mang lại tốc độ đầu ra gấp khoảng 10 lần. Cả hai con số đều đang lưu hành. Chúng không phải là cùng một con số, và chưa ai công bố một phép đo nào dung hòa được hai con số đó.

Chúng ta sẽ không giả vờ giải quyết được nó. Cách hiểu trung thực là “tối đa 20x” là mức trần của nhà cung cấp trong những điều kiện mà Xiaomi chưa nêu rõ — một trường hợp tốt nhất, có lẽ ở các kích thước lô thuận lợi — trong khi “khoảng 10x” là con số mà một mục trong catalogue sẵn sàng khẳng định như một mức điển hình. Cho đến khi ai đó công bố phân phối độ trễ theo từng yêu cầu ở một mức đồng thời được nêu rõ, hãy coi hệ số nhân thực tế nằm đâu đó trong một khoảng rộng và kiểm thử nó trên lưu lượng của chính bạn. Điều không còn tranh cãi là hướng: bậc này nhanh hơn đáng kể, và nó được định giá như thể đúng là như vậy.

Bài toán của việc trả tiền để mua tốc độ

Tỷ lệ giá và tỷ lệ tốc độ không khớp với nhau, và đó chính là phần đáng để làm phép tính. Nếu UltraSpeed nhanh hơn 10 lần và đắt hơn 10 lần mỗi token, thì với một khối lượng công việc cố định — một số lượng token được tạo ra cố định — bạn trả gấp 10 lần và hoàn thành chỉ trong một phần mười thời gian thực. Chi phí mỗi token tăng gấp 10 lần. Chi phí trên mỗi đơn vị thời gian tiết kiệm được chính là thứ bạn thực sự đang mua, và nó không có benchmark nào.

• MiMo-V2.6-Pro tiêu chuẩn — 0,44 USD cho đầu vào / 0,87 USD cho đầu ra trên mỗi 1 triệu token • MiMo-V2.6-Pro-UltraSpeed — 4,35 USD cho đầu vào / 8,70 USD cho đầu ra trên mỗi 1 triệu token • Tỷ lệ — khoảng 9,9 lần ở đầu vào, đúng 10 lần ở đầu ra • Mức tăng tốc được công bố — lên tới 20 lần (Xiaomi), khoảng 10 lần (theo các danh mục của bên thứ ba) • Khác biệt về năng lực — không có khác biệt nào được công bố; cùng checkpoint, cùng ngữ cảnh 1M, cùng các đầu vào đa phương thức • Giấy phép — MIT trên các trọng số MiMo-V2.6 đã phát hành, theo chính thẻ mô hình của Xiaomi

Việc có đáng thực hiện sự đánh đổi đó hay không phụ thuộc hoàn toàn vào việc độ trễ gắn với cái gì, và câu trả lời sẽ đảo chiều tùy theo khối lượng công việc. Đối với một tác vụ theo lô — xử lý tài liệu qua đêm, đánh giá ngoại tuyến, tạo tập dữ liệu — độ trễ gần như vô giá trị và làn Pro tiêu chuẩn là lựa chọn hiển nhiên. Đối với một vòng lặp tác nhân tương tác, nơi mỗi lượt quyết định lượt kế tiếp, độ trễ sẽ tích lũy: một mô hình nhanh hơn 10 lần trong một lượt chạy tác nhân 30 bước không nhanh hơn 10 lần từ đầu đến cuối, nhưng nó là sự khác biệt giữa một phiên mà người dùng chờ đợi và một phiên mà người dùng bỏ dở. Xiaomi rõ ràng đang đặt cược rằng kiểu người mua thứ hai tồn tại và sẽ chịu chi trả.

Điều Xiaomi thực sự đã ghi vào hồ sơ

Dòng mô hình được phát hành là một thiết kế mixture-of-experts thưa. Thẻ mô hình của chính Xiaomi cho các checkpoint RL của MiMo-V2.6 mô tả dòng này là 1,02T tổng tham số với 42B được kích hoạt trên mỗi token, cửa sổ ngữ cảnh 1M token, khả năng đa phương thức gốc trên văn bản, hình ảnh, video và âm thanh, cùng mộtgiấy phép MITgắn trên các kho lưu trữ công khai. Gói phát hành bao gồm một báo cáo kỹ thuật và ghi chú triển khai, và Xiaomi cho biết họ đang mở mã nguồn môi trường huấn luyện học tăng cường cùng mã nguồn để quá trình hậu huấn luyện có thể được xem xét và tái tạo. Đó là mức công bố rộng hơn so với một lần ra mắt API, và là một bước tiến thực sự vượt xa những gì có thể thấy khi công ty chỉ đang phát trực tiếp một bảng điều khiển huấn luyện.

Các con số benchmark vẫn do nhà cung cấp báo cáo và chưa được tái lập. Trên DeepSWE v1.1 — harness của chính Xiaomi, mini-swe-agent, avg@3 — công ty báo cáo MiMo-V2.6-Flash tăng từ 48,8 lên 65,68 và MiMo-V2.6-Pro từ 58,4 lên 72,57 trong lần chạy học tăng cường. Bản thân quá trình hậu huấn luyện được ghi nhận là 30 bước và khoảng 750.000 quỹ đạo mỗi mô hình, hoàn thành trong dưới sáu ngày, với tổng chi phí công bố gộp khoảng $3.474.715 cho các lần chạy Pro và Flash. Những con số đó đến từ dữ liệu đo từ xa của chính Xiaomi và harness đánh giá của chính họ. Chưa có bên độc lập nào tái lập được các điểm số, và sự khác biệt giữa "harness của Xiaomi nói 72,57" và "72,57 là điểm số" chính là khác biệt giữa một tuyên bố và một sự thật. Một trình theo dõi của bên thứ ba còn liệt kê mô hình Pro ở mức 46,32 trên một chỉ số trí tuệ Artificial Analysis; chúng tôi chưa đọc trực tiếp số liệu đó từ Artificial Analysis, nên hãy coi đó là một chỉ dấu hơn là một con số.

Một lưu ý về nhãn MIT, vì đây là kiểu chi tiết thường bị làm phẳng trong các bài đưa tin ra mắt. Giấy phép áp dụng cho trọng số mà Xiaomi đã công bố. Gói UltraSpeed là một dịch vụ được lưu trữ, và một dịch vụ được lưu trữ chịu sự điều chỉnh của điều khoản dịch vụ, chứ không phải của giấy phép trọng số. Có quyền chạy checkpoint trên phần cứng của riêng bạn và có quyền bán lại dịch vụ phục vụ tăng tốc mô hình đó của người khác là những quyền khác nhau, và chỉ quyền đầu tiên đi kèm nhãn MIT.

Đi vào vấn đề, và những gì chúng tôi định tuyến và không định tuyến

MiMo-V2.6-Pro-UltraSpeed có sẵn thông qua API riêng của nhà cung cấp và một số nền tảng bên thứ ba. Nó không có trên OrcaRouter — không một mẫu Xiaomi nào có, và chúng tôi thà nói thẳng điều đó còn hơn để một trang mẫu ngụ ý điều ngược lại. Nếu bạn đang gọi nó, thì bạn đang gọi qua Xiaomi hoặc qua một trong những danh mục thương mại có cung cấp nó.

Với một mô hình như thế này, điều khiến một danh mục định tuyến có chỗ đứng nằm ở việc thử, chứ không phải ở việc lưu trữ. Một gói cao cấp hoàn toàn mới với mức giá gấp 10 lần và tuyên bố về tốc độ mà chưa ai đo lường độc lập đúng là kiểu thứ bạn muốn A/B đối chiếu với giải pháp hiện tại trước khi cam kết đưa nó vào lộ trình production — và việc làm điều đó bằng cách dựng thêm hợp đồng thứ hai, khóa thứ hai và mối quan hệ thanh toán thứ hai chính là ma sát khiến các nhóm không bao giờ chạy được thử nghiệm. OrcaRouter đưa hơn 200 mô hình qua một endpoint tương thích OpenAI với mức markup 0%, chuyển thẳng giá niêm yết của nhà cung cấp, với khả năng tự động chuyển đổi dự phòng giữa các nhà cung cấp. Điều đó nghĩa là thay đổi giá từ nhà cung cấp sẽ có hiệu lực ở phía chúng tôi ngay trong ngày thay vì vào chu kỳ thanh toán kế tiếp, và nghĩa là phép so sánh bạn muốn chạy — UltraSpeed đối đầu với mô hình mà nó sẽ thay thế, trên chính prompt của bạn — chỉ là một thay đổi cấu hình chứ không phải một cuộc trao đổi mua sắm. Nếu Xiaomi cắt giảm mức giá UltraSpeed vào tháng tới, như các nhà cung cấp thường làm với một gói cao cấp mới, con số ở phía chúng tôi cũng sẽ thay đổi theo.

Xem gì

Ba điều sẽ giải quyết các câu hỏi còn bỏ ngỏ trong bản phát hành này. Một phép đo độ trễ độc lập ở mức đồng thời được nêu rõ sẽ cho bạn biết hệ số thực sự gần 10x hay 20x hơn, và liệu nó có giữ được dưới tải thay vì trong một bản demo đơn luồng hay không. Một bản tái tạo độc lập các số liệu DeepSWE sẽ cho bạn biết liệu 72.57 là thuộc tính của mô hình hay thuộc tính của harness. Và lần thay đổi giá đầu tiên ở gói UltraSpeed sẽ cho bạn biết liệu Xiaomi đã định giá nó như một mức cao cấp vĩnh viễn hay như một con số của đợt ra mắt — hạng Pro tiêu chuẩn ở mức $0.44/$0.87 là mốc neo, và một gói khởi đầu ở mức 10x mốc neo hiếm khi giữ nguyên ở đó.

Cho đến lúc đó, quan điểm có thể bảo vệ được là hẹp và rõ ràng. Dòng mô hình đã được phát hành, trọng số theo giấy phép MIT và có thể tải xuống, báo cáo kỹ thuật đã tồn tại, và làn Pro tiêu chuẩn là một cách thực sự rẻ để gọi một mô hình tầm cỡ 1T. UltraSpeed là một canh bạc vào độ trễ, được định giá cao đến mức chỉ hợp lý cho các vòng lặp tương tác và tác tử, và mang theo một tuyên bố về tốc độ với mức chênh lệch gấp 2 lần giữa mức trần của nhà cung cấp và mô tả của mọi người khác. Hãy mua nó nếu thời gian thực tế chính là sản phẩm. Đừng mua nó với kỳ vọng có một mô hình tốt hơn.