Một thẻ tiêu đề được tạo tự động ghi 'MiniMax M3.1 Flash + Inferact', với phụ đề 'Một quan hệ đối tác ra mắt API được công bố ngày 21 tháng 10 năm 2026, hai ngày sau khi mô hình được phát hành'. Ba chip ghi 'Mô hình được phát hành ngày 19 tháng 10 năm 2026', 'Inferact đã xây dựng và duy trì vLLM', và 'Trọng số vẫn chưa được phát hành'. Một chân trang ghi 'Thông báo theo MiniMax trên X; thông tin mô hình theo MiniMax; chi tiết phục vụ theo Inferact.' Logo OrcaRouter nằm ở góc dưới bên phải.
Guides & Insights

MiniMax công bố Inferact là Đối tác ra mắt API cho M3.1 Flash. Mô hình không thay đổi — lớp phục vụ thì có.

Tác giả

Rowan Sterling

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Vào ngày 21 tháng 10 năm 2026, hai ngày sau khi MiniMax-M3.1-Flash được phát hành rộng rãi, tài khoản X của MiniMax đã gọi Inferact là đối tác ra mắt API cho mô hình, ghi nhận chuyên môn vLLM của Inferact và mô tả sự hợp tác là xây dựng “hạ tầng phục vụ cho các khối lượng công việc agent phức tạp.” Đó là toàn bộ thông báo công khai: một bài đăng, không có bài blog, không có chi tiết kỹ thuật. Dù vậy, vẫn đáng để xem trọng, vì đây là lần đầu tiên có người nói công khai về cách mô hình này thực sự sẽ được phục vụ — và với một mô hình có tuyên bố nổi bật là tăng tốc gấp ba lần, lớp phục vụ không phải là chú thích phụ. Nó chính là lời tuyên bố.Các sự cố AI và sự cố agent được ghi nhận đằng sau những bản phát hành như thế này được tập hợp trong OrcaRouter AI Incident Archivetrong đó mỗi mục có nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

Những nội dung mà bài đăng ra mắt không có

MiniMax đã công bố một bài đăng ra mắt chính thức cho MiniMax-M3.1-Flash vào ngày 19 tháng 10 năm 2026: các chuẩn đánh giá tác tử, mức giảm chi phí 70%, suy luận “nhanh gần gấp ba lần”. Đây là một công trình đáng kể, và nó không chứa từ Inferact. Nó cũng không chứa từ vLLM. Dù mối quan hệ đối tác thực chất là gì, công ty đã không coi đó là một phần của câu chuyện ra mắt vào ngày câu chuyện ra mắt được kể.

Khoảng trống đó là thông tin có tính gợi mở nhất trong thông báo. Một đối tác ra mắt được nêu tên chậm hai ngày, trong một bài đăng mạng xã hội, mà không có bài viết kỹ thuật nào đi kèm, là một đối tác mà công việc vẫn còn đang dang dở. Nếu M​iniMax đã có M3.1-Flash chạy trên một stack bên thứ ba đã được tinh chỉnh tại thời điểm ra mắt chung, thì bài đăng ra mắt hẳn đã nói như vậy — phục vụ ngay từ ngày đầu trên một engine được nêu tên chính là kiểu bằng chứng mà một nhà cung cấp đưa vào phần nội dung chính. Thay vào đó, tuyên bố lại xuất hiện riêng rẽ, không có số liệu, điều này cho thấy sự hợp tác đang được công bố ở thời điểm nó trở thành một cam kết thay vì ở thời điểm nó trở thành một kết quả.

Có một khoảng trống thứ hai, nhỏ hơn. Trang web riêng của Inferact, được kiểm tra vào ngày 22 tháng 10, có logo MiniMax trong số các đối tác và một lời chứng thực được gán cho Tiến sĩ Yan Junjie, nhà sáng lập kiêm CEO của MiniMax. Trang này cũng không đề cập đến MiniMax-M3.1-Flash ở bất kỳ đâu. Các nghiên cứu điển hình của trang hoàn toàn nói về những mô hình khác. Vậy là hai công ty đã công bố một quan hệ đối tác mà trang tiếp thị của cả hai công ty vẫn chưa mô tả về mặt sản phẩm. Hãy xem đó là bằng chứng cho thấy thông tin còn mới chứ không phải là sự hoài nghi: bài đăng trên X mới có hai ngày, còn các trang đối tác thì cập nhật chậm.

Inferact là gì và tại sao chi tiết vLLM lại quan trọng

Inferact tự mô tả mình là “công ty do những người sáng tạo và duy trì vLLM thành lập”. Nhóm của họ dẫn dắt lộ trình phát triển vLLM trong khi bản thân engine vẫn là mã nguồn mở, theo giấy phép Apache 2.0 và được cộng đồng quản trị dưới sự bảo trợ của PyTorch Foundation. Chính cấu trúc đó là lý do khiến quan hệ đối tác này dễ hiểu hơn hầu hết các thông báo đối tác ra mắt: vLLM không phải là một hộp đen, nên bất cứ thứ gì Inferact cải thiện cho MiniMax-M3.1-Flash đều có khả năng hợp lý sẽ xuất hiện trong engine mở mà mọi người khác đang chạy.

Công ty bán hai dạng của cùng một thứ. Inferact Platform được cài đặt trong cloud hoặc trung tâm dữ liệu của chính khách hàng — cách diễn đạt trên trang là "Run inference on your compute" — với một control plane bao gồm giám sát, xác thực triển khai, theo dõi chi phí, tự động mở rộng, quản lý endpoint, đo lường và khả năng quan sát. Inferact Cloud là cùng nền tảng đó trên các GPU do Inferact cung cấp: "Run inference on our compute." Sự khác biệt này quan trọng với bất kỳ ai đọc thông báo MiniMax như một tuyên bố về tính sẵn có. Một đối tác ra mắt API cho mô hình đó có thể có nghĩa là các endpoint được quản lý do người khác vận hành, hoặc có thể có nghĩa là một ngăn xếp phần mềm bạn cài đặt bên cạnh trọng số của chính mình. Với một mô hình đóng, chỉ khả năng đầu tiên là có thể, điều này thu hẹp bản chất mà mối quan hệ đối tác này có thể có.

A generated card headed 'What a serving partner changes for agent workloads'. Four rows read 'Prefix caching' with 'the same system prompt and tool schema recur on every agent step', 'Paged attention' with 'a 1,000,000-token context no longer has to be contiguous', 'Continuous batching' with 'long reasoning traces share the hardware instead of queueing', and 'Speculative decoding' with 'several tokens proposed and verified per forward pass'. A footer reads 'Serving concepts per vLLM and Inferact; model limits per MiniMax.' The OrcaRouter logo sits bottom-right.

Tại sao mô hình cụ thể này lại là một vấn đề về phục vụ trước khi là một vấn đề về định giá

MiniMax-M3.1-Flash có một hình dạng khác thường đối với một mô hình rẻ, và chính hình dạng đó khiến câu hỏi về serving trở nên mang tính quyết định.

• Thinking luôn bật — tài liệu tham chiếu API của M​iniMax trả về HTTP 400 cho thinking: {"type": "disabled"} và từ chối reasoning_effort: "none" theo cùng cách, nên điều khiển duy nhất là một thang năm bậc từ low đến max, và việc bỏ trường này nghĩa là max

• Do đó, nó bị giới hạn bởi quá trình giải mã — Artificial Analysis ghi nhận 180 triệu token đầu ra được tiêu thụ trong toàn bộ lần chạy Intelligence Index của mình, so với mức trung vị 99 triệu đối với các mô hình trên cùng hệ thống theo dõi đó

• Cửa sổ ngữ cảnh là 1,000,000 token, khiến bộ nhớ KV-cache trở thành ràng buộc quyết định đối với số phiên tác nhân đồng thời mà một nút có thể duy trì

• Các vòng lặp agent tái sử dụng một tiền tố lớn — cùng một system prompt, schema công cụ và ngữ cảnh tệp lặp lại ở mọi bước — vì vậy cache tiền tố trực tiếp quy đổi thành cả độ trễ và chi phí.

• Tốc độ đầu ra được đo ở mức 125,5 token mỗi giây với thời gian đến token đầu tiên là 1,04 giây, mức này nhanh so với phân khúc nhưng lại là con số bị hàng đợi các lượt sinh dài đồng thời bào mòn trước tiên

Ghép những điều đó lại, bạn sẽ có một workload profile đánh thưởng đúng vào những thứ vLLM được xây dựng để làm: paged attention để một ngữ cảnh hàng triệu token không phải liền mạch, prefix caching để các bước agent không phải prefill lại cùng những định nghĩa công cụ, và continuous batching để hàng trăm vết suy luận dang dở cùng chia sẻ phần cứng thay vì xếp hàng chờ nhau. Tuyên bố của chính M​iniMax về hơn 200 token mỗi giây ở mức đỉnh và hơn 170 ở mức trung vị là một tuyên bố về lập lịch không kém gì một tuyên bố về kernel. Mức tăng tốc 3× trong bài đăng ra mắt không phải là thứ mà một phép nhân ma trận tốt hơn tự nó tạo ra.

A screenshot of Inferact's own website, showing the company describing itself as founded by vLLM's creators and maintainers, the line 'Production inference you control' and the two product shapes listed as running on your compute or on ours. A band of partner logos below includes a MiniMax logo alongside cloud and silicon vendors. No MiniMax-M3.1-Flash throughput figures appear on the page.

Những con số tồn tại, và những con số không tồn tại

Inferact công bố các số liệu hiệu năng, và chúng đáng được đọc kỹ để xem chúng gắn với điều gì. Trang web của họ quảng cáo 464 token mỗi giây ở batch size 1 trên Kimi-K3 vào ngày ra mắt, 709 token mỗi giây mỗi người dùng với megakernel đầu tiên của họ trên TPU, 18,3 triệu token mỗi đô la trên SemiAnalysis AgentX với cùng mô hình đó, và vị trí số một trên Artificial Analysis vào tháng 5 năm 2026. Mỗi một số liệu trong đó đều là một tuyên bố về kỹ thuật của Inferact trên một mô hình khác, do Inferact công bố, và không có số liệu nào trong đó được trình bày lại ở đây như một sự thật về MiniMax-M3.1-Flash.

Điều không tồn tại, tính đến ngày 22 tháng 10, là bất kỳ con số nào cho M3.1-Flash trên stack của Inferact: không có token mỗi giây, không có thời gian đến token đầu tiên, không có chi phí trên mỗi triệu token, không có đường cong xử lý đồng thời. Thông báo là một cam kết mà không có phép đo. Điều đó là bình thường sau hai ngày, và đó cũng là lý do duy nhất để quan tâm — giá trị của quan hệ đối tác đối với người mua sẽ hoàn toàn được quyết định bởi liệu những con số đó có vượt qua những gì MiniMax tự cung cấp hay không, và hiện tại không ai bên ngoài hai công ty biết những gì MiniMax tự cung cấp.

Đó là trạng thái trung thực của bằng chứng. Thông lượng duy nhất được đo độc lập cho mô hình này đến từ Artificial Analysis, ở mức 125,5 token mỗi giây, và đó là con số một luồng từ một harness, không phải benchmark phục vụ. Nó cho bạn biết mô hình có thể sinh nhanh. Nó không cho bạn biết một đô-la mua được bao nhiêu người dùng đồng thời.

A screenshot of MiniMax's own launch post, headed 'MiniMax M3.1 Flash: Redefining Agent Performance and Cost', opening with the claim that online inference is nearly three times faster and that usage costs fall by 70%, followed by a benchmark table comparing the model against five rival models across agentic, coding, computer-use and cybersecurity tasks. The post names no serving partner and no inference engine.

Thông báo về đối tác thực sự có giá trị đến đâu

Tự nó thì không nhiều, và còn hơn cả không có gì. Ba điều khiến nó trở nên hơn cả không có gì.

Điều đầu tiên là nó là một nhà triển khai thứ hai. Một mô hình chỉ được phục vụ bởi đúng một công ty là một mô hình chỉ có đúng một quan điểm vận hành, và khi quan điểm đó có một tuần tồi tệ thì sản phẩm của bạn cũng có một tuần tồi tệ. Một đối tác được nêu tên nghĩa là có một nhóm thứ hai đã đọc kiến trúc, tìm ra những kernel quan trọng và cam kết công khai đủ để việc không giao hàng sẽ trở nên đáng xấu hổ. Đó là một tín hiệu yếu, nhưng là tín hiệu thật, và đó cũng chính là logic khiến một vùng cloud thứ hai đáng để trả tiền.

Điểm thứ hai là cách đóng khung theo khối lượng công việc của agent. M​iniMax không mô tả quan hệ đối tác này là “suy luận nhanh hơn”. Họ mô tả nó là hạ tầng phục vụ cho “khối lượng công việc agent phức tạp”, một bài toán cụ thể và khó hơn thông lượng trò chuyện: các phiên tồn tại lâu dài, các lệnh gọi công cụ xen kẽ với quá trình sinh, các tiền tố phải được giữ lại qua các bước, và chi phí tăng theo độ dài quỹ đạo thay vì theo số lượng lời nhắc. Một đối tác được chọn cho bài toán đó là đối tác được chọn cho khối lượng công việc mà M​iniMax đang quảng bá mô hình nhắm tới. Liệu lựa chọn đó có đúng hay không thì vẫn chưa thể kiểm chứng.

Điều thứ ba là nó gắn mốc thời gian cho câu chuyện vận hành. MiniMax-M3.1-Flash đã chính thức khả dụng rộng rãi được ba ngày. Các trọng số chưa được phát hành — công ty nói rằng chúng "sẽ được phát hành sau" mà không có ngày cụ thể — nên không có lối thoát tự triển khai và không có cách nào để một bên độc lập đo hiệu năng mô hình trên phần cứng của chính họ. Mọi thứ về cách mô hình này hoạt động trong môi trường sản xuất, hiện tại, đều được trung gian hóa bởi bất kỳ ai cung cấp nó. Một đối tác ra mắt là mục đầu tiên trong một danh sách mà sẽ cần được lập nên.

Điều này có nghĩa là gì nếu bạn đang chọn nơi để chạy nó

MiniMax-M3.1-Flash không có trong danh mục của OrcaRouter. Hiện có thể gọi nó qua API riêng của M​iniMax, gói M Plan và M​iniMax Code, và — theo thông báo ngày 21 tháng 10 — qua Inferact. Đó là danh sách đầy đủ mà chúng tôi có thể đảm bảo, và không mục nào trong đó là router: mỗi mục chỉ là một nơi để lấy mô hình, với giới hạn tốc độ riêng, khả năng sẵn có riêng và không có lựa chọn thứ hai phía sau nếu nó ngừng hoạt động.

Vấn đề chỉ có một nhà cung cấp chính là lý do router tồn tại, và đó cũng là lý do vì sao câu hỏi đáng bàn ở đây không phải là "đối tác nào" mà là "bao nhiêu". OrcaRouter đưa hơn 200 mô hình ra sau một khóa API duy nhất, chuyển nguyên giá niêm yết của nhà cung cấp với mức chênh lệch 0%, và có thể giữ một phương án dự phòng trong bảng định tuyến để một yêu cầu gửi tới mô hình chỉ có một endpoint không biến thành sự cố ngừng dịch vụ khi endpoint đó gặp một phút trục trặc. DSL định tuyến chính là nơi điều đó được thể hiện: một bước agent cần MiniMax-M3.1-Flash có thể chỉ định nó trước rồi chuyển sang một mô hình mà bạn đã tin cậy, mà mã gọi không hề hay biết rằng đã có một lần thay thế diễn ra.

Những gì có thể định tuyến trên danh mục của chúng tôi hiện nay là phần còn lại của dòng MiniMax — MiniMax-M3 cùng những mô hình khác — đây cũng là mô hình để so sánh về chi phí. Bảng giá của MiniMax-M3.1-Flash đúng bằng một nửa của MiniMax-M3, $0.15 và $0.60 mỗi triệu token đầu vào và đầu ra so với $0.30 và $1.20, và Artificial Analysis xếp mô hình mới hơn ở mức $0.22 mỗi tác vụ đánh giá chuẩn so với $0.51. Với lưu lượng agentic, khoảng cách đó là có thật. Với một công việc khối lượng lớn gồm các lệnh phân loại ngắn, mô hình cũ hơn với chế độ suy nghĩ bị tắt vẫn có thể rẻ hơn, vì M3.1-Flash hoàn toàn không thể tắt chế độ suy nghĩ.

Bản tóm tắt có cơ sở thì hẹp. Việc MiniMax gọi Inferact là đối tác ra mắt API là một tuyên bố về việc ai sẽ vận hành MiniMax-M3.1-Flash, được đưa ra hai ngày sau khi mô hình ra mắt, bởi một công ty không thấy cần thiết phải đưa điều đó vào bài đăng ra mắt. Đó là bằng chứng cho thấy lớp phục vụ cho mô hình này đang được tích cực xây dựng lại thay vì kế thừa, đúng như điều bạn sẽ kỳ vọng ở một mô hình mà toàn bộ điểm nhấn chào hàng là thông lượng. Nó không phải bằng chứng về thông lượng. Để có được điều đó, hãy chờ những con số Inferact đầu tiên về riêng mô hình này — và trong lúc đó, hãy chạy nó ở đâu đó có phương án dự phòng phía sau, vì một mô hình chỉ có một endpoint và không có trọng số tải xuống được là mô hình mà bạn không thể định tuyến vòng qua.