MAI-Base-2 đã hoàn tất tiền huấn luyện: Tuyên bố hiệu quả gấp 4–12 lần của Microsoft, thiếu mô hình

Con số được lan truyền vào ngày 15 tháng 10 là “3T”. MAI-Base-2, mô hình nền tảng nội bộ mới của Microsoft AI, chính là mô hình đứng sau nó — và bài đăng kỹ thuật của chính công ty đưa ra con số 2,8 nghìn tỷ tham số tổng cộng với 80 tỷ tham số hoạt động. Việc làm tròn là không đáng kể; điều hữu ích hơn nằm ở những gì bài đăng đó có và không có. MAI-Base-2 đã hoàn tất giai đoạn tiền huấn luyện, hiện đang được hậu huấn luyện, và chưa có checkpoint, chưa có mức giá, chưa có giấy phép và chưa có ngày ra mắt nào đi kèm. Tuyên bố đáng chú ý là lợi thế hiệu quả FLOPs tiền huấn luyện gấp 4–12 lần so với DeepSeek-V4-Pro-Base, checkpoint tiền huấn luyện cơ sở đã phát hành duy nhất có quy mô trên một nghìn tỷ tham số. Mọi thứ về tuyên bố đó đều là ước tính của nhà cung cấp, và bài đăng này đặc biệt minh bạch về cách nó được đưa ra. Đây là những gì hồ sơ công khai xác nhận tính đến ngày 16 tháng 10 năm 2026 — cùng hai con số trong đó mà Microsoft đã không đưa lên tiêu đề.

Những gì Microsoft thực sự đã công bố, và những gì họ đã không công bố

Nguồn chính là một bài đăng Lab Notes trên trang của chính Microsoft AI, đề ngày 15 tháng 10 năm 2026, có tiêu đề "Frontier Pre-training at Microsoft AI." Mustafa Suleyman đã công bố điều đó vào chiều cùng ngày với câu rằng MAI hiện có "các mô hình nền được tiền huấn luyện đạt trình độ tiên tiến nhất trong lớp trọng số 3T tham số, được xây dựng hoàn toàn nội bộ tại MAI," và kết thúc bằng "kết quả hậu huấn luyện sẽ sớm có." Đó là toàn bộ cơ sở của câu chuyện, và đây là một công ty đang mô tả công việc của chính mình — những tuyên bố kỹ thuật dưới đây chưa được bất kỳ ai bên ngoài MAI tái lập, và không có đánh giá độc lập nào về mô hình này trong hồ sơ công khai.

Điều chưa tồn tại lại là phần mà hầu hết độc giả muốn:

• Trọng số — không có. Không có kho lưu trữ, không có checkpoint, không có lượng tử hóa, không tải xuống dưới bất kỳ hình thức nào.

• Một sản phẩm hoặc một API — không có. Không có endpoint, không có trang giá, không có thẻ mô hình.

• Giấy phép — không được nêu rõ. Bài đăng nói rằng việc sở hữu pipeline "sẽ cho phép chúng tôi cấp phép trọng số mô hình của mình cho các đối tác tin cậy thông qua Foundry", đây là một ý định đã được nêu ra, chứ không phải một thông báo.

• Một ngày — không có ngày nào cho kết quả sau huấn luyện, không có ngày nào cho tính khả dụng của Foundry, không có ngày nào cho MAI-Base-3.

• Các benchmark mà bất kỳ ai cũng có thể chạy lại — không có. Bề mặt đánh giá được mô tả, và điểm thô không được công bố ở dạng mà bên thứ ba có thể tái tạo.

Vậy nên mô tả chính xác về MAI-Base-2 ở thời điểm hiện tại chỉ gói gọn trong một từ: chưa hoàn thiện. Tiền huấn luyện — giai đoạn tốn kém, kéo dài hàng tháng để biến văn bản và hình ảnh thô thành một mô hình cơ sở — đã xong. Hậu huấn luyện là nơi một mô hình cơ sở trở thành thứ mà con người có thể trò chuyện cùng, và giai đoạn đó đang diễn ra ngay lúc này. Sự phân biệt này quan trọng vì đây chính là nơi tồn tại những kiểu lỗi thú vị, và vì một checkpoint cơ sở và một mô hình trò chuyện không phải là những đối tượng có thể so sánh với nhau.

“Hiệu quả FLOPs cao hơn 4–12 lần” thực sự đo lường điều gì

Đây là tuyên bố sẽ được lặp lại ở khắp mọi nơi, nên đáng để nói chính xác về hình dạng của nó, bởi vì đây không phải là một lần chạy đánh giá đối đầu trực tiếp.

Định nghĩa, từ bài đăng: Microsoft so sánh các mô hình đã huấn luyện trước trên văn bản giữ riêng bằng bits-per-byte, một chỉ số không phụ thuộc tokenizer — càng thấp càng tốt. Mã giữ riêng được lấy từ chính codebase của MAI; các bộ STEM, Math và Q&A được đặt từ các nhà cung cấp bên ngoài "để giảm nguy cơ nhiễm bẩn tập huấn luyện", và tất cả các bộ đánh giá đều đã được khử nhiễm đối chiếu với dữ liệu huấn luyện. Đó là một mô tả đánh giá cẩn thận hơn hầu hết các bài đăng ra mắt, và nó vẫn là việc công ty tự chấm điểm công việc của chính mình trên các bộ giữ riêng của chính mình.

Con số hiệu quả sau đó được suy ra, chứ không phải đo trực tiếp. Đối với mỗi trong bốn đánh giá giữ lại, MAI đã khớp một định luật tỷ lệ của bits-per-byte so với FLOPs huấn luyện trên thang mô hình nội bộ của mình, bao gồm cả hiệu suất cuối cùng của chính MAI-Base-2 trong các khớp để điểm khớp nằm trong phạm vi đã khớp thay vì vượt ra ngoài nó, và ước tính lượng tính toán mà một mô hình trên thang của nó sẽ cần để khớp với DeepSeek-V4-Pro-Base. So với lượng tính toán huấn luyện thực tế của mô hình đó, câu trả lời là hiệu quả hơn về FLOPs từ 4,2–12,3 lần; so với MAI-Base-1, được phát hành vào tháng Sáu, mức cải thiện là 6,3–12,7 lần. "4–12x" trong tiêu đề là phạm vi đầu tiên đó, được làm tròn.

Ba điều về điều này đáng để ghi nhớ:

• Đây là một ước tính từ một đường cong được khớp, không phải hai mô hình được huấn luyện trong các điều kiện được kiểm soát. Bài đăng thẳng thắn về điều này, bao gồm cả chi tiết rằng mô hình tham chiếu "vẫn được huấn luyện với số FLOPs ít hơn đáng kể so với MAI-Base-2."

Tập hợp so sánh vốn hẹp theo quy tắc. Chỉ những mô hình có tổng số tham số ít nhất một nghìn tỷ và chỉ những checkpoint tiên tiến có sẵn trước tháng 10 năm 2026 mới đủ điều kiện. DeepSeek-V4-Pro-Base là checkpoint tiền huấn luyện cơ sở duy nhất được phát hành đáp ứng điều kiện.

• Ba trong số những cái tên mà nó được đem ra so sánh chỉ tồn tại dưới dạng các checkpoint đã qua huấn luyện hậu kỳ. Kimi K3, Qwen3.8-2.4T-A95B và MiMo-V2.6-Pro-RL được báo cáo kèm theo một lưu ý rõ ràng từ nhà cung cấp rằng quá trình huấn luyện hậu kỳ có thể đã ảnh hưởng đến các đánh giá. Việc so sánh một checkpoint cơ sở hoàn toàn mới với các mô hình đã qua huấn luyện hậu kỳ trên một chỉ số dự đoán token tiếp theo không phải là một cuộc so tài tương xứng, và Microsoft nói rõ điều đó thay vì để biểu đồ ngụ ý theo cách khác.

Không có gì trong số đó khiến tuyên bố trở nên sai. Nó chỉ khiến nó thành một tuyên bố — loại mà người đọc nên coi như một định hướng cho đến khi có ai đó tái lập được nó.

Con số về năng lực tính toán mà Microsoft đã bỏ qua

Bài đăng cung cấp mọi thứ cần thiết để tính toán lần chạy huấn luyện của MAI-Base-2, rồi lại không tính toán nó. Lần chạy đó gồm 16.000 GPU GB200 trong 38 ngày vào tháng 8 và tháng 9 năm 2026, với mức tận dụng FLOPs mô hình trung bình là 21%, trong đó mức tận dụng được chuẩn hóa theo 2,5 PFLOPS lý thuyết của GB200 ở BF16.

Nhân các số đó với nhau — 16.000 bộ tăng tốc ở tốc độ 2,5 × 10¹⁵ FLOPs mỗi giây, nhân với 38 ngày, nhân với 0,21 — thì lần chạy này hàm ý khoảng 2,8 × 10²⁵ FLOPs năng lực tính toán huấn luyện. Con số đó là phép tính của chúng tôi từ chính các dữ liệu đầu vào trong bài đăng, không phải một con số do Microsoft công bố. Đó là một giới hạn dưới, vì định nghĩa MFU của chính bài đăng loại trừ các FLOPs chi cho việc tái tính toán và cho trình tối ưu. Và nó nằm cao hơn hẳn ngưỡng 10²⁵ FLOPs mà Đạo luật AI của EU dùng làm giả định về rủi ro hệ thống đối với một mô hình AI có mục đích chung: khoảng hai đến ba lần ngưỡng đó, chỉ từ một lần chạy tiền huấn luyện duy nhất.

Để rõ ràng về điều đó có nghĩa gì và không có nghĩa gì: không có nghĩa vụ nào gắn với một mô hình mà không ai có thể truy cập. Điều liên quan là tổng lượng tính toán là con số duy nhất trong bài viết được suy ra bằng phép tính số học từ các đầu vào đã công bố, thay vì một ước lượng được khớp, và khi mô hình kế thừa cơ sở này cuối cùng được phát hành — thông qua các sản phẩm của chính Microsoft hoặc tới các đối tác Foundry — thì đây là con số mà các cơ quan quản lý sẽ bắt đầu từ đó.

Thực sự thì bên trong mô hình có gì

Bỏ qua lập luận về hiệu suất, bài viết là một trình thuật khá chi tiết về ba vấn đề kỹ thuật, và đó chính là phần có giá trị lâu dài bất kể ai thắng trong một bài kiểm tra hiệu năng.

• Quy mô — một mô hình nền tảng MoE với 80 tỷ tham số hoạt động và 2,8 nghìn tỷ tham số tổng, lớn hơn và thưa hơn MAI-Base-1.

• Mixture of experts trong mọi lớp — MAI-Base-1 xen kẽ các khối feed-forward dày đặc với các khối MoE vì cách triển khai MoE của nó chưa đủ nhanh để biện minh cho việc dùng nhiều hơn. Việc khắc phục tình trạng phân mảnh bộ nhớ do định tuyến động và chi phí phụ trội trên mỗi chuyên gia, cùng với việc nhóm tính toán và truyền thông theo từng nhóm chuyên gia, đã nâng MFU của lớp MoE từ 24% lên 35%, và chính điều đó khiến MoE trong mọi lớp trở thành lựa chọn tối ưu về thời gian.

• Dropless MoE với bộ nhớ cố định — thay vì loại bỏ các token tràn hoặc cấp phát thừa cho trường hợp xấu nhất, MAI nhóm các chuyên gia và chạy thêm các vòng dispatch-compute-collect cho phần tràn, mượn năng lực chưa dùng từ các chuyên gia khác trong cùng nhóm. Mức sử dụng bộ nhớ là tĩnh dưới tình trạng mất cân bằng định tuyến tùy ý; lập luận của bài viết chống lại việc loại bỏ token là nó gây tổn hại chất lượng một cách đo lường được.

• Muon ở quy mô lớn — optimizer được chia lại mảnh, ép kiểu sang BF16, trao đổi all-to-all, trực giao hóa cục bộ và trả về. Sau khi tối ưu hóa, nó chiếm 2,1% của vòng lặp huấn luyện trung bình, tức 165 ms, so với đỉnh lý thuyết là 55 ms mà bài viết nói rằng bị nghẽn bởi truyền thông. Muon được chọn thay cho AdamW vì có động lực học ổn định hơn.

• Cắt gradient theo kích hoạt — việc cắt tại các kích hoạt được chọn thay vì trên batch norm toàn cục, giúp giữ chuẩn gradient trong một dải hẹp hơn nhiều so với của MAI-Base-1, và lợi ích tăng lên theo quy mô. Nó cũng hóa ra là một công cụ chẩn đoán chất lượng dữ liệu: một ví dụ huấn luyện bị lỗi với phần tiêu đề giấy phép bị cắt cụt giữa câu, được truy vết ngược qua một pull request về dữ liệu mã, đã làm lộ ra một lỗi tiền xử lý mà kể từ đó đã được sửa.

• Dữ liệu — một kho ngữ liệu lớn hơn khoảng 36% so với MAI-Base-1 về token huấn luyện duy nhất, cung cấp cho hỗn hợp 50 nghìn tỷ token, với mốc kiến thức cắt đến tháng 3 năm 2026. Công ty cho biết quy trình này là dữ liệu hữu cơ, không chưng cất từ các mô hình khác, được xử lý nội bộ, và rằng trình thu thập dữ liệu độc quyền của họ tuân thủ robots.txt và loại trừ các nguồn trong danh sách Thị trường Tai tiếng của USTR.

• Thị giác ngay từ đầu — khác với MAI-Base-1, mô hình này được tiền huấn luyện nguyên bản với thị giác thông qua kiến trúc không dùng bộ mã hóa. Kho ngữ liệu thị giác - ngôn ngữ chứa 4,5 nghìn tỷ token duy nhất và chiếm 18% trong hỗn hợp 50 nghìn tỷ token, bao gồm tạo chú thích ảnh, hiểu biểu đồ, định vị thị giác, suy luận không gian, hiểu y khoa, sử dụng máy tính và đọc bản nhạc.

Cũng có các định luật tỉ lệ siêu tham số, được công bố ở dạng đóng: tốc độ học tối ưu nhân với suy giảm trọng số bằng 17,04 chia cho số bước huấn luyện, tốc độ học tối ưu tuân theo một hàm log-tuyến tính của token trên mỗi tham số hoạt động và số bước, và dropout là một hàm sigmoid của logarit các tham số hoạt động. Việc công bố những điều đó là thứ có thể tái sử dụng cao nhất trong bài viết — một thang tỉ lệ mà các nấc thang chỉ được đặt tên bằng số lớp, trong đó kích thước ẩn được cố định ở 256/3 lần số lớp và số đầu truy vấn bằng số lớp được làm tròn đến bội số gần nhất của 16, là một công thức mà các phòng thí nghiệm khác có thể kiểm chứng.

Tại sao một checkpoint cơ sở không phải là sản phẩm, và điều gì xảy ra tiếp theo

MAI-Thinking-1, mô hình suy luận mà Microsoft giới thiệu hồi đầu năm nay, được huấn luyện hậu kỳ dựa trên MAI-Base-1. Bài đăng cho biết MAI-Base-2 hiện là "nền tảng cho thế hệ mô hình tiếp theo của chúng tôi", nghĩa là mô hình mà mọi người thực sự có thể sử dụng không phải là MAI-Base-2 — mà là bất cứ thứ gì Microsoft huấn luyện hậu kỳ dựa trên nó, và cái tên đó vẫn chưa được công bố.

Kênh phân phối cũng đã được quyết định, và nó không phải là trọng số mở. Kế hoạch được nêu rõ là cấp phép trọng số "cho các đối tác tin cậy thông qua Foundry", điều này mô tả một con đường thu mua doanh nghiệp thay vì tải xuống. Không có gì trong bài đăng hứa hẹn trọng số công khai, và sự nhấn mạnh vào nguồn gốc dữ liệu cùng việc không có chưng cất được hiểu như là bước chuẩn bị cho đúng loại đề nghị cấp phép đó.

Sau đó là MAI-Base-3. Câu duy nhất trong bài đăng về nó là "công tác chuẩn bị cho MAI-Base-3 đã được tiến hành." Không tham số, không compute, không dữ liệu, không ngày tháng — một tín hiệu lộ trình hơn là thông tin. Điều nó thiết lập được là nhịp độ: MAI-Base-1 phát hành vào tháng 6, quá trình tiền huấn luyện của phiên bản kế nhiệm được báo cáo hoàn tất vào giữa tháng 10, và chu kỳ tiếp theo đã được chuẩn bị. Một thế hệ mô hình nền khoảng bốn tháng một lần, ở quy mô này, là tuyên bố hệ trọng hơn trong bài đăng so với bất kỳ dòng benchmark đơn lẻ nào.

Những gì bạn có thể gọi hôm nay

Không có gì trong câu chuyện MAI-Base-2 là có thể gọi được, và cần nói thẳng rằng không có mô hình MAI nào của Microsoft nằm trong danh mục của OrcaRouter ở thời điểm hiện tại — chúng tôi không lưu trữ chúng, và một checkpoint cơ sở thì dù sao cũng không phải là một mô hình được phục vụ. Điều mà bài đăng thực sự mang lại cho bạn là một tập hợp so sánh, và phần lớn tập hợp đó có thể truy cập được ngay bây giờ. Mô hình tham chiếu trong tuyên bố hiệu quả của Microsoft, vốn đã qua hậu huấn luyện, DeepSeek V4 Pro, có trong danh mục của chúng tôi, cũng như Kimi K3 và Qwen3.8-Max, hai trong số các mô hình trọng số mở mà MAI-Base-2 được đem so sánh với.

Điều đó mang lại cho tuyên bố một phép thử rẻ. Một API trên hơn 200 mô hình nghĩa là việc so sánh những gì bạn thực sự có thể gọi không cần thêm một hợp đồng thứ hai hay một SDK thứ hai, và vì OrcaRouter chuyển tiếp giá niêm yết của nhà cung cấp với mức gia tăng 0% thay vì tăng thêm giá, nên khi bất kỳ nhà cung cấp nào trong số đó thay đổi giá, phía chúng tôi sẽ áp dụng ngay trong cùng ngày. Nếu bạn muốn chạy một khối lượng công việc trên các phiên bản hậu huấn luyện của những mô hình này trước khi quyết định có nên chờ bất cứ thứ gì Microsoft phát hành dựa trên MAI-Base-2 hay không, thì đó là phép so sánh mà một benchmark mô hình nền tảng không thể mang lại cho bạn — và DSL định tuyến cho phép bạn chuyển lưu lượng giữa chúng bằng cấu hình thay vì mã khi câu trả lời thay đổi.

Điều gì sẽ thay đổi phần này

Bốn điều, theo thứ tự mức độ quan trọng của chúng.

Đầu tiên là kết quả sau huấn luyện. Mọi thứ trong bài đăng ngày 15 tháng 10 đều mô tả một sản phẩm đã được tiền huấn luyện; việc mô hình đằng sau nó có giỏi tuân theo chỉ dẫn, gọi công cụ hay duy trì một cuộc trò chuyện dài hay không lại là một câu hỏi riêng chưa từng được đặt ra trước công chúng.

Thứ hai là bất kỳ hình thức truy cập nào — một danh sách trên Foundry kèm giá, một thông báo về đối tác, hoặc trọng số đi kèm giấy phép. Vào thời điểm đó, tài liệu này không còn là một báo cáo nghiên cứu nữa mà trở thành một quyết định mua sắm.

Điều thứ ba là đo lường độc lập. Số bit trên mỗi byte trên chính cơ sở mã nguồn của nhà cung cấp, với các bộ STEM và toán do nhà cung cấp đặt hàng, không phải là thứ mà một phòng thí nghiệm bên ngoài có thể kiểm chứng ngay hôm nay. Một bên thứ ba tái tạo so sánh định luật tỉ lệ với DeepSeek-V4-Pro-Base sẽ giải quyết tuyên bố về hiệu quả; cho đến lúc đó, đây là một ước tính tự báo cáo đáng tin cậy và được ghi chép đầy đủ.

Điểm thứ tư là chi tiết về MAI-Base-3. “Công tác chuẩn bị đang được tiến hành” là một câu, không phải một đặc tả, và thế hệ sau nữa là lúc nhịp bốn tháng hoặc giữ được hoặc không.

Bản tóm tắt hẹp và chính xác: Microsoft đã hoàn tất tiền huấn luyện mô hình nội bộ lớn nhất của mình, công bố một tường thuật mang tính kỹ thuật cao một cách bất thường về cách họ làm, tuyên bố có lợi thế về hiệu quả so với checkpoint cơ sở mở tốt nhất, tiết lộ một lần chạy huấn luyện khoảng 2,8 × 10²⁵ FLOPs bằng phép tính mà chính bài viết không tự thực hiện, và không phát hành bất cứ thứ gì ai đó có thể dùng.

Điểm chuẩn thì lỗi thời, giá cả thì biến động; nhưng hồ sơ thất bại thì không: những sự cố AI và lỗi tác nhân (agent) được ghi nhận đằng sau các mô hình thuộc nhóm này đều được tập hợp trong the OrcaRouter AI Incident Archive, nơi mỗi mục đều đi kèm nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ đánh dấu tranh chấp.