MAI-Base-2 Menyelesaikan Pra-Pelatihan: Klaim Efisiensi 4–12x Microsoft, Tanpa Modelnya

Jumlah yang tercatat pada 15 Oktober adalah "3T". MAI-Base-2, model fondasi internal baru milik Microsoft AI, adalah model di baliknya — dan tulisan teknis perusahaan itu sendiri menyebutnya memiliki 2,8 triliun parameter total dengan 80 miliar parameter aktif. Pembulatannya kecil; yang lebih berguna adalah apa yang ada dan tidak ada dalam tulisan yang sama. MAI-Base-2 telah menyelesaikan pra-pelatihan, saat ini sedang menjalani pelatihan lanjutan, dan tidak ada checkpoint, tidak ada harga, tidak ada lisensi, dan tidak ada tanggal yang melekat padanya. Klaim utamanya adalah keunggulan efisiensi FLOPs pra-pelatihan 4–12x dibandingkan DeepSeek-V4-Pro-Base, satu-satunya checkpoint pra-pelatihan basis yang telah dirilis dengan ukuran di atas satu triliun parameter. Segala hal tentang klaim itu adalah estimasi vendor, dan tulisan tersebut secara tidak biasa sangat eksplisit tentang bagaimana hal itu dihasilkan. Inilah yang didukung oleh catatan publik per 16 Oktober 2026 — dan dua angka di dalamnya yang tidak Microsoft cantumkan di judul.

Apa yang sebenarnya diterbitkan Microsoft, dan apa yang tidak.

Sumber utamanya adalah pos Lab Notes di situs Microsoft AI sendiri, bertanggal 15 Oktober 2026, berjudul "Pra-Pelatihan Frontier di Microsoft AI." Mustafa Suleyman mengumumkannya pada sore yang sama dengan pernyataan bahwa MAI kini memiliki "model dasar pra-terlatih tercanggih di kelas bobot 3T-parameter, yang dibangun sepenuhnya secara internal di MAI," dan ditutup dengan "hasil pasca-pelatihan akan segera menyusul." Itulah seluruh dasar cerita ini, dan ini adalah perusahaan yang mendeskripsikan karyanya sendiri — klaim teknis di bawah ini belum direproduksi oleh siapa pun di luar MAI, dan tidak ada evaluasi independen atas model ini dalam catatan publik.

Yang belum ada adalah bagian yang paling diinginkan sebagian besar pembaca:

• Bobot — tidak ada. Tidak ada repositori, tidak ada checkpoint, tidak ada kuantisasi, tidak ada unduhan dalam bentuk apa pun.

• Sebuah produk atau API — tidak ada. Tidak ada endpoint, tidak ada halaman harga, tidak ada kartu model.

• Lisensi — tidak disebutkan. Unggahan itu menyatakan bahwa kepemilikan atas pipeline "akan memungkinkan kami untuk melisensikan bobot model kami kepada mitra tepercaya melalui Foundry," yang merupakan niat yang dinyatakan, bukan pengumuman.

• Tanggal — tidak ada untuk hasil pasca-pelatihan, tidak ada untuk ketersediaan Foundry, tidak ada untuk MAI-Base-3.

• Tolok ukur yang bisa dijalankan ulang siapa pun — tidak ada. Permukaan evaluasinya dijelaskan, dan skor mentahnya tidak dipublikasikan dalam bentuk yang bisa direproduksi oleh pihak ketiga.

Jadi deskripsi akurat MAI-Base-2 hari ini adalah satu kata: belum selesai. Pra-pelatihan — fase mahal yang berlangsung berbulan-bulan yang mengubah teks dan gambar mentah menjadi model dasar — sudah selesai. Pasca-pelatihan adalah tahap ketika model dasar menjadi sesuatu yang dapat diajak bicara oleh seseorang, dan fase itu sedang berjalan sekarang. Perbedaannya penting karena di situlah mode kegagalan yang menarik berada, dan karena checkpoint dasar dan model obrolan bukanlah objek yang dapat dibandingkan.

Apa yang sebenarnya diukur oleh "4–12x lebih efisien secara FLOPs"

Ini adalah klaim yang akan diulang di mana-mana, jadi ada baiknya kita tepat tentang bentuknya, karena ini bukan uji benchmark head-to-head.

Definisi, dari postingan: Microsoft membandingkan model pra-latih pada teks yang disisihkan menggunakan bits-per-byte, metrik yang agnostik terhadap tokenizer — semakin rendah semakin baik. Kode yang disisihkan diambil dari basis kode MAI sendiri; set STEM, Math dan Q&A dipesan dari vendor luar "untuk mengurangi risiko kontaminasi set pelatihan," dan semua set evaluasi didekontaminasi terhadap data pelatihan. Itu adalah deskripsi evaluasi yang lebih hati-hati daripada yang dibawa oleh sebagian besar postingan peluncuran, dan itu tetap perusahaan yang menilai pekerjaannya sendiri pada set yang disisihkannya sendiri.

Angka efisiensinya kemudian diturunkan, bukan diukur secara langsung. Untuk masing-masing dari empat evaluasi held-out, MAI menyesuaikan hukum penskalaan bits-per-byte terhadap FLOPs pelatihan di seluruh tangga model internalnya, menyertakan performa akhir MAI-Base-2 sendiri dalam penyesuaian tersebut sehingga titik pencocokannya berada di dalam rentang yang disesuaikan, bukan di luarnya, dan memperkirakan berapa banyak komputasi yang dibutuhkan sebuah model dalam tangganya untuk menyamai DeepSeek-V4-Pro-Base. Dibandingkan dengan komputasi pelatihan aktual model tersebut, hasilnya adalah 4,2–12,3x lebih efisien secara FLOPs; dibandingkan dengan MAI-Base-1, yang dirilis pada bulan Juni, peningkatannya adalah 6,3–12,7x. Angka "4–12x" pada judul adalah rentang pertama itu, yang dibulatkan.

Ada tiga hal tentang ini yang layak untuk dipertahankan:

• Ini adalah perkiraan dari kurva yang dicocokkan, bukan dua model yang dilatih dalam kondisi terkendali. Postingan itu jujur tentang hal ini, termasuk rincian bahwa model referensi "masih dilatih dengan FLOPs yang jauh lebih sedikit daripada MAI-Base-2."

• Himpunan perbandingannya sempit berdasarkan aturan. Hanya model dengan total parameter setidaknya satu triliun, dan hanya checkpoint frontier yang tersedia sebelum Oktober 2026, yang memenuhi syarat. DeepSeek-V4-Pro-Base adalah satu-satunya checkpoint prapelatihan dasar yang dirilis yang memenuhi kualifikasi.

• Tiga dari nama yang dibandingkan dengannya hanya ada sebagai checkpoint pasca-pelatihan. Kimi K3, Qwen3.8-2.4T-A95B dan MiMo-V2.6-Pro-RL dilaporkan dengan catatan eksplisit dari vendor bahwa pasca-pelatihan mungkin telah memengaruhi evaluasi. Membandingkan checkpoint basis yang baru dengan model pasca-pelatihan pada metrik prediksi token berikutnya bukanlah kontes yang setara, dan Microsoft mengatakan hal itu alih-alih membiarkan grafik menyiratkan sebaliknya.

Tak satu pun dari itu membuat klaim tersebut salah. Itu justru menjadikannya sebuah klaim — jenis yang sebaiknya diperlakukan pembaca sebagai arahan sampai seseorang mereproduksinya.

Angka komputasi yang Microsoft hilangkan

Postingan ini memberikan semua yang diperlukan untuk menghitung proses pelatihan MAI-Base-2, lalu tidak menghitungnya. Proses itu menggunakan 16.000 GPU GB200 selama 38 hari pada Agustus dan September 2026, dengan rata-rata pemanfaatan FLOPs model sebesar 21%, dengan pemanfaatan tersebut dinormalisasi terhadap 2,5 PFLOPS teoretis GB200 dalam BF16.

Kalikan semua itu — 16.000 akselerator pada 2,5 × 10¹⁵ FLOP per detik, dikali 38 hari, dikali 0,21 — dan proses tersebut menyiratkan sekitar 2,8 × 10²⁵ FLOP komputasi pelatihan. Angka itu adalah hasil aritmetika kami dari input yang ada di postingan itu sendiri, bukan angka yang diterbitkan Microsoft. Ini adalah batas bawah, karena definisi MFU di postingan itu sendiri tidak memasukkan FLOP yang digunakan untuk rematerialisasi dan untuk optimizer. Dan angka ini jauh di atas ambang 10²⁵ FLOP yang digunakan EU AI Act sebagai praduga risiko sistemik untuk model AI serbaguna: sekitar dua hingga tiga kali garis tersebut, dari satu proses pra-pelatihan tunggal.

Untuk memperjelas apa yang dimaksud dan tidak dimaksud dengan hal itu: tidak ada kewajiban yang melekat pada model yang tidak dapat diakses oleh siapa pun. Relevansinya adalah bahwa total komputasi adalah satu-satunya angka dalam tulisan ini yang merupakan hasil aritmetika dari input yang dipublikasikan, bukan estimasi yang di-fit, dan ketika model yang mewarisi basis ini akhirnya dirilis — melalui produk Microsoft sendiri atau ke mitra Foundry — inilah angka yang akan menjadi titik awal para regulator.

Apa yang sebenarnya ada di dalam model?

Jika argumen efisiensi disingkirkan, postingan itu adalah paparan yang cukup terperinci tentang tiga masalah rekayasa, dan itulah bagian yang bernilai bertahan lama terlepas dari siapa yang menang dalam sebuah benchmark.

• Scale — model dasar MoE dengan 80 miliar parameter aktif dan 2,8 triliun total parameter, lebih besar dan lebih sparse daripada MAI-Base-1.

• Campuran pakar di setiap lapisan — MAI-Base-1 menggunakan blok feed-forward padat dan blok MoE secara bergantian karena implementasi MoE-nya belum cukup cepat untuk membenarkan lebih banyak. Memperbaiki fragmentasi memori perutean dinamis dan overhead per-pakar, ditambah pengelompokan komputasi dan komunikasi per grup pakar, menaikkan MFU lapisan MoE dari 24% menjadi 35%, dan inilah yang menjadikan MoE di setiap lapisan sebagai pilihan yang paling optimal secara waktu.

• MoE tanpa dropping dengan memori tetap — alih-alih menjatuhkan token overflow atau mengalokasikan secara berlebihan untuk kasus terburuk, MAI mengelompokkan expert dan menjalankan putaran dispatch-compute-collect tambahan untuk overflow, meminjam kapasitas yang tidak terpakai dari expert lain di grup yang sama. Penggunaan memori bersifat statis di bawah ketidakseimbangan routing yang arbitrer; argumen postingan tersebut menentang dropping token adalah bahwa hal itu secara terukur merusak kualitas.

• Muon pada skala besar — optimizer di-reshard, dikonversi ke BF16, dipertukarkan secara all-to-all, diortogonalisasi secara lokal, lalu dikembalikan. Setelah optimasi, ini menyumbang 2,1% dari rata-rata iterasi pelatihan, atau 165 ms, dibandingkan puncak teoretis 55 ms yang menurut pos tersebut terhambat oleh komunikasi. Muon diadopsi dibanding AdamW untuk dinamika yang lebih stabil.

• Pemotongan gradien aktivasi — pemotongan pada aktivasi terpilih alih-alih pada batch norm global, yang menjaga norma gradien dalam rentang yang jauh lebih ketat daripada MAI-Base-1, dan manfaatnya tumbuh seiring skala. Ini juga ternyata menjadi diagnostik kualitas data: contoh pelatihan yang cacat dengan header lisensi terpotong di tengah kalimat, yang dilacak kembali melalui pull request data kode, mengungkap bug prapemrosesan yang sejak itu telah diperbaiki.

• Data — korpus yang sekitar 36% lebih besar daripada milik MAI-Base-1 dalam hal token pelatihan unik, yang menyuplai campuran 50 triliun token, dengan batas pengetahuan Maret 2026. Perusahaan mengatakan bahwa pipeline-nya adalah data organik tanpa distilasi dari model lain, diproses secara internal, dan bahwa crawler eksklusifnya mematuhi robots.txt serta mengecualikan sumber yang ada dalam daftar USTR Notorious Markets.

• Visi sejak awal — tidak seperti MAI-Base-1, model ini telah dipralatih secara native dengan visi melalui arsitektur tanpa encoder. Korpus visi-bahasa berisi 4,5 triliun token unik dan mencakup 18% dari campuran 50 triliun token, meliputi pemberian keterangan gambar, pemahaman bagan, visual grounding, penalaran spasial, pemahaman medis, penggunaan komputer, dan pembacaan partitur.

Ada juga hukum penskalaan hiperparameter, yang diterbitkan dalam bentuk tertutup: laju pembelajaran optimal dikali peluruhan bobot sama dengan 17,04 dibagi jumlah langkah pelatihan, laju pembelajaran optimal mengikuti fungsi log-linear dari token per parameter aktif dan langkah, dan dropout adalah sigmoid dari logaritma parameter aktif. Menerbitkan hal-hal itu adalah hal yang paling dapat digunakan kembali di postingan ini — tangga penskalaan yang anak tangganya dinamai hanya berdasarkan jumlah layer, dengan ukuran tersembunyi ditetapkan pada 256/3 kali jumlah layer dan kepala kueri sama dengan jumlah layer yang dibulatkan ke kelipatan 16 terdekat, adalah resep yang dapat diuji oleh lab lain.

Mengapa checkpoint dasar bukanlah produk, dan apa yang terjadi selanjutnya

MAI-Thinking-1, model penalaran yang diperkenalkan Microsoft awal tahun ini, dilatih pascapelatihan di atas MAI-Base-1. Postingan itu menyatakan MAI-Base-2 kini menjadi "fondasi bagi generasi model kami berikutnya," yang berarti model yang benar-benar dapat digunakan orang bukanlah MAI-Base-2 — melainkan apa pun yang dilatih pascapelatihan oleh Microsoft di atasnya, dan nama itu belum diumumkan.

Saluran distribusinya juga sudah ditentukan, dan itu bukan open weights. Rencana yang dinyatakan adalah melisensikan bobot "kepada mitra tepercaya melalui Foundry," yang menggambarkan jalur pengadaan perusahaan alih-alih unduhan. Tidak ada apa pun dalam postingan itu yang menjanjikan bobot publik, dan penekanan pada provenans data serta tidak adanya distilasi terbaca sebagai landasan untuk persis tawaran berlisensi semacam itu.

Lalu ada MAI-Base-3. Satu-satunya kalimat dalam postingan itu tentangnya adalah bahwa "persiapan untuk MAI-Base-3 sudah berjalan." Tidak ada parameter, tidak ada komputasi, tidak ada data, tidak ada tanggal — sebuah sinyal peta jalan ketimbang informasi. Yang memang ditetapkannya adalah irama: MAI-Base-1 dirilis pada Juni, pra-pelatihan penerusnya dilaporkan selesai pada pertengahan Oktober, dan siklus berikutnya sudah dalam persiapan. Satu generasi model dasar kira-kira setiap empat bulan, pada skala ini, adalah klaim yang lebih berdampak dalam postingan tersebut daripada baris tolok ukur mana pun.

Apa yang dapat Anda sebut hari ini

Tidak ada apa pun dalam kisah MAI-Base-2 yang dapat dipanggil, dan patut dikatakan secara gamblang bahwa tidak satu pun model MAI Microsoft ada di katalog OrcaRouter saat ini — kami tidak menghostingnya, dan checkpoint dasar bukanlah model yang dilayani dalam hal apa pun. Yang diberikan oleh postingan itu kepada Anda adalah kumpulan perbandingan, dan sebagian besar kumpulan itu dapat diakses saat ini. Model referensi dalam klaim efisiensi Microsoft, yang telah menjalani pasca-pelatihan, DeepSeek V4 Pro, ada di katalog kami, begitu juga Kimi K3 dan Qwen3.8-Max, dua dari model berbobot terbuka yang diukur terhadap MAI-Base-2.

Itu memberi klaim tersebut uji yang murah. Satu API untuk 200+ model berarti membandingkan apa yang benar-benar dapat Anda panggil tidak memerlukan kontrak kedua atau SDK kedua, dan karena OrcaRouter meneruskan harga daftar penyedia dengan markup 0% alih-alih menaikkannya, perubahan harga oleh salah satu vendor tersebut langsung berlaku di sisi kami pada hari yang sama. Jika Anda ingin menjalankan beban kerja pada versi pasca-pelatihan dari model-model ini sebelum memutuskan apakah akan menunggu apa pun yang Microsoft rilis di atas MAI-Base-2, itulah perbandingan yang tidak dapat diberikan oleh tolok ukur model dasar — dan DSL perutean memungkinkan Anda memindahkan lalu lintas di antara keduanya melalui konfigurasi, bukan kode, ketika jawabannya berubah.

Apa yang akan mengubah bagian ini?

Empat hal, diurutkan berdasarkan seberapa besar pengaruhnya.

Yang pertama adalah hasil pascapelatihan. Semua yang ada dalam postingan 15 Oktober menjelaskan artefak prapelatihan; apakah model di baliknya bagus dalam mengikuti instruksi, memanggil alat, atau melakukan percakapan panjang adalah pertanyaan terpisah yang belum diajukan secara publik.

Yang kedua adalah segala bentuk akses — daftar Foundry dengan harga, pengumuman mitra, atau bobot dengan lisensi terlampir. Pada titik itu, ini berhenti menjadi laporan riset dan menjadi keputusan pengadaan.

Yang ketiga adalah pengukuran independen. Bits-per-byte pada basis kode milik vendor sendiri, dengan set STEM dan matematika yang dipesan vendor, bukan sesuatu yang dapat diperiksa oleh laboratorium luar saat ini. Pihak ketiga yang mereproduksi perbandingan hukum penskalaan terhadap DeepSeek-V4-Pro-Base akan menuntaskan klaim efisiensi tersebut; sampai saat itu, ini adalah estimasi yang kredibel, terdokumentasi dengan baik, dan dilaporkan sendiri.

Yang keempat adalah detail MAI-Base-3. "Persiapan sedang berjalan" adalah sebuah kalimat, bukan spesifikasi, dan generasi setelah berikutnya adalah titik ketika irama empat bulan itu bertahan atau tidak.

Ringkasan sempit yang akurat: Microsoft telah menyelesaikan pra-pelatihan model internal terbesarnya, menerbitkan laporan yang luar biasa teknis tentang caranya, mengklaim keunggulan efisiensi dibandingkan checkpoint dasar terbuka terbaik, mengungkapkan proses pelatihan sekitar 2,8 × 10²⁵ FLOPs melalui perhitungan yang tidak dilakukannya sendiri di pos tersebut, dan tidak merilis apa pun yang dapat digunakan siapa pun.

Tolok ukur menjadi usang dan harga bergerak; catatan kegagalan tidak: insiden AI dan kegagalan agen yang terdokumentasi di balik model di kelas ini dikumpulkan dalam Arsip Insiden AI OrcaRouter, yang di dalamnya setiap entri memuat sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda sengketa.