
MiniCPM5-15B-A2.5B: Di-porting oleh Empat Runtime, Tidak Dapat Diunduh oleh Siapa pun
- OrcaBARUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 juta token · 189 tok/s
- tencentBARUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 juta token · 204 tok/s
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 87 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 97 tok/s
- orcaBARUOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 132 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 juta token · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 juta token · 118 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 93 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 per 1 juta token · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
Pada 2026-11-16 muncul sebuah pull request di llama.cpp berjudul "xcy/models: add MiniCPM5 MoE inference support". Ini pekerjaan yang cermat — entri arsitektur baru, jalur konversi, pengujian — dan ada satu baris di bagian validasinya yang membuat seorang maintainer berhenti: penulisnya menjalankannya terhadap "GGUF MiniCPM5-15B-A2.5B yang sudah ada" di H800. CISC mengajukan pertanyaan yang jelas. Sejauh yang saya tahu belum publik? tc-mb, yang profil GitHub-nya mencantumkan keanggotaan dalam proyek MiniCPM-V dan MiniCPM-o, menjawab dengan satu kata: "oke". Pull request itu ditutup tanpa digabungkan dua hari kemudian, dan model yang terkait dengan GGUFs tersebut — MiniCPM5-15B-A2.5B, entri sparse mixture-of-experts dalam lini MiniCPM5 milik OpenBMB — masih belum memiliki repositori, model card, berkas lisensi, maupun pengumuman yang dapat kami temukan di mana pun.
Jadi ini adalah artikel tentang sejauh yang kita ketahui, dan bentuk buktinya lebih penting daripada biasanya. Tidak ada halaman produk untuk dibaca dan tidak ada benchmark vendor untuk diperdebatkan. Yang ada adalah sekumpulan patch engine dari empat stack inferensi terpisah, yang ditulis oleh orang-orang yang memiliki checkpoint di hadapan mereka, ditambah log pengujian mereka. Itu cukup untuk mendeskripsikan arsitektur MiniCPM5 MoE dengan cukup tepat dan untuk menyampaikan sesuatu yang jujur tentang seberapa matang dukungannya. Itu tidak cukup untuk memberi tahu Anda berapa skor model, berapa biayanya, atau kapan Anda dapat menjalankannya.
Apa yang diperbolehkan diberitahukan oleh nama itu kepada Anda
Nama checkpoint adalah satu-satunya lembar spesifikasi yang pernah diterbitkan oleh pihak mana pun di luar ModelBest. MiniCPM5-15B-A2.5B terbaca sebagai 15B parameter total dengan 2,5B aktif per token — konvensi total-dan-aktif yang telah digunakan setiap MoE sparse di kelas ukuran ini sejak Mixtral. Tidak ada apa pun dalam patch mana pun yang bertentangan dengan itu, dan catatan pengujian port SGLang sendiri menyebut bahwa "konfigurasi checkpoint 15B asli" berhasil di-resolve tanpa modifikasi, yang konsisten.
Segala hal setelah itu hanyalah dugaan, dan ada baiknya bersikap terus terang tentang alasannya. Patch SGLang menambahkan kelas MiniCPM5Config yang nilai bawaannya terbaca 32 layer, 4.096 hidden, 32 head, 64 routed expert, 2 shared expert, dan FFN expert selebar 1.407. Itu adalah nilai bawaan kelas yang diwarisi dari templat GLM-4, bukan nilai checkpoint — file yang sama memiliki nilai bawaan kosakata 32.000 token, yang belum pernah dirilis bersama model frontier-adjacent tahun 2026 mana pun. Jangan membacanya sebagai spesifikasi. Satu angka yang tampak mungkin nyata adalah faktor penskalaan routed sebesar 3,66, yang muncul dalam uji arsitektur llama.cpp dan dalam fixture uji konversi; fixture tetapiah fixture, jadi perlakukan 3,66 sebagai "angka yang menjadi acuan saat tes ditulis" alih-alih sebagai konstanta yang telah dikonfirmasi.
Arsitektur, sebagaimana terbaca dari empat patch
Empat port independen mengarah pada deskripsi yang sama, dan itulah hal yang paling melegakan tentang kebocoran ini. Patch SGLang adalah yang paling eksplisit: model tersebut "mengikuti GLM-4.5 MoE, dengan tiga perbedaan" — attention bergerbang, rotary embedding penuh tanpa normalisasi q/k, dan router yang dihitung dalam dtype model itu sendiri alih-alih di-upcast.
Gated attention — proyeksi query menghasilkan gerbang sigmoid per-head bersama query, yang terjalin di dalam baris setiap head. Konversi llama.cpp harus memisahkannya tensor demi tensor, itulah sebabnya kedua port menyebutkan hal ini secara khusus.
• Bagian awal yang padat, lalu para pakar — first_k_dense_replace lapisan pertama adalah FFN biasa; hanya lapisan setelahnya yang dirutekan. Catatan patch fork tc-mb menyebutkan bahwa baik arsitektur qwen35moe yang ada maupun minicpm tidak memodelkan bentuk tersebut, itulah sebabnya MiniCPM5 MoE memerlukan entri arsitektur tersendiri alih-alih sebuah flag pada arsitektur yang sudah ada.
• Pakar routed plus shared — gating sigmoid, bobot top-k yang dinormalisasi, dan cabang shared-expert di samping cabang routed. llama.cpp membaca bias koreksi router FP32 (e_score_correction_bias) per lapisan MoE, istilah bias yang sama yang digunakan router bergaya DeepSeek untuk menjaga beban pakar tetap seimbang.
• Rotary penuh, tanpa norm q/k — RoPE biasa di seluruh dimensi head, dengan konversi mempertahankan dimensi head secara eksplisit alih-alih menurunkannya dari ukuran tersembunyi dibagi jumlah head.

DSpark adalah paruh kedua cerita, dan itulah alasan kebocoran ini menarik, bukan sekadar rapi. DSpark adalah decoding spekulatif dengan model draft terlatih — algoritma yang sama yang telah dirilis OpenBMB untuk MiniCPM5-2B dan MiniCPM-V 4.7 — dan baik patch SGLang maupun llama.cpp menambahkan MiniCPM5 MoE sebagai target. Checkpoint draft terpisah bernama MiniCPM5-15B-A2.5B-DSpark dirujuk dalam contoh dokumentasi llama.cpp, yang berarti draft tersebut juga ada, di penyimpanan privat mana pun tempat target berada.
Empat mesin, satu checkpoint yang belum dirilis
Lini masa inilah yang membuat hal ini layak ditulis. Port biasanya tidak mendahului rilis sejauh ini di begitu banyak stack:
• 2026-09-17 — Patch Megatron-LM pada fork MUSA memungkinkan penanganan capacity-factor MoE dan dropless routing sebagai default untuk "minicpm5". Sisi pelatihan, dan jejak paling awal yang kami temukan.
• 2026-10-14 — InfiniLM dari InfiniTensor membuka patch yang memungkinkan MiniCPM5 MoE pada backend Denglin QY dengan FlashAttention dan kernel MoE/RoPE konteks panjang; tindak lanjut pada 2026-11-12 menambahkan keamanan capture CUDA-graph dan jalur dekode bf16.
• 2026-11-13 — fork llama.cpp-omni milik tc-mb menambahkan arsitektur MiniCPM5 MoE, dan patch kedua pada hari yang sama menyambungkan region pakar ke dalam kuantizer. Bagian verifikasi melaporkan Ibu kota Prancis adalah yang melengkapi menjadi Paris. dan 17×23 menghasilkan 391.
• 2026-11-16 — pull request llama.cpp upstream. Ditutup 2026-11-18, tanpa digabungkan, dengan jalur konversi dikeluarkan dari cakupan dan ditinjau kembali tiga hari kemudian di fork.
• 2026-11-19 — SGLang membuka port pada 09.39, menutupnya, lalu membukanya kembali pada 10.19 di bawah branch yang namanya diubah. Pagi yang sama, seorang insinyur Intel membuka patch optimum-intel yang blok kode pertamanya adalah perintah ekspor yang menyebut openbmb/MiniCPM5-15B-A2.5B sebagai inputnya.

Yang terakhir itu adalah hal yang paling mendekati bukti yang tak terbantahkan. Patch optimum-intel tidak menjelaskan model hipotetis — patch itu menjalankan optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 dan melaporkan akurasi terhadap versi aslinya. Siapa pun yang menulisnya memiliki bobotnya. Jalur Hub yang disebutkannya tidak mengembalikan apa pun untuk permintaan anonim, dan README MiniCPM milik OpenBMB sendiri masih mencantumkan 2026-09-07 dan 2B sebagai rilis terbaru, tanpa entri MoE di mana pun dalam tabel modelnya.
Apa yang sebenarnya ditunjukkan oleh log pengujian
Inilah bagian yang perlu dibaca perlahan, karena angka-angka dalam patch ini adalah pemeriksaan rekayasa, bukan tolok ukur, dan dua di antaranya merupakan kegagalan.
Uji coba llama.cpp adalah yang paling luas. Bobot BF16, Q8_0, dan Q4_K_M semuanya menghasilkan dan menerima token draf DSpark pada H800 dengan draf pada --spec-draft-n-max 2. Delapan sampel tokenizer cocok persis dengan tokenizer Hugging Face. NMSE CPU versus CUDA pada uji arsitektur sintetis adalah 1.00e-06. Lalu ada catatan penting, dalam kata-kata penulis sendiri: decoding greedy biasa dan DSpark "menunjukkan perbedaan pada tingkat token", penyebabnya "belum sepenuhnya dikarakterisasi", dan kesetaraan output "belum dapat dipastikan". Tidak ada uji paritas logits terhadap checkpoint asli, tidak ada evaluasi kualitas, dan tidak ada angka performa. Penulis menyatakan secara terus terang bahwa tidak ada klaim percepatan yang dibuat.
Jalannya SGLang lebih informatif karena mengisolasi satu variabel. Dengan atensi Triton, DSpark mengeksekusi 93 langkah verifikasi selama empat generasi 64 token dan menyimpang dari decoding biasa pada setiap prompt. Dengan atensi FA3, checkpoint 15B dan draft yang sama menghasilkan ID token greedy yang cocok pada keempatnya. Ketidaksesuaian Triton masih terbuka dalam patch sebagaimana tertulis. Bacalah itu sebagai apa adanya: perbedaan jalur kernel yang ditemukan seseorang dan belum dijelaskan, bukan pernyataan tentang model.
Angka OpenVINO adalah satu-satunya sinyal kualitas kuantitatif dalam seluruh rangkaian, dan angkanya moderat. Dibandingkan dengan model asli dalam FP32 pada 26 prompt dan 128 token baru, skor kemiripan teks WWB adalah 0,9934 untuk bf16 di CPU, 0,9455 untuk int8 dan 0,8710 untuk int4 di bawah backend GenAI SDPA; pada GPU B70, 0,9498 untuk int8 dan 0,8646 untuk int4. Konversi int4 yang menghasilkan 0,87 adalah hasil kesetiaan konversi — itu menunjukkan grafik terkuantisasi menyimpang dari referensi, bukan bahwa referensinya bagus. Belum ada yang menerbitkan skor benchmark untuk MiniCPM5-15B-A2.5B, dan sampai ada yang melakukannya, tidak ada dasar untuk menyebutnya kuat atau lemah.

Di mana posisinya jika dirilis
Lini MiniCPM5 dari OpenBMB sejauh ini adalah argumen tentang kepadatan. Versi 1B dirilis pada 2026-05-19 dan 2B pada 2026-09-07, keduanya dense, keduanya Apache-2.0, keduanya dibuat untuk deployment on-device — 2B adalah LlamaForCausalLM biasa tanpa kernel kustom, yang justru menjadi alasan mengapa model ini diporting ke llama.cpp, MLX, ONNX, dan setengah lusin toolchain NPU dalam hitungan minggu. Saudara dengan total 15B dan aktif 2,5B akan menjadi MiniCPM5 pertama yang bukan model edge: anggaran aktif yang sama dengan 2B, sekitar enam kali bobot tersimpan, dan lapisan routing yang harus dilayani dengan baik agar sepadan dengan memorinya.
Cara membingkai itu juga menjelaskan bentuk aneh dari kebocoran ini. Jika MiniCPM5 MoE ditujukan untuk penyajian server, bukan ponsel, maka port engine bukan sekadar pelengkap yang dikirim setelah peluncuran — melainkan prasyarat peluncuran, dan seseorang mengerjakannya lebih awal. Fakta bahwa akun GitHub yang sama membuka port untuk llama.cpp dan SGLang, bahwa seorang anggota proyek MiniCPM sedang menggabungkan patch fork, dan bahwa checkpoint draf untuk DSpark sudah ada, semuanya mengarah ke kesimpulan yang sama: ini adalah model yang sedang disiapkan untuk rilis oleh orang-orang yang memiliki akses ke model itu, bukan rumor yang disusun dari changelog.
Apa yang akan mengubah gambaran ini?
Tiga hal, diurutkan menurut seberapa banyak yang akan mereka selesaikan.
Pertama, sebuah repositori. Halaman Hub atau ModelScope dengan konfigurasi, lisensi, dan kartu akan mengubah sebagian besar paragraf di atas dari inferensi menjadi fakta, dan akan langsung memberi acuan untuk memeriksa default konfigurasi yang saya peringatkan.
Kedua, tolok ukur sumber primer. Kartu MiniCPM5-2B memuat rata-rata suite 53,9 dan sel per tugas untuk LiveCodeBench, AIME, dan SWE-bench; model 15B-A2.5B tanpa tabel yang setara adalah model yang seluruh proposisi nilainya belum terukur. Entri Artificial Analysis bisa menjadi solusinya, karena itu independen dari vendor.
Ketiga, port yang sudah di-merge. Setiap patch yang dijelaskan di sini entah sudah ditutup, berupa draf, atau berada di fork privat. Dukungan yang hanya ada dalam pull request yang belum di-merge adalah dukungan yang tidak dapat Anda pasang, dan — seperti yang ditunjukkan oleh divergensi Triton versus FA3 — kebenaran pada arsitektur ini masih ditetapkan kernel demi kernel.
Konsekuensi praktisnya bagi pembaca saat ini sederhana: tidak ada yang perlu diunduh, tidak ada yang perlu dipanggil, tidak ada yang perlu dimigrasikan. Yang diubah oleh model seperti ini ketika benar-benar hadir adalah keputusan tentang di mana sebuah workload dijalankan, dan keputusan itu biasanya dibuat di bawah tekanan waktu dengan bukti yang tidak lengkap — situasi yang memang menjadi alasan adanya lapisan routing. OrcaRouter menempatkan 200+ model yang dihosting di balik satu API pada harga daftar penyedia tanpa tambahan markup, sehingga perbandingan yang ingin Anda jalankan, checkpoint ini versus apa pun yang Anda gunakan saat ini, tidak memakan biaya untuk disiapkan begitu ada yang menghostingnya; failover otomatis berarti model minggu pertama tidak harus menangani jalur produksi sendirian. Tidak satu pun dari itu mengharuskan MiniCPM5-15B-A2.5B tersedia, dan kami tidak menyajikannya — itu adalah jaring pengaman di sekitar model yang sudah Anda andalkan sementara model yang belum dirilis membuktikan dirinya.
Sampai saat itu, ringkasan jujurnya adalah yang diberikan thread llama.cpp kepada kita: GGUFs-nya ada, dan tidak bersifat publik. Empat runtime sudah menulis kode untuk memuatnya. Pantau halaman organisasi OpenBMB dan dua pull request terbuka, dalam urutan itu — munculnya repositori adalah sinyalnya, dan port yang di-merge adalah konfirmasi bahwa arsitekturnya memang seperti yang diklaim patch-patch ini.
