Muse Spark Open 816B A42B vs Muse Spark 1.2: Model Terbuka Itu Akhirnya Punya Cerita Serving

Hingga minggu ini, membandingkan Muse Spark Open 816B A42B dengan Muse Spark 1.2 selalu gagal di tempat yang sama: satu kolom berisi pengukuran dan kolom lainnya berisi repositori. Meta menerbitkan bobot untuk Muse Spark Open 816B A42B — campuran pakar dengan 816 miliar parameter dan 42 miliar parameter aktif, dikemas di Hugging Face sebagai Muse-Spark-Open-816B-A42B — pada 15 Oktober 2026, tanpa acara peluncuran dan tanpa siklus pers. Muse Spark 1.2 telah terdaftar dan diukur secara independen selama berbulan-bulan. Lalu pada 16 Oktober 2026, NVIDIA menerbitkan checkpoint dekode spekulatif 4,38 miliar parameter untuk model terbuka tersebut, dan bentuk perbandingannya bergeser, karena checkpoint itu adalah artefak pihak ketiga pertama yang dibangun khusus untuk membuat tingkat 816B dapat dilayani. Tidak ada peluncuran di sini, dan tidak ada pemotongan harga di sini. Yang berubah lebih sempit dan lebih berguna: sisi terbuka dari catatan memperoleh bukti pertamanya tentang bagaimana ia akan benar-benar berjalan. Kesenjangan antara apa yang diukur papan skor dan apa yang dihadapi penerapan adalah alasan catatan itu penting: kegagalan AI dan insiden agen yang terdokumentasi seputar model di kelas ini dikumpulkan di OrcaRouter AI Incident Archive di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda sengketa.

Kolom yang hilang merupakan keseluruhan argumen

Singkirkan kemiripan keluarga itu, dan ini bukanlah dua konfigurasi dari satu produk. Ini adalah sekumpulan bobot yang dapat diunduh dan endpoint yang disewa, dan angka-angka yang menentukan adopsi nyata bukanlah angka-angka yang tertera di kartu benchmark.

Dari segi kemampuan, Intelligence Index independen menempatkan Muse Spark 1.2 pada 40 dan Muse Spark Open 816B A42B pada 39. Itu seri dalam segala pengertian praktis; selisih satu poin berada di dalam noise tentang bagaimana komposit-komposit ini disusun, dan itu bukan alasan untuk memilih salah satu model dibanding yang lain.

Dalam hal kecepatan dan biaya, kesenjangan itu bukanlah kesenjangan, melainkan sebuah lubang. Muse Spark 1.2 memiliki kecepatan output yang terukur, harga per token yang dipublikasikan, dan biaya per tugas indeks. Muse Spark Open 816B A42B tidak memiliki satu pun dari hal-hal itu, karena tidak ada yang pernah menyajikannya dalam skala besar dan melaporkan hasilnya. Asimetri itulah yang sebenarnya diperdebatkan orang, dan itulah bagian yang baru saja berubah.

Apa yang ditambahkan oleh checkpoint NVIDIA, dan apa yang dengan sengaja tidak ditambahkannya

Repositori ini disebut nvidia/Muse-Spark-Open-816B-A42B-DFlash2, repositori ini tidak dibatasi, dan ini adalah drafter — model kecil yang tugasnya hanya menebak blok token berikutnya sehingga target 816B dapat memverifikasi seluruh blok dalam satu forward pass, bukan mengeluarkan satu token dalam satu waktu.

• Apa penyusunnya — 4,38 miliar parameter padat dalam BF16, lima lapisan decoder, attention jendela geser dengan jendela 2.048 token, ukuran blok delapan, dan memanfaatkan lima lapisan dari target 62 lapisan. Ini adalah lampiran, bukan model: ia tidak menghasilkan teksnya sendiri dan tidak dapat berjalan tanpa target yang untuknya ia dilatih membuat draf.

• Apa yang dilaporkannya — panjang penerimaan 3,73 pada MT-Bench dengan greedy decoding dan 3,01 di bawah sampling, rasio throughput SPEED-Bench 3,30 dan 2,78, serta jumlah token spekulatif yang direkomendasikan sebanyak tujuh. Pada GPU Blackwell melalui vLLM atau TensorRT-LLM, itu merupakan percepatan yang substansial untuk target.

• Apa yang tidak dilaporkannya — percepatan end-to-end, dalam token per detik, dibandingkan baseline non-spekulatif yang setara. Panjang penerimaan memberi tahu Anda bahwa draf sering diterima. Itu tidak memberi tahu Anda bahwa server menjadi lebih cepat, dan keduanya bisa menyimpang jauh ketika target sudah terbatas oleh bandwidth memori.

• Di mana ini dijalankan — NVIDIA Blackwell dengan Linux, melalui dua mesin yang disebutkan namanya. SGLang, runtime yang digunakan oleh materi DFlash V2 milik Meta sendiri, tidak ada dalam daftar tersebut. Ini adalah artefak pusat data, bukan sesuatu yang bisa dilipat ke dalam penerapan desktop.

Jadi pembaruan yang jujur adalah ini: kolom kecepatan model terbuka telah berubah dari kosong menjadi beranotasi, bukan dari kosong menjadi terisi. Pembaca yang membandingkan kedua model ini hari ini dapat mengatakan Muse Spark Open 816B A42B dapat dilayani di pusat data Blackwell dengan dekode spekulatif. Pembaca tersebut masih belum dapat mengatakan berapa banyak token per detik yang akan mereka dapatkan.

Dimensi demi dimensi, dengan kelas bukti yang dilampirkan

Setiap baris menyebutkan dimensinya, kedua sisinya, dan seberapa kuat bukti yang mendukung sisi yang menang — karena pada pasangan ini, kelas bukti lebih penting daripada arah.

• Kemampuan — Muse Spark 1.2 pada 40, Muse Spark Open 816B A42B pada 39, keduanya diukur secara independen oleh Artificial Analysis. Selisihnya dalam satu poin. Tidak menentukan.

• Kecepatan — Muse Spark 1.2, secara meyakinkan, dan independen: daftar Artificial Analysis untuk Muse Spark 1.2 saat ini menunjukkan 374,6 token per detik, peringkat pertama dari 186 model yang diukur, dengan waktu ke token pertama 12,67 detik. Cuplikan sebelumnya dari daftar yang sama menunjukkan 361,4 token per detik, peringkat pertama dari 185, yang perlu diketahui sebelum Anda mengutip salah satu angka tersebut sebagai fakta tetap — peringkatnya adalah klaim yang bertahan, angka desimalnya bukan. Muse Spark Open 816B A42B tidak memiliki angka throughput end-to-end dari siapa pun. Satu-satunya angka yang terkait throughput miliknya adalah milik drafter, dan itu adalah rasio penerimaan, bukan throughput server.

• Biaya — Muse Spark 1.2 seharga $1,25 per juta token masukan dan $4,25 per juta token keluaran, diskon 88% untuk input yang di-cache, dan biaya terukur $0,97 per tugas Intelligence Index. Muse Spark Open 816B A42B tidak memiliki harga per token dan tidak ada biaya per tugas yang dipublikasikan; biayanya adalah perangkat keras, daya, dan perhatian seseorang, dan tidak ada angka independen.

• Bobot — Muse Spark Open 816B A42B, sepenuhnya, dan hanya itu. Sekitar 1,5TB dalam BF16 plus build NVFP4, di balik gerbang persyaratan. Bobot Muse Spark 1.2 tidak didistribusikan dalam bentuk apa pun, dan tidak ada drafter yang mengubahnya.

• Fine-tuning — Muse Spark Open 816B A42B, dengan dukungan TorchTitan yang disertakan bersama bobotnya. Muse Spark 1.2 tidak dapat di-fine-tune pada data Anda dengan harga berapa pun. Ini adalah keunggulan struktural terbesar dari model terbuka ini dan tidak terpengaruh oleh apa pun yang diterbitkan NVIDIA.

• Konteks — seri pada 1.048.576 token, dengan fisika yang berbeda di baliknya. Pada model terbuka, konteks sepanjang penuh dalam BF16 memakan KV cache di kisaran 266GB selain bobot. Pada Muse Spark 1.2, itu adalah masalah kapasitas orang lain.

• Upaya penalaran — model terbuka memungkinkan Anda menyetel rendah, sedang, tinggi, dan xhigh, yang dipetakan ke 16, 64, 256, dan 512 token penalaran, atau mengatur hal yang sama dengan petunjuk system prompt. Karena Anda membayar dalam waktu berjalan, bukan dolar per token keluaran, menaikkan setelan itu memakan waktu yang disesuaikan dengan akurasi dan tidak menambah apa pun di meteran. Pada Muse Spark 1.2, penalaran yang sama ditagih sebagai keluaran.

• Modalitas — diperdebatkan, dan berdasarkan bukti yang tersedia hal ini mengarah pada Muse Spark 1.2. Artificial Analysis mengukur 1.2 menerima teks, gambar, ucapan, dan video, serta mengukur model terbuka hanya menerima teks dan gambar, sementara materi Meta sendiri mengklaim teks, gambar, video, dan audio untuk Muse Spark Open 816B A42B. Klaim yang luas dinyatakan oleh vendor; yang sempit diukur.

• Lisensi — Muse Spark Open 816B A42B di bawah Muse Model License, yang memuat klausul yang mensyaratkan perjanjian tertulis terpisah jika pendapatan model-as-a-service Anda melewati $20 juta dalam dua belas bulan berturut-turut mana pun, dan mensyaratkan string atribusi "Built with Muse Spark Open". Penyusun NVIDIA menumpuk NVIDIA Open Model Agreement di atasnya. Muse Spark 1.2 berjalan di bawah ketentuan API biasa.

• Batas minimum perangkat keras — model terbuka membutuhkan dua M5 Ultra Mac Studios untuk jalur desktop MLX, atau node Blackwell untuk jalur TensorRT-LLM, atau node empat GPU untuk resep BF16. Drafter tidak menambah apa pun pada jalur desktop. Muse Spark 1.2 tidak memerlukan semua itu.

• Risiko deprekasi — daftar Muse Spark 1.2 sendiri menampilkan spanduk yang mengumumkan bahwa rilis yang lebih baru, Muse Spark 1.3, telah diluncurkan. Bobot di disk Anda tidak dapat dideprekasi dari bawah Anda, dan itulah satu-satunya poin dalam daftar ini di mana kepemilikan sendiri menang berdasarkan fakta, bukan preferensi.

Banner adalah argumen untuk memilikinya.

Baris terakhir itu layak mendapat lebih dari sekadar butir. Model yang Anda sewa sudah ditandai sebagai digantikan oleh penerus dari vendornya, yang bukanlah skandal — memang begitulah cara kerja tier yang dihosting — tetapi itu berarti perbandingannya tidak sebersih "39 versus 40 dan yang cepat menang".

Tim yang membangun di atas Muse Spark 1.2 sedang membangun pada endpoint yang sudah diketahui akan menghadapi migrasi. Tim yang memiliki bobot 816B memiliki model dengan kemampuan tetap dan perilaku yang dapat dikonfigurasi, dan keputusan migrasi menjadi milik mereka untuk dijadwalkan. Biaya dari kendali itu adalah throughput, perangkat keras, dan penerimaan bahwa narasi drafter masih setengah jadi.

Apa yang masih bisa didapat dari menyewa yang tidak bisa diperbaiki oleh penyusun mana pun

Decoding spekulatif membuat model terbuka berukuran besar lebih murah untuk dilayani. Namun, hal itu tidak menjadikannya pengganti langsung bagi endpoint hosted yang cepat dalam loop interaktif, dan perbedaan itulah yang penting bagi tim produk.

Muse Spark 1.2 dengan 374,6 token per detik dan token pertama dalam 12,67 detik diukur di bawah beban kerja yang terstandardisasi. Loop agen mengalikan angka kedua dengan jumlah perjalanan bolak-balik per tugas, dan diskon cache diterapkan oleh penyedia tanpa Anda mengoperasikan apa pun. Membangun sendiri berarti perencanaan kapasitas, tumpukan driver, dan konfigurasi spekulatif yang Anda setel sendiri. Panjang penerimaan drafter adalah awal dari pekerjaan itu, bukan akhirnya.

Merutekan pemisahan alih-alih memilih salah satu sisi.

Sebagian besar tim yang akhirnya menjalankan keduanya tiba di titik itu karena beban kerjanya memang benar-benar berbeda: jalur interaktif menginginkan endpoint yang cepat, jalur batch dan on-premises menginginkan bobotnya. Mode kegagalannya adalah pemisahan yang hanya ada di dokumen desain, bukan di konfigurasi.

OrcaRouter merutekan Muse Spark 1.2 — dan Muse Spark 1.1 — pada harga daftar penyedia dengan markup 0% yang diteruskan langsung, sehingga perubahan harga vendor sampai ke kunci Anda pada hari yang sama tanpa perlu Anda melakukan penetapan harga ulang. Ini tidak merutekan atau menghosting Muse Spark Open 816B A42B, atau drafter DFlash2 ini, dan akan keliru untuk membaca tulisan ini sebagai mengklaim sebaliknya: model yang nilainya adalah bahwa Anda dapat memegang bobotnya adalah model yang Anda jalankan di perangkat keras sendiri. Yang disumbangkan oleh router adalah separuh lain dari pembagian itu — satu API untuk lebih dari 200 model, failover otomatis saat penyedia mengalami degradasi, fusi model untuk menggabungkannya, dan DSL perutean yang memindahkan lalu lintas antar-model melalui konfigurasi alih-alih melalui perubahan kode. Bagian terakhir itu adalah cara murah untuk menguji apakah jalur self-hosted yang belum terbukti sudah siap tanpa mempertaruhkan rute produksi padanya.

Apa yang harus dilakukan dengan perbandingan yang belum selesai

Ambil Muse Spark 1.2 jika Anda membutuhkan throughput terukur dan biaya terukur per tugas hari ini, jika ada manusia yang menunggu output, jika Anda membutuhkan input suara dan video yang dikonfirmasi secara independen, atau jika Anda ingin model Muse dengan satu kunci tanpa membeli GPU. Dengan $1,25 masuk dan $4,25 keluar dengan diskon input cache 88%, ini adalah pembelian yang dapat dipertahankan bahkan mengetahui bahwa daftar vendor-nya sendiri mengarah ke 1.3.

Ambil Muse Spark Open 816B A42B jika tugasnya cukup sempit untuk di-fine-tune dengan TorchTitan, jika datanya tidak dapat meninggalkan jaringan Anda, jika volumenya cukup besar dan stabil untuk mengamortisasi perangkat keras, atau jika dial penalaran gratis lebih berharga bagi Anda daripada poin indeks yang Anda lepaskan. Build NVFP4 dan drafter NVIDIA bersama-sama berarti jalur datacenter tidak lagi spekulatif dalam pengertian yang penting pada Oktober — jalur itu sekadar belum terkuantifikasi.

Yang seharusnya tidak Anda lakukan adalah memilih bobot terbuka karena gratis, atau memilih model yang dihosting karena lebih cepat, tanpa menyadari bahwa kedua kalimat itu menjawab pertanyaan yang berbeda. Yang satu tentang apa model itu, yang lain tentang bagaimana Anda akan menjalankannya. Pekan lalu hanya pertanyaan kedua yang punya jawaban. Pekan ini, untuk pertama kalinya, keduanya punya jawaban — dan jawaban model terbuka itu disertai batang galat.

Muse Spark Open 816B A42B dapat diunduh di bawah Muse Model License; Muse Spark 1.2 dijual per token dan dirutekan di OrcaRouter dengan harga daftar.