Grafik hero untuk A.X K2 DSpark vs A.X K2: model draf yang mengusulkan empat token kandidat secara paralel yang diverifikasi oleh A.X K2 (688B / 33B aktif), dengan keterangan 'jawaban sama, decode lebih cepat.'
Guides & Insights

A.X K2 DSpark vs A.X K2: Apa yang Sebenarnya Anda Dapatkan dari Model Khusus Drafter

Penulis

Rowan Sterling

Tanggal Terbit

Model terbaru · 20Lihat semua model
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Hal yang paling aneh tentang perbandingan A.X K2 DSpark vs A.X K2 adalah bahwa ini sebenarnya bukanlah sebuah perbandingan. A.X K2 DSpark tidak dapat digunakan sebagai pengganti A.X K2 — ia tidak dapat digunakan sama sekali secara mandiri. Ini adalah "drafter-only checkpoint" yang diam-diam diunggah SK Telecom ke Hugging Face pada awal Agustus tanpa pengumuman: model draf dekoding spekulatif yang seluruh tugasnya adalah membuat A.X K2, andalan Mixture-of-Experts open-weight dengan 688 miliar parameter milik perusahaan tersebut, menghasilkan token lebih cepat tanpa mengubah jawabannya. Jadi pertanyaan sebenarnya yang menjadi inti perbandingan ini bukanlah "mana yang lebih baik." Melainkan "haruskah Anda menjalankan A.X K2 dengan DSpark, atau tanpanya?" Segala sesuatu dalam tulisan ini diberi label berdasarkan sumber, karena kesenjangan antara apa yang dikatakan repositori dan apa yang sebenarnya diukur adalah inti dari keseluruhan cerita.

Apa sebenarnya A.X K2 DSpark itu

Kartu model SK Telecom sangat blak-blakan tentang tujuan model ini. A.X K2 DSpark "adalah model draf decoding spekulatif DSpark untuk A.X K2" dan "checkpoint khusus drafter: tidak memiliki kegunaan mandiri dan dimaksudkan untuk dimuat oleh vLLM bersama A.X K2 melalui decoding spekulatif." Dalam praktiknya, itu berarti Anda mengunduhnya, mengarahkan vLLM yang kompatibel ke model tersebut dan A.X K2, lalu keduanya bekerja sebagai satu tim: DSpark mengusulkan token kandidat, A.X K2 memverifikasinya, dan hanya token terverifikasi yang dikeluarkan.

Dua detail mekanisme draf dapat diketahui dari repo. Pertama, DSpark mengusulkan beberapa token kandidat secara paralel daripada menulis urutan draf satu token pada satu waktu, dengan memanfaatkan representasi tersembunyi A.X K2 sendiri bersama pemodelan ketergantungan lokal yang ringan. Kedua, semuanya dirancang tanpa kehilangan (lossless): setiap kandidat diverifikasi oleh model target sebelum disahkan, sehingga distribusi keluaran A.X K2 tidak berubah secara desain.

Rilis itu sendiri merupakan prapengumuman. Kartu tersebut menyatakan model "saat ini dalam validasi akhir dan direncanakan untuk rilis publik dalam beberapa hari ke depan," dan evaluasi "sedang berlangsung" — setiap metrik throughput, TPOT, dan mean-accepted-length pada kartu masih tercantum sebagai TBD.

Mengapa "versus" ini sebenarnya adalah "dengan versus tanpa"

Karena A.X K2 DSpark tidak memiliki penggunaan mandiri, tidak ada skenario di mana Anda memilihnya alih-alih A.X K2. Pilihannya adalah antara A.X K2 itu sendiri dan A.X K2 dengan model draf yang dilampirkan. Pada kualitas keluaran, kedua konfigurasi identik secara desain; satu-satunya aspek yang dapat berubah adalah kecepatan decode.

Sebagai catatan, inilah A.X K2: sebuah dekoder Mixture-of-Experts dengan total 688B, aktif 33B, yang memiliki 256 pakar ditambah satu pakar bersama (8 aktif per forward pass), 61 lapisan, 64 kepala atensi, dan kosakata 163.840 token, dirilis dengan bobot terbuka di bawah Apache 2.0 pada 29 Juli. Model ini dilatih awal pada sekitar 8,2 triliun token secara native dalam MXFP8, menggunakan Sparse Gated Attention dari SK Telecom untuk efisiensi konteks panjang, dan membawa konteks 262.144 token (128K native yang diperluas menjadi 256K melalui YaRN). SK Telecom melaporkan rata-rata +32,2 poin persentase dibandingkan A.X K1 di 14 tolok ukur, dengan evaluasi konteks panjang dan agen naik sekitar 83,9 poin — semuanya dilaporkan vendor, dan belum ada skor komposit independen yang dipublikasikan.

DSpark dirancang khusus untuk arsitektur tersebut. Kartu tersebut menyatakan bahwa DSpark cocok dengan struktur MoE A.X K2, tata letak perhatian, dan konfigurasi 256K asli, dan tidak tervalidasi untuk target lain. Ia mewarisi konteks 262.144 token yang sama, sehingga menjalankannya tidak membebani ukuran jendela.

A comparison scoreboard for A.X K2 DSpark and A.X K2: drafter-only checkpoint vs 688B / 33B-active MoE target; identical output by construction; shared 262,144-token context and Apache 2.0 license; DSpark's 60-85% faster decode labeled as a paper claim not yet measured on A.X K2; A.X K2 live open weights since 7-29.

Membaca kartu model: dapat diketahui, belum dikonfirmasi.

Repo tersebut memberi Anda gambaran yang jelas tentang apa model itu, dan daftar singkat hal-hal yang tidak dijelaskannya.

Dapat diketahui hari ini:

Ini adalah checkpoint khusus drafter tanpa penggunaan mandiri, dimuat oleh vLLM bersama A.X K2 melalui speculative decoding.

Lisensinya adalah Apache 2.0; bobotnya gratis untuk diunduh dan digunakan.

• Panjang konteks sama dengan A.X K2 pada 262.144 token.

Ini berjalan melalui fork vLLM milik SK Telecom (repo SKT-AI/vllm, cabang axk2-v0.23.0) menggunakan flag --speculative-config.

Metode ini didokumentasikan dalam sebuah makalah, "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation" (arXiv:2607.05147, diajukan pada 6 Juli 2026) — makalah tersebut juga merupakan sumber angka percepatan yang akan Anda lihat dikutip.

• Tidak ada penyedia inferensi yang menyebarkannya saat ini, jadi tidak ada API yang dihosting untuk dipanggil.

Belum dikonfirmasi:

• Sebuah pengumuman resmi — kartu tersebut menjanjikan rilis publik "dalam beberapa hari ke depan."

• Setiap angka percepatan khusus A.X K2. Evaluasi sedang berlangsung dan semua metrik kinerja masih TBD.

• Seberapa besar sebenarnya membantu saat dibebani, yang oleh kartu tersebut ditandai sebagai "workload-dependent."

• Setiap pengukuran independen pihak ketiga terhadap model draf.

The Hugging Face model card for skt/A.X-K2-DSpark, showing it is a DSpark speculative-decoding draft model and a drafter-only checkpoint for A.X K2 with no standalone use, Apache 2.0 license, a 262,144-token context, release status 'planned for public release within the next few days,' and the note that no inference provider deploys it.

Bagaimana DSpark berbeda dari decoding spekulatif biasa

Decoding spekulatif adalah trik yang sudah mapan: model draf kecil dan cepat menulis tebakan untuk beberapa token berikutnya, dan model besar memeriksa seluruh tebakan dalam satu forward pass, menerima prefiks yang lolos verifikasi sebelum mengambil satu langkah korektif. Jika dilakukan dengan baik, ini memangkas latensi secara drastis tanpa kehilangan kualitas.

Tangkapannya, sebagaimana dirumuskan dalam makalah DSpark, adalah bahwa para penyusun draf paralel terbaru — yang mengusulkan rangkaian panjang dalam satu lintasan — mengalami "peluruhan penerimaan cepat" karena token-token selanjutnya dalam draf tidak memiliki ketergantungan pada token-token sebelumnya, sehingga token-token itu jauh lebih sering ditolak. Dan memverifikasi blok panjang secara membabi buta menyia-nyiakan kapasitas batch pada token yang kemungkinan besar akan ditolak, yang justru merugikan throughput dalam sistem layanan dengan konkurensi tinggi.

DSpark mengatasi kedua masalah:

• Penyusunan semi-autoregresif. Metode ini menggabungkan backbone paralel dengan modul sekuensial ringan, menambahkan pemodelan ketergantungan intra-blok sehingga token draf berikutnya bergantung pada token sebelumnya — yang justru mengurangi peluruhan sufiks.

• Verifikasi terjadwal-berbasis keyakinan. Alih-alih memverifikasi panjang blok tetap, ia menyesuaikan panjang verifikasi per permintaan, berdasarkan perkiraan probabilitas kelangsungan prefiks dan profil throughput mesin. Verifikasi menjadi sadar-beban.

Angka-angka dalam makalah tersebut — dan apa yang tidak mereka ceritakan kepada Anda

Berikut angka yang akan Anda lihat dikutip: DSpark "mempercepat kecepatan generasi per pengguna sebesar 60 hingga 85 persen" pada tingkat throughput yang setara, dibandingkan dengan baseline produksi MTP-1. Makalah ini juga melaporkan panjang yang diterima yang jauh lebih baik dibandingkan dengan drafter autoregresif dan paralel tercanggih pada tolok ukur offline, dan menyatakan bahwa ini mencegah penurunan throughput yang parah dalam batasan interaktivitas yang ketat.

Baca teks kecilnya, karena ini penting untuk pertandingan spesifik ini: angka 60–85% itu diukur pada sistem penyajian DeepSeek-V4 di bawah lalu lintas pengguna nyata — bukan pada A.X K2. Ini adalah klaim tentang metode DSpark yang digunakan pada tumpukan model yang berbeda. Kartu DSpark A.X K2, sebaliknya, belum memiliki angka percepatan sama sekali. Papan skor yang jujur untuk pasangan ini adalah: keluaran yang identik secara konstruksi, dan percepatan yang menurut makalah metode tersebut masuk akal tetapi SK Telecom sendiri belum mengukurnya pada model yang menjadi dasar checkpoint draf ini.

The arXiv abstract page for the DSpark paper (arXiv 2607.05147), stating that DSpark accelerates per-user generation speeds by 60 to 85 percent at matched throughput against the MTP-1 production baseline, deployed in the DeepSeek-V4 serving system.

Apa yang sebenarnya dibutuhkan untuk menjalankannya

Prasyaratnya adalah bagian yang paling membuat banyak orang mundur: Anda harus menghosting sendiri A.X K2. Tidak ada API yang dihosting untuk model target — model ini open-weight, dan menyajikan MoE aktif 688B/33B adalah komitmen infrastruktur yang serius. DSpark hanya relevan bagi tim yang sudah membuat komitmen tersebut.

Jika Anda memilikinya, biaya marjinal untuk menambahkan model draf kecil:

• Unduh checkpoint draf Apache 2.0 dan jalankan fork vLLM milik SK Telecom (cabang axk2-v0.23.0).

• Aktifkan decoding spekulatif melalui flag --speculative-config, yang mengarahkannya ke checkpoint DSpark.

• Alokasikan memori ekstra untuk bobot draf, dan terima bahwa Anda kini berada pada fork vendor dari vLLM, bukan versi standar — sebuah pertimbangan pemeliharaan.

• Ingatlah peringatan dari makalah itu sendiri bahwa verifikasi tidaklah gratis: dalam konkurensi tinggi, verifikasi yang ceroboh menggerus kapasitas batch, yang justru merupakan mode kegagalan yang dirancang untuk ditangani oleh verifikasi terjadwal-kepercayaan.

Satu hal lagi yang perlu diketahui: Hugging Face melaporkan bahwa unduhan "tidak dilacak untuk model ini," jadi tidak ada sinyal publik tentang berapa banyak tim yang sebenarnya telah mencobanya.

Siapa yang harus memilih yang mana

Jalankan A.X K2 polos jika salah satu dari ini menggambarkan Anda:

• Anda menjalankan vLLM standar dan tidak menginginkan checkpoint kedua atau fork vendor di path.

Beban kerja Anda terikat pada throughput, bukan pada latensi, dan pengguna toleran menunggu pada generasi yang panjang.

• Kamu lebih suka menunggu rilis resmi dan pengukuran independen pertama.

Jalankan A.X K2 plus DSpark jika ini kamu:

• Anda self-host A.X K2 dan yang menjadi kendala adalah latensi generasi atau throughput token.

• Beban kerja konteks panjang dan agen membuat pengguna menunggu keluaran yang panjang — rezim yang dibangun untuk decoding spekulatif.

• Anda merasa nyaman menjalankan komponen pra-pengumuman yang kerugiannya terbatas: dalam kasus terburuk, komponen tersebut tidak membantu, dan tidak dapat mengubah kualitas keluaran.

Jangan pilih salah satu dari keduanya jika Anda sama sekali tidak menghosting sendiri MoE 688B. Kedaulatan dan keunggulan bahasa Korea A.X K2 hanya akan sampai kepada Anda jika Anda menjalankannya, dan banyak tim justru akan menjangkau model terbuka frontier melalui katalog terhosting. Di sinilah menjaga integrasi Anda tetap agnostik model akan terbayar: satu endpoint milik OrcaRouter yang kompatibel dengan OpenAI mencakup 200+ model dengan harga daftar penyedia dan markup 0%, failover otomatis, serta DSL perutean untuk menggabungkan beberapa model menjadi satu panggilan. (Baik A.X K2 maupun A.X K2 DSpark tidak dihosting di mana pun saat ini — termasuk di OrcaRouter — jadi ini tentang komponen stack Anda yang lain, bukan tentang merutekan pasangan ini.) Sikap ini tetap berlaku: coba model yang belum terbukti pada sebagian kecil lalu lintas dan lakukan failover secara otomatis, daripada mempertaruhkan jalur produksi padanya.

Tontonan Berikutnya

Kondisinya sederhana: repo-nya nyata, metodenya terdokumentasi, tetapi pengukurannya tidak ada. Tiga hal yang perlu diperhatikan adalah rilis publik yang dijanjikan (kartunya menyebutkan {{1}}"dalam beberapa hari ke depan"{{/1}}), angka throughput atau latensi pertama yang spesifik untuk A.X K2 setelah evaluasi SK Telecom selesai, dan apakah ada penyedia inferensi yang mengadopsi pasangan ini — {{2}}yang akan membuat DSpark relevan bagi tim yang tidak melakukan self-hosting{{/2}}.

FAQ

Bisakah A.X K2 DSpark menggantikan A.X K2?

Tidak. Itu adalah checkpoint khusus drafter tanpa penggunaan mandiri — ia ada untuk mempercepat decode A.X K2, bukan sebagai alternatifnya. Anda tidak dapat menjalankan A.X K2 DSpark tanpa A.X K2.

Apakah DSpark mengubah kualitas keluaran A.X K2?

Tidak, berdasarkan konstruksinya. Setiap token kandidat diverifikasi oleh A.X K2 sebelum dikomit, sehingga distribusi keluarannya tidak berubah — kartu tersebut menggambarkan pendekatan ini sebagai lossless.

Apakah saya perlu meng-host sendiri A.X K2 untuk menggunakan DSpark?

Ya. DSpark dimuat oleh vLLM bersamaan dengan A.X K2, jadi tidak ada yang bisa ia draf kecuali Anda menjalankan target 688B. Saat ini tidak ada API yang di-hosting untuk kedua model tersebut.

Apakah DSpark berfungsi dengan model lain?

SK Telecom merancangnya untuk arsitektur MoE A.X K2, struktur attention, dan konteks 256K, dan belum memvalidasinya terhadap target lain.

Putusan

A.X K2 DSpark vs A.X K2 adalah "adu" yang jawaban jujurnya "keduanya." Jika Anda sudah menjalankan A.X K2 dan pengguna menunggu proses generasi yang lama, model draft tersebut adalah eksperimen gratis dan berisiko rendah: bobot Apache 2.0, skenario terburuknya tanpa percepatan, dan tidak ada kemungkinan penurunan kualitas secara konstruksi. Jika Anda tidak terikat oleh latensi — atau tidak menyelenggarakan sendiri MoE 688B sama sekali — Anda dapat mengabaikannya dengan aman sampai angka evaluasi SK Telecom keluar dan rilis publik yang dijanjikan menjadikan model tersebut resmi. Yang tidak boleh Anda lakukan adalah mengira angka 60–85% dari makalah tersebut sebagai pengukuran untuk model ini: saat ini, semua hal khusus DSpark tentang A.X K2 masih TBD.

© 2026 OrcaRouter

Untuk Penyedia

Mengoperasikan platform inferensi? Hadirkan model Anda di OrcaRouter.

providers@orcarouter.ai

Gabung komunitas kami

Discordsupport@orcarouter.aiXGitHubYouTube