A.X-K2-DSpark: Model Draft Decoding Spekulatif SK Telecom Hadir Tanpa Diumumkan

A.X-K2-DSpark{{1}} adalah model yang kemungkinan besar tidak akan pernah Anda panggil secara langsung{{/1}} — dan justru itulah mengapa model ini layak untuk dibaca. SK Telecom diam-diam mengunggahnya ke Hugging Face, tanpa postingan peluncuran dan tanpa siaran pers di baliknya;{{2}} kartu modelnya hanya diawali dengan pernyataan bahwa checkpoint tersebut "saat ini dalam validasi akhir dan direncanakan untuk dirilis publik dalam beberapa hari ke depan."{{/2}} Ini adalah checkpoint khusus drafter untuk decoding spekulatif, dibangun untuk satu tugas: membuat flagship A.X K2 milik SK Telecom dengan 688 miliar parameter lebih cepat dan lebih murah untuk disajikan{{3}} dengan mengusulkan token yang kemudian diverifikasi oleh A.X K2.{{/3}} Inilah yang sebenarnya disampaikan repositori tersebut kepada kita, apa yang masih belum terkonfirmasi, dan mengapa model pembantu kecil seperti ini menjadi tempat persembunyian pemotongan biaya penyajian LLM di putaran berikutnya.

Apa sebenarnya A.X-K2-DSpark itu

A.X-K2-DSpark bukanlah model mandiri dalam arti yang sesungguhnya. Kartu model menyatakan demikian dalam catatan penggunaan yang dimaksudkan: model ini adalah "checkpoint khusus drafter" dengan "tanpa penggunaan mandiri," yang dimuat oleh vLLM bersama targetnya, A.X K2, di dalam loop decoding spekulatif. Ini adalah tahap draf dari generator dua tahap — model kecil mengusulkan token kandidat dengan cepat, dan model target memverifikasinya sebelum token apa pun dikomit ke keluaran.

Targetnya, untuk konteks, adalah salah satu model open-weight terbesar yang pernah ada. A.X K2 adalah model Mixture-of-Experts milik SK Telecom dengan total 688B parameter dan 33B aktif, dirilis di Hugging Face pada akhir Juli 2026 di bawah lisensi Apache 2.0, dibangun di atas arsitektur dasar yang memasangkan Multi-head Latent Attention dengan DeepSeek Sparse Attention serta menambahkan modifikasi konteks panjang Sparse Gate Attention khas SK Telecom. A.X-K2-DSpark bergantung pada state tersembunyi A.X K2 dan menambahkan pemodelan ketergantungan lokal yang ringan di antara posisi kandidat, sehingga ia dapat mengusulkan beberapa token secara paralel, bukan menggambar secara ketat autoregressive. Setiap kandidat kemudian diverifikasi oleh A.X K2 sebelum diterima — itulah sebabnya kartu tersebut menyebut hasilnya "lossless by construction": distribusi output tidak berubah oleh drafter; hanya kecepatan serving yang berubah.

Bagaimana cara kerja decoding spekulatif, dan mengapa MoE 688B membutuhkannya

Decoding spekulatif ada karena generasi autoregresif bersifat serial dan terikat memori. Menghasilkan setiap token berarti membaca bobot model dari memori, dan untuk model 688B itu berarti memindahkan byte dalam jumlah yang sangat besar untuk setiap token — bahkan ketika hanya 33B parameter yang aktif di setiap forward pass. Triknya adalah mengeluarkan sedikit komputasi tambahan pada drafter kecil yang menebak beberapa token berikutnya sekaligus, lalu model besar memverifikasi semua tebakan itu dalam satu forward pass dan menyimpan prefiks terpanjang yang cocok dengan distribusinya sendiri. Ketika drafter-nya bagus, Anda mendapatkan dua atau tiga token per operan model besar, bukan satu, tanpa mengubah output akhir.

Seluruh permainan ini bermuara pada tingkat penerimaan. Drafter yang menebak dengan buruk akan ditolak proposalnya, dan proses verifikasi tetap menghabiskan bandwidth memori yang sama, sehingga percepatannya menguap. Itulah sebabnya drafter menjadi subjek penelitian serius yang layak diperhitungkan: untuk model seukuran A.X K2, perbedaan antara percepatan 1,5x dan 3x adalah perbedaan antara armada server dengan sepuluh GPU dan armada dengan lima GPU. Lapisan efisiensi seperti inilah yang akan menjadi sumber pemotongan harga berikutnya pada API LLM yang dihosting — bukan dari angka kualitas model dasar, melainkan dari tumpukan server yang membungkusnya.

DSpark adalah metodenya — dan itu berasal dari tim DeepSeek

"DSpark" pada nama model adalah teknik spesifik, dan itu bukan penemuan SK Telecom. Kartu model mengutip makalah "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation" (arXiv 2607.05147), pracetak tanggal 6 Juli 2026 dari tim beranggotakan 33 penulis di DeepSeek yang menerapkan metode tersebut pada sistem serving era V4 milik penulisnya sendiri di bawah lalu lintas langsung. SK Telecom telah mengadaptasi teknik yang sama ke model targetnya sendiri.

Kontribusi kedua dari makalah ini secara langsung memetakan apa yang dijelaskan oleh kartu A.X-K2-DSpark. Pertama, penyusunan semi-autoregresif: sebuah backbone paralel mengusulkan token-token dalam suatu jendela sementara modul sekuensial ringan memodelkan dependensi antara posisi-posisi kandidat, memperbaiki masalah klasik bahwa tingkat penerimaan penyusun paralel menurun tajam di seluruh urutan yang diusulkan. Kedua, verifikasi terjadwal keyakinan: alih-alih selalu memverifikasi sejumlah tetap token draf, sistem memperkirakan probabilitas bahwa setiap prefiks bertahan dan menetapkan panjang verifikasi per permintaan, disesuaikan dengan profil throughput mesin — sehingga upaya verifikasi bersifat sadar-beban daripada seragam.

Berdasarkan angka-angka pada paper itu sendiri — yang merupakan pengukuran para penulis, bukan hasil verifikasi independen — DSpark memberikan generasi per pengguna 60–85% lebih cepat dibandingkan baseline produksi MTP-1 pada throughput yang setara, dan mencegah penurunan throughput yang parah dalam kendala interaktivitas yang ketat. Dua catatan penting perlu diperhatikan saat membaca rilis ini. Hasil tersebut diukur pada stack dan target milik penulis sendiri, bukan pada A.X K2; dan model card A.X-K2-DSpark secara eksplisit menyatakan bahwa evaluasinya sendiri masih berlangsung. Paper tersebut membuktikan bahwa metode ini berhasil di produksi. Paper tersebut tidak membuktikan bahwa checkpoint SK Telecom mereproduksi keunggulan tersebut — justru itulah bagian yang belum terkonfirmasi.

Apa yang dikatakan repo — dan apa yang tidak dikatakannya.

Inilah yang dapat diketahui dari repositori saat ini, semuanya dari kartu model:

• Peran — checkpoint khusus drafter untuk A.X K2; tidak untuk penggunaan mandiri; tidak divalidasi dengan target lain dan "tidak kompatibel dengan model yang tidak terkait."

• Target — A.X K2, 688B total / 33B aktif Mixture-of-Experts.

• Panjang konteks — 262.144 token (256K), sesuai dengan konfigurasi asli A.X K2.

• Lisensi — Apache 2.0.

• Mekanisme — pembuatan draf semi-autoregresif DSpark; setiap kandidat diverifikasi oleh A.X K2 sebelum commit (lossless).

• Status — "saat ini dalam validasi akhir"; rilis direncanakan "dalam beberapa hari ke depan."

Dan inilah yang secara eksplisit belum dikonfirmasi:

• Presisi dan ukuran checkpoint — keduanya tercantum sebagai TBD di kartu model.

• Throughput, TPOT, dan rata-rata panjang yang diterima — tiga angka yang akan memberi tahu Anda apakah drafter benar-benar berfungsi, semuanya TBD, dengan "evaluasi sedang berlangsung saat ini."

• Hasil per domain — kartu tersebut menjanjikan rincian untuk bahasa Korea, matematika, sains, dan kode "nanti," tanpa tanggal.

• Pengumuman resmi — SK Telecom belum mengumumkan A.X-K2-DSpark di mana pun yang dapat kami temukan; repositori itulah pengumumannya.

• Skor independen — tidak ada satu pun. Semua yang ada di kartu tersebut adalah klaim SK Telecom sendiri, dan sebagian besar masih berupa janji.

Angka terpenting yang belum terkonfirmasi adalah rata-rata panjang yang diterima — yaitu rata-rata jumlah token draf yang diterima A.X K2 per lintasan verifikasi. Angka tunggal itu menentukan apakah drafter ini merupakan pelengkap 1,2x atau peningkatan layanan 2,5x, dan angka tersebut juga paling mungkin beredar tanpa asal-usul yang jelas setelah rilisnya diluncurkan. Perlakukan angka itu dengan skeptis ketika muncul: angka 60–85% dari makalah DSpark diukur pada tumpukan penyajian model yang berbeda, dan A.X K2 memiliki karakteristik penerimaan drafnya sendiri.

Bagaimana Anda benar-benar menjalankannya

Menjalankan drafter berarti menyajikan A.X K2 dari fork vLLM milik SK Telecom. Contoh pada kartu model, yang sedikit diringkas, adalah:

vllm serve skt/A.X-K2 --tensor-parallel-size 8 --tool-call-parser hermes --reasoning-parser deepseek_v3 --speculative-config '{"method": "dspark", "model": "skt/A.X-K2-DSpark", "num_speculative_tokens": N}'

dengan fork yang diinstal dari repositori SKT-AI vLLM pada cabang axk2-v0.23.0. Beberapa catatan yang disampaikan kartu tersebut secara transparan: pengaturan ini menargetkan konfigurasi konteks native 256K dari A.X K2, dan percepatannya bergantung pada beban kerja — konkurensi, panjang output, tingkat penerimaan, dan biaya relatif dari drafting versus verifikasi semuanya memengaruhi hasilnya. Dengan kata lain, ini adalah infrastruktur serving, bukan skrip unduh-dan-jalankan. Anda memerlukan bobot A.X K2, klaster yang cukup besar untuk tensor-parallel 8, dan kesabaran untuk menyetel num_speculative_tokens terhadap lalu lintas Anda sendiri. Itu adalah proyek yang berarti bagi tim yang sudah melayani A.X K2; itu bukan alasan untuk menyediakannya.

Ekonomi: lapisan efisiensi mengalahkan klaim kualitas

Alasan model draf untuk model 688B layak diperhatikan adalah karena perlombaan tolok ukur model dasar sebagian besar sudah jenuh, sementara perlombaan biaya penyajian belum. Peluncuran SK Telecom sendiri sudah mengandalkan efisiensi — perubahan Sparse Gate Attention diklaim meningkatkan throughput token total sebesar 67,7% dibandingkan generasi sebelumnya pada input 120K token — dan model draf adalah tesis yang sama yang diterapkan pada decoding. Setiap token draf yang diterima adalah forward pass model besar yang tidak Anda bayar.

Bagi siapa pun yang mengonsumsi model-model ini melalui API alih-alih menghostingnya sendiri, drafternya tidak terlihat — dan justru itulah intinya. Ketika penyedia menambahkan decoding spekulatif ke tumpukan penyajiannya, Anda tidak melihat model baru; Anda melihat model yang sama menjadi lebih cepat dan lebih murah per token. Lapisan penetapan harga juga penting karena alasan yang sama: di OrcaRouter kami meneruskan harga daftar penyedia secara langsung dengan markup 0%, sehingga ketika efisiensi penyajian vendor terlihat sebagai penurunan harga, itu langsung aktif di sisi kami pada hari yang sama — tanpa negosiasi ulang, tanpa perubahan kontrak. Dan untuk model yang belum terbukti yang mungkin berhasil atau tidak, routing dengan failover otomatis adalah cara untuk mencobanya tanpa mempertaruhkan jalur produksi padanya: satu kunci API, dan permintaan akan dialihkan ke penyedia lain jika penyedia pertama menurun kinerjanya.

Satu catatan kejujuran khusus untuk rilis ini: A.X-K2-DSpark adalah checkpoint khusus drafter, jadi bukan sesuatu yang dapat dirutekan oleh API model yang dihosting mana pun — termasuk milik kami. Drafter adalah komponen sisi penyajian, bukan produk yang dapat dipanggil. Ketika drafter dirilis dan angka evaluasi keluar, hal yang akan muncul dalam daftar harga adalah A.X K2 yang lebih cepat dan lebih murah — bukan endpoint baru bernama "DSpark."

Beberapa pertanyaan yang layak dijawab

Bolehkah saya menggunakan A.X-K2-DSpark secara mandiri? Tidak — itulah fakta penentu dari rilis ini. Ini adalah checkpoint khusus drafter tanpa penggunaan mandiri dan tanpa API publik; ia hanya ada sebagai pembantu di dalam loop decoding spekulatif vLLM yang melayani A.X K2, dan kartu tersebut mencatat bahwa ia belum divalidasi dengan target lain mana pun.

Apakah A.X-K2-DSpark merupakan pesaing bagi A.X K2? Justru sebaliknya. Ini adalah akselerator untuk A.X K2 — model yang sama menjadi lebih cepat, dengan distribusi keluaran yang tidak berubah. Anggap saja sebagai komponen efisiensi tambahan, bukan entri baru dalam jajaran produk.

Kapan sebenarnya akan dirilis? Kartu model menyebutkan bahwa model ini sedang dalam validasi akhir dan direncanakan untuk rilis publik "dalam beberapa hari ke depan." Itu saja yang telah dikonfirmasi. Tanggal yang perlu diperhatikan adalah hari ketika angka TBD — throughput, TPOT, dan rata-rata panjang yang diterima — terisi, karena pada saat itulah rilis tidak lagi menjadi janji, melainkan sesuatu yang dapat Anda evaluasi.

Apakah saya perlu memikirkannya jika saya menggunakan A.X K2 melalui API? Mungkin tidak secara langsung. Stack serving di balik API menentukan apakah ada drafter yang terlibat; Anda melihat hasilnya sebagai harga dan latensi, bukan sebagai flag. Hal ini paling penting bagi tim yang meng-host sendiri A.X K2, di mana memilih untuk ikut serta adalah perubahan konfigurasi vLLM yang mereka kendalikan.

The story here is not the drafter itself — it is what the drafter signals. Efficiency work is quietly becoming a release category of its own, and the most interesting new models this year are increasingly helpers that make big models cheap, not bigger models. A.X-K2-DSpark is the clearest example yet: a checkpoint with no standalone use, posted before the announcement, carrying most of its own evidence as TBD. Watch for the accepted-length number when it lands, treat the DSpark paper's gains as provenance for the method rather than a promise for this checkpoint, and if you serve A.X K2 yourself, budget for the benchmark — that is the only way to know whether the quietly-posted drafter is a 1.2x nicety or the real thing.