LFM2.5-24B-A2B-DSpark Kini Live di Hugging Face — Liquid AI Belum Mengumumkannya

Kartu model untuk model terbesar Liquid AI masih menyebut drafter speculative-decoding-nya segera hadir. Drafter itu tidak akan datang. LFM2.5-24B-A2B-DSpark telah memiliki repositori publik sejak 2026-10-19, checkpoint BF16 berukuran 655 MB, tabel benchmark lengkap, sidecar GGUF yang diterbitkan pada malam berikutnya, dan flag peluncuran untuk SGLang yang tertulis di kartunya. Yang tidak dimilikinya adalah pengumuman. LFM2.5-24B-A2B, model mixture-of-experts 24B yang hendak dipercepatnya, mendapat posting blog, peluncuran bertanggal, daftar harga, dan tautan playground pada 2026-10-13. Drafter-nya mendapat repo dan kartu model, dan halaman dokumentasi Liquid AI sendiri untuk speculative decoding masih hanya mencantumkan target 1.2B, 2.6B, 8B, dan VL-3B sebagai didukung. Kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive yang setiap entrinya membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda status diperdebatkan.

Kesenjangan itulah inti ceritanya, dan ada baiknya kita tepat mengenai apa artinya dan apa yang tidak dimaksudkannya. Repositori yang bobotnya terbuka, yang tolok ukurnya dapat direproduksi dari CSV yang berada di samping model, dan yang jalur inferensinya sudah digabungkan ke hulu adalah rilis sungguhan, bukan kebocoran. Namun tidak ada satu pun tentangnya yang telah dikonfirmasi oleh vendor dalam bentuk prosa, tidak ada pihak ketiga yang mengukurnya, dan angka-angka di kartu itu adalah angka dari tim yang sama yang diukur pada perangkat keras yang sama yang mereka pilih. Tulisan ini memisahkan keduanya: apa yang ditetapkan oleh repositori, dan apa yang masih merupakan klaim.

Apa yang sebenarnya ada di dalam repositori

Checkpoint ini cukup kecil sehingga daftar berkasnya sendiri sudah informatif. Keseluruhannya adalah satu model.safetensors berukuran 655.421.522 byte — 327,7 juta parameter dalam BF16 — ditambah konfigurasi, lisensi, dan direktori benchmark. Tidak ada yang lain. Tidak ada tokenizer, tidak ada matriks embedding, dan tidak ada LM head, karena arsitektur menggunakan kembali ketiganya dari target saat dimuat. Itulah desainnya: drafter hanya perlu tahu cara menebak blok token berikutnya dalam kosakata target, bukan cara merepresentasikan dunia.

Konfigurasi tersebut mengonfirmasi bentuk yang dijelaskan dalam tulisan DSpark Agustus. Lima lapisan full-attention pada hidden size 2,048 dan intermediate size 6,144 dengan SiLU/SwiGLU; grouped-query attention dengan 32 head dan 8 KV head pada dimensi head 64; Markov head ber-rank-256 dan confidence head terpisah; ukuran blok 9; kosakata 128,000; dan maximum position embedding 131,072, yang sama persis dengan jendela konteks target. Satu-satunya bidang yang khusus untuk drafter ini adalah target_layer_ids: [2, 10, 18, 26, 34] terhadap num_target_layers: 40 — lima lapisan model 24B yang hidden state-nya dibaca oleh drafter sebagai konteks. Indeks-indeks itulah sebabnya drafter yang dilatih untuk satu model LFM2.5 tidak bisa begitu saja diarahkan ke model lain.

Lisensinya adalah lfm1.0, lisensi kustom yang sama dengan anggota keluarga lainnya, yang perlu diperhatikan bagi siapa pun yang berencana mendistribusikan ulang artefak gabungan target-plus-drafter alih-alih menggunakannya secara internal.

Tabel benchmark, dibaca sebagai tabel vendor

Kartu ini mempublikasikan throughput untuk delapan dataset pada konkurensi 1, 32, dan 256, di satu NVIDIA B300 dengan target FP8, cache KV BF16, dan temperature 0. Setiap angka di bawah ini milik Liquid AI sendiri dan belum direproduksi di luar perusahaan; baris mentahnya ada di repo, yaitu benchmarks/b300-fp8.csv, jika Anda ingin memeriksa aritmetikanya sendiri.

Rata-rata aritmetika atas delapan kumpulan data — 2,38× pada konkurensi 1, 2,69× pada konkurensi 32, 1,71× pada konkurensi 256.

• Sel tunggal terbaik — MBPP pada konkurensi 32, 3,28×, dengan MATH-500 hampir menyusul pada 3,04×.

• Sel tunggal terburuk — LiveCodeBench pada konkurensi 256, 1,34×, dan AIME pada 256, 1,36×.

• Token yang diterima per langkah — rata-rata 5,16, terhadap batas maksimum 10 yang ditetapkan oleh ukuran blok ditambah token bonus target.

• Penerimaan tertinggi — MBPP pada 6,70 token per langkah; terendah — LiveCodeBench pada 4,02.

Ada dua hal tentang tabel itu yang lebih menarik daripada judul besarnya. Yang pertama adalah bahwa percepatan rata-rata lebih tinggi pada konkurensi 32 daripada pada konkurensi 1 — 2,69× dibandingkan 2,38× — yang merupakan kebalikan dari narasi speculative decoding yang biasa, di mana batching menggerus manfaatnya. Yang kedua adalah bahwa kinerjanya anjlok pada 256. Pada 256 permintaan bersamaan, target saja sudah menghasilkan sekitar 15.000 token per detik pada GPU itu untuk MATH-500, dan kontribusi drafter turun menjadi 1,79×. Tim serving yang hanya membaca "2,4×" akan salah menentukan ukuran kluster; angka yang penting untuk endpoint yang di-batch adalah 1,71×, dan bahkan itu pun merupakan angka B300 dengan profil konkurensi yang tidak akan sesuai dengan sebagian besar deployment.

Kalimat yang berubah sejak Agustus

Ketika Liquid AI merilis DSpark drafter untuk target 1.2B, 2.6B, dan 8B-A1B pada 2026-08-20, pos blognya membuat klaim yang kuat: karena target memverifikasi setiap token yang diusulkan dan mengganti penolakan dengan pilihannya sendiri, "urutan yang dikeluarkan karenanya identik dengan baseline greedy secara konstruksi." Kartu model drafter 8B mengulangi semangat pernyataan itu, menjanjikan "output yang persis sama."

Kartu drafter 24B tidak menyatakan hal itu. Di sana disebutkan bahwa target memverifikasi setiap token yang diusulkan, lalu: "Perbedaan floating-point antara verifikasi batch dan decoding biasa dapat menghasilkan teks yang berbeda, termasuk pada greedy sampling." Ditambahkan pula bahwa pengukuran tersebut menilai performa, bukan akurasi tugas.

Ini adalah kalimat yang lebih cermat, dan itulah yang tepat. Verifikasi batch tidak melakukan operasi floating-point yang sama dalam urutan yang sama seperti decoding sekuensial, jadi identitas bit adalah asumsi yang berlaku dalam aritmetika eksak dan tidak selalu pada perangkat keras nyata. Fakta bahwa kartu yang lebih baru menyatakannya sementara kartu yang lebih lama tidak merupakan entah koreksi dokumentasi atau penemuan selama pelatihan drafter ini — repositori tidak memberi tahu Anda yang mana, dan Liquid belum menerbitkan penjelasan. Secara praktis, maknanya sempit tetapi nyata: jika suite regresi Anda membandingkan output model byte demi byte, menambahkan drafter ini dapat membuatnya gagal, dan itu adalah sifat aritmetikanya, bukan bug dalam draf.

Mengapa drafter itu tiba enam hari setelah modelnya sendiri

Garis waktunya layak diuraikan karena hal itu menjelaskan keheningan lebih baik daripada spekulasi apa pun tentang strategi.

• 2026-08-20 — Liquid menerbitkan keluarga DSpark: drafter untuk LFM2.5-1.2B-Instruct, LFM2.5-2.6B, dan LFM2.5-8B-A1B. Belum ada target 24B.

• 2026-08-31 — SGLang menggabungkan PR #31041, yang menambahkan dukungan decoding spekulatif DSpark untuk LFM2 dan LFM2-MoE. Jalur MoE yang dibutuhkan 24B hadir di sini, satu setengah bulan sebelum model yang akan dilayaninya.

• 2026-10-13 — LFM2.5-24B-A2B hadir dengan postingan blog dan harga. Pada hari yang sama, SGLang menggabungkan PR #43939, yang memungkinkan server menggunakan kembali konfigurasi Hugging Face LFM2-MoE secara langsung.

• 2026-10-19 — repositori LFM2.5-24B-A2B-DSpark muncul, dengan bobot dan benchmark.

• 2026-10-20 — sidecar GGUF hadir: satu berkas F16 berukuran 664 MB untuk llama.cpp.

• 2026-10-21 — kartu model target mendapatkan baris drafter. Masih tertulis Segera hadir.

Baca urutan itu dan penjelasan yang paling mungkin adalah yang membosankan. Infrastrukturnya dirilis sebelum artefaknya; artefaknya dirilis saat pelatihan selesai; pengumumannya adalah tugas pemasaran yang belum dilakukan. Tidak ada apa pun di repositori yang menunjukkan peluncuran yang sengaja dibuat senyap — kartunya lengkap, benchmark-nya didokumentasikan hingga ke detail protokol, dan pemanggilan SGLang serta llama.cpp ditulis secara lengkap. Senyap di sini berarti belum diumumkan, bukan disembunyikan.

Apa yang belum dapat diketahui

Batas jujur dari tulisan ini adalah daftar singkat, dan setiap butirnya merupakan kekurangan nyata, bukan formalitas.

Tidak ada pengukuran independen. Tidak ada entri Artificial Analysis, tidak ada uji penerimaan pihak ketiga, tidak ada reproduksi tabel throughput. Per 2026-10-21, repositori tersebut menunjukkan tujuh unduhan dan satu suka. Setiap percepatan dalam artikel ini adalah milik vendor, pada GPU pilihan vendor, dengan presisi target pilihan vendor.

Tidak ada pengumuman, jadi tidak ada kerangka acuan. Kita tidak tahu apakah Liquid bermaksud menyajikannya sebagai rekomendasi produksi untuk 24B atau sebagai artefak riset. Nada kartunya — flag peluncuran lengkap, tabel keluarga, tautan kontak — mengisyaratkan yang pertama, tetapi itu hanya dugaan.

Tidak ada harga, karena memang tidak mungkin ada. Drafter bukan model yang dilayani. Ia tidak memiliki tarif per juta token dan tidak akan pernah muncul di katalog model sebagai endpoint yang dapat dipanggil. Biayanya adalah 655 MB VRAM atau memori terpadu yang ditempatinya di samping target, ditambah komputasi tambahan untuk memverifikasi satu blok alih-alih satu token.

Tidak ada angka Apple-silicon. Ini adalah kesenjangan terbesar, dan bagian berikutnya menjelaskan mengapa hal ini lebih penting daripada yang lain.

Nomor Mac yang hilang adalah penghilangan yang menarik.

Model 24B dijual sebagai model on-device. Posting peluncuran Liquid menonjolkan 184 token per detik pada Apple M5 Max dan menyebutnya dibuat untuk agen privat yang cepat di perangkat. Kartu drafter, sebaliknya, hanya melaporkan angka B300. Untuk drafter 8B pada Agustus, Liquid menerbitkan hasil H100 dan M4 Max serta terbuka tentang selisih di antara keduanya: percepatan rata-rata 2,54× pada H100 berubah menjadi 1,18× pada MacBook. Alasan yang dinyatakannya bersifat mekanis — memverifikasi k token mengaktifkan lebih banyak expert daripada satu langkah decode, sehingga target MoE membayar lalu lintas bobot lebih banyak per token yang diverifikasi, dan backend Metal llama.cpp memperburuknya.

LFM2.5-24B-A2B juga merupakan campuran pakar: 64 pakar per blok dengan perutean top-4. Mekanisme yang sama berlaku, dan 24B adalah model yang lebih besar dengan kumpulan pakar yang lebih besar untuk di-paging. Itu tidak membuktikan bahwa percepatan di perangkat kecil — drafter dilatih khusus untuk target ini, dan tingkat penerimaannya jauh lebih baik daripada 8B pada awalnya — tetapi itu berarti satu angka yang dibutuhkan pengguna laptop adalah satu angka yang tidak dimuat kartu tersebut. Anggap asumsi apa pun bahwa rasio B300 berlaku juga untuk Mac sebagai belum terverifikasi.

Menjalankannya, dan satu flag yang akan menimbulkan masalah bagi Anda

Pada GPU, resep yang dipublikasikan adalah SGLang dengan target FP8 dan drafter terlampir, ukuran blok 9 dan sepuluh token draf. SGLang yang terpasang harus cukup baru untuk menyertakan jalur LFM2-MoE DSpark dari PR #31041 dan penggunaan ulang konfigurasi dari PR #43939; pada build yang lebih lama, server tidak akan mengenali arsitektur drafter sama sekali. Perhatikan bahwa angka benchmark mengasumsikan target FP8 — target BF16 akan berperilaku berbeda, dan belum tentu lebih baik, karena drafter dilatih terhadap distribusi logit target tertentu.

Pada CPU dan Apple silicon, jalurnya adalah llama.cpp dengan sidecar GGUF F16. Sidecar membaca ukuran bloknya dari metadatanya sendiri dan membatasi --spec-draft-n-max ke nilai itu, jadi menyetel panjang draf ke 12 tidak akan memberi Anda 12. Waktu per respons menampilkan draft_n dan draft_n_accepted, yang merupakan bidang yang perlu Anda pantau pada beban kerja Anda sendiri: jika tingkat penerimaan pada lalu lintas Anda jauh di bawah rata-rata 5,16 pada kartu tersebut, drafter tersebut justru memakan satu forward pass dan hanya memberi sedikit manfaat, dan langkah yang jujur adalah melepaskannya.

Apa artinya ini jika Anda memilih model minggu ini

Bagi sebagian besar tim, konsekuensi praktisnya kecil, karena drafter mengubah kecepatan, bukan kemampuan. LFM2.5-24B-A2B adalah hal yang menjawab prompt; drafter hanya mengubah berapa banyak jawaban yang Anda dapatkan per detik. Jika 24B tidak masuk daftar kandidat Anda minggu lalu, versi yang lebih cepat darinya tidak akan membuatnya masuk.

Jika model ini ada di daftar pendek Anda, drafter memperkuat alasan untuk self-hosting dan tidak berpengaruh apa pun untuk kasus API. Perbedaan itu layak dinyatakan terang-terangan: checkpoint speculative-decoding tidak terlihat oleh siapa pun yang memanggil endpoint yang dihosting, karena stack serving yang memutuskan apakah akan melampirkannya. Yang dapat Anda bandingkan secara setara adalah model itu sendiri dengan alternatif yang biasanya Anda tuju — dan jika Anda mengevaluasinya terhadap sesuatu seperti Qwen3.6-35B-A3B, model yang menjadi tolok ukur Liquid pada lima dari delapan tugas agentic, OrcaRouter membawa target pembanding itu di balik satu kunci pada markup 0% dari harga daftar penyedia, dengan failover otomatis antarpenyedia. Kami belum menyediakan keluarga LFM2.5 saat ini, jadi model 24B itu sendiri harus berasal dari API vendor sendiri atau GPU Anda sendiri; yang kami tawarkan adalah sisi lain dari perbandingan tanpa kontrak kedua.

Apa yang akan mengubah gambaran ini?

Tiga hal, menurut seberapa besar dampaknya terhadap narasi. Postingan blog dari Liquid akan menetapkan framing — apakah ini kombinasi produksi yang direkomendasikan atau rilis riset. Pengukuran Mac yang dipublikasikan akan menetapkan klaim yang penting bagi audiens yang menjadi sasaran model 24B. Dan uji penerimaan independen pada trafik nyata, alih-alih delapan dataset benchmark pada temperature 0, akan memberi tahu Anda apakah 5,16 token per langkah mampu bertahan menghadapi prompt panjang, berantakan, dan pemanggilan alat yang sebenarnya menjadi alasan model ini dijual.

Sampai saat itu, repositori bersifat publik, bobotnya dapat diunduh, CSV-nya ada di sana, dan kartu model milik vendor itu sendiri adalah tempat terakhir yang harus Anda cari untuk berita tentangnya. Itu adalah keadaan yang tidak biasa bagi sebuah rilis — tetapi itu nyata, dan artefak tersebut tidak menjadi kurang nyata karena tidak ada yang menulis postingan blognya.