LFM2.5-24B-A2B vs LFM2.5-8B-A1B-DSpark: Salah Satunya Bukan Model yang Dapat Anda Jalankan

Masukkan LFM2.5-24B-A2B dan LFM2.5-8B-A1B-DSpark ke dalam tabel perbandingan dan tabel itu sudah bohong sebelum Anda mengisi satu sel pun. LFM2.5-24B-A2B milik Liquid AI, yang dirilis pada 13 Oktober 2026, adalah model bahasa: parameter 24,0B, 2,45B aktif per token, konteks 131.072 token, dan ia menjawab prompt. LFM2.5-8B-A1B-DSpark, dirilis pada 20 Agustus 2026, adalah checkpoint draf berparameter 327,7 juta yang tidak dapat menjawab apa pun sendiri — ia ada untuk menebak token berikutnya bagi model lain, LFM2.5-8B-A1B, dan diperiksa oleh model itu. Mengacaukan keduanya adalah cara paling umum rilis ini disalahpahami, dan hal itu layak dijelaskan di paragraf pertama karena sisa halaman ini bergantung padanya: salah satu dari ini memiliki harga per juta token dan kartu Hugging Face yang dapat Anda arahkan agen padanya, dan yang lain hidup di dalam stack inferensi orang lain.

Namun, yang membuat pasangan ini benar-benar layak mendapat satu halaman adalah bahwa ini merupakan perbandingan yang telah disiapkan Liquid AI untuk dirinya sendiri. Kartu model LFM2.5-24B-A2B mencantumkan draf speculative-decoding DSpark untuk 24B sebagai segera hadir. Saat itu dirilis, pertanyaan persis yang dijawab halaman ini akan menjadi pertanyaan yang orang tanyakan tentangnya — apakah trik draf yang membuat model 8B hingga 3,18× lebih cepat pada GPU pusat data benar-benar membuahkan hasil pada model 24B yang seluruh alasan keberadaannya adalah laptop? Angka-angka 8B sudah mengandung bentuk jawabannya, dan itu bukan bentuk yang disiratkan oleh judul.

Apa sebenarnya checkpoint draf itu, dalam tiga kalimat

Decoding spekulatif menempatkan model murah di depan model mahal: drafter mengusulkan satu blok token kandidat, model asli memverifikasi seluruh blok dalam satu forward pass, lalu mempertahankan apa pun yang disetujuinya. Karena target memeriksa setiap token yang diusulkan, keluaran pada decoding greedy identik bit dengan menjalankan target saja — frasa Liquid adalah "lossless by construction," dan itulah sebabnya draf aman dipasang ke stack produksi. LFM2.5-8B-A1B-DSpark adalah drafter yang sengaja dibuat kecil: lima lapisan yang hanya berupa atensi, satu blok berisi sembilan token yang diusulkan per langkah, dan head Markov atas kosakata target yang berjumlah 128.000 token, dilatih selama 15 epoch pada data chat, kode, dan pemanggilan fungsi dengan checkpoint yang dipilih berdasarkan tingkat penerimaan, bukan validation loss.

Detail terakhir itu bukan hal remeh. Tulisan Liquid sendiri mencatat bahwa untuk draft yang lebih besar, validation loss "terus membaik setelah penerimaan benchmark yang kami pedulikan berhenti bergerak" — kalimat semacam itu hanya muncul ketika sebuah tim mengirimkan ini ke tahap serving alih-alih menerbitkan makalah.

Dua tumpukan, satu baris per dimensi

• Apa itu — LFM2.5-24B-A2B adalah model penalaran yang dapat diterapkan, teks masuk dan teks keluar. LFM2.5-8B-A1B-DSpark adalah akselerator decoding spekulatif dan tidak ada yang lain.

• Ukuran — total 24,0B / 2,45B aktif per token, 64 pakar dengan perutean top-4 di seluruh 40 lapisan, dibandingkan dengan 327,7M parameter draf pada lima lapisan yang hanya attention.

• Konteks — 131.072 token untuk 24B, dua kali lipat dari generasi sebelumnya; draft tidak memiliki konteksnya sendiri, karena ia beroperasi pada aliran target.

• Penalaran — model 24B selalu mengeluarkan rantai pemikiran eksplisit di dalam blok <think>. Draf tidak mengeluarkan apa pun yang pernah dilihat pengguna.

• Harga — $0,10 per juta token input ($0,05 di-cache) dan $1,00 per juta output di Liquid's Console, dengan kredit awal $2, untuk 24B. Draf tidak memiliki harga karena tidak ada penyedia inferensi yang melayaninya.

• Lisensi — lfm1.0 untuk keduanya: gratis untuk diunduh, disempurnakan, dan digunakan secara komersial hingga sebuah perusahaan melewati pendapatan tahunan $10M, dan pada titik itu lisensi komersial berlaku.

• Format yang Dipublikasikan — GGUF dari Q4_K_M pada 14,5 GB hingga 48 GB BF16, QAT QAD-Q4_0 pada 13,6 GB, FP8, ONNX, dan MLX 4/5/6/8-bit untuk 24B; Safetensors dan GGUF untuk draf, dengan dukungan SGLang dan llama.cpp sejak hari pertama.

Dimensi yang menentukan segalanya adalah yang terakhir diubah oleh yang kelima: salah satunya memiliki harga per token, dan yang lainnya adalah sesuatu yang Anda pasang untuk membuat model yang dihosting sendiri lebih murah per token. Keduanya tidak pernah bersaing. Keduanya bertumpuk.

Angka-angka yang penting, dan satu yang seharusnya membuat Anda khawatir

Liquid mengukur draf DSpark pada ukuran batch 1 dan suhu 0 di lima kumpulan data — pada H100 80GB dalam BF16 di bawah SGLang, dan pada MacBook Pro M4 Max dalam FP16 GGUF di bawah llama.cpp dengan kernel Metal eksperimental. Setiap percepatan diukur terhadap model target yang sama yang berjalan sendirian pada perangkat keras yang sama. Semua itu dilaporkan oleh vendor dan, tiga bulan kemudian, masih belum dapat direproduksi.

Pada H100, terhadap LFM2.5-8B-A1B:

• MATH500 — 3,18× (428 → 1.362 token/detik, penerimaan 8,27) — angka utamanya.

• MT-Bench — 3,02× (426 → 1.288 token/dtk, penerimaan 8,52).

• MBPP — 2,64× (426 → 1.122) dan HumanEval — 2,58× (426 → 1.100).

• GSM8K — 1,29× (385 → 496, penerimaan 4,02) — kasus yang lemah, dan perhatikan bahwa inilah kasus di mana target memang sudah lebih cepat sejak awal.

• Rata-rata — 2,54× (418 → 1.074 token/dtk).

Pada M4 Max, draf yang sama terhadap target yang sama adalah produk yang berbeda: MATH500 1,21× (93 → 112), GSM8K 1,44× (90 → 129), HumanEval 1,12× (91 → 101), MBPP 1,09× (89 → 97), MT-Bench 1,04× (87 → 90), rata-rata 1,18× (90 → 106).

Baca kedua daftar itu bersama-sama dan kesimpulannya tak terhindarkan: checkpoint draf mempercepat perangkat keras yang bukan target rancangan model, dan nyaris tidak menggerakkan perangkat keras yang menjadi target rancangannya. Itu bukan bug dalam implementasi Liquid, melainkan letak hambatannya — decoding spekulatif membuahkan hasil ketika Anda menganggur secara komputasi dan kekurangan memori, dan M4 Max yang menjalankan MoE aktif 1,5B terkuantisasi sudah mendekati plafon bandwidth memorinya. Liquid sendiri menerbitkan separuh hasil yang buruk, itulah sebabnya angka 3,18× jauh lebih sering dikutip sendiri dibandingkan 1,18× yang sebenarnya akan dialami sebagian besar pembaca mereka.

Mengapa pemasangan 24B adalah pertanyaan yang benar-benar terbuka

Semua tentang draf LFM2.5-24B-A2B yang akan datang tidak diumumkan selain kata-kata "segera hadir" di kartu model, jadi yang berikut ini adalah penalaran tentang bentuk masalahnya, bukan sebuah laporan.

Nilai draf ditentukan oleh tingkat penerimaan, dan tingkat penerimaan ditentukan oleh seberapa dapat diprediksi target. Model penalaran yang selalu menghasilkan rantai pemikiran eksplisit — LFM2.5-24B-A2B persis seperti itu, dan Liquid merilisnya dengan suhu yang direkomendasikan 0,1 — menghasilkan rentang teks panjang yang dapat diprediksi secara lokal. Itulah tanah ideal untuk blok 9 token. Jadi batas atas draf 24B bisa tinggi, dan catatan kosakata pada kartu itu sendiri membantu: 24B menggunakan kosakata 128.000 token yang sama dengan yang menjadi dasar dibangunnya kepala Markov pendraf 8B, sehingga kepala draf tidak perlu dibangun ulang dari ruang token yang berbeda.

Penyeimbangnya adalah perangkat keras. Hasil edge yang dinyatakan untuk model 24B adalah 184 token per detik pada Apple M5 Max, dan target yang lebih besar berarti proses verifikasi yang lebih besar bahkan ketika blok diterima secara utuh. Jika pola 8B tetap berlaku — keuntungan besar saat Anda punya komputasi cadangan, keuntungan kecil di laptop — draf 24B mungkin ternyata adalah alat pusat data yang ditempelkan pada model edge, yang merupakan bentuk aneh untuk sebuah produk. Siapa pun yang mengutip "3.18×" untuk mengantisipasinya sedang mengutip angka yang diukur pada model berbeda, pada perangkat keras berbeda, dengan draf yang berbeda.

Biaya, dan argumen untuk tidak melakukan self-hosting sama sekali

Satu komplikasi yang jujur: seluruh proposisi nilai DSpark adalah throughput per token yang dihosting sendiri, jadi kalkulasi ekonominya adalah biaya per token dari waktu GPU Anda sendiri. Sebaliknya, model 24B memiliki harga publik — $0,10 per juta token masukan ($0,05 jika di-cache) dan $1,00 per juta keluaran — yang harus Anda bayar jika Anda sama sekali tidak ingin menjalankan checkpoint terkuantisasi 14,5 GB di laptop Anda sendiri.

Agar jelas tentang apa yang kami tawarkan dan tidak kami tawarkan: kami tidak menyajikan LFM2.5-24B-A2B atau LFM2.5-8B-A1B-DSpark di OrcaRouter. Yang kami sajikan adalah model open-weight yang terus muncul dalam keputusan ini — qwen/qwen3.6-35b-a3b, model yang dijadikan tolok ukur oleh Liquid untuk 24B-nya dengan total dan parameter aktif sekitar lima puluh persen lebih banyak, ditambah google/gemma-4-26b-a4b-it, obsidian/gemma-4-26B-A4B dan google/gemma-4-31b-it di kelas sparse-open yang sama. Jika Anda mempertimbangkan unduhan 14 GB dan tumpukan speculative-decoding terhadap memanggil model yang dilayani di balik satu kunci dengan markup 0% di atas harga daftar penyedia, itu adalah perbandingan yang dapat Anda jalankan siang ini di sisi kami dan hanya dapat diperkirakan di sisi mereka.

Apa yang harus dilakukan dengan mereka berdua hari ini?

Jika Anda ingin model untuk dipanggil, jawabannya adalah LFM2.5-24B-A2B dan checkpoint DSpark tidak relevan bagi Anda — ia mempercepat satu model 8B tertentu, dan tidak ada platform pihak ketiga yang melayani keduanya. Jika Anda sudah menghosting sendiri LFM2.5-8B-A1B di GPU, draf tersebut adalah pengganda throughput gratis yang tidak mengubah apa pun pada output Anda, dan 2,54× sebagai rata-rata adalah pengurangan biaya penyajian yang nyata. Jika Anda menghosting sendiri di Mac, rata-ratanya adalah 1,18× dan pembacaan yang jujur adalah bahwa draf tersebut bernilai sekitar sepersepuluh dari apa yang tersirat dalam judul peluncuran.

Yang perlu diperhatikan bukanlah tanggal kedatangan draf 24B, yang belum dipublikasikan siapa pun. Yang perlu diperhatikan adalah rezim mana dari dua rezim itu yang akan dimasukinya. Jika Liquid mempublikasikan rata-rata di atas 2× pada Apple silicon, decoding spekulatif telah melewati batas dan tingkat edge menjadi benar-benar lebih murah untuk dijalankan. Jika yang dipublikasikannya adalah angka puncak tanpa rata-rata laptop, hasil 8B selama ini memang jawabannya: teknik ini membuahkan hasil ketika Anda punya komputasi menganggur, dan mesin yang menjalankan campuran pakar 24B dengan baterai tidak punya sisa untuk itu.

Perbandingan seperti ini juga menjadi tempat munculnya mode kegagalan: insiden AI yang terdokumentasi dan kegagalan agen di balik model di kelas ini dikumpulkan di OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan penanda disengketakan.