LFM3-1.7B-Base: Apa yang Dikatakan Repo, dan Apa yang Belum Dikatakan Liquid AI

Checkpoint paling penting di keluarga baru Liquid AI adalah checkpoint dengan bahan bacaan paling sedikit. LFM3-1.7B-Base adalah model pra-latih khusus teks dengan 1,73 miliar parameter, dan pada 27 Oktober 2026 model ini menjadi fondasi tempat semua model LFM3 pasca-latih dibangun — model teks, model visi, model audio, model omni, dan kedua model keputusan. Postingan peluncuran keluarga menyebutnya hanya dalam satu klausa. Tidak ada pengumuman tersendiri untuknya, tidak ada tabel benchmark model dasar, dan tidak ada liputan pers yang ditujukan kepadanya. Sementara itu, repositori tersebut secara tidak biasa sangat eksplisit tentang apa checkpoint ini dan untuk apa, sehingga rilis ini mudah dijelaskan dan sulit dibesar-besarkan. Tidak ada markup yang ditambahkan ke biaya yang dikenakan penyedia model. Harga daftar penyedia Perubahan harga dari vendor sampai ke tagihan Anda pada hari yang sama.

Berikut ini yang memisahkan kedua hal tersebut. Semua yang ada di paruh pertama berasal dari kartu model, file konfigurasi, teks lisensi, atau postingan peluncuran Liquid sendiri, dan dapat diperiksa hari ini. Paruh kedua adalah hal yang masih benar-benar tidak diketahui tiga hari setelah bobot dirilis.

Dua repositori, satu postingan peluncuran, dan jeda dua belas jam

Repositori pasca-pelatihan LFM3-1.7B dibuat pada 23 Oktober 2026. Repositori dasar dibuat pada 26 Oktober pukul 16.28 UTC, dan kartunya terakhir diubah pada 27 Oktober pukul 04.15 UTC — kurang dari dua belas jam kemudian. Postingan blog, "Introducing LFM3: Every Modality for Specialized Intelligence," bertanggal 27 Oktober. Pada saat siapa pun di luar perusahaan dapat membaca spesifikasi, bobotnya sudah berada di Hugging Face selama sehari.

Urutan itu layak dinyatakan secara gamblang karena itulah hal yang paling mendekati "rilis senyap" di sini. Liquid memang mengumumkan keluarga model tersebut, dan pengumuman itu menyebut LFM3-1.7B-Base sebagai checkpoint yang menjadi dasar pelatihan enam model lainnya. Yang tidak dilakukan perusahaan adalah mengumumkan checkpoint dasar itu dengan caranya sendiri — tidak ada pos terpisah, tidak ada evaluasi khusus untuk base, tidak ada positioning selain satu paragraf di kartu model. Keluarga modelnya yang mendapat peluncuran. Batang utamanya hanya mendapat repositori dan penunjuk ke keluarga model tersebut.

Apa yang ada di repositori?

Kartu ini ringkas dan, untuk sekali ini, lengkap dalam hal-hal dasar. Satu file model.safetensors berukuran 3,46 GB dalam bfloat16. Sebuah tokenizer dengan kosakata 128.000 token. Kode model dikirim sebagai Python kustom bersama bobot, dimuat dengan trust_remote_code=True alih-alih melalui rilis Transformers upstream yang telah digabungkan. Lisensinya adalah LFM Open License v1.0, keluarga ketentuan yang sama yang telah digunakan Liquid sejak LFM2.

• Parameter — 1,73B, padat, setiap parameter dibaca pada setiap token.

• Lapisan — 24: tiga belas blok konvolusi pendek bergerbang, lima blok atensi jendela geser, enam blok atensi penuh.

• Konteks — 262.144 token, input ditambah output.

• Geometri attention — ukuran tersembunyi 2.048, enam belas head query, empat head key-value, dimensi head 128. Itu adalah attention query berkelompok empat-ke-satu, bukan delapan-ke-satu dari LFM2.5.

• Jendela lokal — 256 token, dengan cache konvolusi berukuran tujuh. Ini adalah pengaturan attention per lapisan, bukan panjang konteks, dan hal ini menyebabkan gelombang kecil pemberitaan keliru ketika arsitektur tersebut pertama kali muncul dalam pull request mesin sehari sebelum peluncuran.

• Kosakata dan bahasa — 128.000 token, enam belas bahasa terdaftar: Inggris, Arab, Mandarin, Prancis, Jerman, Italia, Jepang, Korea, Portugis, Spanyol, Vietnam, Thailand, Indonesia, Hindi, Rusia, Polandia.

• Memori — sekitar 1 GB pada presisi 4-bit menurut Liquid, 3,46 GB sebagaimana dikirim dalam BF16.

Ada satu ketidakkonsistenan kecil yang perlu diketahui sebelum Anda menyebutkan ukuran. Sidebar Hugging Face membulatkan model menjadi "2B params", sedangkan tabel pada kartu menyatakan 1.73B. File-nya yang menjadi penentu: 3.46 GB bfloat16 adalah 1.73 miliar parameter dengan dua byte per parameter, jadi label di sidebar hanyalah konvensi pembulatan, bukan spesifikasi kedua. Pada saat penulisan, repositori menunjukkan lima belas unduhan dalam sebulan terakhir dan delapan suka — profil sebuah checkpoint yang sudah dirilis, ditautkan dari posting peluncuran, dan belum diadopsi oleh siapa pun.

Arsitektur, tanpa diagram

Desainnya paling mudah dipahami sebagai argumen anggaran. Perhatian penuh adalah bagian mahal dari transformer pada konteks panjang: setiap token membandingkan dirinya dengan setiap token lain, dan biayanya tumbuh sebanding kuadrat panjang urutan. Tumpukan tri-hybrid Liquid hanya menggunakan enam dari dua puluh empat lapisannya untuk operasi itu. Tiga belas lapisan adalah konvolusi pendek bergerbang, yang mencampur informasi secara lokal dengan biaya tetap per token, dan lima adalah blok perhatian jendela geser yang melihat 256 token sekaligus. Dua pertiga jaringan tidak pernah melakukan operasi perhatian global sama sekali.

Ini adalah taruhan yang sama yang telah dilakukan Liquid sejak LFM2, yang didorong lebih jauh. LFM2.5-2.6B-Base menggunakan tiga puluh lapisan yang dibagi menjadi dua puluh dua konvolusi dan delapan blok atensi penuh, tanpa tingkat jendela geser. LFM3 menggantikan sepasang konvolusi dengan blok atensi geser di lima titik dalam tumpukan, menaikkan cache konvolusi dari tiga menjadi tujuh, dan menambahkan pengaturan normalisasi sandwich serta rotari parsial yang muncul dalam konfigurasi. Apakah kompromi spesifik itu meningkatkan kualitas adalah pertanyaan yang hanya bisa dijawab oleh evaluasi, dan hingga publikasi ini belum ada evaluasi model dasar untuk menjawabnya. Yang memang ditetapkan oleh konfigurasi adalah bahwa konteks 256K tidak dicapai dengan menskalakan atensi ke 256K; melainkan dicapai dengan menjaga sebagian besar tumpukan tetap lokal.

Model dasar disertai dengan templat obrolan

Ini adalah detail yang paling mungkin membingungkan siapa pun yang mengunduh checkpoint dengan harapan mendapatkan penyelesaian teks mentah. LFM3-1.7B-Base menyertakan templat chat lengkap, dan kartu model menyatakan bahwa pelatihan menengah mencakup data chat baik dengan maupun tanpa jejak pemikiran, yang diformat dengan templat yang sama seperti model pasca-pelatihan. Panggil apply_chat_template dan penalaran diaktifkan secara default: respons dimulai di dalam blok pemikiran kecuali Anda meneruskan enable_thinking=False, yang mengisi terlebih dahulu jejak kosong dan meminta jawaban langsung.

Jadi perilakunya sedikit mirip model instruct dan didokumentasikan sebagai hal yang sama sekali berbeda. Rekomendasi pada kartu model itu sendiri tidak ambigu: LFM3-1.7B-Base "hanya direkomendasikan untuk tugas-tugas yang memerlukan fine-tuning berat, seperti asisten khusus bahasa atau domain, pelatihan pada data proprietary, atau eksperimen dengan pendekatan pasca-pelatihan baru." Untuk chat, pemanggilan alat, dan agen, kartu itu mengarahkan ke LFM3-1.7B. Template itu ada karena data pelatihan tengah diformat dengan cara tersebut dan karena sebuah fine-tune mewarisinya — bukan karena checkpoint tersebut disetel untuk percakapan. Siapa pun yang menganggap template itu sebagai sinyal kesiapan akan kecewa dengan outputnya, dan kartu model sudah menyatakan hal itu sebelum mereka mulai.

Angka-angka yang akan dikutip orang bukanlah angka model ini

Postingan peluncuran memuat tabel benchmark yang cukup besar, dan hampir tidak ada satu pun yang berlaku untuk checkpoint yang menjadi topik artikel ini. Rata-rata utama 49.37 milik LFM3-1.7B, model pasca-pelatihan, yang diukur pada suite milik Liquid sendiri. Baris-baris perbandingan — LFM2.5-2.6B di 31.55, MiniCPM5-2B di 39.19, Gemma 4 E4B di 31.74, Qwen3.5-4B di 39.27, Qwen3.5-9B di 47.24 — adalah model pasca-pelatihan yang dibandingkan dengan model pasca-pelatihan. Angka 43.40 pada SWE-bench Verified dan 73.46 pada LiveCodeBench v6 juga merupakan skor model yang telah disetel.

Dua klaim dilekatkan pada checkpoint dasar dalam pembacaan santai dan seharusnya tidak demikian. Yang pertama adalah "35% lebih sedikit parameter" — itu adalah LFM3-1.7B yang mengungguli LFM2.5-2.6B, pernyataan tentang pasangan pasca-pelatihan, bukan hasil base-ke-base. Yang kedua adalah klaim bahwa LFM3 "menyamai Gemma 4 12B." Kalimat itu tentang LFM3-VL-2B, model visi, di 62 benchmark visi. Itu tidak mengatakan apa pun tentang checkpoint dasar teks, yang sama sekali tidak memiliki evaluasi terbitan. Model dasar tanpa tabel benchmark bukan hal yang aneh — Liquid sengaja tidak menerbitkan satu pun untuk LFM2.5-2.6B-Base juga — tetapi ketiadaan itu berarti setiap klaim kualitas tentang checkpoint ini saat ini adalah klaim tentang model yang dihasilkannya.

Pelatihan, dan bagian yang benar-benar khas

Liquid mengatakan bahwa checkpoint tersebut memproses 22 triliun token dalam dua tahap. Tahap pra-pelatihan utama mengubah komposisi data dibandingkan LFM2, dengan menambahkan lebih banyak makalah ilmiah, kode tingkat repositori, matematika, dan cakupan sumber pengetahuan yang lebih luas. 3,5 triliun token terakhir merupakan tahap pelatihan menengah pada data terkurasi yang kualitasnya lebih tinggi dengan porsi jejak agentik dan panggilan alat yang lebih besar, dan pada tahap itulah jendela konteks diperluas hingga 256K.

Bagian yang tidak biasa bukanlah jumlah token; melainkan bahwa data agentik dimasukkan ke model dasar, bukan hanya ke pasca-pelatihan. Sebagian besar vendor menyimpan jejak pemanggilan alat untuk tahap tuning instruksi. Liquid memasukkannya ke inti model lalu melatih pasca enam model berbeda di atasnya dengan SFT, RL campuran, distilasi on-policy multi-domain, dan RL agentik. Itu adalah strategi yang koheren untuk sebuah keluarga yang dimaksudkan berbagi satu tulang punggung lintas modalitas, dan itu juga alasan checkpoint dasar membawa templat obrolan. Ini adalah klaim tentang metodologi pelatihan yang tidak dapat diperiksa dari luar, dan tidak ada reproduksi independen.

Apa yang dapat Anda lakukan dengannya hari ini

Kartu ini menautkan dua notebook TRL, satu untuk fine-tuning terawasi dalam mengekstrak JSON terstruktur dari dokumen yang berantakan dan satu untuk pra-pelatihan lanjutan pada bahasa baru, menggunakan bahasa Turki dari teks mentah sebagai contoh. Keduanya ditulis untuk LFM3-1.7B dan mengharuskan perubahan satu model_id saja untuk menunjuk ke checkpoint dasar. Halaman dokumentasi mencakup sisa jalur fine-tuning. Model instruct memiliki rangkaian lengkap varian runtime — BF16 untuk vLLM, SGLang, dan Transformers; FP8 dan NVFP4 untuk SGLang; GGUF untuk llama.cpp, Ollama, dan LM Studio; MLX untuk Apple silicon; ONNX Runtime. Checkpoint dasar hanya memiliki satu artefak: file safetensors BF16. Tidak ada GGUF, tidak ada build MLX, tidak ada rilis terkuantisasi. Jika Anda ingin menjalankannya di ponsel, Anda melakukan konversi itu sendiri.

Di mana ini cocok jika Anda menyajikan model sebagai profesi

Checkpoint pra-terlatih bukanlah endpoint chat, dan ada baiknya kita konkret soal itu. LFM3-1.7B-Base tidak muncul di katalog OrcaRouter pada saat penulisan ini, dan model dasar akan menjadi hal yang aneh untuk dirutekan: tidak ada kemampuan mengikuti instruksi yang bisa dirutekan. Tempat berguna bagi router dimulai satu langkah kemudian, setelah fine-tune tersedia. OrcaRouter menempatkan lebih dari 200 model di balik satu API dengan markup 0% atas harga daftar penyedia, failover otomatis, dan DSL perutean, sehingga checkpoint LFM3 yang disesuaikan domain dapat berdampingan dengan model umum yang lebih besar dan dibandingkan atau dijadikan target failover tanpa integrasi kedua. Fusi model — panel yang menjawab bersama — adalah opsi lain ketika spesialis 1,73B bagus dalam satu hal dan Anda membutuhkan pendapat kedua. Tidak ada satu pun dari itu yang mengharuskan checkpoint dasarnya sendiri dihosting di mana pun.

Apa yang masih belum dikonfirmasi

• Kualitas dasar. Tidak ada tabel benchmark, tidak ada keluaran harness evaluasi, tidak ada perbandingan dengan LFM2.5-2.6B-Base pada tugas apa pun.

• Verifikasi independen. Tidak ada laboratorium pihak ketiga yang telah menerbitkan hasil pengujian model dasar maupun model yang telah disetel. Setiap angka dalam postingan peluncuran adalah milik Liquid sendiri.

• Dukungan Transformers upstream. Repositori ini menggunakan kode pemodelan khusus dan trust_remote_code. Hal itu normal saat peluncuran dan menjadi biaya pemeliharaan di kemudian hari.

• Bagaimana base disajikan. Pos peluncuran menyebutkan bahwa model base dan yang telah dilatih pasca-pelatihan tersedia di Hugging Face, Liquid Playground, dan Liquid API. Apa yang dilakukan API dengan checkpoint base yang belum disetel tidak dijelaskan, dan tidak ada harga untuk itu yang dipublikasikan.

• Kasus batas lisensi. LFM Open License v1.0 gratis untuk penggunaan komersial di bawah pendapatan tahunan $10 juta; di atas ambang itu, lisensi komersial berlaku. Teksnya bersifat publik, tetapi bagaimana teks itu memperlakukan model turunan yang dilatih berdasarkan model dasar lalu disajikan secara komersial adalah pertanyaan untuk pengacara, bukan untuk kartu model.

Apa yang harus ditonton

Sinyal bermakna berikutnya bukanlah pengumuman lain — melainkan evaluasi independen pertama atas model pasca-pelatihan, dan fine-tune publik pertama yang melaporkan bagaimana rasanya melatih checkpoint dasar tersebut. Pembingkaian Liquid sendiri mengundang uji itu: trunk 1,73B yang menghasilkan enam model dan mengklaim mengalahkan pendahulu 2,69B entah benar-benar arsitektur yang efisien atau suite benchmark yang dipilih dengan baik, dan hanya uji dari luar yang akan memisahkan keduanya. Sampai saat itu, repositori adalah seluruh ceritanya: file 3,46 GB, spesifikasi yang jelas, templat chat yang bukan undangan, dan lisensi yang layak dibaca sebelum lini pendapatan mendekat.