LFM2.5-2.6B-Base: Rilis Paling Sepi dari Liquid AI adalah yang Sebenarnya Diinginkan Para Fine-Tuner.

Baca penghitung Hugging Face pada 5 Agustus 2026, dan perbedaannya sulit dilewatkan: LFM2.5-2.6B, model on-device agentik yang diluncurkan Liquid AI pada 4 Agustus, berada di 47.393 unduhan. LFM2.5-2.6B-Base, checkpoint terlatih yang menjadi asal semua bobot tersebut, berada di 151. Organisasi yang sama, arsitektur yang sama, minggu yang sama, perbandingan 314 banding 1.

Checkpoint dasar tidak bocor dan tidak disembunyikan. Checkpoint ini muncul pada postingan peluncuran Liquid, tepatnya dalam satu tanda kurung — "Model dasar (LFM2.5-2.6B-Base) dan model pasca-pelatihan (LFM2.5-2.6B) tersedia hari ini di Hugging Face" — dan itulah seluruh catatan publik tentangnya. Tidak ada tolok ukur tersendiri, tidak ada bagian, tidak ada kartu terpisah. Semua yang di bawah ini dibaca langsung dari repositori — kartu model, config.json, file LICENSE, dan API Hugging Face — plus perhitungan yang kami lakukan sendiri. Jika suatu angka berasal dari evaluasi Liquid sendiri, kami menyebutkannya, karena untuk checkpoint khusus ini, fakta terpenting adalah betapa sedikitnya yang benar-benar diukur.

Hal itu lebih penting daripada yang disiratkan oleh catatan kaki. Model pasca-pelatihan dapat Anda nilai dengan mencobanya. Checkpoint dasar adalah tawaran untuk menghabiskan dua minggu dan anggaran GPU sebelum Anda mempelajari apa pun, jadi ketentuan tawaran — apa isinya, untuk apa dilisensikan, apa yang telah dievaluasi — adalah keseluruhan keputusan.

Apa yang sebenarnya ada di dalam repositori

Sembilan berkas, satu pecahan bobot, tanpa kode pemodelan. Daftar spesifikasi kartu, dicocokkan dengan config.json:

• 2.69B total parameter, bfloat16, dalam satu 5.39 GB model.safetensors. Rencanakan penyimpanan dan VRAM berdasarkan angka tersebut, bukan berdasarkan "2.6B."

• 30 lapisan, hibrida. Kartu tersebut menyebutkan 22 blok konvolusi pendek dengan gerbang ganda ditambah 8 lapisan perhatian GQA. Larik layer_types dalam config.json mengonfirmasinya dengan tepat: 22 entri dari conv dan 8 dari full_attention, dengan lapisan perhatian yang diberi jarak kira-kira setiap blok ketiga atau keempat, bukan dikelompokkan.

• 2048 lebar tersembunyi, 10752 intermediate, 32 kepala atensi pada 8 kepala key-value — rasio GQA 4 banding 1 — dengan embedding input dan output yang saling terikat serta rope theta sebesar 10,000,000.

• kosakata 128.000 token, dan tokenizer 18 MB yang menyertainya. Liquid menggandakan kosakata pada generasi ini, yang merupakan biaya signifikan pada 2,6B: dengan tied embedding, tabel kosakata saja mencakup sekitar 262M dari anggaran parameter, hampir sepersepuluh dari model.

• 34 triliun token pelatihan. Itu adalah pra-pelatihan yang luar biasa panjang untuk kelas ukuran ini, dan itu adalah satu-satunya alasan terkuat untuk melihat checkpoint sama sekali.

• 16 bahasa yang dideklarasikan: Inggris, Arab, Mandarin, Prancis, Jerman, Hindi, Indonesia, Italia, Jepang, Korea, Polandia, Portugis, Rusia, Spanyol, Thai, dan Vietnam.

Satu inkonsistensi bagi siapa pun yang merencanakan pekerjaan dengan konteks panjang: kartu model tersebut mengiklankan panjang konteks 131.072 token, sementara config.json menetapkan max_position_embeddings ke 128.000. Blog dan dokumentasi Liquid sendiri sama-sama menyebut 128K. Perbedaan 3.072 token tidak akan memengaruhi kebanyakan orang, tetapi jika Anda menulis skrip pelatihan yang mengemas urutan hingga batas maksimum yang diiklankan, percayalah pada file konfigurasi daripada kartu model tersebut.

String arsitektur adalah inti utamanya: model_type adalah lfm2 dan kelasnya adalah Lfm2ForCausalLM — kelas yang sama yang disertakan dengan LFM2. LFM2.5 adalah pre-training yang diperluas dan post-training baru pada arsitektur yang sudah ada, bukan yang baru, jadi tidak ada yang memerlukan kode pemodelan kustom di sini. Itulah sebabnya llama.cpp, vLLM, MLX, ONNX Runtime, SGLang, dan LM Studio semuanya mendukung keluarga ini sejak hari pertama, dan mengapa jalur fine-tuning melalui Unsloth dan TRL berfungsi tanpa tambalan. Anda perlu transformers>=5.0.0.

Kartu yang Anda dapatkan adalah kartu model lainnya.

Buka repositori dasar dan judul pertama adalah "LFM2.5-2.6B" — nama model pasca-pelatihan, bukan model yang sedang Anda lihat. Ini bukan sekadar kritik sepele; seluruh halaman terbaca seperti kartu instruksi dengan paragraf dasar yang disisipkan ke dalamnya, dan tiga artefak yang tertinggal dapat menyita waktu Anda.

• Frontmatter YAML menyebutkan base_mode: LiquidAI/LFM2.5-2.6B-Base.Dua masalah dalam satu baris: kunci tersebut adalah salah eja dari milik Hugging Facebase_model, dan ia menunjuk repositori dasar pada dirinya sendiri. Tidak ada yang rusak, tetapi tautan pohon model yang Anda harapkan dari garis keturunan yang dideklarasikan dengan benar tidak dihasilkan dari ini.

• Repositori ini diberi tag conversational dan menyertakan chat_template.jinja, sehingga Hugging Face menampilkan lencana "Chat template" pada checkpoint yang belum pernah di-tune dengan instruksi. Template tersebut ada karena konfigurasi tokenizer diwarisi, bukan karena bobot model mengetahui cara menggunakannya.

• Cuplikan mulai cepat itu kemudian menggunakan templat tersebut. Contoh Python pada kartu model dasar memanggil tokenizer.apply_chat_template dengan pesan {"role": "user"} dan menanyakan "What is C. elegans?" — cara klasik untuk membuat model dasar terlihat rusak. Membungkus checkpoint pra-terlatih mentah dalam putaran obrolan akan menghasilkan teks yang melantur, berulang, dan melanjutkan dirinya sendiri, dan mudah menafsirkannya sebagai model yang buruk, bukan sebagai format prompt yang salah. Beri prompt pada model ini sebagai penyelesai teks, few-shot, dengan urutan berhenti yang Anda kendalikan.

• Tabel varian hanya mencantumkan lini pasca-pelatihan — LFM2.5-2.6B, beserta build GGUF, ONNX, dan MLX-nya. Tidak ada build GGUF atau MLX dari checkpoint dasar sama sekali, jadi "menjalankannya secara lokal malam ini di LM Studio" tidak mungkin dilakukan tanpa mengonversinya sendiri.

Hugging Face juga melaporkan bahwa tidak ada penyedia inferensi yang melayani repositori ini. Tidak ada endpoint yang dihosting untuk checkpoint dasar di mana pun; jika Anda menginginkan logits-nya, Anda menyewa GPU.

Bagian benchmark yang tidak ada.

Belum ada satu pun angka evaluasi yang dipublikasikan untuk LFM2.5-2.6B-Base. Tidak ada MMLU, tidak ada MMLU-Pro, tidak ada GPQA, tidak ada HellaSwag, tidak ada ARC, tidak ada angka perplexity — tidak ada apa pun, di ketiga permukaan Liquid (kartu model, posting peluncuran, dan dokumentasi). Untuk checkpoint dasar, ketiadaan itu sangat mencolok, karena skor pengetahuan dan penalaran itulah yang justru menjadi tolok ukur untuk menilai apakah 34T token pra-pelatihan menyisakan sesuatu yang layak untuk fine-tuning.

Apa yang ada berasal dari saudara yang telah dilatih pasca-pelatihan, dilaporkan oleh Liquid, dan belum direproduksi secara independen. Pada evaluasi Liquid sendiri, LFM2.5-2.6B memperoleh skor 51,87 pada AIME25, 59,17 pada IFBench, 80,07 pada Multi-IF, 56,88 pada BFCLv4, 77,83 pada ToolSandbox, dan 26,89 pada BrowseComp+ di dalam kerangka OpenClaw, diukur terhadap gemma-4-E2B-it (5.1B), gemma-4-E4B-it (8B), Qwen3.5-4B (4.7B), dan Qwen3.5-9B (9.7B). Ringkasan Liquid adalah bahwa model itu memimpin setiap tolok ukur kepatuhan instruksi dan hampir semua tolok ukur penggunaan alat, dan bagan mereka sendiri dengan jujur menunjukkan pengecualian: Qwen3.5-9B unggul pada AIME25 dengan 56,07 dan pada BFCLv4 dengan 60,13. Klaim kecepatan mengikuti aturan yang sama — 220 token/detik decoding pada M5 Max, 113 pada Ryzen AI Max+ 395, sekitar 30 pada ponsel, memori di bawah 2,5 GB, dan sekitar 15 ribu token/detik keluaran pada konkurensi tinggi di satu H100 — semuanya diukur oleh vendor, belum ada yang diverifikasi oleh pihak lain.

Jebakannya adalah menganggap semua itu ikut terbawa. Skor-skor itu adalah hasil dari pipeline empat tahap yang diterapkan di atas checkpoint ini: dua putaran fine-tuning terawasi, spesialisasi teacher per-domain, distilasi on-policy multi-domain, lalu pembelajaran penguatan agentic dengan GRPO yang dijalankan di dalam harness nyata. Memanggil alat dan mengikuti instruksi adalah persis perilaku yang ditanamkan oleh pipeline itu. Ambil bobot dasarnya, dan Anda mulai dari sebelum semua itu. Yang Anda warisi adalah pra-pelatihan — bahasa-bahasa, pengetahuan dunia, kemampuan konteks panjang, arsitektur hybrid yang efisien — dan Anda harus berasumsi bahwa Anda tidak mewarisi apa pun dari papan skor agentic.

151 unduhan bukan sekadar awal — ini menyimpang dari pola keluarga itu sendiri

Liquid secara rutin merilis checkpoint dasar, jadi rilis ini tidak istimewa dalam jenisnya. Justru kelalaian itulah yang terukur. Membandingkan setiap repositori dasar LFM2.5 dengan saudara instruct-nya pada hari yang sama memberikan norma internal yang jelas — dan satu pencilan yang jelas.

• LFM2.5-230M — 58.676 unduhan dibandingkan dengan 6.982 untuk basisnya: sekitar 8 banding 1.

• LFM2.5-350M — 94.526 berbanding 9.397: sekitar 10 banding 1.

• LFM2.5-1.2B — 583,914 untuk build Instruct dibandingkan 17,867 untuk base: sekitar 33 banding 1.

• LFM2.5-8B-A1B — 171.520 berbanding 3.996: sekitar 43 banding 1.

• LFM2.5-2.6B — 47,393 berbanding 151: sekitar 314 berbanding 1.

Sebagian dari itu hanyalah usia; repositori dasar dibuat pada 1 Agustus dan model instruksi memiliki keunggulan empat hari plus posting peluncuran. Tetapi checkpoint dasar yang lebih lama dalam keluarga ini berada di antara 8-to-1 dan 43-to-1, jadi satu orde magnitudo melewati yang terburuk di antaranya adalah anomali nyata, bukan artefak pembulatan dari repositori baru.

Jumlah suka mengungkapkan cerita yang lebih halus. Repositori dasar memiliki 28 suka berbanding 151 unduhan — kira-kira satu penanda untuk setiap lima unduhan. Model instruct memiliki 232 suka berbanding 47.393, sekitar satu untuk setiap 204. Orang-orang menandai checkpoint dasar untuk kembali lagi, bukan mengunduhnya. Dua fine-tune komunitas dan tujuh kuantisasi sudah ada di pohon modelnya, yang merupakan gambaran ujung tombak adopsi sebelum volumenya tiba.

"Tanpa batasan" bukan itu yang dikatakan lisensi.

Halaman peluncuran Liquid menggambarkan rilis ini sebagai open-weight: "Unduh, sempurnakan, dan terapkan tanpa batasan." Berkas di repositori menyatakan sesuatu yang lebih sempit, dan ini adalah bagian yang perlu dibaca dua kali jika Anda mempertimbangkan untuk membangun produk di atas bobot ini.

Lisensi ini adalah LFM Open License v1.0 — bukan Apache-2.0, bukan MIT, dan bukan ketentuan yang sama dengan kebanyakan model open-weight kecil yang mungkin Anda bandingkan. Mengutip langsung dari file tersebut, Bagian 5 berjudul "Pembatasan Penggunaan Komersial" dan berbunyi: "Hak yang diberikan berdasarkan Lisensi ini untuk Penggunaan Komersial bergantung pada Anda atau Entitas Hukum Anda tidak melebihi Ambang Batas," diikuti oleh "Setiap Penggunaan Komersial atas Karya atau Karya Turunan oleh Entitas Hukum yang melebihi Ambang Batas tidak dilisensikan berdasarkan Perjanjian ini." Bagian 1 mendefinisikan Ambang Batas sebagai "pendapatan tahunan sebesar 10 juta dolar Amerika Serikat ($10.000.000) atau lebih."

Jadi, pembacaan praktisnya:

• Pendapatan tahunan di bawah $10M — Anda memiliki hibah yang luas, abadi, dan bebas royalti yang mencakup reproduksi, karya turunan, distribusi, dan sublisensi, termasuk penggunaan komersial.

• Pada atau di atas $10M — penggunaan komersial tidak dilisensikan oleh perjanjian ini. Bukan "memerlukan atribusi," bukan "memerlukan pemberitahuan." Anda perlu berbicara dengan Liquid, yang mungkin itulah sebabnya kartu ini diakhiri dengan tautan ke tim penjualan mereka.

• Karya turunan mewarisi batasan ini. Fine-tune Anda atas checkpoint ini adalah Karya Turunan, jadi model yang Anda habiskan waktu seperempat tahun untuk melatihnya membawa hibah bersyarat pendapatan yang sama. Jika perusahaan Anda melewati ambang batas — atau diakuisisi oleh perusahaan yang sudah melewatinya — ketentuan yang menjadi sandaran produk Anda berubah di bawahnya.

• Organisasi nirlaba yang memenuhi syarat dikecualikan: Ambang Batas tidak berlaku untuk badan 501(c)(3) atau badan setara asing yang menggunakan karya tersebut untuk tujuan non-komersial atau penelitian. Kewajiban umum juga tetap berlaku — teruskan lisensinya, pertahankan pemberitahuan atribusi, dan tandai file yang Anda ubah.

Tidak ada satu pun dari hal ini yang membuat rilis tersebut terkesan pelit; ambang batas $10 juta mengecualikan hampir semua startup dan peneliti, dan itu adalah cara yang sah untuk memublikasikan bobot. Tetapi "tanpa batasan" adalah materi pemasaran yang bertentangan dengan lisensi, dan ketidakcocokan itu paling terasa justru di sini. Fine-tuning sebuah checkpoint dasar adalah cara paling mahal dan paling tidak dapat dibalik untuk mengadopsi sebuah model. Itulah tempat terburuk untuk menemukan klausul pendapatan.

Siapa yang seharusnya benar-benar mengambil checkpoint ini

Panduan Liquid sendiri memiliki cakupan yang sangat sempit, dan layak diikuti: kartu tersebut menyebutkan bahwa checkpoint pra-terlatih adalah "hanya direkomendasikan untuk tugas-tugas yang memerlukan fine-tuning berat, seperti asisten khusus bahasa (misalnya, Jepang) atau khusus domain (misalnya, medis), pelatihan pada data kepemilikan, atau bereksperimen dengan pendekatan pasca-pelatihan yang baru." Kata "only" itu benar-benar melakukan pekerjaan nyata. Jika Anda menginginkan agen di perangkat yang memanggil alat, LFM2.5-2.6B yang telah melalui pasca-pelatihan adalah titik awal yang jauh lebih baik, dan checkpoint dasar akan membuang-buang waktu sebulan Anda.

Kasus-kasus di mana itu benar-benar pilihan yang tepat:

• Bahasa yang kurang dilayani oleh pasca-pelatihan. 34T token dalam 16 bahasa adalah fondasi multibahasa yang kuat, dan Liquid telah membuktikan pola ini secara internal dengan build bahasa Jepang pada lini 1.2B. Pre-training lanjutan pada bahasa Anda, kemudian instruction tuning Anda sendiri, menghindari perjuangan melawan persona pasca-pelatihan yang berpusat pada bahasa Inggris.

• Vertikal teregulasi dengan data kepemilikan. Di bawah 2,5 GB saat inferensi, tanpa ketergantungan cloud, dan lisensi yang cukup permisif di bawah ambang pendapatan adalah kombinasi langka untuk penerapan medis, hukum, atau industri di mana data tidak dapat meninggalkan perangkat.

• Riset pasca-pelatihan.Liquid merilis resepnya — SFT, spesialisasi teacher, MOPD, RL agentik — lalu menyerahkan input yang tepat untuk resep tersebut beserta outputnya. Kemampuan untuk menjalankan metode Anda sendiri pada bobot awal yang sama dan melakukan diff terhadap implementasi referensi yang kuat adalah hal yang langka dan berharga.

• Target distilasi. Model hibrida 2.6B yang men-decode dengan kecepatan 220 token/detik di laptop adalah murid yang menarik untuk mengompresi guru yang jauh lebih besar menjadi sesuatu yang layak dirilis.

Pada pasangan terakhir itulah biaya sebenarnya bermuara, dan itu bukan jam GPU — melainkan data. Pipeline Liquid bertumpu pada spesialisasi teacher dan distilasi on-policy, yang berarti prasyarat nyata untuk mereproduksi hal semacam itu adalah volume besar data yang dihasilkan dari model-model yang lebih kuat, ditambah pasangan preferensi dan rollout dengan reward yang dapat diverifikasi. Itu adalah pekerjaan multi-model sebelum menjadi pekerjaan pelatihan: Anda ingin membandingkan kandidat teacher pada domain Anda, lalu menghasilkan data dalam volume besar dari model mana pun yang menang. Inilah bagian pekerjaan yang menjadi sasaran produk kami sendiri — OrcaRouter menempatkan 200+ model di balik satu kunci API dengan markup 0%, sehingga yang Anda bayar untuk set SFT sintetis adalah harga daftar penyedia, bukan premi perutean (ketika vendor memotong harga, itu langsung jatuh ke pihak kami pada hari yang sama), failover otomatis mencegah proses generasi dua puluh jam mati akibat satu jam buruk dari satu penyedia, dan DSL routing memungkinkan Anda menyebarkan satu prompt ke beberapa teacher dan menyimpan jawaban terbaik. Untuk memperjelas apa yang tidak kami tawarkan: LFM2.5-2.6B-Base tidak ada di OrcaRouter dan tidak ada penyedia inferensi yang menghostingnya — Anda menjalankan sendiri bobot-bobot ini. Kami berguna untuk para teacher, bukan untuk student.

Pembagian yang sama perlu diingat untuk apa pun yang Anda rilis. Postingan Liquid berpendapat bahwa agen lokal membuat inferensi gratis dan menghilangkan biaya per-token sebagai kendala — yang benar untuk token marjinal, bukan untuk total tagihan; Anda telah membayarnya di muka melalui perangkat keras, dan model 2.6B tetap memiliki batas atas. Liquid sendiri mengatakannya, menyarankan agar keluarga model ini tidak digunakan untuk pekerjaan agen yang sarat kode atau intensif pengetahuan. Pola yang bertahan lama adalah model lokal yang disetel halus yang menangani jalur umum bervolume tinggi di perangkat, lalu melimpahkan sebagian kecil kasus sulit ke model frontier melalui API — ini mempertahankan keunggulan privasi dan latensi di tempat yang penting tanpa berpura-pura bahwa 2.6B parameter bisa melakukan segalanya.

Jalur dari bobot-bobot ini menuju sesuatu yang dapat digunakan

Posting peluncuran tidak mengatakan apa pun tentang ini, tetapi kartu dasar diam-diam membawa hal paling praktis di seluruh repositori: tujuh notebook Colab siap dijalankan yang mencakup tahapan pipeline yang tepat yang dibutuhkan checkpoint dasar. Dua di antaranya adalah pra-pelatihan lanjutan — satu untuk penyelesaian teks, satu untuk penerjemahan — yang merupakan langkah yang hanya masuk akal dari bobot dasar dan langkah yang tidak ada yang menulis tutorialnya. Sisanya mencakup fine-tuning terawasi melalui Unsloth dan TRL, DPO melalui TRL, dan GRPO melalui keduanya. Liquid juga menyertakan LEAP Finetune sebagai tumpukan pelatihan tersendiri jika Anda lebih suka tidak merakitnya.

Membaca dokumen fine-tuning Liquid terhadap bentuk model ini, urutan yang realistis terlihat seperti ini:

• Beri prompt sebagai completer terlebih dahulu, sebelum melatih apa pun. Abaikan template chat pada kartu. Few-shot, teks mentah, urutan stop Anda sendiri. Dengan begini Anda dapat mengetahui apakah pra-pelatihan sudah mencakup domain dan bahasa Anda, yang menentukan apakah Anda perlu pra-pelatihan lanjutan sama sekali atau dapat langsung lompat ke SFT.

• Pra-pelatihan lanjutan hanya jika Anda menambahkan pengetahuan atau bahasa. Ini adalah cabang yang mahal — skala korpus, bukan skala contoh — dan satu-satunya hal yang benar-benar tidak dapat diberikan oleh saudara pasca-pelatihan kepada Anda.

• Kemudian SFT dengan LoRA, pada 500 hingga 5.000 contoh.Panduan Liquid sendiri adalah bahwa kualitas dan distribusi mengalahkan volume dan bahwa contoh-contoh harus sesuai dengan input produksi. Pada 2.6B, satu pass LoRA berlangsung singkat: dokumen menyebutkan bahwa run 1.2B memakan waktu menit hingga puluhan menit pada satu GPU modern, jadi ukuran ini masih merupakan siklus yang bisa diselesaikan dalam satu sore.

• Bekukan set yang ditahan sebelum Anda melatih. Tegas, dan layak diulang khususnya untuk checkpoint ini, karena tidak ada baseline yang dipublikasikan untuk dibandingkan — eval set Anda adalah satu-satunya angka yang dimiliki siapa pun.

• Tahap preferensi atau RL berlangsung terakhir, dan hanya jika perilaku yang menjadi masalah. Resep DPO dan GRPO tersedia untuk keluarga ini, tetapi itu adalah penyempurnaan di atas model yang sudah dapat menjawab; menggunakannya sebelum SFT hadir adalah cara proyek base-checkpoint macet.

Perhatikan apa yang tidak ada dalam daftar itu: tidak ada apa pun di sini yang membutuhkan kernel kustom, trainer yang di-patch, atau file pemodelan. Karena LFM2.5 menggunakan kembali arsitektur LFM2, checkpoint dasar langsung masuk ke dalam stack standar, dan seluruh biaya proyek ini adalah korpus dan set evaluasi yang Anda bangun untuknya.

Apa yang akan mengubah gambaran

Ada tiga hal yang patut diperhatikan, semuanya murah untuk diselesaikan oleh Liquid dan tidak satupun yang diselesaikan hari ini.

Yang pertama adalah evaluasi model dasar. Satu angka MMLU-Pro atau GPQA pada checkpoint pra-latihan akan lebih informatif bagi para fine-tuner daripada gabungan semua benchmark agentic dalam posting peluncuran, dan fakta bahwa 34T token digunakan justru membuat ketidakhadirannya semakin aneh, bukan sebaliknya. Yang kedua adalah kartu itu sendiri — repositori dasar yang judulnya mencantumkan model yang berbeda, yang panduan quick-start-nya menerapkan template chat ke model non-chat, dan yang frontmatter-nya salah mengeja base_model adalah perbaikan sepuluh menit yang akan mencegah orang menyimpulkan bobot model rusak padahal instruksinyalah yang salah. Yang ketiga adalah laporan teknis LFM2.5. Blok sitasi menunjuk ke arXiv 2511.23404, yaitu LFM2, laporan teknis dari November 2025; makalah generasi 2.5 itu sendiri belum terbit, jadi campuran data pra-pelatihan di balik 34T token tersebut masih belum diungkapkan.

Sampai saat itu, ringkasan yang jujur adalah bahwa ini adalah fondasi 2.6B yang terspesifikasi dengan baik, terlatih lama, berbentuk efisien, dengan audiens sasaran yang sangat jelas, diterbitkan tanpa pengukuran dan dengan lisensi berbatas pendapatan, dan sejauh ini hampir tidak ada yang mencobanya. Jika Anda termasuk audiens yang digambarkan kartu tersebut, waktu GPU Anda layak dihabiskan — dan Anda akan menjadi salah satu orang pertama di mana pun yang mengetahui seberapa bagus sebenarnya.

Pertanyaan yang layak dijawab

Apakah ini checkpoint yang sama dengan yang digunakan untuk post-training LFM2.5-2.6B, atau merupakan run pre-training yang terpisah?

Kartu tersebut menyatakan bahwa LFM2.5-2.6B-Base "adalah checkpoint pra-pelatihan khusus teks, yang digunakan untuk membuat semua varian LFM2.5-2.6B," sehingga ini adalah input sebenarnya untuk pipeline yang dipublikasikan, bukan rilis paralel atau versi yang dipangkas. Itulah yang membuatnya berguna untuk penelitian pasca-pelatihan: metode Anda dan empat tahap Liquid dimulai dari bobot yang identik, sehingga perbandingan di antara keduanya bermakna. Perlu dicatat bahwa repositori dasar dibuat pada 1 Agustus dan terakhir dimodifikasi pada 4 Agustus, hari peluncuran — periksa riwayat commit sebelum berasumsi bahwa file yang Anda unduh lebih awal adalah file yang dirilis.

Bisakah saya menyempurnakannya dan menjual hasilnya?

Jika pendapatan tahunan badan hukum Anda di bawah $10.000.000, ya — hibah LFM1.0 mencakup penggunaan komersial atas karya turunan, dengan ketentuan tetap mempertahankan lisensi dan pemberitahuan atribusi serta menandai file yang diubah. Pada ambang batas tersebut atau di atasnya, penggunaan komersial atas model atau apa pun yang diturunkan darinya berada di luar lisensi dan memerlukan pengaturan terpisah dengan Liquid. Ambang batas tersebut melekat pada pendapatan badan hukum Anda, bukan pada model atau pendapatan yang dihasilkannya, sehingga fine-tune yang sama dapat dilisensikan untuk satu perusahaan tetapi tidak untuk perusahaan lain, dan perusahaan yang tumbuh melampaui garis tersebut tidak mempertahankan hibah yang sebelumnya dimilikinya.

Mengapa tidak hanya melakukan fine-tune pada LFM2.5-2.6B yang telah dilatih sebelumnya?

Untuk sebagian besar proyek, Anda sebaiknya, dan kartu Liquid secara efektif mengatakan demikian. Alasan untuk memulai dari checkpoint dasar adalah ketika pasca-pelatihan bekerja melawan Anda, bukan untuk Anda: prapelatihan lanjutan yang berat pada bahasa baru atau korpus spesialis cenderung merusak perilaku yang telah disetel instruksi, dan pola penolakan, konvensi pemanggilan alat, serta gaya respons yang ditanamkan oleh SFT dan RL sulit dihilangkan dan mudah bertentangan. Jika Anda menambahkan pengetahuan atau bahasa, mulailah dari basis. Jika Anda menyesuaikan perilaku di bagian tepi, mulailah dari model pasca-pelatihan dan pertahankan empat tahap pekerjaan yang sudah dibayar orang lain.