RepGen-4B vs LFM2.5 2.6B Base: Bahan Mentah dan Bagian Jadi

Cara tercepat untuk melihat apa yang membedakan microsoft/UserRepGen-4B dari LFM2.5-2.6B-Base adalah dengan menghitung formatnya. Checkpoint 2,69 miliar parameter milik Liquid AI tersedia dalam empat format — bobot Transformers native, GGUF untuk llama.cpp, ONNX untuk runtime lintas platform, dan MLX untuk Apple Silicon — karena model ini ada untuk diadaptasi dan diterapkan oleh orang lain. Milik Microsoft UserRepGen-4B hanya tersedia dalam satu format: satu file safetensors bfloat16 tanpa kuantisasi berukuran 9.078.620.536 byte, dengan kartu model yang menyatakan secara gamblang bahwa "tidak ada format yang dioptimalkan atau khusus perangkat yang tersedia saat ini." Yang satu adalah bahan mentah. Yang lain adalah komponen jadi. Keduanya bukan pesaing; keduanya adalah dua tahap berurutan dari pekerjaan yang sama, dan menempatkannya berdampingan adalah cara paling jelas untuk melihat apa yang sebenarnya berubah antara memulai fine-tune dan merilisnya.

Dua posisi di dalam stack

LFM2.5-2.6B-Base adalah checkpoint pra-terlatih yang mendasari keluarga LFM2.5 milik Liquid AI — model yang menjadi dasar semua varian pasca-pelatihan. Model ini sengaja tidak pernah di-instruction-tune. Kartu modelnya sendiri merekomendasikannya hanya untuk "tugas yang memerlukan fine-tuning berat, seperti asisten khusus bahasa (misalnya, Jepang) atau khusus domain (misalnya, medis), pelatihan pada data kepemilikan, atau bereksperimen dengan pendekatan pasca-pelatihan baru." Ajukan pertanyaan kepadanya dan ia akan melanjutkan teks Anda alih-alih menjawabnya, karena menjawab tidak pernah menjadi bagian dari pelatihannya.

UserRepGen-4B adalah gambaran langkah berikutnya. Microsoft mengambil Qwen3.5-4B, menambahkan LoRA berperingkat 64, melatihnya dengan fine-tuning terawasi daring melalui distilasi hindsight sepanjang Juli dan Agustus 2026, dan menerbitkan hasilnya pada 14 Oktober tanpa pengumuman dan tanpa makalah. Model ini melakukan tepat satu hal — membaca percakapan multi-putaran dan menulis deskripsi JSON dua bidang tentang pengguna di dalamnya — dan tidak melakukan hal lain.

Jadi perumusan yang jujur bukanlah "mana yang lebih baik." Melainkan: salah satunya adalah hal yang Anda fine-tune, dan yang lainnya adalah apa yang dihasilkan sebuah lab dengan melakukan fine-tuning pada hal lain.

Apa yang sebenarnya unduhan itu berikan kepada Anda

• Parameter dan jejak — LFM2.5-2.6B-Base memiliki 2,69 miliar parameter dalam arsitektur hibrida; UserRepGen-4B adalah model kelas 4B yang file bobot terpublikasinya berukuran sekitar 9,1 GB dalam bfloat16 dan tidak ada build yang lebih kecil yang tersedia.

• Konteks — 131.072 token pada checkpoint Liquid, dibandingkan dengan urutan pelatihan 9.216 token pada versi Microsoft (8.192 prompt, 1.024 penyelesaian), dengan penggunaan yang diperluas secara eksplisit tidak didukung.

• Format — GGUF, ONNX, dan MLX bersama bobot native, versus satu file safetensors.

• Lisensi — Lisensi Terbuka LFM (lfm1.0) di satu sisi, MIT ditambah Apache 2.0 yang diwariskan di sisi lain. Keduanya cukup permisif untuk dijadikan landasan; keduanya bukan dokumen yang sama.

• Bahasa — enam belas bahasa bernama di kartu Liquid, hanya bahasa Inggris pada kartu Microsoft.

• Adopsi — LFM2.5-2.6B-Base telah publik sejak 1 Agustus 2026 dan berada di sekitar 6.282 unduhan dan 51 suka. UserRepGen-4B, yang diunggah pada 14 Oktober, berada di angka nol untuk masing-masingnya saat ini ditulis.

Hanya satu dari baris itu yang membahas kualitas. Sisanya membahas apakah benda itu muat melewati pintu yang Anda miliki.

Dua arsitektur yang dibangun untuk ruangan yang berlawanan

Liquid mendeskripsikan LFM2.5 sebagai "keluarga baru model hybrid yang dirancang untuk penyebaran di perangkat," dan bentuk checkpoint dasarnya mengikuti hal tersebut. Tiga puluh lapisan, dua puluh dua di antaranya adalah blok konvolusi pendek bergerbang ganda dan delapan adalah grouped-query attention, kosakata 128.000 token, dan anggaran pelatihan 34 triliun token. Blok konvolusi murah dalam hal memori dan latensinya dapat diprediksi; seluruh desainnya ditujukan untuk ponsel, laptop, dan perangkat edge.

UserRepGen-4B mewarisi asumsi sebaliknya. Tulang punggungnya adalah tumpukan pembangkitan bersyarat Qwen3.5 standar — 32 lapisan, ukuran tersembunyi 2.560, 16 kepala atensi dengan 4 kepala key-value, kosakata 248.320 token, dan menara visi yang dibawa serta tanpa perubahan dari checkpoint induk meskipun model ini hanya teks dan gambar secara eksplisit tidak didukung. Microsoft melaporkan menghostingnya dengan vLLM pada GPU H100, A100, RTX A6000 dan B200. Itu daftar komponen server, bukan daftar komponen edge.

Sebuah tim yang memilih di antara keduanya sebenarnya sedang memilih batasan mana yang harus diterima: memori di perangkat dan runtime yang harus Anda setel agar sesuai, atau perangkat keras pusat data dan model yang sudah menjalankan satu tugasnya.

Di mana fine-tuning benar-benar mengubah angkanya

Ini adalah bagian dari perbandingan yang secara definisi tidak dapat dijawab oleh model base. LFM2.5-2.6B-Base tidak menerbitkan tolok ukur tugas, karena checkpoint base tidak memiliki tugas — angka kualitas untuk keluarga ini menjadi milik model saudaranya yang telah dilatih lanjut.

UserRepGen-4B menerbitkan satu, dan itu adalah bukti terkuat di seluruh rilis ini. Pada evaluasi kesetiaan 700 percakapan, yang dinilai dengan skala 1 sampai 10:

• Qwen3.5-4B base, tulang punggung yang belum diadaptasi — 3,41 best-of-1, 4,42 best-of-3.

• GPT-5.5 yang diminta mengerjakan tugas yang sama secara langsung — 3,90 dan 4,90.

• UserRepGen-4B — 4,95 dan 6,02.

Setiap angka adalah milik Microsoft sendiri, dihasilkan dalam sebuah loop di mana GPT-5.4 mini bertindak sekaligus sebagai simulator, asisten, dan juri. Tidak ada satu pun yang direproduksi secara independen. Namun intinya adalah bentuk hasilnya: fine-tuning basis 4B hingga melampaui generalis terdepan pada tugas yang sempit adalah hasil nyata yang terukur, dan justru hasil itulah yang keberadaan LFM2.5-2.6B-Base ciptakan untuk memungkinkan pada tugas orang lain. Kartu Microsoft juga menunjukkan bahwa dua alternatif reinforcement learning yang jelas — OPSD pada 4,46/5,60 dan GRPO pada 3,57/4,59 — keduanya kalah dari fine-tuning terawasi biasa, yang merupakan peringatan agar tidak menganggap metode yang lebih berat pasti menang.

Salah satu dari ini memiliki halaman privasi, dan itu bukan yang dasar.

Model dasar yang telah dilatih sebelumnya tidak memiliki bagian privasi karena tidak membuat klaim tentang orang. UserRepGen-4B memilikinya karena ia membuat klaim. Kartunya melaporkan bahwa untuk lebih dari 147 pengguna, sebuah selektor yang memilih yang mana dari empat percakapan yang berasal dari orang yang sama mencetak 51,02% menggunakan deskripsi perilaku model, dibandingkan dengan 44,22% pada percakapan mentah dan 25% secara acak — ringkasan tersebut mengidentifikasi orang tersebut lebih baik daripada sumbernya. Microsoft melabelinya sebagai risiko keterkaitan dan menyatakan bahwa representasi bukanlah data yang dianonimkan.

Asimetri itu bersifat struktural, bukan cacat pada rilis mana pun. Begitu keluaran sebuah model merupakan deskripsi tentang manusia, permukaan etisnya berubah, dan kartu itu harus memuatnya. Siapa pun yang melakukan fine-tuning LFM2.5-2.6B-Base menuju target serupa harus siap menulis bagian yang sama untuk diri mereka sendiri.

Apa yang nanti ditentukan oleh pilihan basis

Ada konsekuensi turunan dari meminjam base yang jarang dipertimbangkan saat fine-tuning: hal itu menentukan apa yang dapat Anda panggil enam bulan kemudian. Microsoft membangun di atas Qwen3.5-4B, dan keluarga itu disediakan secara komersial — Qwen3.5-Flash dengan konteks lebih dari satu juta token pada $0.10 per juta token input dan $0.40 per juta output, Qwen3.5-27B pada $0.086 dan $0.688, Qwen3.5-35B-A3B pada $0.057 dan $0.459, semuanya dapat diakses melalui satu kunci OrcaRouter pada harga daftar penyedia tanpa tambahan apa pun, dan semuanya dapat berada di belakang failover otomatis sehingga checkpoint penelitian yang hanya ada di disk Anda sendiri tidak menjadi satu titik kegagalan dalam pipeline. Kami tidak menyediakan UserRepGen-4B, dan kami juga tidak menyediakan LFM2.5-2.6B-Base — keduanya adalah unduhan, dan fine-tune model kecil yang Anda hasilkan dari checkpoint Liquid akan menjadi milik Anda untuk dihosting. Namun sisi asisten dari loop, atau penilai, atau jalur fallback, dapat berupa panggilan API dengan kunci yang sudah Anda miliki. Itu adalah keputusan desain yang Anda buat di awal, saat Anda memilih base mana yang akan diadaptasi.

Yang mana yang sebenarnya kamu inginkan?

Jika Anda memiliki suatu tugas dan tidak ada model untuknya, LFM2.5-2.6B-Base adalah titik awal yang tepat: cukup kecil untuk disetel halus pada perangkat keras sederhana, cukup hibrida untuk dijalankan di perangkat, dan tersedia dalam setiap format yang Anda butuhkan setelah pelatihan selesai. Jika Anda memiliki pipeline simulasi pengguna dan membutuhkan komponen yang mengubah percakapan yang sudah selesai menjadi deskripsi perilaku yang portabel, UserRepGen-4B sudah ada, dan fakta bahwa ia adalah satu berkas dalam satu format merupakan keterbatasan, bukan alasan untuk mengulang pekerjaan itu. Hal yang perlu dicermati adalah apakah Microsoft menyusulnya dengan makalah yang masih dijanjikan oleh kartunya. Bagi Liquid, pertanyaan terbuka yang ada berbeda dan lebih lama: tim mana yang mengambil basis tersebut dan apa yang mereka buat darinya.

Model dasar ada untuk diadaptasi, dan di situlah berbagai hal rusak: insiden AI dan kegagalan agen yang terdokumentasi seputar model di kelas ini dikumpulkan di Arsip Insiden AI OrcaRouter, tempat setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda sengketa.