UserRepGen-4B กับ LFM2.5 2.6B Base: วัตถุดิบและชิ้นงานสำเร็จรูป

วิธีที่เร็วที่สุดในการดูว่าอะไรทำให้microsoft/UserRepGen-4Bแตกต่างจากLFM2.5-2.6B-Baseคือการนับจำนวนฟอร์แมต เช็กพอยต์ขนาด 2.69 พันล้านพารามิเตอร์ของ Liquid AI ถูกปล่อยออกมาสี่แบบ — น้ำหนัก Transformers แบบเนทีฟ, GGUF สำหรับ llama.cpp, ONNX สำหรับรันไทม์ข้ามแพลตฟอร์ม และ MLX สำหรับ Apple Silicon — เพราะมันมีอยู่เพื่อให้ผู้อื่นนำไปปรับใช้และดีพลอย ส่วน Microsoft UserRepGen-4Bถูกปล่อยออกมาแบบเดียว: ไฟล์ safetensors bfloat16 ที่ไม่ถูกควอนไทซ์เพียงไฟล์เดียวขนาด 9,078,620,536 ไบต์ พร้อมการ์ดที่ระบุตรง ๆ ว่า "ไม่มีฟอร์แมตที่ปรับแต่งหรือเฉพาะอุปกรณ์ให้ใช้ในขณะนี้" อันหนึ่งเป็นวัตถุดิบ อีกอันเป็นชิ้นส่วนสำเร็จรูป พวกมันไม่ใช่คู่แข่งกัน แต่เป็นสองขั้นตอนต่อเนื่องของงานเดียวกัน และการวางไว้เคียงกันคือวิธีที่ชัดเจนที่สุดในการดูว่าจริง ๆ แล้วอะไรเปลี่ยนไประหว่างการเริ่มไฟน์ทูนกับการปล่อยมันออกมา

ตำแหน่งทั้งสองในสแต็ก

LFM2.5-2.6B-Baseเป็นเช็กพอยต์แบบพรีเทรนที่อยู่ภายใต้ตระกูล LFM2.5 ของ Liquid AI — เป็นตัวต้นแบบที่โมเดลเวอร์ชันต่าง ๆ ซึ่งผ่านการฝึกหลังการเทรนทั้งหมดถูกสร้างขึ้นมา โดยเจตนาแล้วมันไม่เคยถูกปรับแต่งด้วยคำสั่ง (instruction-tuned) เลย การ์ดของมันเองแนะนำให้ใช้เฉพาะกับ "งานที่ต้องอาศัยการปรับแต่งละเอียด (fine-tuning) อย่างหนัก เช่น ผู้ช่วยที่เฉพาะเจาะจงภาษา (เช่น ภาษาญี่ปุ่น) หรือเฉพาะเจาะจงโดเมน (เช่น การแพทย์) การฝึกด้วยข้อมูลที่เป็นกรรมสิทธิ์ หรือการทดลองแนวทางใหม่ ๆ สำหรับการฝึกหลังการเทรน" ลองถามคำถามมันดูสิ แล้วมันจะต่อข้อความของคุณไปเรื่อย ๆ แทนที่จะตอบคำถาม เพราะการตอบไม่เคยเป็นส่วนหนึ่งของการฝึกมันเลย

UserRepGen-4B คือสิ่งที่ก้าวต่อไปมีหน้าตาแบบนี้ Microsoft ได้นำ Qwen3.5-4B มาเพิ่ม LoRA แบบ rank-64 ฝึกมันด้วยการปรับละเอียดแบบมีผู้สอนออนไลน์ผ่านการกลั่นความรู้ย้อนหลังตลอดเดือนกรกฎาคมและสิงหาคม 2026 และเผยแพร่ผลลัพธ์เมื่อวันที่ 14 ตุลาคม โดยไม่มีการประกาศและไม่มีเปเปอร์ มันทำได้เพียงอย่างเดียวเท่านั้น — อ่านบทสนทนาหลายรอบและเขียนคำอธิบาย JSON สองฟิลด์เกี่ยวกับผู้ใช้ในบทสนทนานั้น — และไม่ทำอย่างอื่นเลย

ดังนั้นการวางกรอบอย่างตรงไปตรงมาจึงไม่ใช่ "อันไหนดีกว่า" แต่คือ: หนึ่งในสิ่งเหล่านี้คือสิ่งที่คุณไฟน์จูน และอีกสิ่งหนึ่งคือสิ่งที่ห้องแล็บสร้างขึ้นจากการไฟน์จูนสิ่งอื่น

สิ่งที่การดาวน์โหลดมอบให้คุณจริง ๆ

• พารามิเตอร์และขนาดหน่วยความจำที่ใช้ — LFM2.5-2.6B-Base มีพารามิเตอร์ 2.69 พันล้านตัวในสถาปัตยกรรมแบบไฮบริด ส่วน UserRepGen-4B เป็นโมเดลระดับ 4B ซึ่งไฟล์เวตที่เผยแพร่มีขนาดประมาณ 9.1 GB ในรูปแบบ bfloat16 และไม่มีบิลด์ที่เล็กกว่าให้ใช้งาน

• คอนเท็กซ์ — 131,072 โทเคนบนเช็กพอยต์ Liquid เทียบกับลำดับการเทรน 9,216 โทเคนบนเช็กพอยต์ของ Microsoft (พรอมป์ต์ 8,192 โทเคน, คอมพลีชัน 1,024 โทเคน) โดยไม่รองรับการใช้งานแบบขยายอย่างชัดเจน

• รูปแบบไฟล์ — GGUF, ONNX และ MLX ควบคู่ไปกับน้ำหนักแบบเนทีฟ เทียบกับไฟล์ safetensors เพียงไฟล์เดียว

• สัญญาอนุญาต — ด้านหนึ่งคือ LFM Open License (lfm1.0) อีกด้านหนึ่งคือ MIT บวกกับ Apache 2.0 ที่สืบทอดมา ทั้งสองเปิดกว้างพอจะต่อยอดได้ แต่ไม่ใช่เอกสารฉบับเดียวกัน

• ภาษา — สิบหกภาษาที่ระบุชื่อบนการ์ด Liquid ส่วนของ Microsoft มีเพียงภาษาอังกฤษ

• การนำไปใช้ — LFM2.5-2.6B-Base เปิดให้สาธารณะเข้าถึงตั้งแต่ 1 สิงหาคม 2026 และมียอดดาวน์โหลดประมาณ 6,282 ครั้ง กับ 51 ไลก์ ส่วน UserRepGen-4B ซึ่งอัปโหลดเมื่อ 14 ตุลาคมนั้นมีทั้งสองอย่างเป็นศูนย์ในขณะที่เขียนข้อความนี้

ในบรรดาแถวเหล่านั้น มีเพียงแถวเดียวที่เกี่ยวกับคุณภาพ ส่วนที่เหลือเป็นเรื่องว่าสิ่งนั้นจะผ่านประตูที่คุณมีอยู่ได้หรือไม่

สถาปัตยกรรมสองแบบที่สร้างขึ้นสำหรับห้องที่ตรงกันข้าม

Liquid อธิบายว่า LFM2.5 เป็น "ตระกูลใหม่ของโมเดลแบบไฮบริดที่ออกแบบมาสำหรับการปรับใช้บนอุปกรณ์" และโครงสร้างของเช็กพอยต์ฐานก็สอดคล้องกับแนวทางนั้น สามสิบเลเยอร์ โดย 22 เลเยอร์เป็นบล็อกคอนโวลูชันแบบสั้นที่มีเกตคู่ และ 8 เลเยอร์เป็นแอตเทนชันแบบกลุ่มคิวรี พร้อมคำศัพท์ 128,000 โทเคน และงบประมาณการฝึก 34 ล้านล้านโทเคน บล็อกคอนโวลูชันใช้หน่วยความจำน้อยและมีเวลาแฝงที่คาดเดาได้ การออกแบบทั้งหมดมุ่งเป้าไปที่โทรศัพท์ แล็ปท็อป และอุปกรณ์ Edge

UserRepGen-4B สืบทอดสมมติฐานที่ตรงกันข้าม โครงสร้างหลักของมันคือสแต็กการสร้างแบบมีเงื่อนไขมาตรฐานของ Qwen3.5 — 32 เลเยอร์ ขนาดฮิดเดน 2,560 เฮดความสนใจ 16 เฮดพร้อมเฮดคีย์-แวลู 4 เฮด คำศัพท์ 248,320 โทเคน และทาวเวอร์วิชันที่ติดมาด้วยโดยไม่ถูกแตะต้องจากเช็กพอยต์ต้นทาง แม้ว่าโมเดลจะเป็นแบบข้อความล้วนและไม่รองรับภาพอย่างชัดแจ้ง Microsoft รายงานว่าโฮสต์มันด้วย vLLM บน GPU H100, A100, RTX A6000 และ B200 นั่นคือรายการชิ้นส่วนสำหรับเซิร์ฟเวอร์ ไม่ใช่รายการชิ้นส่วนสำหรับเอดจ์

ทีมที่ต้องเลือกระหว่างสองสิ่งนี้ แท้จริงแล้วกำลังเลือกว่าจะยอมรับข้อจำกัดใด: หน่วยความจำบนอุปกรณ์และรันไทม์ที่คุณต้องปรับแต่งให้เข้าที่ หรือฮาร์ดแวร์ในศูนย์ข้อมูลและโมเดลที่ทำงานเฉพาะอย่างของมันได้อยู่แล้ว

จุดที่ไฟน์ทูนขยับตัวเลขจริง ๆ

นี่คือส่วนของการเปรียบเทียบที่โมเดลฐานตอบไม่ได้ โดยนิยามแล้ว LFM2.5-2.6B-Base ไม่เผยแพร่เบนช์มาร์กสำหรับงานใด เพราะเช็กพอยต์ฐานไม่มีงาน — ตัวเลขคุณภาพของตระกูลนี้เป็นของโมเดลพี่น้องที่ผ่านการฝึกหลังแล้ว

UserRepGen-4B เผยแพร่หนึ่งชิ้น และมันเป็นหลักฐานที่แข็งแกร่งที่สุดในรีลีสทั้งหมด ในการประเมินความเที่ยงตรงจากบทสนทนา 700 รายการ ซึ่งตัดสินบนสเกล 1 ถึง 10:

• Qwen3.5-4B base ซึ่งเป็นแบ็กโบนที่ยังไม่ได้ปรับแต่ง — 3.41 best-of-1, 4.42 best-of-3

• GPT-5.5เมื่อพรอมป์ให้ทำงานเดียวกันแบบสำเร็จรูป — 3.90 และ 4.90

• UserRepGen-4B — 4.95 และ 6.02.

ตัวเลขทุกตัวเป็นของ Microsoft เอง เกิดขึ้นในลูปที่ GPT-5.4 mini ทำหน้าที่เป็นทั้งตัวจำลอง ผู้ช่วย และผู้ตัดสินในเวลาเดียวกัน ไม่มีอะไรถูกทำซ้ำอย่างอิสระ แต่รูปร่างของผลลัพธ์คือประเด็นสำคัญ: การปรับแต่งโมเดลฐาน 4B ให้เอาชนะโมเดลทั่วไประดับแนวหน้าในงานเฉพาะทางแคบ ๆ เป็นผลลัพธ์จริงที่วัดได้ และมันคือผลลัพธ์ที่ LFM2.5-2.6B-Base ถูกสร้างขึ้นมาเพื่อทำให้เป็นไปได้สำหรับงานของคนอื่น การ์ดของ Microsoft ยังแสดงให้เห็นว่าทางเลือกการเรียนรู้แบบเสริมกำลังที่ชัดเจนสองทาง — OPSD ที่ 4.46/5.60 และ GRPO ที่ 3.57/4.59 — ต่างก็แพ้ให้กับการปรับแต่งแบบมีผู้สอนทั่วไป ซึ่งเป็นคำเตือนเกี่ยวกับการสันนิษฐานว่าวิธีที่หนักกว่าจะชนะ

หนึ่งในสิ่งเหล่านี้มีหน้าความเป็นส่วนตัว และมันไม่ใช่ตัวพื้นฐาน

โมเดลฐานที่ผ่านการฝึกมาก่อนไม่มีความเป็นส่วนตัว เพราะไม่ได้กล่าวอ้างใด ๆ เกี่ยวกับบุคคล ส่วน UserRepGen-4B มี เพราะมันกล่าวอ้าง การ์ดของมันรายงานว่า จากผู้ใช้มากกว่า 147 คน ตัวเลือกที่เลือกว่าบทสนทนาใดในสี่บทสนทนามาจากบุคคลเดียวกันได้คะแนน 51.02% เมื่อใช้คำอธิบายพฤติกรรมของโมเดล เทียบกับ 44.22% เมื่อใช้บทสนทนาดิบ และ 25% เมื่อสุ่ม — บทสรุประบุตัวบุคคลได้ดีกว่าข้อมูลต้นทาง Microsoft ติดป้ายว่าเป็นความเสี่ยงด้านการเชื่อมโยง และระบุว่าการแทนค่าไม่ใช่ข้อมูลนิรนาม

ความไม่สมมาตรนั้นเป็นเชิงโครงสร้าง ไม่ใช่ข้อบกพร่องในการเผยแพร่ทั้งสองเวอร์ชัน ในทันทีที่ผลลัพธ์ของโมเดลเป็นการบรรยายถึงมนุษย์คนหนึ่ง พื้นผิวเชิงจริยธรรมก็เปลี่ยนไป และการ์ดจึงต้องรองรับเรื่องนี้ไว้ ใครก็ตามที่ไฟน์จูน LFM2.5-2.6B-Base ไปสู่เป้าหมายที่คล้ายกัน ควรคาดหวังว่าจะต้องเขียนส่วนเดียวกันนี้ด้วยตนเอง

การเลือกฐานจะกำหนดสิ่งใดในภายหลัง

มีผลที่ตามมาแบบลำดับที่สองของการยืมฐานโมเดลมาใช้ ซึ่งแทบไม่ค่อยถูกนำมาพิจารณาตอน fine-tuning นั่นคือมันเป็นตัวกำหนดว่าหกเดือนต่อมาคุณจะเรียกใช้อะไรได้ ไมโครซอฟต์สร้างบน Qwen3.5-4B และตระกูลนี้ให้บริการเชิงพาณิชย์ — Qwen3.5-Flashรองรับคอนเท็กซ์เกินหนึ่งล้านโทเคน ในราคา $0.10 ต่ออินพุตหนึ่งล้านโทเคน และ $0.40 ต่อเอาต์พุตหนึ่งล้านโทเคน Qwen3.5-27Bที่ $0.086 และ $0.688 Qwen3.5-35B-A3Bที่ $0.057 และ $0.459 ทั้งหมดเข้าถึงได้ผ่านคีย์ OrcaRouter เพียงคีย์เดียวในราคาตามที่ผู้ให้บริการประกาศไว้ โดยไม่มีอะไรบวกเพิ่ม และทั้งหมดสามารถอยู่เบื้องหลังระบบ failover อัตโนมัติ เพื่อให้เช็กพอยต์งานวิจัยที่มีอยู่แค่บนดิสก์ของคุณเองไม่กลายเป็นจุดล้มเหลวจุดเดียวในไปป์ไลน์ เราไม่มี UserRepGen-4B และเราไม่มี LFM2.5-2.6B-Base เช่นกัน — ทั้งสองเป็นไฟล์ดาวน์โหลด และโมเดลเล็กที่ผ่านการ fine-tune ซึ่งคุณสร้างจากเช็กพอยต์ Liquid จะเป็นของคุณในการโฮสต์ แต่ฝั่งผู้ช่วยของลูป หรือผู้ตัดสิน หรือเส้นทางสำรอง สามารถเป็นการเรียก API ด้วยคีย์ที่คุณมีอยู่แล้วได้ นั่นคือการตัดสินใจเชิงออกแบบที่คุณทำตั้งแต่เริ่มต้น ตอนที่คุณเลือกว่าจะปรับฐานโมเดลตัวไหน

คุณอยากได้อันไหนจริงๆ

ถ้าคุณมีงานหนึ่งงานและยังไม่มีโมเดลสำหรับงานนั้น LFM2.5-2.6B-Base คือจุดเริ่มต้นที่เหมาะสม: เล็กพอที่จะฟайน์จูนบนฮาร์ดแวร์ระดับพอประมาณ มีความเป็นไฮบริดมากพอที่จะรันบนอุปกรณ์ และจัดส่งมาในทุกฟอร์แมตที่คุณจะต้องใช้เมื่อการเทรนเสร็จสิ้น ถ้าคุณมีไปป์ไลน์จำลองผู้ใช้และต้องการองค์ประกอบที่เปลี่ยนบทสนทนาที่จบแล้วให้เป็นคำอธิบายพฤติกรรมที่พกพาได้ UserRepGen-4B มีอยู่แล้ว และการที่มันเป็นไฟล์เดียวในฟอร์แมตเดียวถือเป็นข้อจำกัด มากกว่าเป็นเหตุผลให้ต้องทำงานนั้นใหม่ทั้งหมด สิ่งที่ต้องจับตาคือ Microsoft จะตามมาด้วยเปเปอร์ที่การ์ดของมันยังสัญญาไว้หรือไม่ สำหรับ Liquid คำถามที่ยังเปิดอยู่แตกต่างและเก่าแก่กว่า: ทีมไหนจะหยิบฐานนี้ไปใช้ และพวกเขาจะสร้างอะไรจากมัน

โมเดลฐานมีไว้เพื่อถูกนำไปปรับใช้ และการปรับใช้นี่แหละคือจุดที่ทุกอย่างพังทลาย: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่เกี่ยวข้องกับโมเดลในคลาสนี้ซึ่งมีการบันทึกไว้ ถูกเก็บรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้งเป็นของตัวเอง