LFM3-Omni-2B vs MiniCPM-V 4.7 35B-A3B: ผู้มาใหม่กับผู้ครองตำแหน่งเดิม

ตัวเลขสองตัว ทั้งคู่เป็นความจริง ทั้งคู่ทำให้เข้าใจผิดหากคุณอ่านมันเป็นคำตัดสิน: MiniCPM-V 4.7 35B-A3Bถูกดาวน์โหลดไปประมาณ 289,000 ครั้ง และ LFM3-Omni-2Bถูกดาวน์โหลดไป 83 ครั้ง ช่องว่างนี้ดูเหมือนการถล่มราบคาบ แต่จริง ๆ แล้วมันคือปฏิทิน เวตของ OpenBMB เปิดให้ใช้งานเมื่อวันที่ 6 ตุลาคม 2026; ของ Liquid AI เปิดให้ใช้งานเมื่อวันที่ 21 ตุลาคม และถูกประกาศเมื่อวันที่ 27 ตุลาคม หนึ่งวันก่อนที่ตัวเลขเหล่านี้จะถูกอ่าน โมเดลที่เพิ่งมีอยู่มาได้หนึ่งสัปดาห์ไม่สามารถมีประวัติดาวน์โหลดได้ และโมเดลที่ออกก่อนมาหกสัปดาห์พร้อมฐานผู้ติดตาม MiniCPM ที่มีอยู่แล้วก็ย่อมจะมีประวัติดาวน์โหลด ไม่ว่ามันจะสมควรได้รับหรือไม่ก็ตาม

ดังนั้นการเปรียบเทียบที่น่าสนใจจึงไม่ใช่เรื่องความนิยม แต่คือสิ่งที่ทีมซึ่งกำลังเลือกโมเดลมัลติโมดัลขนาดเล็กสำหรับอุปกรณ์หนึ่งควรชั่งน้ำหนักจริง ๆ ว่าโมเดลนั้นจำเป็นต้องได้ยินเสียงหรือไม่ จำเป็นต้องถูกควอนไทซ์ถึงหกรูปแบบหรือไม่ และสัญญาอนุญาตแบบไหนที่จะยังทำให้สบายใจได้เมื่อผลิตภัณฑ์มีรายได้แล้ว

แต่ละโมเดลคืออะไร

MiniCPM-V 4.7 35B-A3B เป็นโมเดลภาษาภาพแบบ mixture-of-experts ตัวแรกของ OpenBMB: มีพารามิเตอร์ที่จัดเก็บ 35.2 พันล้านตัว โดยกำหนดเส้นทาง 8 จาก 256 ผู้เชี่ยวชาญต่อโทเคน ใช้งานจริงราว 3 พันล้านตัว มี 40 เลเยอร์ข้อความ อยู่หลัง vision tower 27 เลเยอร์ที่ hidden size 1,152 ซึ่งแทรกที่เลเยอร์ 6 ของสแต็กข้อความ โมเดลอ่านภาพ ชุดภาพหลายภาพ วิดีโอ และข้อความ แล้วตอบเป็นข้อความ ไม่มีเส้นทางเสียงที่ใดเลยในน้ำหนัก 70.4 GB ข้อกล่าวอ้างสำคัญบนการ์ดไม่ได้อยู่ที่ความแม่นยำ แต่อยู่ที่ความเป็นไปได้ในการใช้งานจริง: มากกว่า 13 โทเคนต่อวินาทีบน iPhone 17 Pro Max โดยใช้หน่วยความจำประมาณ 3 GB ซึ่งเป็นไปได้ด้วยกลไก Lookahead Expert Scheduling ที่คาดการณ์ผู้เชี่ยวชาญของเลเยอร์ถัดไปและดึงข้อมูลล่วงหน้าขณะที่เลเยอร์ปัจจุบันกำลังประมวลผล

LFM3-Omni-2B คือรุ่น omni ของ Liquid AI ในตระกูล LFM3: พารามิเตอร์แบบ dense จำนวน 2.17 พันล้านบนแกนหลัก LFM3-1.7B พร้อมตัวเข้ารหัสภาพ LFM3 และตัวเข้ารหัสเสียงแบบ causal LFM3 ซึ่งป้อนเข้าสู่คลังคำศัพท์ขนาด 128,000 โทเคนหนึ่งชุด โดยรองรับข้อความ ภาพ วิดีโอที่มีหรือไม่มีเสียง และเสียง 16 kHz เป็นอินพุต และสร้างข้อความหรือเสียงพูด 24 kHz เป็นเอาต์พุต รวมถึงข้อความและเสียงพูดที่สลับแทรกกันในคำตอบเดียว โดยการออกแบบแล้วเป็นโมเดลแบบ non-reasoning — การ์ดโมเดลระบุว่าไม่รองรับ enable_thinking=True — และถูกวางตำแหน่งสำหรับโทรศัพท์ แล็ปท็อป และฮาร์ดแวร์ edge

ทั้งคู่พอดีกับโทรศัพท์ แต่มีเพียงหนึ่งเดียวที่ออกแบบโดยยึดสิ่งนั้นเป็นหลัก

เป็นเรื่องง่ายที่จะจัดทั้งสองอย่างไว้ภายใต้ "โมเดลเล็กบนอุปกรณ์" แล้วผ่านไป แต่วิศวกรรมที่อยู่เบื้องหลังนั้นตรงกันข้าม

ปัญหาของ OpenBMB คือแบนด์วิดท์หน่วยความจำบนมือถือ โมเดลจึงเป็นแบบ sparse ในลักษณะที่ลดปริมาณข้อมูลที่ต้องอ่านต่อโทเคน: จัดเก็บ 35.2B แตะเพียง 3B การจัดตารางผู้เชี่ยวชาญแบบ Lookahead คือตัวบ่งชี้ชัดเจน — คุณจะสร้างการดึงข้อมูลผู้เชี่ยวชาญล่วงหน้าก็ต่อเมื่อคอขวดคือการย้ายน้ำหนัก ไม่ใช่การคูณน้ำหนัก LFM3-Omni-2B แก้ปัญหาเดียวกันด้วยการเป็นโมเดลที่เล็กจริง ๆ: dense 2.17B ไม่มีการจัดเส้นทางเลย ทุกอย่างเป็น 16-bit และยังใช้พื้นที่เพียงไม่กี่กิกะไบต์

ข้อแลกเปลี่ยนจะปรากฏชัดในเรื่องการควอนไทซ์ MiniCPM-V 4.7 มีบิลด์ GGUF, AWQ, GPTQ, FP8, INT4 และ BitsAndBytes พร้อมเช็กพอยต์ดราฟต์ DSpark สำหรับการถอดรหัสแบบคาดเดา — เป็นเมนูครบครันสำหรับตัวเร่งใดก็ตามที่คุณได้ใช้ LFM3-Omni-2B มีน้ำหนัก BF16 บน Hugging Face และมีบิลด์ Ollama ที่หมุนเวียนอยู่ และรายการ Ollama นั้นระบุบริบท 125K เทียบกับ 32K ในโมเดลการ์ด ว่าเป็นบั๊กด้านแพ็กเกจจิ้งหรือความสามารถที่ไม่ได้บันทึกไว้ ณ ขณะเขียนยังไม่คลี่คลาย หากคุณต้องรันบน Rockchip NPU หรือแล็ปท็อป Intel ผู้จำหน่ายที่มีรูปแบบการควอนไทซ์หกแบบคือตัวเลือกที่ปลอดภัยกว่าในวันแรก

บรรทัดที่ตัดสินผลลัพธ์ของการดีพลอยส่วนใหญ่

MiniCPM-V 4.7 35B-A3B ไม่สามารถได้ยิน ไม่มี audio tower ไม่มีเส้นทาง ASR ไม่มี speech head ส่วน LFM3-Omni-2B สามารถได้ยินและตอบออกเสียงได้ โดยรองรับ 19 ภาษาพูด และ 16 ภาษาข้อความ

สำหรับงานที่เกี่ยวกับเอกสาร แผนภูมิ ภาพหน้าจอ หรือเฟรมวิดีโอ ความแตกต่างนั้นไม่สำคัญ และ MiniCPM เป็นตัวเลือกที่แข็งแกร่งกว่าในแทบทุกมิติอื่น — ใหญ่กว่า ผ่านการทดสอบอย่างแพร่หลายกว่า และมีเครื่องมือประกอบที่ดีกว่า สำหรับกรณีใดก็ตามที่มีไมโครโฟนเข้ามาเกี่ยวข้อง สิ่งนี้ยุติการเปรียบเทียบทันที คุณไม่สามารถเสริมความสามารถในการได้ยินให้ MiniCPM-V 4.7 ได้โดยไม่เพิ่มโมเดล ASR แยกต่างหาก แล้วตามด้วยโมเดล TTS ซึ่ง ณ จุดนั้นคุณกำลังรันสามโมเดลเพื่อทำสิ่งที่เช็กพอยต์ขนาด 2.17B หนึ่งตัวทำได้โดยกำเนิด

ในทางกลับกันก็เป็นจริงเช่นกัน LFM3-Omni-2B อ่านภาพได้ แต่เป็นโมเดลขนาด 2.17B ที่อ่านภาพเหล่านั้น การ์ดของมันรายงานว่า OCRBench 806, DocVQA 92.47 และ MMMU 42.44 โดย MMMU-Pro ลดลงมาที่ 27.28 ตัวเลขเหล่านั้นนับว่าน่าคับเคยพอใช้สำหรับขนาดนี้ และไม่สามารถแข่งขันกับโมเดล 35B บนเลย์เอาต์เอกสารที่ยากได้ หากงานคือตารางที่มีข้อมูลหนาแน่นและแบบฟอร์มที่สแกน โมเดลที่ใหญ่กว่าจะชนะในงานนี้ дажеก่อนที่คุณจะพิจารณาการจัดเส้นทางแบบ 8-of-256 ที่ทำให้รันได้อย่างประหยัด

ตรงที่ตัวเลขหมดลง

ส่วนที่ไม่สบายใจก็คือ ไม่มีตารางเปรียบเทียบแบบตรงไปตรงมาที่ซื่อสัตย์ให้ใช้ได้ เพราะ OpenBMB เผยแพร่ผลลัพธ์ของ MiniCPM-V 4.7 ในรูปแบบภาพกราฟิก ไม่ใช่ตารางตัวเลข จึงไม่มีตัวเลข MMStar, MMMU หรือ OCRBench ให้อ้างอิงจากโมเดลการ์ด 35B-A3B ได้ สิ่งใดก็ตามที่ใส่ตัวเลขลงในช่องนั้นล้วนมาจากโมเดลพี่น้อง 1B ซึ่งเป็นคนละโมเดลและมีสถาปัตยกรรมต่างกัน หรือไม่ก็เป็นการกุขึ้นมา

การ์ดของ LFM3-Omni-2B ตรงกันข้าม เป็นตารางแบบเต็ม: MMStar 55.67, MMMU 42.44, MMMU-Pro 27.28, MMBench 73.68, SEEDBench 75.07, RealWorldQA 66.54, MathVista 62.50, POPE 89.34, DocVQA 92.47, InfoVQA 64.08, OCRBench 806, MVBench 58.03, Video-MME 57.70 พร้อมคอลัมน์เสียงพูดที่ไล่ตั้งแต่ ASR ภาษาอังกฤษที่อัตราคำผิด 6.36 ไปจนถึง TTS UTMOSv2 ที่ 3.80 ทั้งหมดนี้วัดโดย Liquid AI โดยใช้แชตเทมเพลตของโมเดลที่นำมาเปรียบเทียบแต่ละโมเดลและการถอดรหัสแบบ greedy และยังไม่มีการทำซ้ำผลลัพธ์ใด ๆ เหล่านี้

ตารางจากผู้จำหน่ายดีกว่ากราฟจากผู้จำหน่าย แต่ไม่เหมือนกับการประเมินโดยอิสระ ทั้งสองโมเดลยังไม่มีสิ่งนี้ นี่คือสถานะปัจจุบันของหมวด small-omni ทั้งหมด และเป็นเหตุผลว่าทำไมข้อจำกัดในการนำไปใช้งานจึงสำคัญกว่าคะแนน MMMU หนึ่งคะแนน

ใบอนุญาต อ่านก่อนจัดส่งต้นแบบ

MiniCPM-V 4.7 อยู่ภายใต้สัญญาอนุญาต Apache 2.0 ไม่มีเงื่อนไขทดสอบรายได้ ไม่มีข้อกำหนดเกี่ยวกับขอบเขตการใช้งาน และไม่ต้องเจรจา ส่วน LFM3-Omni-2B อยู่ภายใต้ LFM Open License v1.0 ซึ่งเป็นสัญญาอนุญาตแบบมีเกณฑ์รายได้ที่ Liquid ใช้กับ LFM3 ทั้งหมด สำหรับโปรเจกต์งานอดิเรกหรือสตาร์ทอัพระยะเริ่มต้น ทั้งสองแบบถือว่าเท่าเทียมกันในทางปฏิบัติ แต่สำหรับบริษัทที่เกินเกณฑ์นั้น แบบหนึ่งต้องปรึกษาทนายความ ส่วนอีกแบบไม่ต้อง และการปรึกษานั้นถูกกว่ามากถ้าทำตั้งแต่ตอนนี้ก่อนที่โมเดลจะถูกนำไปใช้ในผลิตภัณฑ์

นี่คือมิติที่ดูไม่หรูหราที่สุดในการเปรียบเทียบ และเป็นมิติที่มีแนวโน้มที่สุดที่จะเป็นตัวชี้ขาดในบริษัทจริง

ทั้งสองอย่างนี้เข้ากันในสถาปัตยกรรมเดียวได้อย่างไร

คำตอบที่สมจริงสำหรับทีมส่วนใหญ่ไม่ใช่ "เลือกสักอย่าง" แต่คือการใช้โมเดลบนอุปกรณ์สำหรับกรณีทั่วไป และใช้โมเดลที่โฮสต์ไว้สำหรับคำขอที่โมเดลบนอุปกรณ์จัดการได้ไม่ดีนัก การรักษาครึ่งหลังให้พอร์ตย้ายได้คือส่วนที่จะอยู่รอดเมื่อโมเดลบนอุปกรณ์เปลี่ยนไป: OrcaRouter มอบ API เดียวครอบคลุมโมเดลที่โฮสต์ไว้กว่า 200+ โมเดล ในราคาบวกกำไร 0% จากราคาที่ผู้ให้บริการระบุไว้ พร้อมการสลับไปใช้ตัวสำรองอัตโนมัติเมื่อผู้ให้บริการรายหนึ่งล่ม และมี DSL สำหรับการกำหนดเส้นทางที่ย้ายคำขอไปยังโมเดลอื่นได้โดยไม่ต้องแก้โค้ด ทั้ง LFM3-Omni-2B และ MiniCPM-V 4.7 ต่างไม่ได้อยู่ในแคตตาล็อกนั้น — ทั้งคู่เป็นไฟล์น้ำหนักที่ต้องดาวน์โหลด และบทความนี้ไม่ได้บอกเป็นอย่างอื่น ประเด็นคือชั้นสำรองไม่ควรถูกสร้างใหม่ทุกครั้งที่ชั้นบนอุปกรณ์เปลี่ยน และเมื่อชั้นบนอุปกรณ์ยังคงเปลี่ยนแปลงทุกสองสามสัปดาห์ มันก็จะเปลี่ยนแน่นอน

จะใส่อันไหนลงในอุปกรณ์ดี

เลือก MiniCPM-V 4.7 35B-A3B หากคุณต้องการคุณภาพด้านวิชัน รูปแบบควอนไทเซชันที่นำไปดีพลอยได้จริง Apache 2.0 และระบบนิเวศที่มีรายงานภาคสนามหนุนหลังมาหกสัปดาห์ จำนวนดาวน์โหลดไม่ใช่สัญญาณบ่งชี้คุณภาพ แต่รายงานบั๊กที่มาพร้อมยอดดาวน์โหลด 289,000 ครั้งถือเป็นการทดสอบรูปแบบหนึ่งที่ LFM3-Omni-2B ยังไม่มี

เลือก LFM3-Omni-2B หากผลิตภัณฑ์จำเป็นต้องมีเสียง หากอุปกรณ์มีข้อจำกัดด้านหน่วยความจำมากพอที่น้ำหนักที่ใช้งานอยู่ 3 GB ยังมากเกินไป หรือหากคุณต้องการเช็กพอยต์เดียวแทนสแต็ก ASR-plus-LLM-plus-TTS ยอมรับคะแนนด้านภาพของโมเดลที่เล็กกว่า ใบอนุญาตแบบมีเกณฑ์รายได้ และข้อเท็จจริงที่ว่าคุณเป็นผู้ใช้กลุ่มแรก ๆ ของโมเดลที่เพิ่งประกาศไปได้หนึ่งวัน

สิ่งที่ยุติข้อถกเถียงได้คือการรันอิสระเพียงครั้งเดียว — ใช้ชุดทดสอบเดียวกัน ทั้งสองโมเดล OCRBench และ MMMU และงานด้านเสียงพูด ยังไม่มีใครทำ ถ้ายังไม่มีใครทำ การจัดอันดับตามจริงก็คือ: MiniCPM สำหรับการมองเห็น, LFM3-Omni สำหรับการพูด และสเปรดชีตสำหรับทุกอย่างที่เหลือ