d1-Omni-2B vs MiniCPM5-2B: โมเดลการตัดสินใจไม่ใช่โมเดลแชตขนาดเล็ก

ทั้งสองเป็นโมเดลโอเพนเวต ทั้งคู่มีขนาดใกล้สองพันล้านพารามิเตอร์ และทั้งคู่ถูกวางตำแหน่งสำหรับฮาร์ดแวร์ที่ตั้งอยู่บนโต๊ะมากกว่าในแร็ก ความคล้ายกันจบลงตรงนั้นd1-Omni-2Bรับสถานะ — ข้อความ, JSON, รูปภาพ, เฟรมวิดีโอ, เสียง — พร้อมชุดคำถามที่ตั้งชื่อไว้ และคืนคำตอบที่มีชนิดข้อมูลพร้อมความน่าจะเป็นที่ปรับเทียบแล้วในการส่งผ่านไปข้างหน้าครั้งเดียวMiniCPM5-2Bรับข้อความและเขียนข้อความเพิ่มเติม โดยใช้การให้เหตุผลไล่ไปสู่คำตอบทีละโทเค็น การสลับตัวหนึ่งไปเป็นอีกตัวหนึ่งไม่ใช่การอัปเกรดโมเดลหรือดาวน์เกรดโมเดล แต่เป็นการเขียนสิ่งที่บริโภคคำตอบใหม่ทั้งหมด ดังนั้น การเปรียบเทียบที่คุ้มค่าจึงไม่ใช่ตัวไหนได้คะแนนสูงกว่า แต่เป็นว่าสัญญาแบบใดที่ไปป์ไลน์ของคุณยอมรับได้จริง และแต่ละตัวมีต้นทุนกับคุณเท่าไรในด้านใบอนุญาต ความหน่วง และงานติดตั้งใช้งานเพื่อทำตามสัญญานั้น

สิ่งที่ได้กลับมาจริง ๆ จากการเรียกคืออะไร

การเรียก d1 ดูเหมือนสคีมา ไม่ใช่บทสนทนา คุณส่งsystem_one สถานะและพจนานุกรมของคำถาม โดยแต่ละข้อมีชนิด ได้แก่ ใช่/ไม่ใช่ เลือกได้หนึ่งตัวเลือก เลือกได้หลายตัวเลือก คะแนนแบบเรียงลำดับ ช่วงข้อความ ตัวเลข วันที่ กรอบ bounding box หนึ่งกรอบหรือหลายกรอบ และคุณจะได้รับค่าหนึ่งค่าต่อคำถามพร้อมความน่าจะเป็นที่แนบมาด้วย ตัวอย่างในโมเดลการ์ดเองจัดเส้นทางตั๋วสนับสนุน โดยมีแฟล็กการคืนเงิน การมอบหมายทีมที่ดึงมาจากเกณฑ์ที่ระบุชื่อสองข้อ และค่าความมั่นใจในแต่ละรายการ ไม่มีข้อความร้อยแก้ว ไม่มีบันทึกบทสนทนา ไม่มีการส่งออกโทเคน การ์ดระบุไว้อย่างชัดเจนว่า มันไม่ใช่โมเดลแชต

ดีไซน์นั้นคือตัวผลิตภัณฑ์ทั้งหมด เพราะไม่มีการถอดรหัสใด ๆ จึงไม่มีขั้นตอนการแยกวิเคราะห์ ไม่มีการซ่อมแซม JSON ไม่มีลูปการลองใหม่สำหรับโมเดลที่ห่อคำตอบไว้ในคำขอโทษ ค่าหนึ่งจะส่งกลับมาที่เกณฑ์ที่คุณเลือก พร้อมเส้นทาง abstain เมื่อไม่มีสิ่งใดในชุดตัวเลือกที่ใช้ได้ — Liquid รายงาน 78.5 ในการทดสอบ abstain ที่เขียนขึ้น และ 75.8 ในการพูด หากโค้ดปลายทางของคุณต้องการการกำหนดคิวและตัวเลข นี่คือรูปแบบที่คุณต้องการ

MiniCPM5-2B ให้ผลลัพธ์ในรูปแบบที่ตรงกันข้าม มันเป็นดีโคเดอร์สถาปัตยกรรม Llama มาตรฐานที่คิดก่อนตอบ สร้างขึ้นบนขั้นตอน SFT แบบคิดเชิงลึกขนาด 400 พันล้านโทเค็น, RL เฉพาะโดเมน และขั้นตอนการกลั่นแบบ on-policy ที่รวมครูผู้เชี่ยวชาญสิบหกคนเข้าเป็นเช็กพอยต์แบบ dense หนึ่งเดียว คุณสามารถได้เอาต์พุตแบบมีโครงสร้างจากมันได้แน่นอน — คะแนนการเรียกฟังก์ชันของมันอยู่ในเกณฑ์ดี และ OpenBMB มีตัวแยกวิเคราะห์เครื่องมือสำหรับ vLLM ให้ใช้ — แต่คุณได้มันมาโดยการขอในพรอมป์ต์และไว้ว่าดีโคเดอร์จะปฏิบัติตาม การให้เหตุผลคือฟีเจอร์หลัก และมันก็เป็นสิ่งที่คุณจ่ายเงินไปทุกครั้งที่เรียกใช้

การดวลตัวต่อตัวที่ไม่มีอยู่จริง

ไม่มีการทดสอบ benchmark ใดที่โมเดลทั้งสองนี้ถูกนำไปรันทั้งคู่ นั่นไม่ใช่ช่องว่างในการรายงาน แต่เป็นผลสืบเนื่องจากการแยกข้างต้น d1-Omni-2B ปรากฏเฉพาะในชุดทดสอบด้านการตัดสินใจของ Liquid — DecisionBench v1 ที่ 76.4, decisionbench.ai v4 ที่ 84.7, Decision Index public suite v0.3 ที่ 49.0, ImajevBench v2.0-lite ที่ 72.3 และค่าเฉลี่ยด้านวิชันแบบไม่ถ่วงน้ำหนัก 67.7 จาก 18 benchmark MiniCPM5-2B ปรากฏเฉพาะในชุดทดสอบด้านการให้เหตุผลและเอเจนต์ของ OpenBMB: ค่าเฉลี่ย 53.9 จาก 34 การทดสอบ, LiveCodeBench v6 ที่ 69.1, AIME 2025 ที่ 86.5, SWE-bench Verified ที่ 46.4, BFCL v4 ที่ 66.6 และ 8.9 ที่ต่ำกว่ามากใน Humanity's Last Exam ไม่มีตัวเลขใดเลยในรายการนั้นที่วัดจากข้อทดสอบชุดเดียวกันและโดยผู้ให้คะแนนคนเดียวกันกับตัวเลขใด ๆ ในรายการแรก

ใครก็ตามที่เอาคะแนนเหล่านี้มาแสดงเป็นตารางสองคอลัมน์วางเคียงกันให้คุณดู คือการเย็บต่อกัน และการเย็บต่อกันนั้นแย่กว่าที่เห็น ตัวเลขทุกตัวของ d1-Omni-2B เป็นการรันโดยผู้ขาย และ ณ เวลาที่เผยแพร่ ยังไม่มีการทำซ้ำอย่างอิสระ ค่าเฉลี่ยพาดหัวของ OpenBMB ก็เป็นการรันโดยผู้ขายเช่นกัน — บริษัทเปิดเผยชุดข้อมูลฝึกและกรอบงาน RL ซึ่งมากกว่าที่ห้องปฏิบัติการส่วนใหญ่ทำ แต่ นั่นคือความสามารถทำซ้ำได้ของวิธีการ ไม่ใช่ของคะแนน

ตัวเลขอิสระที่มีอยู่จริงนั้นควรค่าแก่การอ่านอย่างละเอียด เพราะตัวเลขเหล่านี้ขัดแย้งกันเองในแต่ละเวอร์ชันของดัชนี Artificial Analysis ให้คะแนน MiniCPM5-2B ไว้ที่ 15 บน Intelligence Index v4.2 เมื่อรายงานข่าวการเปิดตัวเมื่อวันที่ 7 กันยายน หน้าปัจจุบันตอนนี้ระบุว่า 12 ขณะที่คำกล่าวอ้างของ OpenBMB เองที่ว่า 23 นั้นถูกระบุบน v4.1.1 ตัวเลขสามตัวนั้นไม่ใช่การลดลงและไม่ใช่ข้อโต้แย้ง — ดัชนีเปลี่ยนไปข้างใต้ตัวเลขเหล่านี้ และคะแนนจากต่างเวอร์ชันไม่สามารถนำมาเปรียบเทียบกันได้ ให้ดูทิศทางและไม่ต้องสนใจตัวเลขนั้น Artificial Analysis ไม่มีหน้าใดเลยสำหรับ d1-Omni-2B หรือ d1-2B ซึ่งเป็นรุ่นเคียงกัน ดังนั้นโมเดลตัดสินใจจึงยังไม่มีการวัดผลอิสระใด ๆ เลย

ตัวเลขหนึ่งที่ดูเหมือนถ่ายโอนได้แต่ไม่ได้เป็นเช่นนั้น: Liquid เปรียบเทียบ 27 การทดสอบของโมเดลแชท LFM3-1.7B ของ Liquid กับ MiniCPM5-2B และชนะ 23 ต่อ 4 ผลลัพธ์นั้นบอกว่าเดโคเดอร์ที่ผ่าน post-training ของ Liquid เอาชนะของ OpenBMB ในการทดสอบเหล่านั้น มันไม่ได้บอกอะไรเกี่ยวกับหัวตัดสินใจ ซึ่งไม่เคยอยู่ในรันนั้น และไม่ควรนำมาใช้ตัดสินการจับคู่นี้

ตรงจุดที่สเปกแตกต่างกันจริง ๆ

• ข้อกำหนดเอาต์พุต — ค่าที่มีชนิดพร้อมความน่าจะเป็นและโทเค็นเอาต์พุตเป็นศูนย์ เทียบกับข้อความที่สร้างขึ้นซึ่งมีร่องรอยการให้เหตุผลโดยนัย ทุกอย่างอื่นในรายการนี้ล้วนเป็นผลสืบเนื่องมาจากสิ่งนั้น

• ขนาด — พารามิเตอร์ 2.17B ใน checkpoint BF16 ขนาด 4.33GB เทียบกับทั้งหมด 2.52B และ 1.98B ที่ไม่ใช่ embedding ประมาณ 5GB ใน BF16 ใกล้เคียงกันพอที่ทั้งคู่จะไม่มีใครชนะเรื่องขนาดพื้นที่เพียงอย่างเดียว

• อินพุต — สถานะแบบข้อความหรือ JSON, รูปภาพ, เฟรมวิดีโอ และเสียง ผสมกันได้ในคำขอเดียว เทียบกับข้อความอย่างเดียว MiniCPM5-2B ไม่มีตัวเข้ารหัสภาพและไม่มีเส้นทางเสียง; หากสถานะมีรูปคลื่น การเปรียบเทียบนี้จบตรงนี้ หากคุณต้องการสายมัลติโมดัลของ OpenBMB นั่นคือ MiniCPM-V 4.7 ซึ่งเป็นตระกูลที่แตกต่างพร้อมข้อแลกเปลี่ยนที่ต่างกัน

• บริบท — 128,000 โทเค็น เทียบกับ 131,072 นี่คือตัวเลขเดียวกันที่ระบุไว้สองแบบ และไม่ใช่เหตุผลในการเลือกโมเดลใดโมเดลหนึ่ง ความสำคัญอยู่เพียงว่าทั้งสองรองรับเอกสารยาวได้ ข้อจำกัดของ d1-Omni-2B คือช่วงเสียงพูดยาวจะทำให้ความแม่นยำลดลงก่อนที่หน้าต่างบริบทจะเต็ม และการ์ดระบุไว้เช่นนั้น

• สัญญาอนุญาต — LFM Open License v1.0 ที่มีเกณฑ์รายได้ต่อปี 10,000,000 ดอลลาร์สหรัฐ เทียบกับ Apache-2.0 ที่ไม่มีเงื่อนไขใด ๆ เลย นี่คือความแตกต่างเพียงข้อเดียวที่ใหญ่ที่สุดในตาราง และไม่เกี่ยวข้องกับคุณภาพของโมเดลเลย

• รันไทม์ — โค้ดการสร้างโมเดลแบบกำหนดเองที่อยู่เบื้องหลัง trust_remote_code โดยใช้ Transformers 5.19 หรือใหม่กว่า รองรับเฉพาะ BF16 ไม่มี GGUF จากผู้จำหน่าย และไม่มีเส้นทาง vLLM หรือ SGLang ที่มีเอกสารกำกับ เมื่อเทียบกับชุดเครื่องมือ Llama ที่ไม่ได้ดัดแปลง: vLLM, SGLang, llama.cpp, MLX, GPTQ, มี GGUF อย่างเป็นทางการในรีโป และมีบิลด์แบบควอนไทซ์ที่เผยแพร่อยู่แล้ว

• การนำไปใช้ — 36 ดาวน์โหลดและ 10 ไลก์ภายในสี่วันหลังจากรีโพซิทอรีปรากฏเมื่อวันที่ 24 ตุลาคม เทียบกับ 1,216,145 ดาวน์โหลดและ 1,823 ไลก์ตั้งแต่ 6 กันยายน หมายเหตุ: ตัวเลขของ MiniCPM มีเวลาถึงเจ็ดสัปดาห์และมีโพสต์เปิดตัว ส่วนตัวเลขของ d1 ไม่มีทั้งสองอย่าง ดังนั้นให้อ่านเป็นสัญญาณของความสมบูรณ์มากกว่าคำตัดสิน

ห้ามิลลิวินาทีเทียบกับความคิดหนึ่ง

Liquid เผยแพร่ latency ของการเรียกแบบ warm สำหรับ d1-Omni-2B โดยวัดหลังจากcompile() ใน BF16 เป็นค่ามัธยฐานจากการเรียก 20 ครั้ง บน H100 PCIe คำถามเดียวใช้เวลา 5.8ms สามคำถาม 7.7ms สถานะ 5,000 โทเคน 52ms รูปภาพ 384 พิกเซล 12.1ms และเสียงสิบวินาที 12.4ms เมื่อทำเป็นแบตช์ที่ 64 สถานะต่อการเรียก จะทำงานได้ 1,154 สถานะต่อวินาที และ MI325X ยังเร็วกว่าโดยอยู่ที่ 3.7ms และ 1,697 สถานะต่อวินาที M5 Pro ใช้เวลา 21.1ms กับคำถามเดียว และ 110 สถานะต่อวินาที — ช้ากว่าเมื่อเทียบกับการ์ดในดาต้าเซ็นเตอร์ แต่ก็ยังเร็วพอที่จะรู้สึกได้ทันทีภายในแอปเดสก์ท็อป

ทั้งหมดนี้ไม่ใช่การแข่งขันที่ยุติธรรม เพราะอีกฝ่ายไม่เปิดเผยเวลา สิ่งที่พูดได้ในเชิงโครงสร้างคือ latency ของ decoder จะเพิ่มขึ้นตามปริมาณที่มันคิด และ MiniCPM5-2B เป็นโมเดลที่สร้างมาเพื่อคิด ในการเรียกแบบ routing หรือ triage ซึ่งคำตอบที่ถูกต้องคือชื่อคิวหนึ่งในสี่ชื่อ คุณกำลังจ่ายสำหรับเหตุผลที่ไม่มีใครขอ และจ่ายเป็นรายโทเคนสำหรับสิ่งนั้น Artificial Analysis ได้ให้ตัวเลขไว้: ในการรัน Intelligence Index ของตน โมเดลนี้ปล่อย output token ออกมา 74 ล้านโทเคน เทียบกับค่ามัธยฐาน 67 ล้านโทเคนสำหรับโมเดลที่เทียบเคียงได้ ซึ่งบทสรุปของมันเรียกสิ่งนี้ว่า "ค่อนข้างเยิ่นเย้อ" นั่นไม่ใช่ข้อโต้แย้งต่อโมเดล แต่เป็นข้อโต้แย้งต่อการใช้มันในบทบาทที่ d1-Omni-2B ถูกสร้างมาเพื่อ

ใช้ความระมัดระวังตามปกติกับตัวเลข d1 เหล่านี้ เนื่องจากเป็นค่าที่ผู้จำหน่ายวัดมา โดยวัดบนฮาร์ดแวร์เฉพาะและมีขั้นตอนการคอมไพล์รวมอยู่ด้วย การรันแบบอิสระแทบจะแน่นอนว่าจะให้ผลออกมาแตกต่างออกไป สิ่งที่ยังคงเชื่อถือได้คืออันดับของขนาด — ระดับหลักหน่วยมิลลิวินาทีต่อการตัดสินใจหนึ่งครั้ง

ข้อกำหนดด้านใบอนุญาตที่เหนือกว่ากระดานคะแนน

MiniCPM5-2B เผยแพร่ภายใต้ Apache-2.0 คุณสามารถใช้ในเชิงพาณิชย์ แยกโค้ดไปพัฒนาเอง แจกจ่ายซ้ำ ฝังไว้ในผลิตภัณฑ์ และไม่จำเป็นต้องปรึกษาทนายความเกี่ยวกับเรื่องนี้เลย d1-Omni-2B เผยแพร่ภายใต้ LFM Open License v1.0 ซึ่งอนุญาตให้ใช้เชิงพาณิชย์ได้เฉพาะเมื่อองค์กรของคุณมีรายได้ต่อปีต่ำกว่า $10,000,000 เมื่อถึงหรือเกินเกณฑ์ดังกล่าว สัญญาอนุญาตระบุว่าการใช้เชิงพาณิชย์ "ไม่ได้รับอนุญาตภายใต้ข้อตกลงนี้" — หมายความว่าคุณต้องมีข้อตกลงแยกต่างหากกับ Liquid AI หรือไม่ก็อย่าจำหน่ายโมเดลนี้

การเผยแพร่ต่อได้รับอนุญาตทั้งสองฝ่าย โดยฝั่ง LFM มีเงื่อนไขว่า ต้องแนบสัญญาอนุญาตไปด้วย ทำเครื่องหมายไฟล์ที่แก้ไข และเก็บข้อความแจ้งไว้ ไม่มีข้อกำหนดให้เปลี่ยนชื่อแบรนด์ สำหรับทีมวิจัย ต้นแบบ หรือบริษัทที่อยู่ต่ำกว่าเกณฑ์อย่างสบาย ข้อกำหนดนั้นเป็นเพียงพิธีการ แต่สำหรับทีมผลิตภัณฑ์ในบริษัทที่อาจข้ามเกณฑ์ในช่วงอายุการใช้งานของโมเดล มันเป็นคำถามด้านการจัดซื้อที่มาถึงก่อนผลทดสอบมาตรฐานแรกจะมาถึง และเป็นเรื่องประเภทที่มักถูกค้นพบช้าโดยฝ่ายกฎหมาย หลังจากสถาปัตยกรรมถูกกำหนดไว้แล้ว

ความไม่สมมาตรนี้ชัดเจนมากพอที่ควรพูดออกมาตรง ๆ โดยไม่ต้องอ้อมค้อมว่า หากพิจารณาเพียงเรื่องสัญญาอนุญาตอย่างเดียว MiniCPM5-2B คือตัวเลือกที่ปลอดภัยกว่าสำหรับการนำไปใช้งานเชิงพาณิชย์ใด ๆ และสัญญาอนุญาตของ d1-Omni-2B ถือเป็นต้นทุนที่แท้จริงของการเลือกใช้มัน ไม่ใช่เพียงหมายเหตุท้ายเล่ม

อันไหนที่คุณสามารถรันได้จริงในวันนี้

การดีพลอย MiniCPM5-2B เป็นเรื่องน่าเบื่อ ซึ่งเป็นคำชมสูงสุดสำหรับโมเดลขนาดนี้ มันเป็น decoder แบบมาตรฐาน ดังนั้น vLLM และ SGLang จึงรองรับได้โดยไม่ต้องแพตช์ llama.cpp และ LM Studio อ่าน GGUF ได้ MLX รองรับ Apple silicon และบิลด์ Q4_K_M มีขนาดประมาณ 1.45GB กับดักเดียวคือการเรียกใช้เครื่องมือ: โมเดลส่งการเรียกแบบ XML ดังนั้น vLLM ต้องเปิดใช้ minicpm5 ในฐานะตัวแยกวิเคราะห์การเรียกเครื่องมือ มิฉะนั้นการเรียกฟังก์ชันของคุณจะมาเป็นข้อความธรรมดา

d1-Omni-2B ยังไม่น่าเบื่อ การโหลดมันหมายถึงการใช้ Transformers เวอร์ชันใหม่ที่มี trust_remote_code=True พร้อมกับ torch, torchvision และ Pillow; รีโปนั้นมี BF16 safetensors และไม่มีอย่างอื่นเลย ไม่มี GGUF จากผู้จำหน่าย ไม่มีสูตร vLLM ที่รวมมาแล้วใน model card และ Hugging Face ไม่ได้ระบุผู้ให้บริการ inference สำหรับมัน — ดังนั้นจึงไม่มี endpoint ที่โฮสต์ไว้ให้ทดสอบ ซึ่งเป็นเหตุผลว่าทำไมจึงไม่มีราคาแบบโฮสต์ให้อ้างอิง เส้นทางที่ใช้งานได้จริงที่คนส่วนใหญ่จะเลือกคือแท็ก Ollama d1-omni:2b ซึ่งเป็นแพ็กเกจจากชุมชนขนาด 4.4GB ที่ห่อหุ้มน้ำหนักชุดเดียวกัน วิธีนี้ใช้ได้ และยังเป็นเหตุผลเดียวที่นักพัฒนาจะลองโมเดลนี้ได้ในเวลาบ่ายเดียว และมันเป็นงานของบุคคลที่สาม ไม่ใช่ของ Liquid.

ไม่มีโมเดลใดเผยแพร่ราคาต่อโทเคน เพราะไม่มีโมเดลใดขายเป็นรายโทเคน ตัวเลขต่อล้านตัวใดก็ตามที่คุณพบสำหรับโมเดลใดโมเดลหนึ่งนั้นมาจากการคำนวณค่าประหยัดจากการเช่า GPU มากกว่าที่จะเป็นการเสนอราคาจากผู้ขาย หากคุณกำลังเปรียบเทียบทั้งสองในแง่ต้นทุน ให้เปรียบเทียบจากต้นทุนของการตัดสินใจหนึ่งครั้งในหน่วยวินาทีของเวลา GPU — และจำไว้ว่าคำตอบของโมเดลตัดสินใจจะเสร็จสมบูรณ์เมื่อการเรียกคืนค่า ขณะที่คำตอบของโมเดลแชตจะเสร็จสมบูรณ์เมื่อมันหยุดคิด

รูปแบบที่ใช้ทั้งสองอย่าง

ข้อสรุปที่ตรงไปตรงมาของการเปรียบเทียบนี้คือ ทั้งสองไม่ได้เป็นคู่แข่งกัน และสถาปัตยกรรมที่มีประโยชน์ก็ปฏิบัติต่อทั้งสองในแบบนั้น d1-Omni-2B รับผิดชอบการตัดสินใจที่ต้นทุนต่ำ ปริมาณสูง และไวต่อเวลา เช่น ควรเข้าคิวไหน ทีมไหน นี่เป็นใบแจ้งหนี้ใบเดียวกันหรือไม่ เร่งด่วนแค่ไหน และกล่องใดในสิบสองกล่องนี้ มันทำงานในเครื่อง ส่งคืนตัวเลขที่คุณนำไปตั้งเกณฑ์ได้ และจะงดตัดสินใจเมื่อมันไม่รู้

MiniCPM5-2B รับผิดชอบส่วนที่ต้องใช้ภาษา ได้แก่ การอธิบายการตัดสินใจให้ลูกค้าฟัง การร่างคำตอบ การเขียนวิธีแก้ไข และการเรียกเครื่องมือถัดไปในเชน มันทำได้แย่กว่าในงานแรกและทำได้ดีกว่าในงานที่สอง และการแยกงานแบบนี้ก็มีต้นทุนเพียงการเรียกฟังก์ชันครั้งเดียวระหว่างทั้งสองส่วน — เส้นทางที่จะส่งต่อไปยังโมเดลราคาแพงเฉพาะเมื่อความมั่นใจของโมเดลราคาถูกตกลงต่ำกว่าเกณฑ์ที่คุณกำหนด เลเยอร์การส่งต่อแบบนี้คือสิ่งที่แพลตฟอร์มจัดเส้นทางถูกออกแบบมาเพื่อรองรับ: คีย์ API เดียวใช้ได้กับโมเดลกว่า 200+ ตัว ด้วยการบวกกำไร 0% จากราคาปลีกของผู้ให้บริการ การสลับอัตโนมัติเมื่อผู้ให้บริการขัดข้อง และ routing DSL ที่ให้คุณประกอบหลายโมเดลไว้เบื้องหลังการเรียกเพียงครั้งเดียว ปัจจุบันทั้ง d1-Omni-2B และ MiniCPM5-2B ยังไม่มีอยู่ในแคตตาล็อกของ OrcaRouter ดังนั้นครึ่งที่เป็นส่วนตัดสินใจของรูปแบบนี้จึงยังต้องโฮสต์เองไปก่อน — แต่ครึ่งที่เป็นส่วนสร้างข้อความ ซึ่งเป็นส่วนที่คุณจะอยากสลับเปลี่ยนเมื่อมีโมเดลเล็กที่ดีกว่าเข้ามา คือครึ่งที่คุ้มค่าที่จะจัดเส้นทางมากกว่าการฮาร์ดโค้ด

ใครควรเลือกอันไหน

ใช้ d1-Omni-2B เมื่อสถานะมีเสียงหรือวิดีโอ เมื่อคุณต้องการความน่าจะเป็นมากกว่าประโยค เมื่อคำตอบต้องเป็น bounding box หรือ span หรือตัวเลขที่มีช่วง และเมื่อการเรียกอยู่ในลูปที่ 6ms กับ 78ms เป็นผลิตภัณฑ์คนละตัว ใช้มันโดยรู้ว่าเกณฑ์ใบอนุญาตนั้นใช้กับคุณ การติดตั้งใช้งานเป็นเรื่องของโค้ดที่ต้องเขียนเอง และยังไม่มีการประเมินอิสระใด ๆ — การ์ดของ Liquid เองชี้คนที่ไม่มีเสียงไปที่ d1-2B ซึ่งเป็นคำแนะนำที่ซื่อสัตย์กว่าที่ผู้ขายส่วนใหญ่ยอมให้

เลือกใช้ MiniCPM5-2B เมื่ออินพุตเป็นข้อความ เมื่อเอาต์พุตต้องให้มนุษย์อ่านหรือป้อนให้เครื่องมือที่ต้องการข้อความร้อยแก้ว เมื่อคุณต้องใช้การให้เหตุผลข้ามเอกสารยาว และเมื่อ Apache-2.0 กับเส้นทางการติดตั้งใช้งาน Llama แบบมาตรฐานช่วยขจัดความเสี่ยงสองประเภทก่อนคุณจะเขียนโค้ดแม้แต่บรรทัดเดียว เลือกใช้มันโดยรู้ว่าค่าเฉลี่ย 53.9 ของผู้จำหน่ายยังไม่ได้รับการทำซ้ำว่า คะแนนจากการประเมินอิสระอยู่ที่ 12 บนดัชนีปัจจุบัน ซึ่งสูงกว่าค่ามัธยฐาน 5 ของโมเดลในระดับขนาดเดียวกันอย่างมาก และเทียบไม่ได้กับ 15 หรือ 23 ที่บันทึกไว้ในเวอร์ชันก่อนหน้า และรู้ว่าผลลัพธ์ที่เผยแพร่ซึ่งอ่อนที่สุดของมัน คือ Terminal-Bench ที่ 8.6 และ SWE-bench Pro ที่ 14.4 เป็นผลที่ใกล้เคียงงานแบบเอเจนต์ที่สุด ซึ่งเป็นจุดที่มันถูกทำตลาดอย่างหนักที่สุด

และอย่าเลือกทั้งสองตัวนี้ หากสิ่งที่คุณต้องการจริง ๆ คือโมเดลแชตขนาดเล็กที่มองเห็นได้ MiniCPM5-2B มองไม่เห็น d1-Omni-2B ไม่แชต และโมเดลที่ผู้คนมักหมายถึงเมื่อพิมพ์ชื่อใดชื่อหนึ่งเหล่านี้ลงในช่องค้นหาจริง ๆ แล้วเป็นอีกตัวหนึ่งในตระกูลเดียวกัน สิ่งที่ต้องจับตาคือการประเมินเสียงโดยอิสระครั้งแรกของ d1-Omni-2B ผลลัพธ์ด้านภาษาพูดของมัน — 92.5 บน FLEURS ใน 43 ภาษา แต่ 42.0 ในแบบเขียนซึ่งลดลงเหลือ 22.8 เมื่อฟังในสถานะสั้น และ 83.6 เหลือ 41.8 ในข้อความหลายภาษา — บ่งบอกถึงโมเดลที่เก่งมากในการระบุภาษา แต่เปราะบางในการทำความเข้าใจย่อหน้าที่อ่านออกเสียง จนกว่าจะมีคนนอก Liquid วัดช่องว่างนั้น กรณีการป้อนข้อมูลด้วยเสียงเป็นเพียงคำสัญญาที่มีตัวเลขแนบอยู่ ไม่ใช่ผลลัพธ์