d1-2B vs Liquid AI d1-omni-600M: เมื่ออินพุตที่ชี้ขาดคือเสียง

วางข้อความเสียงและรูปถ่ายใบแจ้งหนี้ไว้ตรงหน้าสองโมเดลนี้ แล้วจะมีเพียงตัวเดียวเท่านั้นที่ตอบได้ และไม่ใช่ตัวที่ได้คะแนนดีกว่า d1-2B อ่านข้อความ JSON รูปภาพ และวิดีโอ และไม่สามารถรับเสียงได้เลย Liquid AI d1-omni-600M อ่านข้อความพร้อมรูปภาพ หรือข้อความพร้อมเสียงพูดไม่เกิน 30 วินาที และไม่สามารถรับเสียงกับรูปภาพในคำขอเดียวกันได้ ความไม่สมมาตรเพียงอย่างเดียวนั้นเป็นตัวกำหนดการนำไปใช้งานจริงส่วนใหญ่ก่อนที่จะมีการอ้างอิงผลทดสอบมาตรฐานใด ๆ อย่างไรก็ตาม สิ่งที่ตามมาคือการเปรียบเทียบฉบับตรงไปตรงมา: โมเดล 587M มีความสามารถในการแข่งขันอย่างแท้จริงตรงไหน โมเดล 1.92B ยังไม่ใกล้เคียงที่จะถูกแทนที่ได้ และรูปแบบไปป์ไลน์เดียวที่ใช้ทั้งสองโดยไม่แสร้งว่าพวกมันเป็นทางเลือกแทนกัน

การตัดสินใจนี้เป็นคำถามเกี่ยวกับรูปแบบวิธีการ ไม่ใช่คำถามเกี่ยวกับคะแนน

โมเดลตัดสินใจรับสถานะและชุดคำถามที่ตั้งชื่อไว้ แล้วคืนค่าความน่าจะเป็นต่อคำตอบ โดยไม่มีโทเค็นที่ถูกสร้างขึ้น สถานะคืออินพุตทั้งหมด และ type ของสถานะคือข้อจำกัดที่ผูกมัด การ์ดของ d1-2B ระบุข้อความ, JSON, รูปภาพ และวิดีโอ การ์ดของ Liquid AI d1-omni-600M ระบุข้อความพร้อมรูปภาพ หรือข้อความพร้อมเสียง — และโค้ดบังคับใช้การยกเว้น: การส่งทั้งรูปภาพและคลิปเสียงไปยัง system_one จะทำให้เกิด ValueError

ดังนั้นคำถามแรกไม่ใช่รุ่นไหนทำคะแนนได้สูงกว่า แต่เป็นว่าสิ่งที่คุณต้องตัดสินนั้นมาในรูปแบบพิกเซล ข้อความ หรือรูปคลื่นเสียง หากมันมาในรูปแบบรูปคลื่นเสียง ในคู่นี้มีคำตอบเดียว และส่วนที่เหลือของหน้านี้จะว่าด้วยว่าคุณต้องแลกความแม่นยำไปมากเพียงใดเพื่อให้ได้คำตอบนั้นมา

587M ซื้ออะไรได้จริง

600M ไม่ใช่เวอร์ชันย่อของ d1-2B แต่เป็นโครงสร้างที่แตกต่างออกไป และงบประมาณนี้ควรค่าแก่การดูแบบแจกแจงรายการ เพราะมันอธิบายทั้งจุดแข็งและเพดานขีดจำกัดของมัน

• พารามิเตอร์ — รวม 587M: โครงหลักที่ใช้ร่วมกันและส่วนตัดสินใจขนาด 381M ตัวเข้ารหัสภาพขนาด 94M และตัวเข้ารหัสเสียงขนาด 112M ทุกโมดัลิตีทำงานผ่านน้ำหนักโครงหลักเดียวกัน

• Base — LFM2.5-Encoder-350M ซึ่งเป็นเอนโคเดอร์แบบสองทิศทาง พร้อมวิชันทาวเวอร์ SigLIP2 ที่ยืมมาจาก LFM2.5-VL-450M และ FastConformer 17 ชั้นสำหรับเสียง

• บริบท — โทเคน 16,384 รายการครอบคลุมตำแหน่งข้อความ รูปภาพ และเสียงรวมกัน และมีคลังคำศัพท์ขนาด 65,536 โทเคน หน้าต่างของ d1-2B คือ 128K

• เสียง — รองรับเสียงพูดโมโน 16 kHz ความยาวสูงสุด 30 วินาทีต่อคำขอ การ์ดระบุชัดเจนว่าฝั่งเสียงได้รับการฝึกจากคำขอระหว่างผู้พูดภาษาอังกฤษกับผู้ช่วย ซึ่งเป็นการกระจายแบบแคบสำหรับโมเดลที่ผู้คนจะนำไปใช้กับไฟล์บันทึกการโทร

• กฎเกี่ยวกับสื่อ — รูปภาพหรือเสียง ไม่ใช่ทั้งสองอย่างพร้อมกัน การ์ดนี้อธิบายข้อผิดพลาด ValueError ไว้ให้แล้ว แทนที่จะปล่อยให้คุณไปค้นพบเอง

• สัญญาอนุญาต — LFM Open License v1.0 โครงสร้างเกณฑ์เดียวกันกับ d1-2B: การใช้งานเชิงพาณิชย์ภายใต้รายได้ต่อปีต่ำกว่า $10,000,000

• ความเร็ว — ยังไม่เผยแพร่ การ์ดรายงานว่าไม่มีตัวเลขความหน่วง โดยเรียกโมเดลนี้ว่าเป็นรุ่นวิจัยระยะเริ่มต้นที่อยู่ระหว่างการพัฒนาอย่างต่อเนื่อง d1-2B เผยแพร่ค่า 5.7 ms บน H100 PCIe, 3.8 ms บน MI325X และ 18.6 ms บน M5 Pro

ตารางการรันเดียวกัน และแถวที่ช่องว่างมีขนาดเล็ก

ทั้งสองโมเดลปรากฏอยู่ในตาราง benchmark บนการ์ดของ d1-2B ซึ่งให้คะแนนโมเดล d1 แบบเปิดสี่โมเดลบนรายการเดียวกันด้วยตัวให้คะแนนเดียวกัน สิ่งนี้ทำให้การเปรียบเทียบสะอาดกว่าการเปรียบเทียบข้ามการ์ดส่วนใหญ่ โดยมีข้อควรระวังหนึ่งข้อ: การ์ดของ d1-omni-600M เองรายงาน 15.95 บน Decision Index 0.2.1 ขณะที่ตารางนี้รายงาน 18.3 บนเวอร์ชัน 0.3 ความแตกต่างคือฉบับของดัชนี และทั้งสองตัวเลขถูกต้องสำหรับการทดสอบของตนเอง

• Decision Index public suite v0.3 — 51.1 สำหรับ d1-2B เทียบกับ 18.3 สำหรับ Liquid AI d1-omni-600M

• DecisionBench (Hanno Labs) v1 — 77.1 เทียบกับ 58.7

• Decision Bench (decisionbench.ai) v4 — 85.2 เทียบกับ 57.9

• ImajevBench v2.0-lite — 75.5 เทียบกับ 21.7 ซึ่งเป็นช่องว่างด้านการตัดสินใจที่กว้างที่สุดระหว่างทั้งสอง

• WorkflowEvals — 81.6 เทียบกับ 48.8.

• ค่าเฉลี่ย Vision จาก 18 เบนช์มาร์ก — 70.2 เทียบกับ 42.8

• VisualWebBench — 96.2 เทียบกับ 14.9 ไม่ใช่การเปรียบเทียบสักเท่าไร แต่เป็นข้อความที่บ่งบอกว่า vision encoder ขนาด 94M สามารถแบกรับได้มากเพียงใด

จากนั้นก็เป็นแถวที่สนับสนุนความยับยั้งชั่งใจ Typed Decisionsอยู่ที่ 61.3 เทียบกับ 57.5 — เป็นช่องว่าง 3.8 จุดสำหรับโมเดลที่มีพารามิเตอร์เพียงหนึ่งในสาม POPEซึ่งเป็นเบนช์มาร์กการหลอนเกี่ยวกับวัตถุ อยู่ที่ 88.7 เทียบกับ 82.7 JevBenchอยู่ที่ 77.9 เทียบกับ 58.0 เป็นช่องว่างที่กว้าง แต่ DecisionBench v4อยู่ที่ 85.2 เทียบกับ 57.9 และทั้งสองค่าด้วยกันบ่งชี้ว่า 600M มีความไม่สม่ำเสมอมากกว่าจะอ่อนแออย่างเท่าเทียมกันทั่วทั้งโมเดล โพสต์เปิดตัวของ Liquid AI เองระบุค่าเฉลี่ยจากเจ็ดเบนช์มาร์กไว้ที่ 78.4 ซึ่งถือว่าสูงสำหรับ 587M; การ์ดของ d1-2B ไม่ได้เผยแพร่ค่าเฉลี่ยที่เทียบเท่ากัน ดังนั้นจึงไม่ควรนำตัวเลขทั้งสองมาตั้งเทียบกัน

ตัวเลขเดียวที่ไม่ทำให้โมเดลใดดูดีขึ้นคือตัวเลขจากการทดสอบอิสระ Efraín Garay รัน Liquid AI d1-omni-600M กับตัวอย่างคำขอ 6,000 รายการของ Decision Index 0.3 และได้ 14.0 เทียบกับ 14.17 ของผู้ขายเองบนตัวอย่างเดียวกัน ซึ่งเป็นการทำซ้ำที่ใกล้เคียง เขายังพบว่า 1,758 คำขอเกินงบคำสั่งและตัวเลือกของโมเดลและถูกปฏิเสธ โดยถูกนับว่าผิด ซึ่งเป็นต้นทุนที่แท้จริงของหน้าต่าง 16K บนชุดทดสอบที่สร้างขึ้นสำหรับสถานะที่ยาวกว่า

ในกรณีที่ 600M เป็นตัวเลือกเดียว

การกำหนดเส้นทางเสียงคือกรณีที่โมเดลนี้ถูกสร้างขึ้นมาเพื่อรองรับ และตัวอย่างบนการ์ดก็เป็นรูปธรรม ได้แก่ การกำหนดเส้นทางสายเรียกเข้าและข้อความเสียง เหตุการณ์เสียง และคำแนะนำแบบพูดบนสถานะที่เขียนไว้ ไม่มีสิ่งใดในนั้นที่ d1-2B ทำได้ด้วยความแม่นยำใด ๆ เพราะมันไม่มีตัวเข้ารหัสเสียงและไม่มีตำแหน่งเสียงในสคีมาอินพุต

ข้อมูลสองชุดที่เป็นอิสระต่อกันควรทำให้คำนำเสนอนี้นุ่มลง ชุดแรกคือการประเมินข้างต้น ซึ่งโมเดล 600M ทำคะแนน AUC ในการตรวจจับช็อตได้ 0.580 และ AUC ในการพยากรณ์ฝนได้ 0.593 บนงานข้อมูลจริง — สูงกว่าการเดาสุ่มเพียงเล็กน้อย และตามหลังโมเดลที่ใหญ่กว่าทุกรุ่นที่ทดสอบ ชุดที่สองคือรีวิวแบบลงมือปฏิบัติที่วัดการใช้ VRAM ได้ต่ำกว่า 2GB และพบว่าโมเดลจำแนกการเปล่งเสียงและน้ำเสียงในออดิโอได้เชื่อถือได้มากกว่าความหมายเชิงเนื้อหาอย่างชัดเจน โดยคำถามแนวอนุมานแทบจะใกล้เคียงกับการโยนเหรียญ ทั้งสองชี้ไปทางเดียวกัน: นี่คือโมเดลสำหรับคัดกรอง มันเก่งในเรื่อง “สิ่งนี้เป็นสิ่งประเภทไหน” และไม่ใช่ตัวแทนของโมเดลที่เข้าใจสิ่งที่ถูกพูด

นั่นไม่ใช่การวิจารณ์เช็กพอยต์ขนาด 587M แต่อย่างใด มันคือสิ่งที่ 587M ให้ได้เมื่อ 381M ของมันเป็น shared trunk เหตุผลที่ใช้มันคือต้นทุนและพื้นที่จัดเก็บ — VRAM ต่ำกว่า 2GB, รีโพซิทอรี GGUF ตั้งแต่ 6 ตุลาคม, บิลด์ MLX ตั้งแต่ 12 ตุลาคม และการตัดสินใจในฟอร์เวิร์ดพาสเดียว — ไม่ใช่ความเที่ยงตรง

แคสเกดที่ใช้ทั้งสองอย่าง

ความผิดพลาดคือการมองสิ่งเหล่านี้เป็นคู่แข่ง ทั้งสองเป็นสองขั้นตอนของฟิลเตอร์เดียวกัน และไปป์ไลน์ตามธรรมชาติจะรันโมเดลราคาถูกก่อน

ขั้นตอนที่หนึ่ง: Liquid AI d1-omni-600M รับรายการขาเข้า — โน้ตเสียง สายโทรศัพท์ฝ่ายสนับสนุน ข้อร้องเรียนเป็นลายลักษณ์อักษรพร้อมไฟล์แนบ — และตอบคำถามระดับกว้างๆ นี่เป็นปัญหาการเรียกเก็บเงินหรือปัญหาเทคนิค ผู้โทรโกรธหรือไม่ ข้อความนี้มีคำขออยู่เลยหรือไม่ ด้วยขนาดต่ำกว่า 2GB และประมวลผลเพียงรอบเดียว จึงถูกพอที่จะรันกับทุกรายการ

ขั้นที่สอง: อะไรก็ตามที่ 600M จัดไว้ใกล้ตรงกลางของสเกล หรืออะไรก็ตามที่มาพร้อมกับภาพที่ต้องอ่าน จะถูกยกระดับไปยัง d1-2B โดย 2B ได้หน้าต่าง 128K อินพุตวิดีโอ และความสามารถด้านภาพโดยเฉลี่ยประมาณสามเท่า และมันจะเห็นเพียงเศษส่วนของทราฟฟิกที่ขั้นแรกไม่สามารถจัดการได้

เกณฑ์นั่นแหละคือตัวงาน การ์ดทั้งสองใบคืนค่าความน่าจะเป็น และทั้งคู่บอกให้คุณคาลิเบรตกับข้อมูลของคุณเอง — การ์ดของ d1-2B ระบุไว้ตรง ๆ แบบนั้น แคสเคดที่มีช่วงกลางซึ่งยังไม่ได้คาลิเบรตจะส่งต่อทุกอย่างขึ้นไป ซึ่งในกรณีนั้น 600M เป็นเพียงของประดับ หรือไม่ก็ไม่ส่งต่ออะไรเลย ซึ่งในกรณีนั้น 2B จะไม่มีวันแก้ไขขั้นตอนที่อ่านไม่ออก

ในระบบจริงส่วนใหญ่ยังมีขั้นที่สามอีกขั้น นั่นคือโมเดลที่เขียนคำตอบ ซึ่งเป็นจุดที่ API แบบโฮสต์เข้ามาเกี่ยวข้อง และเป็นจุดที่ OrcaRouter มีบทบาท โมเดล Liquid AI ทั้งสองตัวไม่ได้ให้บริการโดยเรา โหนดการตัดสินใจจึงยังคงอยู่บน GPU ของคุณเอง ส่วนขั้นตอนการสร้างข้อความที่นำป้ายกำกับจากโมเดลเหล่านั้นไปใช้สามารถมาจากคีย์เดียวที่เข้ากันได้กับ OpenAI ซึ่งครอบคลุมโมเดลกว่า 200 รุ่น โดยคิดมาร์กอัป 0% จากราคาตามรายการของผู้ให้บริการ พร้อมการสลับไปยังระบบสำรองอัตโนมัติหากผู้ให้บริการล่มกลางทางการรับส่งข้อมูล นอกจากนี้ DSL สำหรับการกำหนดเส้นทางยังเป็นวิธีที่ตรงไปตรงมาในการแสดงลำดับชั้นการทำงานด้วยตัวเอง — โมเดลการตัดสินใจทั้งสองเป็นขั้นตอนฝั่ง GPU ส่วนการสร้างคำตอบเป็นขั้นตอนแบบโฮสต์ ประกอบเข้าด้วยกันแทนที่จะนำมาแปะรวมกันในโค้ดแอปพลิเคชัน

สิ่งที่โมเดลทั้งสองไม่ได้ทำ และทางเลือกที่สาม

ทั้งสองไม่ได้เขียนข้อความ ทั้งคู่ส่งคืนคำตอบแบบระบุชนิดและความน่าจะเป็นโดยมีโทเค็นเอาต์พุตเป็นศูนย์ หากขั้นตอนถัดไปต้องใช้ข้อความร้อยเรียง นั่นคือโมเดลอีกตัวหนึ่ง ทั้งสองไม่รองรับวิดีโอที่มีเสียง: d1-2B รับเฟรมวิดีโอแต่ไม่รับเสียง ส่วน 600M รับเสียงแต่ไม่รับพร้อมกับภาพ และเพดานเสียง 30 วินาทีเป็นขีดจำกัดตายตัว ไม่ใช่คำแนะนำ

หากข้อกำหนดคือ "เสียงและรูปภาพในคำขอเดียวกัน" อย่างแท้จริง คำตอบก็ไม่ใช่ทั้งสองตัวนั้น — แต่คือ d1-Omni-2B ซึ่งเป็นรุ่นพี่น้องขนาด 2.17B ที่ Liquid AI สร้างขึ้นภายใน 24 วินาทีหลัง d1-2B และรองรับข้อความ รูปภาพ เฟรมวิดีโอ และคลิปเสียงในรายการสื่อเดียว คะแนน Decision Index ของมันคือ 49.0 บนตาราง v0.3 เดียวกัน ค่าเฉลี่ยด้านภาพคือ 67.7 และ它也ไม่มีการทดสอบอิสระเช่นเดียวกับ d1-2B โดยมีจำนวนพารามิเตอร์ประมาณสี่เท่าของ 600M ซึ่งเป็นราคาที่ต้องจ่ายจากการไม่ต้องเลือกหว่างรูปแบบสื่อ

กฎนี้สั้น ๆ คือ ถ้าสถานะมีเสียงพูดและไม่มีอย่างอื่นที่ต้องดู Liquid AI d1-omni-600M เป็นสมาชิกเพียงตัวเดียวในคู่นี้ที่รันได้ และควรถือเป็นหน้าจอ ถ้าสถานะเป็นข้อความ รูปภาพ หรือวิดีโอ และคำตอบต้องเชื่อถือได้ d1-2B คือโมเดลนั้น — และเป็นตัวที่มีค่าความหน่วงที่เผยแพร่แล้ว หน้าต่าง 128K และความเป็นผู้นำบน benchmark ที่ยังคงอยู่แม้ถูกอ่านทีละแถว ถ้าสถานะมีทั้งสองอย่าง ทั้งสองตัวไม่ใช่คำตอบ และโมเดล omni ขนาด 2.17B ต่างหากที่เป็นคำตอบ