Liquid AI d1 vs Liquid AI d1-3B: สิ่งที่ไลบรารี Ollama เรียกว่าโมเดลเดียว แต่ผู้ขายเรียกว่าสองโมเดล

มีสองวิธีในการตั้งชื่อชุดน้ำหนักชุดเดียวกัน และ Liquid AI d1 กับ Liquid AI d1-3B แสดงความแตกต่างได้ดีกว่าการเปรียบเทียบพารามิเตอร์ใด ๆ จะทำได้ ตัดเครื่องหมายยัติภังค์หนึ่งตัวและคำต่อท้ายขนาดออกจากชื่อที่สอง แล้วคุณจะได้ชื่อแรก ดังนั้นจึงน่าล่อใจที่จะมองสตริงที่สั้นกว่าเป็นชื่อเล่น แค็ตตาล็อกสองแห่งที่แสดงรายการโมเดลเหล่านี้จริง ๆ ไม่เห็นด้วยกับการตีความนั้น ดัชนีเอกสารของ Liquid AI เองเก็บ d1 ไว้ในแถวของตัวเอง โดยมีตัวอักษร "API" อยู่ในตำแหน่งที่ลิงก์ดาวน์โหลดควรอยู่ และเก็บ d1-3B และ d1-omni-600M ไว้ในแถวคู่แยกต่างหากซึ่งมีลิงก์ Hugging Face และ GGUF ที่ใช้งานได้ และมี "No" ในคอลัมน์ที่ฝึกได้ Ollama ซึ่งรายการในไลบรารีของมันคือเหตุผลที่คู่นี้ควรค่าแก่การเขียนถึงตั้งแต่แรก ยุบทั้งหมดลงในหน้าเดียวที่เรียกว่า d1 อธิบายในบรรทัดเดียวว่า "โมเดลการตัดสินใจขนาด 3B จาก Liquid AI สร้างบน LFM2.5-VL-3B" และมีแท็กสามแท็กด้านล่างพอดี การเปรียบเทียบ Liquid AI d1 กับ Liquid AI d1-3B จึงไม่ใช่การเปรียบเทียบระหว่างโฮสต์เอนด์พอยต์กับเช็กพอยต์แบบเปิด และก็ไม่ใช่การเปรียบเทียบระหว่างเช็กพอยต์สองตัวเช่นกัน มันคือการเปรียบเทียบระหว่างโฮสต์เอนด์พอยต์กับเช็กพอยต์แบบเปิดที่ระบบนิเวศรันไทม์ภายในเครื่องตัดสินใจว่าเป็น d1 เมื่อคุณพูดคำนั้นโดยไม่มีคำขยายใด ๆ เนื้อหาส่วนใหญ่ที่ตามมาจะว่าการปรับใช้ของคุณจริง ๆ แล้วขึ้นอยู่กับการตีความเหล่านั้นแบบใด

หมายเหตุเกี่ยวกับที่มาของตัวเลขด้านล่าง เนื่องจากความซื่อสัตย์สำคัญกว่าการจัดรูปแบบ ข้อมูลตัวเลขทั้งหมดที่นี่มาจากการรายงานของ Liquid AI เอง บนการ์ดโมเดลหรือในโพสต์เผยแพร่เมื่อวันที่ 7 ตุลาคม แถวของ Decision Index ถูกให้คะแนนโดยผู้พัฒนาโดยใช้เครื่องให้คะแนนอย่างเป็นทางการ แทนที่จะถูกส่งเข้าจัดอันดับสาธารณะ และไม่มีบุคคลที่สามรายใดที่เราหาเจอสามารถทำซ้ำผลลัพธ์ d1 ใด ๆ ได้อย่างอิสระ ในกรณีที่ตัวเลขใดเป็นการคำนวณทางคณิตศาสตร์จากตัวเลขที่เผยแพร่ แทนที่จะเป็นการวัด ค่านั้นจะระบุไว้เช่นนั้น

ชื่อทั้งสองมาจากไหน

ชื่อที่สั้นกว่านั้นเก่ากว่า โพสต์วันที่ 5 ตุลาคมของ Liquid AI ได้แนะนำโมเดลนี้ในชื่อ Liquid AI d1 — "โมเดลการตัดสินใจตัวแรกของเรา" ซึ่งเป็นมัลติโมดัลในรุ่นนั้น ตอบคำถามที่พิมพ์โดยอิงจากสถานะของข้อความ รูปภาพ หรือทั้งสองอย่าง ใน forward pass เพียงครั้งเดียวโดยไม่มีโทเค็นเอาต์พุต โพสต์นั้นระบุราคาโฮสต์ที่ $0.04 ต่อล้านโทเค็นอินพุต คิดค่าบริการเฉพาะโทเค็นอินพุต และระบุว่ารูปภาพถูกคิดค่าบริการเหมือนข้อความที่ 1.5 โทเค็นต่อแพตช์ 32×32 ดังนั้นรูปภาพขนาด 1024×1024 มีค่าใช้จ่าย 1,536 โทเค็น นอกจากนี้ยังระบุเวลาแฝงในการตัดสินใจสำหรับข้อความไว้ที่ 200–300 มิลลิวินาที เหล่านี้เป็นตัวเลขของบริการโฮสต์ และโพสต์ระบุชัดเจนว่ารันไทม์ที่อยู่เบื้องหลังคือเอนด์พอยต์การตัดสินใจของผู้ให้บริการเองที่ api.liquid.ai/decisions/v1/systemone

ชื่อที่ยาวกว่านั้นปรากฏในโพสต์วันที่ 7 ตุลาคม และบน Hugging Face และเป็นชื่อที่บรรจุรายละเอียดที่สามารถทำซ้ำได้: พารามิเตอร์ 3.12B, บริบท 32,768 โทเคน, คำศัพท์ 128,000 โทเคน, ภาษาที่มีเอกสาร 16 ภาษา, ตัวเข้ารหัสภาพ 400M SigLIP2 NaFlex ที่ปรับให้เหมาะสมตามรูปร่าง และสายโซ่โมเดลฐาน LFM2.5-2.6B-Base → LFM2.5-VL-3B → d1-3B การ์ดนั้นยังระบุอย่างชัดเจนว่าโมเดลนี้ไม่ใช่โมเดลแชทและไม่เขียนข้อความ นี่คือเช็กพอยต์ที่ระบบนิเวศในเครื่องทั้งหมดตั้งอยู่บน: ที่เก็บ GGUF มี Q4_K_M ขนาด 1.67 GB, Q8_0 ขนาด 2.87 GB และ F16 กับ BF16 ขนาด 5.4 GB ต่ออัน

สิ่งที่ไม่มีเอกสารของผู้ขายรายใดพูดออกมาตรง ๆ ก็คือ Liquid AI d1 และ Liquid AI d1-3B เป็นเวตชุดเดียวกัน ดัชนีเอกสารจัดให้ทั้งสองอยู่คนละแถว โพสต์ประกาศเปิดตัวเรียก d1 ว่าเป็นตระกูล ไม่ใช่เช็กพอยต์ บทความจากบุคคลที่สามสังเกตเห็นช่องว่างนี้และตั้งข้อสังเกตว่าผู้ขายยังไม่ได้ยืนยันการระบุว่าเป็นตัวเดียวกัน ดังนั้นคำกล่าวที่ซื่อตรงจึงสั้น ๆ ว่า ตัวเลขที่เผยแพร่คู่กับชื่อทั้งสองไม่ขัดแย้งกันในจุดใดที่เราหาเจอ การเปิดตัวระดับตระกูลและเอนด์พอยต์ที่ให้บริการถูกประกาศห่างกันสองวันพร้อมคำอธิบายที่สอดคล้องกัน และผู้ขายยังไม่ได้กล่าวว่าเป็นโมเดลเดียวกัน ให้ถือว่าความเทียบเท่านี้เป็นสมมติฐานการทำงานที่สมเหตุสมผล และไม่ใช่ข้อเท็จจริงที่ผู้ขายได้ลงชื่อรับรอง

สิ่งที่ local build เปลี่ยนแปลงจริง ๆ

รายการของ Ollama ไม่ใช่การรีรีลีสและไม่ใช่เช็กพอยต์ใหม่ แต่เป็นการตัดสินใจเรื่องการแพ็กเกจ และการแพ็กเกจนี้สร้างข้อจำกัดสามประการที่เอกสารของเจ้าของผู้พัฒนาเองไม่ได้กล่าวถึงเลย ข้อแรกคือรายการแท็ก: d1:latest, d1:3b และ d1:3b-q8_0 ซึ่งเป็นสามแท็กที่ชี้ไปยังการควอนไทซ์เดียว รีพอซิทอรี GGUF ที่ Liquid เผยแพร่มีความแม่นยำสี่ระดับ และ Q4_K_M ขนาด 1.67 GB — ตัวที่คนส่วนใหญ่จะเลือกใช้บนแล็ปท็อป — ไม่ได้อยู่ในแท็กของ Ollama สิ่งที่คุณดึงได้คือ Q8_0 ขนาด 2.87 GB และขนาดที่มันขยายออกไปในที่จัดเก็บภายในเครื่อง หน้าคลังรายงานว่าการดาวน์โหลดอยู่ที่ 3.7 GB

ข้อที่สองคือสัญญาของคำขอ Ollama ตอบโมเดลเหล่านี้บน /v1/systemone รับ state พร้อมออบเจ็กต์ questions และส่งคืนคำตอบแบบมีชนิดข้อมูลพร้อม output_tokens: 0 นั่นคือรูปแบบเดียวกับที่ endpoint แบบโฮสต์ของผู้ให้บริการใช้ ซึ่งทำให้การสลับระหว่าง local กับ hosted เป็นเพียงการเปลี่ยนการตั้งค่า ไม่ใช่การเขียนใหม่ ข้อจำกัดที่สามอยู่ในเอกสาร endpoint ของ Ollama ไม่ใช่ในหน้าโมเดล และเข้มงวดกว่าของโมเดลเชิงสร้าง: คำขอต้องมีขนาดไม่เกิน 64 KiB เมื่อไม่มีรูปภาพ และ 32 MiB เมื่อมีรูปภาพ ไม่รองรับสตรีมมิ่ง โมเดลที่โฮสต์บนคลาวด์จะถูกปฏิเสธ และรูปภาพต้องเป็น base64 PNG, JPEG หรือ WebP ใน body ของคำขอ — URL ระยะไกลจะถูกปฏิเสธ รูปภาพถูกใช้ร่วมกันโดยทุกคำถามในหนึ่งคำขอ ดังนั้นรูปที่คุณต้องการให้มีเพียงคำตอบเดียวเท่านั้นที่พิจารณา ต้องมีการเรียกแยกต่างหาก อินพุตจะไม่ถูกตัดทอน ซึ่งหมายความว่า state ที่มีขนาดใหญ่เกินไปจะส่งคืนข้อผิดพลาดแทนที่จะถูกตัดออกอย่างเงียบ ๆ นั่นเป็นโหมดความล้มเหลวที่ดีกว่า และมันก็ยังเป็นโหมดความล้มเหลวที่ไคลเอนต์ของคุณต้องจัดการ

รายละเอียดเอกสารสองจุดยังไม่คลี่คลาย และควรรู้ไว้ก่อนที่คุณจะรายงานบั๊ก เอกสารอ้างอิงเอนด์พอยต์ของ Ollama อธิบายว่าประเภทคำถามแบบเลือกตอบรองรับคีย์ตัวเลือกได้ 2 ถึง 255 รายการ ในขณะที่หน้าความสามารถ decision-models ระบุว่า 2 ถึง 26 ซึ่งหนึ่งในสองอันนั้นล้าสมัย และหน้าความสามารถดังกล่าวแสดงรายการโมเดลที่รองรับเป็น Nimble, Tev1, Clef และ Clef Flash โดยไม่มีการกล่าวถึง d1 — แม้ว่า readme ของแพ็กเกจ d1 เองจะระบุถึงการรองรับ /v1/systemone และ --ask และแพ็กเกจนี้ต้องใช้ Ollama 0.40.4 ขณะที่เวอร์ชันขั้นต่ำตามเอกสารของเอนด์พอยต์เองคือ 0.35.0 โปรดอ่านข้อกำหนดเวอร์ชันที่ระบุบนแพ็กเกจ ไม่ใช่เวอร์ชันในคู่มือ

ตัวเลขเหล่านั้น และชื่อที่พวกมันถูกเผยแพร่ภายใต้

นี่คือส่วนของการจับคู่ที่ทำผิดได้ง่ายที่สุด เพราะชื่อทั้งสองถูกเผยแพร่พร้อมตัวเลขประสิทธิภาพ และตัวเลขเหล่านั้นไม่ได้จัดเรียงในแบบที่คุณคาดไว้

• Decision Index 0.2.1 — 48.57 เผยแพร่ภายใต้ Liquid AI d1-3B Liquid อธิบายว่านี่เป็นคะแนนที่ดีที่สุดสำหรับโมเดลตัดสินใจที่มีพารามิเตอร์ต่ำกว่า 10B และจัดให้อยู่เหนือโมเดล 35B-A3B ที่ 47.11 • ความหน่วงในการตัดสินใจจากข้อความ — 200–300 มิลลิวินาที เผยแพร่ภายใต้ Liquid AI d1 ในโพสต์ hosted-API ไม่มีตัวเลขเทียบเท่าที่ผูกกับชื่อของ open checkpoint เอง • ความหน่วงต่อหนึ่งคำถามบนฮาร์ดแวร์ในเครื่อง — 8 มิลลิวินาทีบน RTX 4090, 16 มิลลิวินาทีบน Jetson AGX Thor, 26 มิลลิวินาทีบน Jetson AGX Orin 64 GB, 50 มิลลิวินาทีบน Orin Nano, 30 มิลลิวินาทีบน Apple M5 Pro เผยแพร่ภายใต้ Liquid AI d1-3B • อัตราทรูพุต — 475 การตัดสินใจต่อวินาทีบน RTX 4090 และ 1,106 ต่อวินาทีบน AMD MI325X เมื่อจัดคำถามเป็นแบตช์ เผยแพร่ภายใต้ Liquid AI d1-3B • วิชัน — ค่าเฉลี่ย 74.1 จากเกณฑ์วัดภาพสาธารณะ 11 รายการ เทียบกับ 73.9 สำหรับฐาน LFM2.5-VL-3B ที่สร้างขึ้นมา เผยแพร่ภายใต้ Liquid AI d1-3B • การตัดทอนภาพ — ชุดคำถามเดียวกันเมื่อตอบโดยนำภาพออกได้คะแนน 45.1 ซึ่งเป็นตัวชี้วัดของผู้ขายเองว่าส่วนวิชันมีส่วนช่วยเท่าใด เผยแพร่ภายใต้ Liquid AI d1-3B.

สองปัญหาหลุดออกมาจากรายการนั้น และไม่มีปัญหาใดร้ายแรง ซึ่งนั่นแหละคือเหตุผลที่พวกมันถูกมองข้าม ตัวเลขแบบโฮสต์กับตัวเลขแบบโลคอลห่างกัน 25 ถึง 37 เท่า — 200–300 มิลลิวินาที เทียบกับ 8 มิลลิวินาที — และพวกมันถูกวัดจากสิ่งที่ผู้ขายไม่ได้อธิบายในแง่ที่เทียบเคียงกันได้ การตีความช่องว่างนี้ว่า "โลคอลเร็วกว่า" ไม่มีข้อมูลรองรับ เพราะตัวเลขแบบโฮสต์เป็นแบบ end-to-end ผ่าน API และ 8 มิลลิวินาทีคือ forward pass บน GPU ที่ระบุชื่อไว้ พวกมันไม่ใช่การวัดเดียวกัน และผู้ขายไม่เคยอ้างว่าเป็นเช่นนั้น

ปัญหาที่สองคือแถววิสัยทัศน์ การปรับปรุง 0.2 จุดเหนือโมเดลฐานในสิบเอ็ดเบนช์มาร์กภาพ อยู่ในความคลาดเคลื่อนของการรายงานผลเบนช์มาร์กส่วนใหญ่ ดังนั้นไม่ว่าส่วนหัวการตัดสินใจจะให้อะไรคุณ มันก็ไม่ใช่ตัวเข้ารหัสภาพที่ดีขึ้นอย่างมีนัยสำคัญ แถว ablation ดูน่าประทับใจกว่ามากในทิศทางตรงกันข้าม — การแกว่งประมาณ 29 จุดเมื่อเพิ่มภาพ — แต่มันเปรียบเทียบชุดคำถามที่แตกต่างกันสองชุด แทนที่จะเป็นสองเวอร์ชันของชุดเดียว ซึ่ง Liquid ระบุในโพสต์เอง ทั้งสองแถวมีประโยชน์ ไม่มีแถวใดสนับสนุนข้อเรียกร้องที่หนักแน่นเกี่ยวกับคุณภาพการตัดสินใจด้วยภาพ และไม่มีบุคคลที่สามรายใดรันแม้แต่อันเดียว

จุดที่ชื่อทั้งสองแตกต่างกันในทางปฏิบัติ

สำหรับผู้ซื้อ ความแตกต่างนี้ขึ้นอยู่กับคำถามสี่ข้อ และคำตอบก็ไม่ได้ชี้ไปในทางเดียวกันทั้งหมด

• โครงสร้างต้นทุน — Liquid AI d1 คิดค่าบริการต่อโทเคนอินพุต ในอัตราที่ผู้ขายประกาศไว้ โดยไม่มีโทเคนเอาต์พุตที่ต้องจ่าย Liquid AI d1-3B เป็นไฟล์ดาวน์โหลดขนาด 2.87 GB ในแพ็กเกจของ Ollama หรือไฟล์ขนาด 1.67 GB จาก repo GGUF ของผู้ขาย โดยไม่มีมิเตอร์คิดค่าบริการต่อการเรียกใช้เลย • ความหน่วงที่วัดได้ — เส้นทางแบบโฮสต์ให้ค่า 200–300 มิลลิวินาทีต่อการตัดสินใจจากข้อความหนึ่งครั้ง 8 มิลลิวินาทีที่เผยแพร่ของเส้นทางโลคอลคือการทำ forward pass บน RTX 4090 ที่มีโมเดลอุ่นเครื่องแล้ว ซึ่งเป็นตัวเลขจริง ไม่ใช่เวลาตลอดรอบคำขอ • เส้นทางข้อมูล — เส้นทางแบบโฮสต์ส่งสถานะไปยังผู้ขาย ส่วนเส้นทางโลคอลเก็บไว้บนเครื่อง ซึ่งสำหรับตั๋วสนับสนุน บันทึกทางการแพทย์ หรือภาพถ่าย มักเป็นข้อโต้แย้งที่ยุติการถกเถียง • การตรึงเวอร์ชัน — Liquid AI d1 ที่อยู่หลังเอนด์พอยต์คือเวอร์ชันที่ผู้ขายให้บริการอยู่ในปัจจุบัน Liquid AI d1-3B ใน Ollama เป็นแพ็กเกจตายตัวที่คุณควบคุม และข้อแลกเปลี่ยนคือคุณต้องดูแลการอัปเกรดเอง

ความจริงอันน่าอึดอัดที่ซ่อนอยู่ภายใต้ทั้งสี่ข้อก็คือ เช็กพอยต์แบบเปิดเป็นพี่น้องของโมเดลที่โฮสต์ไว้ มากกว่าจะเป็นสิ่งทดแทนกัน และผู้ให้บริการก็ไม่ได้กล่าวเป็นอย่างอื่น การ์ดโมเดลของเช็กพอยต์แบบเปิดแนะนำให้ใช้สำหรับ routing และ triage, การกลั่นกรอง, การจำแนกเจตนา, การตรวจสอบการสกัดข้อมูล, การจัดอันดับใหม่, LLM-as-a-judge และ guardrails และอธิบายว่าได้รับการฝึกภายหลังบน LFM2.5-VL-3B สำหรับการตัดสินใจที่ปรับเทียบแล้วในรอบเดียว โพสต์ของเวอร์ชันโฮสต์อธิบายชุดงานเดียวกันด้วยถ้อยคำต่างออกไป และอ้างราคาของเวอร์ชันโฮสต์ หากทั้งสองเป็นโมเดลเดียวกัน บิลด์โลคัลก็คือสำเนาฟรีของผลิตภัณฑ์ที่โฮสต์ไว้ ซึ่งน่าจะเป็นเรื่องผิดปกติที่แล็บจะปล่อยออกมาโดยไม่บอก หากทั้งสองเป็นไฟน์ทูนสองตัวบนฐานร่วมกัน ก็ไม่ควรสันนิษฐานว่าตัวเลขที่เผยแพร่จะถ่ายทอดกันได้ทั้งสองทิศทาง คำอธิบายที่สองเรียกร้องจากผู้ให้บริการน้อยกว่า และเข้ากับหลักฐานที่เรามี

รันทั้งสองส่วนของการตัดสินใจโดยไม่ต้องรันสองสแต็ก

ไม่ว่าคุณจะเลือกชื่อใดก็ตาม ไปป์ไลน์รอบ ๆ ชื่อนั้นมักมีหน้าตาเหมือนกัน คิวสนับสนุนจะได้รับคำถามแบบเลือกสำหรับทีมปลายทาง คำถามแบบ noul ว่ามีการขอคืนเงินหรือไม่ และคำถามให้คะแนนสำหรับความเร่งด่วน — หนึ่งสถานะ สามคำตอบ หนึ่งพาส จุดที่ชื่อทั้งสองแตกต่างกันอย่างแท้จริงคือจุดที่การตัดสินใจเป็นตัวกำหนดการเรียกไปยังโมเดลเชิงสร้างที่คุณเช่าใช้แทนที่จะรันเอง การเรียกนั้นเป็นปัญหาที่แตกต่างออกไปโดยมีโปรไฟล์ความล้มเหลวที่ต่างกัน และมันคือส่วนของไปป์ไลน์ที่ d1ถูกต้องนั้นสำคัญน้อยที่สุด: คำตอบการจัดเส้นทางที่มีความน่าจะเป็น 0.98 ตามด้วย 502 จากโมเดลที่คุณจัดเส้นทางไป ก็ยังเป็นคำขอที่ล้มเหลวไม่ว่าจะทางใด

เราไม่ได้โฮสต์โมเดล Liquid AI ใด ๆ — เราตรวจสอบแค็ตตาล็อกของเราเองก่อนเขียนเรื่องนี้ — ดังนั้นไม่มีอะไรตรงนี้ที่เป็นการอ้างว่าเรียกใช้เวตเหล่านี้ผ่านเรา สิ่งที่เราทำคือเลเยอร์ที่อยู่อีกด้านของการตัดสินใจ: คีย์ที่เข้ากันได้กับ OpenAI เพียงคีย์เดียวสำหรับโมเดลที่คำขอซึ่งผ่านการคัดแยกกระจายไปถึง ในราคาตามรายการของผู้ให้บริการแต่ละรายที่ส่งผ่านโดยบวกเพิ่ม 0% ดังนั้นการลดราคาของผู้ขายจึงมาถึงคุณในวันที่เกิดขึ้นจริง ไม่ใช่ตอนต่อสัญญา โดยมี การสลับไปใช้ระบบสำรองอัตโนมัติระหว่างผู้ให้บริการ เพื่อให้คำขอที่ผ่านการคัดแยกยังทำงานต่อไปได้เมื่อโมเดลที่คุณกำหนดเส้นทางไปนั้นล่มไป หากคุณกำลังเชื่อมต่อโมเดลสำหรับการตัดสินใจเข้ากับไปป์ไลน์เป็นครั้งแรก นั่นคือครึ่งหนึ่งที่คุ้มค่าที่จะทำให้เป็นเรื่องน่าเบื่อ

ควรใช้ชื่อใดในแต่ละสถานการณ์

หากคุณต้องการลองโมเดลนี้ในสัปดาห์นี้โดยไม่มีสภาพแวดล้อม Python ที่คุ้มค่าจะดูแลรักษา ให้ใช้ชื่อที่รันไทม์ภายในเครื่องใช้ ดึง Liquid AI d1 จากไลบรารี ยอมรับ Q8_0 และ 3.7 GB แล้วมองเพดานคำขอ 64 KiB และกฎห้ามสตรีมมิงเป็นข้อจำกัดด้านการออกแบบมากกว่าความน่ารำคาญ คุณจะได้ปลายทางจริง คำตอบที่มีการระบุชนิดจริง และไม่มีมาตรวัดต่อการเรียกตั้งแต่วันแรก

หากคุณต้องการใช้พื้นที่น้อยกว่า Q8_0 ชื่อที่ควรใช้คือ Liquid AI d1-3B เพราะบิลด์ Q4_K_M ขนาด 1.67 GB นั้นอยู่ในที่เก็บ GGUF ของผู้จำหน่าย ไม่ได้อยู่ในรายการของไลบรารี ข้อเท็จจริงข้อเดียวนี้คือความแตกต่างเชิงปฏิบัติที่สำคัญที่สุดระหว่างสองชื่อในปัจจุบัน และเป็นสิ่งที่คนที่อ่านหน้าไลบรารีแล้วหยุดอยู่แค่นั้นมีแนวโน้มจะมองข้ามมากที่สุด

ถ้าคุณกำลังจะนำสิ่งนี้ไปไว้ตรงหน้าผู้ใช้ที่จ่ายเงิน และต้องมีหลักฐานด้านความแม่นยำก่อน ทั้งสองชื่อนี้ก็ยังไม่ช่วยอะไรคุณเลย เราไม่พบการประเมินโดยอิสระของโมเดล d1 ใด ๆ เลย แถวของ Decision Index นั้นถูกให้คะแนนเอง และผู้ขายก็ยังไม่ได้เผยแพร่เบนช์มาร์กการตัดสินใจด้านเสียงเลยแม้แต่รายการเดียว สิ่งที่คุณทำได้คือติดเครื่องวัดให้กับค่าความเชื่อมั่นที่โมเดลส่งกลับมาอยู่แล้ว — ตั้งแต่ 0 ถึง 1 ซึ่งสะท้อนว่าความน่าจะเป็นสนับสนุนคำตอบหนึ่งแรงเพียงใด ไม่ใช่โอกาสที่คำตอบนั้นจะถูก — แล้วค้นหาจากทราฟฟิกของคุณเองว่าระบบไม่มั่นใจตรงจุดไหน การวัดนั้นมีค่ามากกว่าสไลด์ใด ๆ ข้างต้นทั้งหมด และใช้เวลาแค่วันเดียว

โมเดลตัดสินใจเป็นครึ่งที่ถูกกว่าของไปป์ไลน์ โมเดลแบบเจเนอเรทีฟที่มันส่งต่อไปยังคือครึ่งที่ต้องมีสัญญา — คีย์ที่เข้ากันได้กับ OpenAI หนึ่งคีย์รองรับโมเดลที่คำขอซึ่งผ่านการคัดแยกแล้วจะกระจายออกไปหา โดยแต่ละตัวใช้ราคาตามรายการของผู้ให้บริการของตน ส่งผ่านโดยบวกกำไร 0%

การปรับขนาดเช็กพอยต์แบบกลั่นให้เล็กลงเมื่อเทียบกับเวอร์ชันเต็มที่เปิดตัวของตัวเอง ก็เป็นจังหวะที่ดีในการตรวจสอบบันทึกเช่นกัน: the OrcaRouter AI Incident Archiveซึ่งเหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่เกี่ยวข้องกับโมเดล Liquid ขนาดเล็กที่ได้รับการบันทึกไว้จะถูกรวบรวมไว้ที่นั่น โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และธงระบุข้อโต้แย้งของตัวเอง