Duo-1.0-causal-base: น้ําหนัก 153 GB, เปเปอร์ และไม่มีโพสต์เปิดตัว

เมื่อเวลา 06:32 UTC ของวันที่ 12 พฤศจิกายน รีโพซิทอรีของ Hugging Face ที่ชื่อ Duo-1.0-causal-baseได้ทำคอมมิตเริ่มต้น: 80 ไฟล์ 153.46 GB และแพ็กเกจหนึ่งที่ประกอบด้วยแบ็กโบนด้านภาษาและภาพ ทรานส์ฟอร์เมอร์แบบดิฟฟิวชันด้านเสียงและภาพ โคเดก 2 ตัว ระบบรู้จำเสียงพูด และตัวจัดแนวแบบบังคับ เปเปอร์ที่อยู่เบื้องหลังถูกเผยแพร่บน arXiv เมื่อวันก่อน รีโพซิทอรีพี่น้องอีกสามแห่งตามมาภายใน 24 ชั่วโมง โดยหนึ่งในนั้นยังอัปโหลดอยู่ในเช้านี้ บล็อกข่าวของรีโพซิทอรีเอง ซึ่งลงวันที่ 13 พฤศจิกายน เรียกทั้งหมดนี้ว่าเป็นรีลีส แทบไม่มีสิ่งอื่นใดเรียกเช่นนั้น ไม่มีโพสต์เปิดตัว ไม่มีเอนด์พอยต์แบบโฮสต์ ไม่มีหน้าราคา และไม่มีเบนช์มาร์กอิสระสำหรับ Duo-1.0-causal-baseที่ฉันหาเจอ — และไฟล์ไลเซนส์ที่อยู่ใน 153 GB นั้นยกเว้นสหภาพยุโรป สหราชอาณาจักร เกาหลีใต้ และสหรัฐอเมริกาจากการอนุญาต

ดังนั้นนี่จึงไม่ใช่บทความเปิดตัว เพราะไม่มีการเปิดตัว และก็ไม่ใช่บทความรั่วไหล เพราะน้ำหนักโมเดลเป็นสาธารณะ ไม่มีเกตกั้น และครบถ้วน สิ่งที่ตามมาจะแยกสองสิ่งซึ่งมักถูกทำให้พร่ามัวทุกครั้งที่ห้องวิจัยปล่อยรีโพซิทอรีแทนที่จะเป็นผลิตภัณฑ์: สิ่งที่ไฟล์และเปเปอร์ยืนยันได้จริง กับสิ่งที่ยังไม่มีใครยืนยัน

อะไรลงจอด และตามลำดับใด

ลำดับนี้สามารถอ่านได้จากข้อมูลเมตาของรีโพซิทอรี ซึ่งสำคัญเพราะเป็นบันทึกจากแหล่งข้อมูลโดยตรงเพียงแหล่งเดียว

• บทความ — arXiv 2611.15131, Duo: โมเดลโลกแบบสองทางสำหรับการโต้ตอบแบบฟูลดูเพล็กซ์ โดยมีผู้เขียนยี่สิบคนตั้งแต่ Hengyuan Cao ถึง Zhenzhong Lan ส่งเมื่อวันที่ 11 พฤศจิกายน 2026 หน้าเพจบทความบน Hugging Face แสดง 27 คะแนนโหวตสนับสนุน และไม่มีการรายงานข่าวอื่นใดนอกเหนือจากนั้น

• น้ำหนักโมเดล — สี่รีโพซิทอรีภายใต้องค์กร inclusionAI ซึ่งระบุว่าตนเองเป็นศูนย์กลางของโครงการริเริ่ม AGI ของ Ant Group และหน้าโครงการระบุลิขสิทธิ์ของ Ant Research ปี 2026 Duo-1.0-causal-base และ Duo-1.2-causal-base ถูกสร้างเมื่อเวลา 06:30 และ 06:32 UTC ของวันที่ 12 พฤศจิกายน; Duo-1.0-distill สร้างก่อนหน้า 25 วินาที; Duo-1.0-distill-quant สร้างเช้านี้เวลา 08:09 UTC

• โค้ด — github.com/inclusionAI/Duo, Apache-2.0, สร้างเมื่อวันที่ 6 พฤศจิกายน แต่มีคอมมิตเพียงหนึ่งรายการ โดยมีเวลาประทับ 09:13 UTC วันนี้ มีดาว 6 ดวงและไม่มีฟอร์ก ณ เวลาที่เขียน

• ประกาศ — บล็อกข่าวของ README ทั้งสามบรรทัดลงวันที่ 2026/11/13: ตัวบทความ, ไปป์ไลน์สตรีมมิ่ง vLLM-Omni และ SGLang-Omni และน้ำหนักโมเดล v1 พร้อมโค้ดสำหรับการอนุมานแบบออฟไลน์

ขนาดของบันเดิลเป็นสิ่งแรกที่ผู้อ่านสามารถนำไปใช้ดำเนินการได้ เพราะขนาดเหล่านั้นไม่สามารถใช้แทนกันได้

• Duo-1.0-causal-base — 153.46 GB ใน 80 ไฟล์ เวต Realization 69.07 GB, โมเดล Intent 66.73 GB, โคเดกวิดีโอและเสียง 11.02 GB, สแตกเสียงพูด 6.54 GB และอะแดปเตอร์ 84.8 MB

• Duo-1.2-causal-base — 153.46 GB ใน 80 ไฟล์ ซึ่งมีคำอธิบายเพียงว่า “คุณภาพการสร้างที่ดีขึ้น” โดยรุ่นย่อยแบบ distilled และ quantized ระบุว่าเร็ว ๆ นี้

• Duo-1.0-distill — 2.78 GB แปดไฟล์ เป็นโอเวอร์เลย์ ไม่ใช่โมเดล: มันดาวน์โหลดลงในไดเรกทอรีเดียวกับชุดพื้นฐาน และแทนที่การตั้งค่าแซมเพลอร์ด้วย Euler ที่ 4 สเต็ปและ flow shift 5.0 เทียบกับ 50 สเต็ปที่ 1.0 สำหรับตัวพื้นฐาน

• Duo-1.0-distill-quant — 47.03 GB. โอเวอร์เลย์สี่ขั้นตอนแบบเดียวกันใน ModelOpt FP8 พร้อมการสเกลแบบต่อแชนเนล และการ์ดระบุไว้อย่างชัดเจนว่ารันไทม์ต้องรองรับรูปแบบดังกล่าวหรือมีเส้นทางการแปลงให้

สองโมดูลและนาฬิกา 708 มิลลิวินาที

โครงสร้างสถาปัตยกรรมสามารถอ่านเข้าใจได้ชัดเจนจากไฟล์คอนฟิก ซึ่งถือว่าให้ข้อมูลมากกว่าที่การ์ดโมเดลส่วนใหญ่ให้เสียอีก Duo แบ่งงานออกเป็นสองส่วน

โมดูล Intent ถูกประกาศเป็น Qwen3VLForConditionalGeneration — 64 เลเยอร์ที่ hidden 5120, attention head 64 หัวพร้อม key-value head 8 หัว, ขนาด intermediate 25600, คำศัพท์ 151,936 โทเคน และ vision tower 27 ชั้นที่มี patch size 16 shard ต่าง ๆ รวมกันเป็นน้ำหนัก bfloat16 จำนวน 66.71 GB นี่คือโมเดลภาษา-ภาพขนาดใหญ่ และการ์ดไม่ได้ระบุจำนวนพารามิเตอร์ ดังนั้นการจัดชั้นขนาดจึงเป็นการอนุมานจาก config มากกว่าตัวเลขจากผู้ขาย บนโมเดลนี้มี LoRA adapter ที่มี rank 8 และ alpha 16 กำหนดเป้าหมายไปที่ projection ของ query, key, value และ output รวมถึง head ของโมเดลภาษา และมีโทเคนพิเศษที่เทรนได้สี่โทเคน: <wait>, <blank>, <chunk_708> และ <speak>

ชุดโทเคนนั้นคือแนวคิดทั้งหมดในแบบย่อ ในทุกชังก์ โมดูล Intent จะส่งออก <speak> พร้อมข้อความ หรือ <wait> ที่ไม่มีอะไรเลย การตัดสินใจว่าจะพูดเมื่อใดเป็นการทำนายที่แยกต่างหากจากการตัดสินใจว่าจะพูดอะไร ซึ่งเป็นความแตกต่างระหว่างโมเดลที่ตอบเมื่อคุณหยุด กับโมเดลที่สามารถแทรกคำพูด นิ่งเงียบ หรือพูดต่อไปในขณะที่คุณกำลังพูดได้

โมดูล Realization เป็น MiniMaxH3DiTModel: 50 เลเยอร์ที่ขนาด hidden 5376, 56 เฮดที่มีมิติ 128, ความกว้าง feed-forward 14336, patch ขนาด 1×2×2, 24 ช่อง latent สำหรับวิดีโอและ 32 ช่องสำหรับเสียง และ token refiner สองเลเยอร์ที่พับสถานะ hidden ของโมดูล Intent เข้าเป็น conditioning โดยเริ่มต้นจากน้ำหนัก MiniMax H3 และไฟล์ NOTICE ระบุชื่อสัญญาอนุญาตต้นทาง shards รวมทั้งหมด 66.28 GB กระจายอยู่บน 535 เทนเซอร์

นาฬิกาที่เชื่อมทุกอย่างเข้าด้วยกันคือตัวเลขที่ควรจดจำ ปฏิสัมพันธ์ทำงานเป็นชังก์ละ 17 เฟรมวิดีโอที่ 24 เฟรมต่อวินาที — 708 มิลลิวินาที แต่ละชังก์เข้ารหัสเป็น latent วิดีโอห้าตัวโดยแบ่งเฟรมแบบ 1-4-4-4-4 และเป็น latent เสียง 2×29 ตัว เพราะเสียงทำงานที่ 40 latent ต่อวินาทีต่อช่องสัญญาณที่ 32 kHz หนึ่งตัวทุก 25 มิลลิวินาที การเข้ารหัสตำแหน่งเป็น RoPE สามมิติที่อิงกับเวลาเล่น attention mask ถูกสร้างขึ้นเพื่อไม่ให้ชังก์ใดมองเห็นสื่อที่สะอาดของอนาคตของตัวเองได้ ซึ่งเป็นสิ่งที่ทำให้ทั้งระบบเป็นแบบ causal และสตรีมได้ แทนที่จะเป็นโมเดล diffusion ที่ต้องมีคลิปที่เสร็จสมบูรณ์ก่อนจึงจะเริ่มได้

ข้อกล่าวอ้างเรื่องความหน่วงนั้นเป็นจริง และเป็นข้อกล่าวอ้างที่อิงกับ GPU จำนวนแปดตัว

ส่วนที่ว่าด้วยการสตรีมในเปเปอร์เป็นสิ่งที่เป็นรูปธรรมชัดเจนที่สุดในฉบับเผยแพร่ และเป็นส่วนที่ทำซ้ำได้ยากที่สุดบนฮาร์ดแวร์ที่ผู้อ่านส่วนใหญ่มีอยู่

• การอนุมานเจตนา — 90 ถึง 160 มิลลิวินาทีต่อชังก์

• การสร้างแลเทนต์ร่วมที่ 768×576 — 200 ถึง 450 มิลลิวินาที

• การถอดรหัสแบบสตรีมมิ่ง — ประมาณ 30 มิลลิวินาทีต่อกลุ่มสี่เฟรม

• โอเวอร์เฮด — ประมาณ 40 มิลลิวินาที

• รวม — 330 ถึง 650 ms เมื่อเทียบกับเป้าหมายรอบที่ 17/24 ของวินาที โดยมีความหน่วงในการสุ่มตัวอย่างเพิ่มอีก 708 ms หากเสียงพูดสิ้นสุดลงกลางหน้าต่าง

ตัวเลขเหล่านั้นมาจากเลย์เอาต์แปด GPU โมดูล Intent ทำงานแบบขนานเทนเซอร์ข้ามสี่แรงก์บน GPU 0–3 ควบคู่กับตัวรู้จำเสียง; diffusion transformer กระจายไปทั่วทั้งแปดตัว โดยเลือกความขนานแบบเทนเซอร์หรือแบบลำดับสำหรับแต่ละชังก์ตามวิธีที่ลดเวลารอบให้เหลือน้อยที่สุดภายใต้ข้อจำกัดด้านหน่วยความจำ; streaming VAE แบ่งไทล์เชิงพื้นที่ออกเป็นสี่ส่วนบน GPU 4–7 GPU 0–3 รัน Intent สำหรับชังก์ k+1 ในขณะที่ GPU 4–7 ถอดรหัสชังก์ k เอาต์พุตถูกปล่อยออกมาเป็นแองเคอร์หนึ่งเฟรมบวกกับแพ็กเก็ตสี่เฟรมจำนวนสี่แพ็กเก็ต และช่วงการเล่นกลับที่สั้นที่สุด คือ 1/24 วินาที หรือประมาณ 41.7 มิลลิวินาที ถูกกำหนดให้ยาวกว่าการถอดรหัส 30 มิลลิวินาทีโดยเจตนา เพื่อให้บัฟเฟอร์ดูดซับความสั่นคลอนของเวลาได้

ตอนนี้อ่านข้อกำหนดของ README เทียบกับสิ่งนั้น การติดตั้งแบบออฟไลน์ตามเอกสารอ้างอิงต้องใช้ GPU CUDA สองตัว — ตัวหนึ่งสำหรับ Intent และ codec อีกตัวสำหรับ Realization — สภาพแวดล้อม Python สองชุด เพราะแพ็กเกจ qwen-asr ที่ปักเวอร์ชันไว้ดึง Transformers เวอร์ชันของตัวเองมาด้วย และต้องมี FFmpeg อยู่ในพาธ นั่นคือการกำหนดค่าที่เดโมที่จัดส่งมาจริงรันอยู่ ตัวเลข 330 ถึง 650 มิลลิวินาทีตั้งสมมติฐานว่าใช้ GPU แปดตัวของโมเดลที่ไม่ได้ระบุ ทั้งสองตัวเลขเป็นความจริงตรงไปตรงมา มันตอบคำถามคนละคำถาม และช่องว่างระหว่างสองตัวเลขนั้นคือระยะห่างระหว่างผลลัพธ์จากบทความกับเครื่องที่คุณสร้างได้ในสัปดาห์นี้

93.3% คือผู้เขียนที่ตรวจข้อสอบของตนเอง

การประเมินนี้มีลักษณะผิดปกติที่ควรระบุไว้ก่อนที่จะมีการอ้างอิงตัวเลขเปอร์เซ็นต์ที่ใด ๆ

มีการเล่นซ้ำกรณีดูเพล็กซ์แบบเรียลไทม์จำนวนสามสิบกรณีเคียงข้างกันบนไทม์ไลน์ร่วม และตัดสินที่ความเร็วเล่นปกติพร้อมเสียง เทียบกับเกณฑ์แบบไบนารีหกข้อที่มีเงื่อนไขความล้มเหลวเป็นลายลักษณ์อักษร ได้แก่ การตอบสนองต่อเนื้อหา การยึดตามภาษา ความเข้าใจได้ของคำพูด ความเสถียรของอัตลักษณ์ทางภาพ การซิงโครไนซ์ภาพและเสียง และความสอดคล้องทางอารมณ์ระหว่างภาพและเสียง จาก 180 การตรวจสอบ ผ่าน 168 รายการ — 93.3% ผ่านเก้าสิบจากเก้าสิบเมื่อรวมการยึดตามภาษา ความเข้าใจได้ของคำพูด และความเสถียรของอัตลักษณ์ทางภาพเข้าด้วยกัน ความสอดคล้องทางอารมณ์อยู่ที่ 96.7% การจัดแนวริมฝีปากอยู่ที่ 90.0% และการตอบสนองต่อเนื้อหาอยู่ที่ 73.3% หรือ 22 จาก 30

มีสามสิ่งตามมา และมีเพียงสิ่งแรกเท่านั้นที่ฟังดูเป็นคำชม

อย่างแรก การอ้างว่าได้ 93.3% จากการตรวจสอบแบบไบนารี 180 รายการซึ่งมีเงื่อนไขความล้มเหลวระบุไว้อย่างชัดเจน ถือเป็นข้อกล่าวอ้างที่พิสูจน์ว่าผิดได้ง่ายกว่าอันดับบนลีดเดอร์บอร์ด Elo และการวิเคราะห์ความล้มเหลวก็เจาะจงเป็นพิเศษ ทั้งมุกตลกและคำพูดอ้อมค้อมที่ต้องให้โมเดลอ่านความหมายให้เกินกว่าถ้อยคำตามตัวอักษร และเจตนาที่จะเข้าใจได้ก็ต่อเมื่อตีความเสียงพูดกับวิดีโอร่วมกัน ตัวอย่างในเปเปอร์คือผู้ใช้ที่อยู่ในอาคารกล่าวถึงจักรยานแชร์ขณะฝนเริ่มตก ซึ่งโมเดลตีความว่าเป็นคำขอคำแนะนำแทนที่จะเป็นการเปลี่ยนฉาก

ประการที่สอง ผู้ตัดสินคือผู้เขียนเอง ไม่มีการดำเนินการโดยบุคคลที่สาม ไม่มีการศึกษาเปรียบเทียบแบบปกปิดชื่อทีละคู่ ไม่มีคณะผู้ตรวจทานภายนอก เกณฑ์การให้คะแนนแบบไบนารีที่มีเงื่อนไขเป็นลายลักษณ์อักษรคือเครื่องมือที่เหมาะสม การนำเกณฑ์นั้นไปใช้กับผลลัพธ์ของคุณเองไม่ใช่การตรวจสอบที่เป็นอิสระ

ประการที่สาม และเป็นจุดที่ชี้ชัดที่สุด คือไม่มีจุดใดในบทความที่มีการเปรียบเทียบกับ baseline เลย การเปรียบเทียบเชิงปริมาณเพียงอย่างเดียวคือ ablation ด้านการสังเคราะห์ข้อมูล บนลำดับความยาว 60 วินาทีที่ประกอบด้วยบล็อกละ 6 วินาทีจำนวน 10 บล็อก baseline สูญเสียระดับ luma ไป 34.2 ระดับภายในบล็อกที่เก้า ขณะที่วิธีที่เสนอ stabilise อยู่ที่ประมาณ 99 งานที่เกี่ยวข้อง — Moshi, Qwen-Omni, Wan-Streamer, EMO, OmniHuman, LiveTalk, Self Forcing, CausVid — ถูกกล่าวถึงในเชิงคุณภาพ โดยไม่มีตัวเลขเปรียบเทียบแบบตรงกัน บทความยังไม่ระบุจำนวนพารามิเตอร์หรือปริมาณข้อมูลฝึกเลย ดังนั้นสรุปตามจริงก็คือ Duo v1 ถูกวัดเทียบกับ rubric ไม่ใช่เทียบกับโมเดลอื่น

ไลเซนส์คือส่วนที่กำหนดว่าสัปดาห์ของคุณจะเป็นอย่างไร

ส่วนนี้คือส่วนที่เปลี่ยนการตัดสินใจด้านการจัดซื้อ และมันถูกฝังอยู่ในไฟล์ LICENSE ขนาด 17 KB แทนที่จะอยู่ในข้อความบรรยายของ model card

น้ำหนักโมเดลไม่ได้อยู่ภายใต้ Apache-2.0 ส่วนรีโพซิทอรีโค้ดอยู่ภายใต้ Apache-2.0 แต่น้ำหนักโมเดลไม่ใช่ ทุก checkpoint ของ Duo มาพร้อมกับ minimax-h3-community-license เนื่องจากโมดูล Realization ถูกเริ่มต้นจาก MiniMax H3 และสัญญาอนุญาตนั้นติดไปกับงานดัดแปลง ข้อตกลงภายในบันเดิลลงวันที่ 2 สิงหาคม 2026 และกำหนดให้ "M​iniMax" หมายถึง Nanonoble Pte. Ltd.

การให้สิทธิมีขอบเขตจำกัดตามอาณาเขต “Applicable Territory” หมายถึงทั่วโลก ยกเว้น Excluded Territories และ Excluded Territories ได้แก่ สหภาพยุโรป สหราชอาณาจักร สาธารณรัฐเกาหลี และสหรัฐอเมริกา ข้อความในสัญญาอนุญาตเชิญชวนทุกคนในดินแดนเหล่านั้นให้ติดต่อ M​iniMax เกี่ยวกับการขอรับใบอนุญาต “บนพื้นฐานของการควบคุมและกลไกป้องกันที่แข็งแกร่ง” ซึ่งเป็นเพียงช่องทางหนึ่ง ไม่ใช่การอนุญาต

ในทางปฏิบัติ กลุ่มวิจัยในสิงคโปร์ สวิตเซอร์แลนด์ ญี่ปุ่น อินเดีย บราซิล หรือแคนาดา สามารถดาวน์โหลดและรันสิ่งนี้ได้ตั้งแต่วันนี้ภายใต้เงื่อนไขที่ระบุไว้ ทีมในซานฟรานซิสโก ลอนดอน เบอร์ลิน หรือโซลกลับทำไม่ได้ เมื่ออ่านไฟล์ตามตัวอักษร และไม่ควรค้นพบเรื่องนั้นตอนท้ายของการบูรณาการสองสัปดาห์ ความไม่สมมาตรนั้นยังเป็นเหตุผลว่าทำไมไลเซนส์ — ไม่ใช่เบนช์มาร์ก — จึงเป็นสิ่งที่ต้องตรวจสอบก่อนจะกำหนดตารางเวลาใด ๆ

สิ่งที่คุณสามารถรันได้จริงในวันนี้

เส้นทางแบบออฟไลน์มีเอกสารกำกับและสั้น โคลนรีโพซิทอรี สร้างสภาพแวดล้อมเสมือนสองชุด — ชุดหนึ่งสำหรับ Realization และอีกชุดสำหรับสแต็กเสียงพูด — ดาวน์โหลด base bundle คัดลอก configs/inference.example.json ไปยัง configs/inference.json ตั้งค่าให้ชี้ไปที่ weights และไฟล์เรียกใช้งาน Python ทั้งสองไฟล์ แล้วเรียกใช้ run_demo.py --config configs/inference.json --port 4173 อินเทอร์เฟซเป็นหน้าเว็บเบราว์เซอร์ที่ /video/index.html

สำหรับการสตรีม README ชี้ไปที่สองสาขา: {{1}}vLLM-Omni{{/1}} ซึ่งระบุว่าเป็นตัวเลือกที่แนะนำ และ {{2}}SGLang-Omni{{/2}} นั่นคือเส้นทางที่ตัวเลขความหน่วงอธิบายไว้ และเป็นเส้นทางที่ต้องใช้เลย์เอาต์แบบแปด GPU

ข้อควรระวังสองประการเกี่ยวกับสิ่งที่คุณจะได้เห็น เดโมบนหน้าโปรเจกต์ดึงมาจากข้อมูลสำหรับฝึกและอินเฟอเรนซ์แบบออฟไลน์ — ทางหน้าเว็บระบุไว้เช่นนั้น และเสริมว่าผลลัพธ์แบบเรียลไทม์ฟูลดูเพล็กซ์ “จะถูกเพิ่มในเร็ว ๆ นี้” และการเปิดตัวนี้เป็นพรีวิวอย่างชัดเจน: “Duo v1 เป็นรุ่นพรีวิวสำหรับนักวิจัย” ซึ่งรองรับ “การสนทนาแบบภาพและเสียงขั้นพื้นฐาน” โดย v2 สัญญาว่าจะกำหนดเงื่อนไขให้ Realization ขึ้นกับเสียงและวิดีโอของผู้ใช้โดยตรงเพื่อการโต้ตอบทางภาพ หากคุณสนใจโมเดลที่เฝ้าดูคุณและตอบสนองต่อวัตถุ ความสามารถนั้นยังไม่มีในการปล่อยครั้งนี้

ใครควรใส่ใจในสัปดาห์นี้ และใครควรรอ

• งานวิจัยด้านการโต้ตอบแบบ full-duplex — นี่คือการเปิดตัวแบบเปิดที่เป็นรูปธรรมชัดเจนที่สุดในหมวดนี้: เปเปอร์ที่มีงบประมาณความหน่วง, chunk clock, สูตรการกลั่น และ weights ที่ดาวน์โหลดได้จริง การกลั่นแบบ dual-rollout — การ rollout โมดูล Intent ที่ถูก freeze แล้วสร้างสื่อจากเอาต์พุตของโมเดลเอง แทนที่จะมาจากประวัติที่บันทึกไว้ — เป็นแนวคิดที่ถ่ายทอดได้ แม้คุณจะไม่เคยรัน Duo เลย

• ทีมที่กำลังสร้างผลิตภัณฑ์อวตารหรือผลิตภัณฑ์เพื่อนคู่ใจ — คุ้มค่าที่จะอ่านเพียงเพื่อทำความเข้าใจกรอบคิดเรื่อง 708 ms ก็เพียงพอ นั่นคือตัวเลขที่กำหนดว่าการพูดแทรกจะรู้สึกเหมือนเป็นคนจริงหรือรู้สึกหน่วง และเป็นข้อจำกัดด้านการออกแบบที่คุณนำไปใช้ได้โดยไม่ต้องนำโมเดลไปใช้

• ทีมในดินแดนที่ถูกยกเว้น — ให้รอก่อน และให้ถือว่าการหารือเรื่องใบอนุญาตเป็นเส้นทางวิกฤต แทนที่จะเป็นงบประมาณ GPU

• ใครก็ตามที่ต้องการ API — นี่ไม่ใช่สิ่งนั้น การ์ดโมเดลระบุไว้อย่างชัดเจนว่าไม่มีผู้ให้บริการ inference รายใดให้บริการโมเดลนี้ และไม่มี endpoint จากผู้จำหน่าย

ประเด็นสุดท้ายคือจุดที่เราเตอร์เหมาะสมอย่างตรงไปตรงมา และเป็นจุดที่มันไม่เหมาะสม OrcaRouter ไม่ได้โฮสต์ Duo-1.0-causal-base และไม่สามารถเราเตอร์มันได้: สแตก diffusion สองโมดูลขนาด 153 GB ที่มีรอบเวลาต่อชังก์คงที่ 708 ms ไม่ใช่เป้าหมายแบบ chat-completions และการเราเตอร์ไม่ว่าจะมากแค่ไหนก็เปลี่ยนข้อเท็จจริงนี้ไม่ได้ สิ่งที่เราเตอร์ได้คือ fallback แบบทีละเทิร์นที่ทีมส่วนใหญ่ส่งมอบ ขณะที่การทดลอง duplex ทำงานอยู่หลังฟีเจอร์แฟล็ก — เสียงเข้า โมเดลภาษา เสียงออก ขาเสียงออกสามารถเป็นโมเดล text-to-speech แบบโฮสต์แทนที่จะเป็นอีกโปรเซสบน GPU สองตัวเดียวกัน และการทำผ่าน API เดียวสำหรับโมเดลกว่า 200 รายการ โดยส่งต่อราคาตามรายการของผู้ให้บริการที่มาร์กอัป 0% ทำให้การคำนวณต้นทุนไม่เปลี่ยนแปลงเมื่อผู้ขายปรับราคา Automatic failover ควรอยู่บนขาแบบโฮสต์เหล่านั้น ไม่ใช่บนขา self-hosted: มันช่วยให้เดโมยังทำงานอยู่เมื่อผู้ให้บริการเกิดสะดุด และไม่ช่วยอะไรกับสแตกที่คุณรันบนฮาร์ดแวร์ของคุณเอง

การใช้งานที่ซื่อตรงอีกอย่างหนึ่งคือวินัยในการประเมิน ให้เส้นทางการใช้งานจริงอยู่บนโมเดลที่คุณเรียกใช้ได้ และมอง Duo-1.0-causal-base เป็นการทดลองบนแท่นทดสอบที่มีเกณฑ์การให้คะแนนเป็นลายลักษณ์อักษร ซึ่งเมื่อพิจารณาว่าเกณฑ์เดียวที่มีอยู่ถูกนำไปใช้โดยผู้เขียนของมันเอง นี่ก็คือสิ่งที่มันเป็นอย่างแท้จริง

อะไรจะทำให้คำตัดสินเปลี่ยนไป

สามสิ่ง โดยเรียงจากน้อยไปมากตามระดับความสำคัญที่สิ่งเหล่านั้นจะมี

บุคคลที่สามให้คะแนนเกณฑ์ทั้งหกข้อกับพรอมต์ที่ทีม Duo ไม่ได้เลือก เกณฑ์การให้คะแนนถูกเผยแพร่แล้ว ซึ่งทำให้ใครสักคนทำสิ่งนี้ได้ในต้นทุนต่ำ และทำให้โมเดลต้องเสียต้นทุนสูงหากความสามารถในการตอบสนองต่อเนื้อหาอยู่ที่ 73.3% จริงในกรณีที่ไม่เคยเห็นมาก่อน

เอนด์พอยต์แบบโฮสต์หรือสูตรการให้บริการที่ไม่ตั้งสมมติฐานว่าต้องใช้แปด GPU ทั้งเดโมออฟไลน์แบบสอง GPU และข้ออ้างเรื่องความหน่วงแบบแปด GPU ต่างก็เป็นความจริง และช่องว่างระหว่างทั้งสองคือจุดที่ผู้อ่านส่วนใหญ่จะอยู่ในความเป็นจริง

ข้อกำหนดสิทธิ์การใช้งานที่ครอบคลุมดินแดนที่ถูกยกเว้นไว้ ไม่มีสิ่งใดเกี่ยวกับสถาปัตยกรรมที่เปลี่ยนแปลงการคำนวณนั้น และไม่ว่าการปรับปรุงผลการทดสอบ benchmark จะมากเพียงใดก็ไม่เปลี่ยนแปลงเช่นกัน

จนถึงตอนนั้น คำอธิบายที่ถูกต้องของ Duo-1.0-causal-base ก็คือ ชุดงานวิจัยขนาด 153 GB ที่สมบูรณ์และไม่มีการจำกัดการเข้าถึง พร้อมงบประมาณเวลาตอบสนองจริงและการประเมินที่ให้คะแนนตนเอง เปิดตัวในรูปแบบบทความและรีพอซิทอรีที่มีบรรทัดข่าวระบุวันที่ และไม่มีผลิตภัณฑ์รองรับอยู่เบื้องหลัง นั่นมากกว่าพรีพรินต์ — มีน้ำหนักโมเดลอยู่จริงและเดโมทำงานได้ — และน้อยกว่ามากเมื่อเทียบกับโมเดลที่คุณวางแผนทั้งไตรมาสได้ คำถามที่ยังเปิดอยู่ไม่ใช่เรื่องที่ว่า Duo จะสนทนาเป็นช่วง ๆ ละ 708 มิลลิวินาทีได้หรือไม่ แต่เป็นเรื่องที่ว่าคนนอกทีมจะได้รับอนุญาตให้ตรวจสอบหรือไม่