NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: พารามิเตอร์สามเท่า แต่ไม่ใช่งานเดียวกันเลย

วิธีอ่านการเปรียบเทียบระหว่าง N​VIDIA N​emotron Labs Dory 1.0 4B กับ G​emma 4 12B ที่เห็นได้ชัดคือมองเป็นศึกวัดขนาด — 4B ปะทะ 12B เล็กปะทะกลาง — และกรอบคิดแบบนั้นทำให้การเปรียบเทียบนี้เสียประโยชน์ เพราะสองโมเดลไม่ได้รับอินพุตแบบเดียวกัน ไม่มีจุดยืนด้านสัญญาอนุญาตแบบเดียวกัน และไม่ได้เร็วขึ้นในแบบเดียวกัน Dory เป็นเครือข่ายแบบข้อความล้วน ภาษาอังกฤษล้วน และเป็นแบบวนลูป ซึ่งคุณสมบัติที่นิยามมันคือการดาวน์โหลดครั้งเดียวรองรับงบประมาณการประมวลผลได้หลายระดับ G​emma 4 12B เป็นโมเดลมัลติโมดัลแบบ any-to-any ที่รับข้อความ รูปภาพ และเสียงผ่านสแต็กไร้เอนโคเดอร์เพียงชุดเดียว แล้วส่งคืนข้อความ ช่องว่างพารามิเตอร์เป็นเรื่องจริง แต่มันเป็นความแตกต่างที่ให้ข้อมูลน้อยที่สุดระหว่างสองตัว นี่คือสิ่งที่แยกสองตัวนี้ออกจากกันจริง ๆ รวมถึงส่วนที่ยังไม่มีใครรันการทดลอง

แต่ละอันคืออะไร ในรอบเดียว

NVIDIA Nemotron Labs Dory 1.0 4B เป็นโมเดลแบบเดนส์ขนาด 4B ที่ฝึกโดย NVIDIA และเผยแพร่ไปยัง Hugging Face ในสี่รูปแบบการควอนไทซ์ — BF16, MXFP8, NVFP4 และ Q5_K_M GGUF — ภายใต้สัญญาอนุญาต OpenMDW 1.1 การ์ดของโมเดลระบุบิลด์ว่า "GA (10/16/2026)" รองรับข้อความเข้าและข้อความออก เฉพาะภาษาอังกฤษ ที่บริบทสูงสุด 256K โทเคน จุดสำคัญอยู่ที่สถาปัตยกรรม: บล็อกรีเคอร์เรนต์ 20 ชั้นที่ถูกนำไปใช้จำนวนครั้งแปรผัน ระหว่างบล็อกอินพุต 8 ชั้นและบล็อกเอาต์พุต 8 ชั้น ดังนั้นจำนวนลูปจึงกลายเป็นตัวปรับ ณ เวลาให้บริการ แทนที่จะเป็นการตัดสินใจ ณ เวลาฝึก NVIDIA แนะนำให้ใช้สองลูปเป็นค่าเริ่มต้น และสี่ลูปเมื่อความแม่นยำแบบเอเจนต์สำคัญกว่า ไม่มีการประกาศใด ๆ เกี่ยวกับการเปิดตัวนี้; รีโพซิทอรีต่าง ๆ ถูกเติมข้อมูลในชั่วข้ามคืน และผู้จำหน่ายไม่ได้เผยแพร่โพสต์ประกอบใด ๆ

Gemma 4 12B เป็นโมเดลมัลติโมดัลแบบ dense ขนาด 11.95B ของ Google DeepMind ใช้ Apache 2.0 มีบริบท 256K ประกอบด้วย 48 เลเยอร์พร้อม attention แบบไฮบริดและหน้าต่างเลื่อนขนาด 1024 โทเคน และมีคลังคำศัพท์ 262K ถูกอธิบายว่าเป็นแบบไม่มี encoder: แพตช์ภาพและรูปคลื่นเสียงถูกฉายโดยตรงเข้าสู่พื้นที่ embedding ของโมเดลภาษา แทนที่จะผ่าน encoder ภาพและเสียงแยกกัน รับข้อความ ภาพ และเสียงเข้า; ส่งออกเป็นข้อความ วิดีโอจัดการเป็นเฟรมที่สุ่มตัวอย่าง โดยการ์ดโมเดลจำกัดเสียงไว้ที่ประมาณ 30 วินาที และวิดีโอที่ประมาณ 60 วินาที ที่อัตราประมาณหนึ่งเฟรมต่อวินาที รองรับโหมดการคิดที่กำหนดค่าได้และบทบาท system แบบเนทีฟ และเปิดให้สาธารณะเข้าถึงพร้อมถูกดาวน์โหลดอย่างแพร่หลายตั้งแต่กลางปี 2026

ข้อชี้แจงหนึ่งที่ควรทำก่อนจะมีการกล่าวถึงตัวเลขใด ๆ: Dory มีให้ใช้งานในสี่รูปแบบย่อย และตัวที่มี repository id ถูกอ้างถึงบ่อยที่สุดคือบิลด์ MXFP8 แต่ benchmarks ที่ NVIDIA เผยแพร่นั้นวัดบน BF16 เช็กพอยต์ MXFP8 เป็นการควอนไทซ์ของน้ำหนักชุดเดียวกัน ไม่ใช่โมเดลที่แตกต่างออกไป

ปัญหาของการวัดมาตรฐาน: สองสิ่งนี้ไม่เคยถูกนำมาเปรียบเทียบกันเลย

นี่คือส่วนที่บทความเปรียบเทียบมักกลบเกลื่อน ดังนั้นจึงควรพูดกันตรง ๆ ไม่มีผลลัพธ์จากฮาร์เนสเดียวกันสำหรับ Dory 1.0 4B และ Gemma 4 12B ตารางเกณฑ์มาตรฐานของ NVIDIA สำหรับ Dory เปรียบเทียบกับ Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B และ Qwen3.6-35B-A3B — มันเลือกใช้ 26B Gemma ไม่ใช่ 12B และไม่ได้รวม 12B ไว้เลย ตัวเลขที่ Google เผยแพร่สำหรับ 12B มาจากฮาร์เนสที่แตกต่างออกไป เทียบกับชุดการเปรียบเทียบที่ต่างกัน ในเอกสารที่ตีพิมพ์เมื่อหลายเดือนก่อน และครอบคลุมงานคนละแบบ

การนำตัวเลขของการ์ดทั้งสองใบมาวางเคียงกันทำให้ได้ตารางที่ดูน่าเชื่อถือแต่ไม่มีความหมายอะไรเลย เพราะความต่างเพียงสองจุดระหว่างฮาร์เนสสองตัวไม่ใช่ความต่างสองจุดระหว่างโมเดลสองตัว ฉะนั้นฉบับที่ตรงไปตรงมาคือแบบนี้: การ์ดของ Dory เองอ้างว่ามีพฤติกรรมแบบเอเจนต์ระดับประมาณ Qwen3.5-9B ที่สี่ลูป แต่กลับตามหลังคู่เปรียบเทียบทุกตัวของตัวเองบนเบนช์มาร์กที่เน้นความรู้เป็นหลัก และการ์ดของ Gemma 4 12B อ้างว่ามีโปรไฟล์แบบมัลติโมดัลพร้อมหน้าต่าง 256K และตัวแปรที่ปรับจูนตามคำสั่งทั่วทั้งสาย Gemma 4 ยังไม่มีการทดสอบว่าข้ออ้างใดข้ออ้างหนึ่งจะอยู่รอดเมื่อเผชิญกับชุดงานของอีกฝ่ายหรือไม่

ในจุดที่พวกมันทับซ้อนกันอย่างแท้จริง และในจุดที่ความทับซ้อนนั้นสิ้นสุดลง

สี่มิติมีความสำคัญต่อการตัดสินใจที่แท้จริง และมิติเหล่านี้ชี้ไปในทิศทางที่แตกต่างกัน

• รูปแบบอินพุต — G​emma 4 12B รับข้อความ รูปภาพ และเสียง ส่วน Dory 1.0 4B รับข้อความเท่านั้น นี่ไม่ใช่ช่องว่างของเบนช์มาร์กที่ฮาร์เนสจะปิดได้ แต่เป็นความสามารถที่โมเดลหนึ่งมีและอีกโมเดลหนึ่งไม่มี และถ้างานของคุณมีภาพหน้าจอ หน้าที่สแกน หรือคลิปเสียงอยู่ตรงไหนก็ตาม การเปรียบเทียบก็จบลงแล้ว

• ภาษา — Dory ใช้ภาษาอังกฤษเท่านั้น สายของ Gemma 4 รองรับหลายภาษา และการ์ด 12B ของมันมีผลการประเมินและผลลัพธ์ด้านเสียงพูดแบบหลายภาษา รวมถึงเกณฑ์มาตรฐานการแปลที่ไม่ใช่ภาษาอังกฤษ การมีภาษาที่สองที่ใดก็ตามในโปรดักชันตัด Dory ออก

• บริบท — ทั้งสองโฆษณาว่า 256K และนี่คือจุดเดียวที่สเปกตรงกันจริง ๆ การ์ดของ Dory ระบุว่ามีการตรวจสอบตำแหน่ง 262,144 ตำแหน่งใน vLLM ภายใต้คำสั่งเปิดใช้งานที่จัดส่งมา ส่วน G​emma 4 12B ระบุว่า 256K พร้อมหน้าต่างเลื่อนขนาด 1024 โทเคนภายในสแต็กแบบ hybrid attention มีการประเมิน long-context ที่เผยแพร่แล้วสำหรับ G​emma สำหรับ Dory แถว long-context แถวเดียวคือของ N​VIDIA เอง ซึ่งวัดด้วยคีย์คำตอบที่แก้ไขแล้วและโมเดลผู้ตัดสินรุ่นเก่ากว่า ซึ่งการ์ดเปิดเผยไว้

• พฤติกรรมการคำนวณ — นี่คือความได้เปรียบเชิงอสมมาตรของ Dory และไม่เกี่ยวกับคุณภาพเลย G​emma 4 12B เป็นโมเดล dense แบบดั้งเดิม: ความลึกคงที่ ต้นทุนต่อโทเคนคงที่ จะเปลี่ยนค่าใช้จ่ายก็ต้องสเกลฮาร์ดแวร์หรือย่อบริบทให้สั้นลง ความลึกของ Dory เป็นพารามิเตอร์ตอนรันไทม์ รันที่หนึ่งลูปเมื่อความหน่วงเป็นข้อจำกัด และที่สี่ลูปเมื่อความแม่นยำเป็นข้อจำกัด โดยไม่ต้องดาวน์โหลดเช็กพอยต์ตัวที่สอง N​VIDIA ยังมีโหมดแคช KV แบบลูปสุดท้ายซึ่งตั้งใจให้พื้นที่แคชคงอยู่ที่ขนาดประมาณหนึ่งลูป ไม่ว่าจำนวนลูปจะเป็นเท่าใด ซึ่ง — หากทำได้จริง — ก็ขจัดข้อโต้แย้งมาตรฐานที่มีต่อสถาปัตยกรรมแบบเกิดซ้ำได้ นี่คือคำกล่าวอ้างในการ์ดที่ควรค่าแก่การตรวจสอบโดยอิสระมากที่สุด

• สัญญาอนุญาต — OpenMDW 1.1 สำหรับ Dory, Apache 2.0 สำหรับ G​emma 4 12B ทั้งสองอนุญาตให้ใช้ในเชิงพาณิชย์ หากการตรวจสอบทางกฎหมายของคุณถือว่า Apache 2.0 เป็นเส้นทางที่มีแรงต้านน้อยที่สุด G​emma ก็เริ่มต้นด้วยข้อได้เปรียบที่ไม่มีส่วนเกี่ยวข้องกับน้ำหนักเลย

การรัน它们: หนึ่งเป็นงานปกติ อีกอันเป็นการบิลด์

Gemma 4 12B เป็นไฟล์ดาวน์โหลดมาตรฐานที่จัดรูปแบบตามตระกูล Llama โดยอยู่ในรูปแบบ Transformers ทำงานบนเอนจินที่คุณมีอยู่แล้ว และบิลด์แบบควอนไทซ์ — ตัวแปร QAT GGUF และ w4a16 — เปิดเผยต่อสาธารณะตั้งแต่ไม่นานหลังจากตัวโมเดลเอง

Dory 1.0 4B ยังไม่พร้อม และการ์ดโมเดลก็ระบุไว้ตรง ๆ ว่าเป็นเช่นนั้น การรองรับ vLLM อยู่ในสถานะ “ระหว่างการตรวจสอบ” ใน pull request ที่เปิดอยู่ จนกว่าจะ merge คุณต้องติดตั้ง vLLM จาก branch นั้นด้วยแฟล็ก precompiled-kernel แล้วจึงส่ง override ของ loop-count และ KV-cache ตอน serve การรองรับ llama.cpp อยู่ใน pull request ที่เปิดอีกอัน และ NVIDIA ปักหมุด commit เฉพาะแทน head ที่เคลื่อนที่ ซึ่งเป็นทางเลือกที่ถูกต้องสำหรับการตั้งค่าอ้างอิง แต่ก็ยังหมายความว่าต้อง build จาก source ไม่มี endpoint แบบโฮสต์สำหรับ Dory ที่ใดก็ตามที่เราตรวจสอบได้ — จาก NVIDIA หรือจากใครก็ตาม — และตัวนับการดาวน์โหลดบน repository ทั้งสี่ของมันยังคงเป็นศูนย์ในขณะที่เขียนข้อความนี้ Gemma 4 12B ในทางตรงกันข้าม ถูกดึงไปมากกว่าหนึ่งล้านครั้งในเดือนที่แล้ว และมีระบบนิเวศของการ fine-tune และ quantization ที่สร้างขึ้นบนมัน ช่องว่างด้านความสมบูรณ์นี้ สำหรับทีมส่วนใหญ่ ใหญ่กว่าส่วนต่างของ benchmark ใด ๆ บนการ์ดทั้งสอง

ข้อมูลจำเพาะของฮาร์ดแวร์มีน้อยทั้งสองฝ่าย ตัวเลขความเร็ว Dory ที่ NVIDIA เผยแพร่เพียงอย่างเดียวคืออัตราเร่งจากการควอนไทซ์บน DGX Spark — 1.69× และ 1.84× สำหรับ MXFP8 เทียบกับ BF16 ขึ้นอยู่กับการผสมอินพุต/เอาต์พุต, 2.17× และ 2.44× สำหรับ NVFP4 — ไม่ใช่ตัวเลขปริมาณงาน สำหรับ Gemma 4 12B คำถามที่สอดคล้องกัน คือ VRAM ที่ความยาวบริบทที่กำหนด สามารถตอบได้จากผลการวัดของชุมชนตลอดหนึ่งปี มากกว่าจากตัวการ์ด

พูดตามตรง เราเตอร์เข้ามาเกี่ยวข้องตรงไหน

ไม่มีโมเดลใดในสองโมเดลนี้ที่เราให้บริการ และการพูดเช่นนั้นมีประโยชน์กว่าการทำให้เข้าใจเป็นอย่างอื่น N​VIDIA N​emotron Labs Dory 1.0 4B ไม่ได้อยู่ในแค็ตตาล็อกของ OrcaRouter และไม่มีเอนด์พอยต์ที่โฮสต์ไว้ที่ไหนเลย; โดยเฉพาะ G​emma 4 12B ก็ไม่อยู่ในแค็ตตาล็อกเช่นกัน แม้ว่าโมเดลพี่น้องขนาดใหญ่กว่าของมันอย่าง google/gemma-4-26b-a4b-it และ google/gemma-4-31b-itจะอยู่ในแค็ตตาล็อกก็ตาม

สิ่งที่เหลืออยู่คือรูปแบบในทางปฏิบัติของการตัดสินใจนี้ หากคุณกำลังเลือกระหว่าง 4B ที่คุณต้องโฮสต์เองกับ 12B ที่คุณเช่าใช้ได้ ฝั่งที่โฮสต์เองมีค่าใช้จ่าย GPU และภาระด้านปฏิบัติการที่ฝั่งเช่าใช้ไม่มี และวิธีเดียวที่จะตีราคาสิ่งนั้นอย่างซื่อตรงคือรันทั้งสองแบบกับชุดงานของคุณเอง OrcaRouter มีประโยชน์สำหรับครึ่งหนึ่งของการทดลองนั้นที่เป็นแบบโฮสต์: คีย์ API เดียวเข้าถึงโมเดล open-weight ของ Google ที่เรามีให้บริการอยู่จริงได้ ในราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% ดังนั้นการเปรียบเทียบจึงไม่ต้องใช้สัญญาฉบับที่สองหรือ SDK ตัวที่สอง Automatic failover ช่วยครอบคลุมช่วงเวลาที่พูล GPU ของคุณเองเต็มความจุระหว่างการทำ benchmark และ routing DSL ทำให้การเรียกแบบ self-hosted และแบบ hosted อยู่หลัง endpoint เดียวได้ ดังนั้นการสลับฝั่งจึงเป็นการเปลี่ยนการตั้งค่าแทนที่จะเป็นการเขียนใหม่ ทั้งหมดนั้นไม่ได้บอกคุณว่าโมเดลไหนชนะ มันเพียงขจัดข้ออ้างสำหรับการไม่ลองหาคำตอบ

แล้วอันไหน

ถ้างานของคุณเป็นแบบข้อความล้วน ภาษาอังกฤษล้วน และบริบทขนาดยาว และโดยเฉพาะอย่างยิ่งถ้าเป็นงานแบบเอเจนต์ — การเรียกใช้เครื่องมือ เวิร์กโฟลว์หลายขั้นตอน เอาต์พุตแบบมีโครงสร้าง — Dory 1.0 4B คือเดิมพันที่น่าสนใจกว่า และเป็นตัวที่สถาปัตยกรรมมอบบางสิ่งให้คุณที่ 12B ให้ไม่ได้: ปุ่มปรับการประมวลผล จงเดิมพันอย่างรู้เท่าทันถึงช่องว่างด้านวุฒิภาวะ พูลรีเควสต์ที่ยังไม่ถูก merge สองรายการ การขาดการประเมินอิสระโดยสิ้นเชิง และข้อเท็จจริงที่ว่าการ์ดของมันเองจัดให้มันอยู่หลังตัวเปรียบเทียบทั้งหมดบน GPQA และ HLE

หากงานของคุณเกี่ยวข้องกับภาพ เสียง ภาษาที่สอง หรือกำหนดส่งงานภายในเดือนหน้า G​emma 4 12B คือคำตอบ และการเปรียบเทียบก็ไม่เคยสูสีกันเลย มันเป็นโมเดลที่ใหญ่กว่า แพงกว่า และมีความสามารถมากกว่า โดยมีระบบนิเวศหนุนหลังอยู่ และไม่มีขั้นตอนการบิลด์ใด ๆ มากั้นไว้ข้างหน้า

สิ่งที่ต้องจับตาดูไม่ใช่ตัวเลขเบนช์มาร์ก — แต่คือว่าพูลรีเควสต์ของ vLLM และ llama.cpp จะถูกรวมหรือไม่ วันที่ Dory โหลดจากไบนารีที่ปล่อยแล้วแทนที่จะเป็นแบรนช์ ด้านการโฮสต์เองของการเปรียบเทียบนี้ก็จะเลิกเป็นโปรเจกต์และกลายเป็นการเปลี่ยนคอนฟิกทันที จนถึงตอนนั้น คำตัดสินที่ตรงไปตรงมาคือ หนึ่งในโมเดลเหล่านี้เป็นผลิตภัณฑ์ ส่วนอีกอันเป็นรีโพซิทอรีที่โผล่ขึ้นมาในชั่วข้ามคืน และคุณจะเลือกอันไหนนั้นขึ้นอยู่ทั้งหมดกับว่าคุณกำลังส่งมอบหรือกำลังทดสอบ

ไม่มีสิ่งใดในนั้นที่เป็นเพียงข้อสันนิษฐาน: ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ซึ่งได้รับการบันทึกไว้ ที่อยู่เบื้องหลังการเปิดตัวแบบนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง