Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning: สองระดับของครอบครัวเดียวกัน และโทเคนที่ตัดสินว่าใช้อันไหน

สองโมเดลนี้ไม่ใช่คู่แข่งกัน และการมองว่ามันเป็นคู่แข่งกันก็คือความเข้าใจผิดที่สเปกชีตชักชวนให้คิดเช่นนั้น NVIDIA Nemotron 3.5 Super VL เป็นโมเดลภาพ-ภาษา ขนาด 120B พารามิเตอร์ เปิดใช้งานจริง 12B ที่ต้องใช้ H100 สี่ตัวหรือ GB200 สองตัวจึงจะรันที่ความละเอียดเต็มได้ NVIDIA Nemotron 3.5 Lightning 30B-A3B เป็นโมเดลข้อความขนาด 30B พารามิเตอร์ เปิดใช้งานจริง 3B ที่รันได้บน DGX Spark เครื่องเดียวหรือ H100 ตัวเดียว ทั้งสองใช้สัญญาอนุญาตเดียวกัน — OpenMDW-1.1 ใช้เชิงพาณิชย์ได้ น้ำหนักเปิดและสูตรเปิด — และมีปรัชญาการออกแบบร่วมกันคือลดการใช้พลังประมวลผลต่อโทเคนด้วย Mamba-2 และ sparse experts แต่ทั้งสองไม่ได้ใช้รูปแบบอินพุตเดียวกัน ไม่ได้มีพื้นฮาร์ดแวร์ขั้นต่ำเดียวกัน และไม่ได้ทำงานอย่างเดียวกัน Lightning เป็นรุ่นที่เก่ากว่าโดยประมาณสองเดือน เปิดตัวเมื่อวันที่ 11 สิงหาคม 2026 ส่วนน้ำหนักของ Super VL ลงเมื่อวันที่ 12 ตุลาคม 2026 โดยมีประกาศจาก NVIDIA ตามมาในวันที่ 15 ตุลาคม ดังนั้นหนึ่งในสองรุ่นนี้เป็นรีลีสที่นิ่งแล้ว ส่วนอีกรุ่นเพิ่งมีอายุได้หนึ่งวัน

ประตู พูดง่ายๆ

โมเดลทั้งสองมีให้ใช้งานเป็นเช็กพอยต์ที่ดาวน์โหลดได้ พร้อมสูตรการประเมินที่เผยแพร่แล้ว ทั้งคู่ได้รับการประเมินโดยผู้ขายเอง ตัวเลขทุกตัวในตารางด้านล่างมาจากชุดเครื่องมือ NeMo Gym หรือ NeMo Evaluator ของ NVIDIA เอง ไม่ใช่จากบุคคลที่สาม และไม่มีตัวใดที่มีการตรวจสอบอัตราการประมวลผลหรือความแม่นยำโดยอิสระรองรับอยู่เบื้องหลัง ข้อแม้นี้ใช้กับการเปรียบเทียบทั้งหมด และจะไม่กล่าวซ้ำในทุกบรรทัด

จุดที่ Lightning ได้เปรียบกว่า: NVIDIA กล่าวว่าเช็กพอยต์ Lightning 30B-A3B NVFP4 ถูกดึงไปประมาณ 907,000 ครั้งบน Hugging Face เทียบกับราว 142 ครั้งสำหรับเช็กพอยต์ BF16 Super VL ที่อายุเพียงหนึ่งวัน นั่นไม่ใช่สัญญาณของคุณภาพ — มันคือความแตกต่างระหว่างโมเดลที่คุณรันได้บนตัวเร่งความเร็วระดับแล็ปท็อป กับโมเดลที่คุณรันไม่ได้

สิ่งที่จุดตรวจทั้งสองแห่งประกอบด้วย

Nemotron 3.5 Lightning 30B-A3B เป็นโมเดลไฮบริดแบบ mixture-of-experts ที่สร้างจากเลเยอร์ Mamba-2 และ MoE ที่สลับแทรกกัน พร้อมเลเยอร์ attention จำนวนหนึ่ง มีพารามิเตอร์รวม 30B และเปิดใช้งาน 3B ต่อโทเคน รองรับคอนเท็กซ์ 1M โทเคน และมีข้อความเป็นอินพุตเดียวเท่านั้น NVIDIA ฝึกโมเดลนี้ด้วยโทเคนมากกว่า 20 ล้านล้านโทเคนด้วยสูตรการฝึกก่อน (pre-training) แบบ NVFP4 จากนั้นเพิ่มหัว Multi-Token Prediction แล้ว fine-tune ด้วยข้อมูลแบบสังเคราะห์สำหรับโค้ด คณิตศาสตร์ วิทยาศาสตร์ การเรียกใช้เครื่องมือ และการปฏิบัติตามคำสั่ง ก่อนเข้าสู่ขั้นตอนการเรียนรู้แบบเสริมกำลังด้วย GRPO มันมาพร้อมกลยุทธ์ speculative decoding แยกกันสามแบบ — DSpark สำหรับงานศูนย์ข้อมูลที่มี concurrency ต่ำและงาน DGX Spark รวมถึง MTP และ DFlash — ซึ่งถือเป็นงานวิศวกรรม inference ที่มากผิดปกติสำหรับโมเดลขนาด 30B และมันบอกให้รู้ว่าผู้ใช้เป้าหมายคือใคร: คนที่รันเอเจนต์ในเครื่องและคอยดูเวลาที่ใช้จริง

NVIDIA Nemotron 3.5 Super VL ใช้โครงร่างเดียวกันและเพิ่มดวงตาเข้ามา ยังคงเป็นไฮบริดแบบสลับกันของ Mamba-2, MoE และ attention แต่มี routed experts 512 รายต่อเลเยอร์ MoE ตัวเข้ารหัสภาพ C-RADIO และตัวเชื่อมต่อภาพ-ภาษา มีพารามิเตอร์รวม 120B และพารามิเตอร์ที่เรียกใช้งาน 12B พร้อมอินพุตข้อความ ภาพ และวิดีโอ แกนหลักด้านภาษาของมันถูกเริ่มต้นจาก Nemotron 3 Super Base จากนั้นถูกกลั่นด้วยหนึ่งล้านล้านโทเค็นจาก Nemotron 3 Ultra Base ก่อนการพรีเทรนต่อเนื่อง การขยายบริบทไปเป็น 1M ด้วย 35 พันล้านโทเค็น การฝึกระดับกลางด้านวิศวกรรมซอฟต์แวร์ และขั้นตอนการฟื้นคืนความสามารถบริบทยาว ทั้งสองรุ่นที่เปิดตัวยังมีรายงานทางเทคนิคร่วมกัน — NVIDIA เผยแพร่งานของ Super และ Lightning ไว้ด้วยกัน

• พารามิเตอร์ที่ใช้งานอยู่ — 12B ต่อโทเคนสำหรับ Super VL เทียบกับ 3B สำหรับ Lightning คิดเป็นการประมวลผลเป็นสี่เท่าในทุกโทเคนที่สร้างขึ้น ก่อนที่จะนับตัวเข้ารหัสภาพ

• โมดัลลิตี — ข้อความ รูปภาพ และเฟรมวิดีโอที่สุ่มตัวอย่างเข้าสู่ Super VL; ข้อความเข้า ข้อความออกสำหรับ Lightning ภาษาที่ Lightning รองรับ ได้แก่ อังกฤษ สเปน ฝรั่งเศส เยอรมัน อิตาลี และญี่ปุ่น

• เกณฑ์ขั้นต่ำด้านฮาร์ดแวร์ — 4×H100 หรือ 2×GB200 ที่ BF16 สำหรับ Super VL พร้อมบิลด์ NVFP4 และไมโครเซอร์วิส NIM สำหรับโปรดักชัน; DGX Spark หนึ่งเครื่อง, H100 หนึ่งเครื่อง, RTX 5090 หรือซิลิคอนระดับ Ampere ผ่าน W4A16 สำหรับ Lightning

• บริบท — 1M โทเค็นบนทั้งสอง โดยทั้งคู่มีสูตรที่เผยแพร่ แทนที่จะเป็นค่าสูงสุดที่โฆษณาเพียงค่าเดียว

• การถอดรหัสแบบคาดการณ์ล่วงหน้า — Super VL ใช้ MTP head ของตัวเองแบบเนทีฟ ไม่จำเป็นต้องดาวน์โหลด drafter; Lightning มีตัวแปร DSpark, MTP และ DFlash เป็นเช็กพอยต์แยกต่างหาก

• สัญญาอนุญาต — OpenMDW-1.1 สำหรับทั้งสอง อนุญาตให้ใช้เชิงพาณิชย์ พร้อมชุดข้อมูลเปิดและสภาพแวดล้อม RL บน Hub

สิ่งที่ตัวเลขบอกและไม่บอก

บนชุดทดสอบของ NVIDIA เอง ทั้งสองไม่ได้ใกล้เคียงกัน และนั่นก็เป็นไปตามคาด: โมเดลขนาด 12B active ควรชนะโมเดลขนาด 3B active โดยอ้างอิงช่องว่างจากตารางที่ NVIDIA เผยแพร่: GPQA-Diamond 89.52 สำหรับ Super VL เทียบกับ 75.44 สำหรับ Lightning; HLE text-only 31.79 เทียบกับ 11.72; SWE-bench Verified 71.10 เทียบกับ 51.56; Terminal-Bench 2.1 66.70 เทียบกับ 24.58; AA-LCR 68.62 เทียบกับ 52.00

รูปแบบที่อยู่ภายในแถวเหล่านั้นมีประโยชน์มากกว่าตัวแถวเอง ความได้เปรียบของ Super VL นั้นมหาศาลในเกณฑ์มาตรฐานด้าน long-context และ agentic-execution แต่ค่อนข้างพอประมาณในด้านความรู้ทั่วไป — MMLU-Pro อยู่ที่ 76.91 เทียบกับ 81.94 ของ Lightning ซึ่งเป็นกรณีที่หาได้ยากที่โมเดลที่เล็กกว่าจะชนะในแถวหนึ่ง นั่นคือลักษณะของโมเดลที่ถูกฝึกกลางทางด้วยข้อมูลวิศวกรรมซอฟต์แวร์อย่างตั้งใจ และได้รับขั้นตอนการฟื้นฟู long-context: มันเก่งในการพาภารกิจให้ลุล่วงมากกว่าการจดจำข้อเท็จจริง หากเวิร์กโหลดของคุณคือการตอบคำถามเชิงข้อเท็จจริงจากข้อความสั้น ข้อเสียเปรียบของโมเดล 30B ก็แทบจะหายไป และหายไปโดยใช้พลังประมวลผลต่อโทเคนเพียงหนึ่งในสี่

NVIDIA ระบุข้อควรระวังบนการ์ด Lightning ที่ควรค่าแก่การกล่าวซ้ำโดยคงสาระสำคัญไว้: ตัวเลขเหล่านี้ถูกวัดด้วยเช็คพอยต์ NVFP4 อย่างเป็นทางการ และใช้ได้กับเช็คพอยต์นั้น และ NVIDIA ระบุว่าการประเมินของบริษัทเองอาจแตกต่างจากตัวเลขที่ผู้จำหน่ายโมเดลคู่แข่งรายงาน นั่นเป็นข้อความที่ซื่อสัตย์อย่างผิดปกติ และใช้ได้เช่นเดียวกันกับตารางของ Super VL

การเลือกระดับ และสิ่งที่เกิดขึ้นในระดับที่สูงขึ้นไป

กฎการตัดสินใจเกิดขึ้นจากโมดัลลิตี้และระดับพื้นฐาน มากกว่าดัชนี อะไรก็ตามที่ต้องอ่านหน้าเอกสาร — ใบแจ้งหนี้ แผนภูมิ ฟอร์มที่สแกน ภาพหน้าจอของแอปพลิเคชัน เฟรมวิดีโอ — ไปที่ Super VL ได้เท่านั้น เพราะ Lightning ไม่มีเส้นทางสำหรับพิกเซลเลย อะไรก็ตามที่เป็นข้อความเข้าและข้อความออก ทำงานอย่างต่อเนื่อง และอยู่บนฮาร์ดแวร์ที่คุณมีอยู่แล้ว ควรอยู่บน Lightning เพราะโมเดลที่ active 3B ที่ NVFP4 บนตัวเร่งความเร็วตัวเดียวมีฐานต้นทุนที่แตกต่างอย่างสิ้นเชิงจากพารามิเตอร์ที่ active หนึ่งหมื่นสองพันล้านตัวกระจายอยู่บน GPU สี่ตัว

เหนือทั้งสองรุ่นขึ้นไปคือ NVIDIA Nemotron 3 Ultra 550B-A55B ซึ่งการ์ด Super VL ใช้เป็นคู่เปรียบเทียบโดยตรง และต้องใช้ GB200s จำนวนแปดตัว หรือ H100s จำนวนสิบหกตัว สามระดับ สามคลาสฮาร์ดแวร์ ไลเซนส์เดียว ตระกูลนี้ถูกออกแบบมาเพื่อให้องค์กรเดียวสามารถติดตั้งใช้งานทั้งสามระดับและย้ายงานระหว่างกันได้ และปัญหาทางวิศวกรรมที่น่าสนใจไม่ใช่การเลือกสักระดับหนึ่ง — แต่เป็นเราเตอร์ที่ตัดสินใจว่าคำขอใดจะไปที่ใด

ชั้นการกำหนดเส้นทางคือจุดที่แพลตฟอร์ม — ไม่ใช่แค่เช็กพอยต์ — พิสูจน์คุณค่าของตัวเอง และคุ้มค่าที่จะพูดให้ชัดเจนว่าเราทำอะไรและไม่ทำอะไรตรงนี้ OrcaRouter ไม่ให้บริการ NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B หรือ Nemotron 3 Ultra 550B-A55B ทั้งสามรุ่นไม่ได้อยู่ในแคตตาล็อกของเรา และเช็กพอยต์ที่โฮสต์เองก็ตามนิยามแล้วไม่ใช่สิ่งที่ผู้ให้บริการ API จะส่งมอบให้คุณได้ สิ่งที่เรามีให้คือส่วนที่ล้อมรอบฟลีตผสมระหว่างโมเดลในเครื่องและโมเดลที่โฮสต์ไว้: DSL สำหรับการกำหนดเส้นทางที่ประกอบหลายโมเดลเข้าเป็นการเรียกครั้งเดียว ดังนั้นไปป์ไลน์จึงสามารถส่งหน้าเพจงานง่าย ๆ ไปยังโมเดลเล็กที่ราคาถูก และเลื่อนระดับเฉพาะหน้าเพจที่ยากเท่านั้น และ การสลับไปใช้ผู้ให้บริการต้นทางรายอื่นโดยอัตโนมัติเมื่อเกิดความขัดข้อง เพื่อให้การที่ dependency ที่โฮสต์ไว้เสื่อมประสิทธิภาพลงไม่ลากไปป์ไลน์ให้ล่มไปด้วย ฝั่งแคตตาล็อกของสมการนั้น — ปัจจุบันมีมากกว่าสองร้อยโมเดลอยู่หลังคีย์เดียว โดยคิดกำไร 0% จากราคาที่ผู้ให้บริการตั้งไว้ — คือสิ่งที่สาขาการเลื่อนระดับเรียกใช้งาน การมี Lightning ที่โฮสต์เองคอยรองรับปริมาณงาน และมีโมเดลที่โฮสต์ไว้ซึ่งถูกกำหนดเส้นทางคอยจัดการข้อยกเว้น เป็นระบบที่เล็กกว่าและปลอดภัยกว่าการมีเพียงครึ่งใดครึ่งหนึ่ง

ดูอะไรดี

ความสมบูรณ์เชิงเปรียบเทียบของ Lightning เป็นตัวแปรที่ถูกประเมินต่ำเกินไป มันเปิดให้สาธารณะตั้งแต่เดือนสิงหาคม มีเวอร์ชันควอนไทซ์จากบุคคลที่สาม มีการรองรับจาก llama.cpp, Ollama, LM Studio และ vLLM และมีฐานผู้ดาวน์โหลดที่ใหญ่พอจนโหมดความล้มเหลวเป็นที่รู้จัก Super VL มีการ์ดโมเดล รายงานทางเทคนิค สูตร vLLM แบบ day-zero และจำนวนดาวน์โหลดที่อายุเพียงหนึ่งวัน การรันมันในโปรดักชันเดือนนี้หมายถึงการเป็นคนที่ค้นพบจุดบกพร่อง

สิ่งที่ต้องจับตาดูเป็นพิเศษคือว่า บิลด์ NVFP4 Super VL จะปิดช่องว่างด้านฮาร์ดแวร์ได้มากพอที่จะมีความสำคัญหรือไม่ หากโมเดล 120B-A12B ที่ผ่านการควอนไทซ์รันได้อย่างมีประโยชน์บนตัวเร่งความเร็วจำนวนไม่มาก — ไม่ใช่หนึ่งตัว แต่ต่ำกว่าสี่ตัว — เส้นแบ่งระดับก็จะเลื่อน และทั้งตระกูลโมเดลสามรุ่นก็จะมีต้นทุนการติดตั้งใช้งานต่ำลงในฐานะหน่วยเดียว จนกว่าสิ่งนั้นจะเกิดขึ้น การแบ่งแยกจะเป็นไปตามรูปแบบ: Lightning สำหรับข้อความปริมาณมากบนฮาร์ดแวร์ของคุณเอง, Super VL สำหรับทุกสิ่งที่มีพิกเซลอยู่, Ultra เมื่องานนั้นจำเป็นต้องใช้โมเดลที่ใหญ่ที่สุดที่ NVIDIA จำหน่ายอย่างแท้จริง