Granite Switch 4.1 30B กับ Nemotron 3.5 Lightning 30B A3B: "Switch" ในแต่ละชื่อหมายถึงอะไร

ทั้งสองโมเดลนี้มีขนาดราว 30B ทั้งคู่มีคำในชื่อที่ฟังดูเหมือนการจัดเส้นทาง (routing) และทั้งคู่ก็ทำสิ่งที่แตกต่างกันโดยสิ้นเชิงกับคำนั้น Granite Switch 4.1 30B — น้ำหนักอยู่บน Hub ตั้งแต่ 14 ตุลาคม 2026 — สลับอะแดปเตอร์: โมเดลฐานแบบ dense หนึ่งตัว อะแดปเตอร์ LoRA ที่เปิดใช้งานสองตัว โดยทุกโทเคนวิ่งผ่านเครือข่ายเต็มรูปแบบ Nemotron 3.5 Lightning 30B A3B ซึ่ง NVIDIA เผยแพร่เมื่อ 11 สิงหาคม 2026 สลับexperts: สแต็กแบบไฮบริด Mamba-2 และ MoE ที่มีเพียงประมาณ 3 พันล้านจาก 30 พันล้านพารามิเตอร์ที่ทำงานต่อโทเคน ยังไม่มีใครทดสอบเปรียบเทียบสองตัวนี้กัน และบทความนี้จะไม่แสร้งทำเป็นอย่างอื่น การเปรียบเทียบที่มีประโยชน์อย่างแท้จริงคือแต่ละดีไซน์มีต้นทุนต่อโทเคนเท่าไร และให้อะไรกลับคืนมา

การแยกแยะความแตกต่างให้ถูกต้องไม่ใช่การยึดติดถ้อยคำ เพราะชื่อเหล่านี้ชักนำไปสู่การอนุมานที่ผิดพอดี "Switch" ใน Granite Switch หมายถึงเลเยอร์สวิตช์น้ำหนักเบาที่อ่านโทเคนควบคุมในอินพุต แล้วบอกเลเยอร์ดีโคดเดอร์แต่ละชั้นว่าควรใช้เวต LoRA ชุดใดกับช่วงโทเคนนั้น มันไม่ใช่การจัดเส้นทางแบบ mixture-of-experts และไม่ได้ลดปริมาณการประมวลผลต่อโทเคนลงแม้แต่ FLOP เดียว ส่วน "A3B" ในชื่อของ NVIDIA กลับตรงกันข้าม คือเป็นการระบุอย่างชัดเจนว่าโมเดลส่วนเล็กเพียงใดที่ทำงานในเวลาอินเฟอเรนซ์

กระดานคะแนน ทีละมิติ

• พารามิเตอร์ — Granite Switch 4.1 30B ประกอบเป็น 29,989,814,272 จากฐาน 28,865,728,512 (+3.89%); Nemotron 3.5 Lightning 30B A3B มีขนาดรวม 30B โดยมีพารามิเตอร์ที่ทำงานจริงประมาณ 3B ต่อโทเคน

• สถาปัตยกรรม — transformer แบบ decoder-only ชนิด dense พร้อมอะแดปเตอร์ LoRA ที่เปิดใช้งาน 2 ตัว เทียบกับไฮบริดที่สลับระหว่าง Mamba-2, MoE และ attention

• การคำนวณต่อโทเคน — การทำ forward pass แบบ dense 30B เต็มรูปแบบ เทียบกับพารามิเตอร์ที่ใช้งานจริงเพียงประมาณหนึ่งในสิบของจำนวนนั้น ซึ่งเป็นจุดประสงค์ทั้งหมดของคำต่อท้าย A3B

• คอนเท็กซ์ — 131,072 โทเค็นบนเช็กพอยต์ Switch; สูงสุด 1M บน Nemotron Lightning โดย NVIDIA ระบุว่า 256K คือตัวเลขที่ใช้งานได้จริงบน H100 ตัวเดียว

• โหมดการให้เหตุผล — ไม่มีในเทมเพลตแชทของ Switch; แบบที่กำหนดค่าได้enable_thinking เป็นสวิตช์ของ Nemotron

• อินพุตเสียง — ตัวเข้ารหัสเสียงพูดขนาด 470M ที่ฝังตัวอยู่ในโมเดล Switch ส่วนฝั่ง NVIDIA ไม่มี

• สัญญาอนุญาต — Apache-2.0 กับ OpenMDW-1.1 ไม่ใช่เอกสารเดียวกัน และข้อกำหนดปลายน้ำแตกต่างกัน โปรดอ่านฉบับที่คุณกำลังเผยแพร่ภายใต้จริง

• ฮาร์ดแวร์ — การ์ด Switch ระบุ Transformers และ vLLM ภายในช่วงเวอร์ชันที่แคบ; NVIDIA ระบุในเอกสารว่า Nemotron Lightning ทำงานบน H100 หรือ A100 80GB เพียงตัวเดียว โดยมีบิลด์ NVFP4 ที่มีไว้สำหรับการดีพลอย

Granite Switch checkpoint ให้อะไรกับคุณจริง ๆ

องค์ประกอบคือผลิตภัณฑ์ Granite Switch 4.1 30B ตรึง Granite 4.1 30B และแนบอะแดปเตอร์สองตัว — ตัวหนึ่งเป็นแรงก์ 16 guardian-core ตัวจำแนกความปลอดภัยบนการฉายความสนใจ และแรงก์ 64 decision อะแดปเตอร์ทั่วทั้งเจ็ดการฉาย — บวกกับตัวเข้ารหัสเสียง การเลือกอะแดปเตอร์เกิดขึ้นผ่านเทมเพลตแชทเมื่อคุณส่ง adapter_name, ดังนั้นมันจึงเป็นพารามิเตอร์คำขอ ไม่ใช่บริการที่สอง

สิ่งที่ได้มาคือความหนาแน่นของความสามารถ: คำตัดสินด้านความปลอดภัย การแจกแจงตัวเลือกที่ปรับเทียบแล้ว และทรานสคริปต์จากกระบวนการเดียว สำหรับพารามิเตอร์เพิ่มอีก 1.12 พันล้านตัวบนฐานที่คุณจะโหลดอยู่แล้วไม่ว่าอย่างไร หกเดือนก่อน โครงการเดียวกันนี้ส่งเช็กพอยต์พรีวิวพร้อมอะแดปเตอร์ 12 ตัว โดยมีส่วนเพิ่ม 11.68% ส่วนเวอร์ชันสมบูรณ์ลดเหลือ 2 ตัวที่ 3.89% ซึ่งก็คือ IBM ที่แลกความครอบคลุมกับความอ่านง่าย อะแดปเตอร์อีก 10 ตัวยังมีอยู่ และ composer จะสร้างเช็กพอยต์ให้คุณด้วยชุดย่อยใดก็ได้

ค่าใช้จ่ายอยู่ตรงจุดที่คุณคาดไว้พอดี ไม่มีอะไรเกี่ยวกับกลไกอะแดปเตอร์ที่ทำให้โมเดลฐานเร็วขึ้น เพราะโมเดลฐานเป็นแบบ dense และไม่ถูกแตะต้อง — ทุกโทเค็นยังคงรันผ่านเครือข่ายทั้งหมด เส้นทางการพูดเป็นภาษาอังกฤษเท่านั้น ตัวพิมพ์เล็ก ไม่มีเครื่องหมายวรรคตอน และตามคำกล่าวของ IBM เอง ไม่ได้ฝึกพร้อมกันกับโมเดลภาษา ดังนั้นการถอดความผิดพลาดจะเปลี่ยนคำถามที่โมเดลตอบอย่างเงียบ ๆ และเช็คพอยต์จัดส่งในความแม่นยำเดียวโดยไม่มีบิลด์ควอนไทซ์อย่างเป็นทางการ เทียบกับโมเดล NVIDIA ที่ตัวแปร NVFP4 ที่แนะนำสำหรับการดีพลอยอยู่บน Hub ตั้งแต่ต้นเดือนสิงหาคม

ตัวเลขของ Nemotron กำลังวัดอะไรกันแน่

ตาราง Benchmark ของ NVIDIA สำหรับ Nemotron 3.5 Lightning 30B A3B นั้นครบถ้วนกว่าตารางของ IBM สำหรับโมเดล Switch และเชิงอรรถที่แนบมากับตารางนั้นก็ควรค่าแก่การอ่าน ตัวเลขต่าง ๆ — MMLU-Pro 81.94, GPQA Diamond 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58, PinchBench 85.37, AA-LCR 52.00 บน long context — ถูก NVIDIA ระบุว่าวัดภายใต้ฮาร์เนสที่สอดคล้องกันของบริษัทเอง โดยมีข้อแม้ว่าอาจแตกต่างจากตัวเลขที่ผู้จำหน่ายรายอื่นรายงานเอง นั่นเป็นการวางกรอบที่ซื่อสัตย์กว่าที่การ์ดส่วนใหญ่ทำได้ และก็ยังทำให้ตัวเลขเหล่านั้นเป็นตัวเลขที่ผู้จำหน่ายรายงานเองอยู่ดี NVIDIA เผยแพร่สูตรใน NeMo Gym เพื่อให้ผู้อื่นสามารถรันซ้ำได้ ซึ่งไม่เหมือนกับการที่ผู้อื่นได้รันซ้ำแล้ว

ข้อกล่าวอ้างที่น่าสนใจกว่าคือเรื่องความเร็วมากกว่าความแม่นยำ โมเดล 30B ที่มีพารามิเตอร์ที่ทำงานจริง 3B เป็นการเดิมพันว่างานแบบเอเจนต์ส่วนใหญ่ไม่จำเป็นต้องให้เครือข่ายทั้งหมดทำงานในทุกโทเคน และ NVIDIA ได้ส่ง speculative decoding มาพร้อมกัน — หัวทำนายแบบหลายโทเคนพร้อมกับตัวร่าง DFlash และ DSpark — เพื่อผลักดันปริมาณงานให้สูงขึ้นไปอีก นอกจากนี้ยังวางตำแหน่ง Lightning เป็นเลเยอร์การประมวลผลใต้ตัววางแผนที่ใหญ่กว่า แทนที่จะเป็นโมเดลที่คุณใช้ถามคำถามยากๆ การวางตำแหน่งนั้นเป็นของ NVIDIA และมันเป็นมุมมองที่ถูกต้องสำหรับตาราง benchmark เช่นกัน: ประสิทธิภาพระดับโทเคนคือสิ่งที่ปรากฏในบิล

กับดักในการนำสกอร์บอร์ดสองอันนี้มาไว้ด้วยกัน

มีตัวเลขหนึ่งตัวที่เผยแพร่สำหรับความสามารถระดับเรือธงของโมเดล Switch — Decision Index ฉบับ v0.3 ชุดย่อยสาธารณะแบบเร็วจำนวน 1,068 แถว โดยรวม 50.1 โดยมีความรู้ 32.4 ภาษา 58.6 การดึงข้อมูล 49.8 เครื่องมือ 76.5 และศิลปะ 26.4 — และมีตาราง benchmark ฉบับเต็มสำหรับ Nemotron Lightning การวาง 50.1 ไว้ข้าง 81.94 หรือ 51.56 จะเป็นความผิดพลาดเชิงประเภทแบบแท้ที่สุด

Decision Index ให้คะแนนว่าอะแดปเตอร์การตัดสินใจจัดอันดับชุดตัวเลือกที่มีป้ายกำกับชุดคงที่ได้ดีเพียงใด ไม่ใช่การวัดคุณภาพการสนทนาหรือการให้เหตุผลของโมเดลฐาน และโมเดลฐานไม่ได้รับการปรับเปลี่ยนโดยอะแดปเตอร์ ตารางของ Nemotron ให้คะแนนโมเดลทั้งก้อนในด้านความรู้ การให้เหตุผล การเขียนโค้ด และบริบทยาว แกนคนละแบบ ชุดทดสอบคนละชุด ผู้จัดทำคนละราย และไม่มีเกณฑ์มาตรฐานร่วมกันระหว่างสองสิ่งนี้ ทั้งคู่เป็นข้อมูลที่ผู้ขายรายงานเอง ไม่มีสิ่งใดเทียบเคียงกับอีกสิ่งได้ และสิ่งเดียวที่ซื่อสัตย์เมื่อมีข้อมูลคู่นี้คือปฏิเสธที่จะนำมาลบกัน

สิ่งที่คุณทำได้อย่างชอบธรรมก็คือการอ่านรูปร่างของแต่ละตัว ดัชนี Decision Index ที่ให้ 76.5 ในหมวด Tools เทียบกับ 26.4 ในหมวด Arts บอกว่า adapter นั้นคุ้มค่าที่จะชี้ไปที่การตัดสินใจเลือกเครื่องมือ และไม่ควรไว้ใจให้ใช้จำแนกประเภทในโดเมนเปิดโดยไม่มีการประเมินของคุณเอง ส่วน 51.56 ของ Nemotron บน SWE-bench Verified เทียบกับค่าสูงสุดในตารางเดียวกันที่ 70.12 บอกคุณว่ามันไม่ใช่ coding agent ที่แข็งแกร่งที่สุดในชุดเปรียบเทียบของตัวเอง — NVIDIA ใส่ตัวเลขที่สูงกว่าของคู่แข่งลงในตารางของตัวเอง ซึ่งอย่างน้อยก็เป็นสัญญาณที่ควรค่าแก่การให้ความสำคัญ

อันไหน เพื่ออะไร

ถ้าปัญหาของคุณคือลูปเอเจนต์ยาว ๆ ที่รันการตัดสินใจเรียกใช้เครื่องมือแบบสั้น ๆ หลายพันครั้ง เศรษฐศาสตร์ของพารามิเตอร์ก็ชี้ไปทางเดียว: MoE ที่มีพารามิเตอร์ทำงาน 3B บน GPU ใบเดียวจะทำงานนั้นด้วยต้นทุนต่อโทเคนเพียงเศษเสี้ยวของโมเดล dense 30B และโมเดล Switch ไม่มีกลไกใดที่จะปิดช่องว่างนั้นได้ เพราะ "switch" ของมันไม่เคยลดปริมาณการประมวลผลเลย พอเพิ่มบริบท 1M กับสวิตช์เปิดปิดการให้เหตุผลเข้าไป โมเดลของ NVIDIA ก็ถูกสร้างมาเพื่อเวิร์กโหลดแบบนั้นโดยตรง

ถ้าปัญหาของคุณคือกระบวนการเดียวที่ต้องตอบผู้ใช้ ปล่อยการตัดสินใจจัดเส้นทางที่ปรับคาลิเบรตแล้ว และถอดเสียงสิ่งที่ผู้ใช้พูด การคำนวณก็จะพลิกกลับ Nemotron 3.5 Lightning ไม่มีเฮดสำหรับตัดสินใจและไม่มีเส้นทางเสียงเลย และการพรอมป์ต์โมเดลแชตให้โปรดตอบกลับด้วยตัวอักษรตัวเดียวก็ไม่ใช่การแจกแจงที่ปรับคาลิเบรตแล้ว Granite Switch 4.1 30B มอบทั้งสามอย่างให้คุณจากเช็กพอยต์เดียว โดยมีเวตเพิ่มขึ้นไม่ถึง 4% เมื่อเทียบกับโมเดลฐาน และนั่นคือความสามารถที่คุณซื้อไม่ได้ด้วยการเลือกโมเดลที่ดีกว่า

กรณีที่สามที่ตรงไปตรงมาที่สุดคือกรณีที่พบได้บ่อยที่สุด: จริง ๆ แล้วคุณไม่ได้กำลังเลือกจากตัวเลือกเหล่านี้เลย ทั้งสองเป็นอาร์ติแฟกต์ที่ต้องโฮสต์เอง ทั้งคู่เป็น Apache-2.0 หรือ OpenMDW-1.1 ไม่ใช่เอนด์พอยต์แบบโฮสต์ให้ และทั้งคู่ยังไม่ผ่านการประเมินอย่างอิสระ Granite Switch 4.1 30B เพิ่งเปิดตัวได้สองวันโดยมีตัวเลขที่เผยแพร่เพียงตัวเดียว ส่วน Nemotron 3.5 Lightning เปิดตัวได้สองเดือนแล้ว พร้อมตารางจากผู้ขายและสูตรการใช้งานที่เผยแพร่ นั่นยังไม่เพียงพอที่จะใช้วางแผนการโยกย้ายระบบ

การได้คำตอบที่แท้จริงโดยไม่ต้องมีการโยกย้าย

วันนี้ยังไม่มีโมเดลใดอยู่ในแค็ตตาล็อกของ OrcaRouter ดังนั้นทั้งสองจึงหมายถึงฮาร์ดแวร์ของคุณเองและช่องทางเผยแพร่ของผู้ขายเอง — ของ IBM สำหรับเช็กพอยต์ Switch และของ NVIDIA สำหรับ Lightning การพูดเป็นอย่างอื่นก็เท่ากับการกุเอนด์พอยต์ขึ้นมาเอง

จุดที่แพลตฟอร์มนี้พิสูจน์คุณค่าของตัวเองก็คือ โมเดลที่นำมาทดสอบควรมีต้นทุนการทดสอบที่ถูก คีย์เดียวครอบคลุมกว่า 200 โมเดล พร้อมระบบสลับไปใช้ระบบสำรองอัตโนมัติ และ ส่งต่อราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% ดังนั้นเมื่อมีเส้นทางแบบโฮสต์ไปยังโมเดลใดก็ตาม การวางมันไว้ข้างโมเดลที่ใช้งานจริงอยู่แล้วจึงเป็นเพียงการเปลี่ยนการตั้งค่า ไม่ใช่รอบการจัดซื้อจัดจ้าง เมื่อต้องเลือกระหว่างโมเดลน้ำหนักเปิดขนาด 30B สองตัวที่ดูสมเหตุสมผลทั้งคู่บนกระดาษ และไม่มีใครนอกเหนือจากผู้ขายแต่ละรายได้วัดผลมันไว้ การตัดสินใจที่สำคัญจึงไม่ใช่ว่าคุณเชื่อการ์ดใบไหน แต่คือคุณหาคำตอบได้ถูกแค่ไหนต่างหาก

ประเด็นสำคัญ

Granite Switch 4.1 30B และ Nemotron 3.5 Lightning 30B A3B มีจำนวนพารามิเตอร์เท่ากันและแทบไม่มีอย่างอื่นเหมือนกันเลย ตัวหนึ่งเป็นฐานแบบ dense ที่มีอะแดปเตอร์สลับได้ ให้คุณทำงานสามงานต่อหนึ่งโปรเซสด้วยการคำนวณแบบ dense เต็มรูปแบบต่อโทเคน ส่วนอีกตัวเป็นไฮบริดแบบ sparse ที่ออกแบบมาให้แต่ละโทเคนมีต้นทุนต่ำที่สุดเท่าที่จะเป็นไปได้ และให้รันลูปยาวบน GPU ตัวเดียว จงเลือกจากรูปร่างของเวิร์กโหลด ไม่ใช่จากตาราง benchmark — และถ้าจะจำอะไรได้สักอย่างจากเรื่องนี้ ให้จำการแก้ความเข้าใจผิดในชื่อ: การสลับอะแดปเตอร์ได้มาซึ่งความสามารถ ส่วน expert sparsity ได้มาซึ่งทรูพุต และไม่มีโมเดลใดในนี้ได้มาทั้งสองอย่าง