Nanbeige4.3-33B กับ Nemotron 3.5 Lightning 30B A3B: ครูผู้สอนปะทะผู้ปฏิบัติการ

NVIDIA Nemotron 3.5 Lightning 30B A3B ทำงานที่ 294.9 โทเค็นเอาต์พุตต่อวินาที ส่วน Nanbeige4.3-33B ไม่มีข้อมูลความเร็วที่เผยแพร่เลย เพราะไม่มีใครให้บริการมัน ข้อเท็จจริงสองข้อนี้บอกคุณเกี่ยวกับการเปรียบเทียบครั้งนี้ได้มากกว่าผล benchmark แถวใด ๆ: โมเดลหนึ่งเป็นผลิตภัณฑ์ด้านทรูพุตที่ออกแบบทางวิศวกรรม พร้อมตารางราคาและแนวทางการติดตั้งใช้งานบน GPU เดียว ส่วนอีกโมเดลเป็นเช็กพอยต์แบบ dense ขนาด 33 พันล้านพารามิเตอร์ที่ลงบน Hugging Face เมื่อวันที่ 24 ตุลาคม 2026 พร้อมการ์ดโมเดลและไม่มีผู้ให้บริการ inference ทั้งสองเป็น "ระดับ 30B" แต่ไม่ใช่สิ่งประเภทเดียวกัน

การเปรียบเทียบนี้คุ้มค่าที่จะทำ เพราะทั้งสองต่างถูกนำเสนอขายให้กับผู้ซื้อรายเดียวกัน — คนที่กำลังสร้างเอเจนต์ที่ทำงานต่อเนื่องยาวนานและต้องรันขั้นตอนเล็ก ๆ จำนวนมากโดยไม่ต้องแบกรับบิลค่าใช้จ่ายของโมเดลระดับแนวหน้า คำตอบของ NVIDIA คือการลดปริมาณการประมวลผลต่อโทเคน ส่วนคำตอบของ Nanbeige คือการทำให้โมเดลที่ใหญ่ขึ้นและหนาแน่นขึ้นมีความสามารถในงานเอเจนต์ดีพอจนคุณต้องการเพียงโมเดลเดียว สิ่งเหล่านี้เป็นการเดิมพันที่ตรงข้ามกัน และหลักฐานของแต่ละฝ่ายก็แตกต่างกันโดยลักษณะอย่างมาก

3.6 พันล้านพารามิเตอร์ที่ใช้งานอยู่คือข้อโต้แย้งทั้งหมด

Nemotron 3.5 Lightning 30B A3B เป็นโมเดลแบบไฮบริด mixture-of-experts: มีพารามิเตอร์รวม 31.6 พันล้านตัว และเปิดใช้งาน 3.6 พันล้านตัวต่อโทเคน กระจายอยู่ทั่ว 52 เลเยอร์ — Mamba-2 23 เลเยอร์, MoE 23 เลเยอร์ และ attention 6 เลเยอร์ โดยกำหนดเส้นทางไปยังผู้เชี่ยวชาญ 128 ตัว และเปิดใช้งาน 6 ตัวในนั้นพร้อมกับ shared expert หนึ่งตัว สถาปัตยกรรมนี้เองคือเหตุผลที่ทำให้มันรักษาความเร็วได้ประมาณ 295 โทเคนต่อวินาทีบน managed endpoint ขณะที่โมเดล dense ระดับ 30B มักให้ความเร็วอยู่ในช่วง 40–80

Nanbeige4.3-33B เป็นโมเดลแบบ dense พารามิเตอร์ทั้ง 33.1 พันล้านตัวถูกใช้งานในทุกโทเคน ไม่มีการ routing ไม่มี expert sparsity ไม่มีเลเยอร์ Mamba นี่คือการเลือกโดยเจตนาซึ่งมีผลลัพธ์ชัดเจน: แต่ละโทเคนใช้กำลังประมวลผลแบบ active มากกว่าของ Lightning ประมาณเก้าเท่า และโมเดลต้องมีน้ำหนักประมาณ 66GB ใน BF16 — หรือราว 20GB ที่ 4-bit — ถูกโหลดค้างไว้ในหน่วยความจำก่อนจะสร้างผลลัพธ์ใด ๆ

ไม่มีการออกแบบใดดีกว่าในเชิงนามธรรม โมเดลแบบ dense มักปรับแต่ง (fine-tune) ได้ง่ายกว่าและคุณภาพคาดเดาได้มากกว่า ส่วนโมเดลแบบ sparse มักมีต้นทุนต่ำกว่าและให้บริการได้เร็วกว่าที่ขนาด nominal เท่ากัน คำถามคือ workload ของคุณขาดคุณสมบัติด้านใด

สิ่งที่แต่ละโมเดลถูกสร้างขึ้นมาเพื่อทำ

NVIDIA วางตำแหน่ง Lightning ให้เป็นเลเยอร์การทำงานของเอเจนต์ที่ทำงานตลอดเวลา — โมเดลที่รับแผนจากระบบที่ใหญ่กว่า แล้วไล่ดำเนินการเรียกใช้เครื่องมือ แก้ไขไฟล์ และทำขั้นตอนในเบราว์เซอร์ด้วยต้นทุนต่ำ มันถูกกลั่นมาจาก Nemotron 3 Ultra มาพร้อมการถอดรหัสแบบ speculative ที่ทำนายหลายโทเคนซึ่งฝังอยู่ในการ pretraining พร้อมด้วย draft model แยกต่างหาก และถูกปรับแต่งสำหรับฮาร์เนสมากกว่าการแชต ชุด benchmark ที่เผยแพร่สะท้อนสิ่งนี้: PinchBench 85.4–86, BrowseComp 36.8–36.97, SWE-bench Verified 51.56–52.8, Terminal-Bench 2.1 ประมาณ 23.5–24.6

Nanbeige4.3-33B ถูกวางตำแหน่งเป็นโมเดลครู การ์ดระบุไว้ตรง ๆ ว่าเป็นเรือธงของซีรีส์ 4.3 โดยมีจุดประสงค์เพื่อกลั่นเป็นโมเดลขนาดเล็กกว่า เช่น Nanbeige4.3-3B ที่ยังไม่เปิดตัว ชุดเบนช์มาร์กจึงกว้างตามไปด้วย — 20 แถว ครอบคลุม agentic coding, agentic cowork และ reasoning — และการตั้งค่าที่แนะนำก็เป็นแบบของโมเดลที่คุณรันเอง: tensor-parallel size 4, การเรียกเครื่องมือแบบ XML, preserve_thinking=true สำหรับการใช้เครื่องมือหลายรอบ

อันหนึ่งเป็นองค์ประกอบในระบบของคนอื่น อีกอันเป็นโมเดลต้นทางสำหรับตระกูลหนึ่ง กรอบความคิดนี้อธิบายความแตกต่างเกือบทั้งหมดด้านล่าง

เกณฑ์มาตรฐานเดียวที่พวกเขาใช้ร่วมกันนั้นไม่สามารถหักออกได้

การ์ดทั้งสองรายงานผล Terminal-Bench 2.1 โดย Nanbeige อ้างว่าได้ 80.9 ขณะที่ช่วงที่ NVIDIA เผยแพร่สำหรับ Lightning อยู่ที่ประมาณ 23.5–24.6 เมื่อมองเผินๆ นั่นคือช่องว่าง 56 คะแนน และเป็นตัวเลขที่จะถูกยกมาอ้างถึง

มันไม่ควรเป็นเช่นนั้น Terminal-Bench วัดโมเดลภายในโครงสร้างเอเจนต์ (agent scaffold) และผู้ขายทั้งสองรายไม่ได้อธิบายว่าใช้โครงสร้างเดียวกัน การ์ดของ Nanbeige ระบุว่าการรัน Terminal-Bench 2.1 ใช้ Terminus 2 และโมเดลของบริษัทถูกประเมินที่ระดับความพยายามในการคิดสูงสุด โดยใช้ฮาร์เนสร่วมและพารามิเตอร์การอนุมานร่วมกัน ส่วนตัวเลขของ NVIDIA มาจากฮาร์เนสภายในของบริษัทเอง ซึ่งทางบริษัทระบุเองว่าอาจแตกต่างจากผลลัพธ์ของบุคคลที่สาม โมเดล dense ขนาด 33B ที่ได้ลูปที่เอื้ออำนวย กับโมเดลที่มีพารามิเตอร์ทำงานอยู่ 3.6B ที่ได้ลูปมาตรฐาน อาจแตกต่างกันได้หลายสิบพอยต์ โดยที่ไม่มีโมเดลใดถูกนำเสนอผิดไปจากความเป็นจริง

การอ่านอย่างตรงไปตรงมาเป็นในเชิงทิศทาง ไม่ใช่เชิงตัวเลข: Nanbeige กำลังอ้างว่ามีประสิทธิภาพในเทอร์มินัลแบบเอเจนต์ที่แรงกว่าอย่างมีนัยสำคัญ และคำกล่าวอ้างนั้นยังไม่ได้รับการตรวจสอบยืนยันจากทั้งสองฝ่าย ข้อควรระวังเดียวกันนี้ใช้กับ GPQA Diamond (Nanbeige 89.5, Lightning 74.3–75.6) และกับ AA-LCR (Nanbeige 84.0, Lightning 52.0–60.3) ช่องว่างเหล่านี้ใหญ่พอที่ความแตกต่างบางส่วนน่าจะเป็นความสามารถจริงมากกว่าจะมาจาก harness แต่คำว่า "น่าจะ" ทำหน้าที่หนักมากในประโยคนั้น และยังไม่มีบุคคลที่สามรายใดรันการเปรียบเทียบนี้

สิ่งที่ไม่กำกวมคือความครอบคลุมที่เป็นอิสระ Artificial Analysis ให้คะแนน Nemotron 3.5 Lightning ที่ 13 ใน Intelligence Index ของตน โดยไม่มีรายการสำหรับ Nanbeige4.3-33B โมเดลหนึ่งมีความเห็นที่สอง ส่วนอีกโมเดลหนึ่งมีการ์ดโมเดล ความไม่สมมาตรนี้เป็นข้อมูล และมันหักล้างผู้ขายที่มีตารางซึ่งดูโอ่อ่ากว่า

1M context ในสเปก แต่ 256K ในทางปฏิบัติ

Artificial Analysis ระบุว่าหน้าต่างบริบทของ Lightning อยู่ที่ 1 ล้านโทเคน เอกสารของ NVIDIA เองกลับอนุรักษ์นิยมกว่า: 262,144 โทเคนคือเพดานในทางปฏิบัติบน H100 เพียงตัวเดียว ตัวเลขทั้งสองอาจเป็นจริงได้ — สถาปัตยกรรมรองรับหน้าต่างที่ยาวกว่า แต่ฮาร์ดแวร์ที่คุณมีแนวโน้มจะใช้รันมันไม่สามารถรองรับได้อย่างสบาย

524,288 โทเคนของ Nanbeige4.3-33B เป็นหน้าต่างที่ผ่านการฝึกบนโมเดลแบบ dense และต้นทุนหน่วยความจำของ KV cache จะแปรผันตามขนาดดังกล่าว สูตรสำหรับ vLLM และ SGLang บนการ์ดนี้ใช้ GPU memory utilization 0.8 และ tensor-parallel size 4 ซึ่งบ่งชี้ว่าการติดตั้งใช้งานที่ตั้งใจไว้ไม่ใช่การ์ดใบเดียว

สำหรับงานเอเจนต์ ความแตกต่างในทางปฏิบัติไม่ได้อยู่ที่ค่าสูงสุดเท่าไร แต่อยู่ที่สิ่งใดยังคงอยู่รอดในการรันระยะยาว เลเยอร์ Mamba แบบไฮบริดของ Lightning ถูกออกแบบมาเพื่อรักษาสถานะให้มีต้นทุนต่ำตลอดลำดับความยาวมาก ส่วน attention แบบ dense ของ Nanbeige ไม่ได้เป็นเช่นนั้น NVIDIA ยังเผยแพร่ AA-LCR ที่ 52.0–60.3 ซึ่งเป็นคะแนนการให้เหตุผลบริบทยาว และ Nanbeige เผยแพร่ 84.0 บนเบนช์มาร์กเดียวกัน หากคุณเชื่อทั้งสองตาราง การให้เหตุผลบริบทยาวของ Nanbeige จะแข็งแกร่งกว่ามาก หากคุณเชื่อเฉพาะตารางที่ดำเนินการโดยอิสระเท่านั้น ตารางของ Lightning ก็เป็นเพียงตารางเดียวที่คุณตรวจสอบได้

คณิตศาสตร์ของการโฮสต์โมเดล dense 33B

นี่คือจุดที่การเปรียบเทียบไม่ได้เป็นเรื่องของคุณภาพอีกต่อไป แต่กลายเป็นเรื่องของการใช้งานจริง

Lightning ถูกระบุราคาไว้ที่ $0.06 ต่อหนึ่งล้านโทเค็นอินพุต และ $0.20 ต่อหนึ่งล้านโทเค็นเอาต์พุตบน managed endpoint ส่วน Nanbeige ไม่มีตารางราคาเพราะไม่มีผู้ให้บริการรายใดนำไปติดตั้งใช้งาน โดยตารางระบุไว้ตรง ๆ อย่างนั้น หากต้องการใช้งานคุณต้องเช่าหรือซื้อ GPU และทำตามสูตร tensor-parallel แบบสี่ทาง

สมมติเพื่อการคำนวณทางคณิตศาสตร์ล้วน ๆ ว่า GPU ระดับ H100 สี่ตัวมีราคาตัวละ 2 ดอลลาร์ต่อชั่วโมง — คิดเป็น 8 ดอลลาร์ต่อชั่วโมงสำหรับโหนดนั้น เพื่อให้คุ้มทุนกับราคาผลลัพธ์ของ Lightning โหนดนั้นต้องสร้างโทเคนเอาต์พุต 40 ล้านโทเคนต่อชั่วโมง ซึ่งประมาณ 11,100 โทเคนต่อวินาทีแบบต่อเนื่อง โมเดล dense ขนาด 33B บน GPU สี่ตัวจะทำแบบนั้นไม่ได้ แม้ที่ต้นทุน GPU เพียงหนึ่งในสิบ ปริมาณงานที่จุดคุ้มทุนก็ยังเกินหนึ่งพันโทเคนต่อวินาทีแบบต่อเนื่อง ซึ่งเป็นการดำเนินงานให้บริการจริงจัง ไม่ใช่การทดลองข้างเคียง

ข้อสรุปไม่ใช่่ว่า Nanbeige แพง แต่เป็นว่า การโฮสต์โมเดล dense 33B ด้วยตัวเองจะเอาชนะ executor ราคา 0.20 ดอลลาร์ต่อล้านโทเคนได้ก็เฉพาะเมื่อมีการใช้งานสูงมากและสม่ำเสมอมากเท่านั้น — หรือเมื่องานไม่สามารถออกจากโครงสร้างพื้นฐานของคุณได้ ซึ่งในกรณีนั้นการเปรียบเทียบไม่เคยเกี่ยวกับราคาเลย ในกรณีปริมาณงานแบบเป็นช่วง ๆ หรือปริมาณน้อย โมเดล sparse แบบ managed จะชนะด้านต้นทุนอย่างมากก่อนที่คุณภาพจะเข้ามาเป็นประเด็นด้วยซ้ำ

จุดที่เราเตอร์เข้ากับระบบสองโมเดล

สถาปัตยกรรมที่ NVIDIA กำลังขายอยู่ — planner ระดับแนวหน้าและ executor ราคาถูก — ก็คือสถาปัตยกรรมที่ทีมเอเจนต์ส่วนใหญ่ลงเอยด้วยอยู่แล้ว มันยังเป็นรูปแบบที่ routing layer ถูกสร้างมาเพื่อรองรับ: routing DSL ของเราประกอบโมเดลหลายตัวให้เป็นการเรียกครั้งเดียว ดังนั้น planner และ executor จึงสามารถอยู่เบื้องหลัง endpoint เดียวได้ และ automatic failover ช่วยไม่ให้ executor ที่กำลังมีปัญหากลายเป็นเอเจนต์ที่หยุดชะงัก

เราไม่มี Nemotron 3.5 Lightning 30B A3B หรือ Nanbeige4.3-33B ในตอนนี้ ดังนั้นนี่จึงไม่ใช่การนำเสนอเรื่องความพร้อมใช้งานของทั้งสองตัว แต่เป็นบันทึกเกี่ยวกับว่าต้นทุนการผสานรวมจะตกอยู่ที่ใด หากคุณโฮสต์ Nanbeige เองในฐานะ planner และเรียกใช้โมเดลที่โฮสต์ให้บริการในฐานะ executor การแยกส่วนนี้น่าจะแสดงออกมาเป็นกฎการกำหนดเส้นทางมากกว่าการฮาร์ดโค้ดไว้ในแอปพลิเคชันของคุณ — เพราะโมเดลที่คุณต้องการในแต่ละช่องจะเปลี่ยนก่อนที่ไตรมาสจะจบ

งบความหน่วงตัดสินได้มากกว่าอันดับบนลีดเดอร์บอร์ด

• หากขั้นตอนของเอเจนต์เพียงขั้นเดียวต้องตอบกลับภายในไม่ถึงหนึ่งวินาที: Lightning ที่ 295 โทเค็นต่อวินาที คำตอบ 300 โทเค็นจะเสร็จในเวลาประมาณหนึ่งวินาที ส่วนโมเดล dense 33B บนฮาร์ดแวร์ของคุณเองจะทำไม่ได้ และ Nanbeige ก็ไม่มีตัวเลือกแบบโฮสต์ให้เปรียบเทียบ

• หากขั้นตอนนี้เป็นการประมวลผลเหตุผลแบบยาวในช่วงต้นของเวิร์กโฟลว์: ส่วนต่างที่ Nanbeige อ้างว่าเหนือกว่าใน GPQA, AA-LCR และแถวที่เกี่ยวข้องกับ agentic ถือเป็นข้อสนับสนุนแนวทางนี้ — ภายใต้ข้อควรระวังเกี่ยวกับ harness ข้างต้น

• หากงานเป็นภาษาจีน: Nanbeige ภาษาที่เผยแพร่ของ Lightning ได้แก่ อังกฤษ สเปน ฝรั่งเศส เยอรมัน อิตาลี และญี่ปุ่น

• หากงานเป็นแบบหลายภาษายุโรป: Lightning โดย Nanbeige ระบุเฉพาะภาษาอังกฤษและภาษาจีนเท่านั้น

• หากคุณไม่มี GPU และไม่มีความสนใจที่จะมีเลย: Lightning ชนะแบบไม่มีคู่แข่ง

• หากข้อมูลไม่สามารถออกจากเครือข่ายของคุณได้: Nanbeige และการเปรียบเทียบต้นทุนจะกลายเป็นการตัดสินใจด้านโครงสร้างพื้นฐานมากกว่าการตัดสินใจเรื่องราคาต่อโทเค็น

คำถามที่เปิดอยู่

Nanbeige4.3-33B เพิ่งเปิดตัวได้สองวันและยังไม่มีแนวทางให้บริการรองรับ นั่นคือข้อเท็จจริงที่กำหนดกรอบเวลาของบทความนี้ หากมีผู้ให้บริการรายใดหยิบไปใช้ — และคำกล่าวอ้างใน model card ที่ว่าในปัจจุบันยังไม่มีผู้ให้บริการรายใดทำเช่นนั้นคือสิ่งที่ต้องจับตา — ด้านต้นทุนของการเปรียบเทียบนี้จะเปลี่ยนไปโดยสิ้นเชิง เพราะโมเดล dense 33B ที่ให้บริการแบบโฮสต์ในราคาต่อโทเคนที่แข่งขันได้จะบั่นทอนข้อโต้แย้งทั้งหมดที่สนับสนุนการใช้ executor แบบ sparse ขนาดเล็กกว่าสำหรับงานที่ไวต่อคุณภาพ

จนถึงตอนนั้น จุดยืนที่ปกป้องได้ก็ยังแคบอยู่ Nemotron 3.5 Lightning 30B A3B คือโมเดลที่คุณนำไปใช้งานได้วันนี้ ในราคาที่ประกาศไว้ พร้อมคะแนนจากผู้ประเมินอิสระ และใช้พลังประมวลผลต่อโทเค็นน้อยลงประมาณเก้าเท่า Nanbeige4.3-33B เป็นโมเดลที่ดูเหมือนมีความสามารถสูงกว่าในเอกสาร โดยมีหน้าต่างบริบทเนทีฟ 512K และตัวเลขประสิทธิภาพแบบเอเจนต์ที่รายงานเองซึ่งยังไม่มีใครทำซ้ำผลได้ หากเอเจนต์ของคุณถูกจำกัดด้วยความหน่วงและต้นทุน ทางเลือกก็ถูกกำหนดไว้แล้ว หากมันถูกจำกัดด้วยคุณภาพและคุณเป็นเจ้าของฮาร์ดแวร์ ทางเลือกนี้ก็คุ้มค่าที่จะทดสอบ — และการทดสอบนั้นยังไม่ได้เกิดขึ้น