Xing 4.0 29B-A4B กับ Granite 4.2 30B: แบบ Dense อ่านทุกอย่าง แบบ Sparse อ่านแค่หนึ่งในเก้า

นี่คือข้อโต้แย้งเชิงสถาปัตยกรรมทั้งหมดในประโยคเดียว G​ranite 4.2 30B ซึ่งเป็นโมเดลให้เหตุผลแบบ dense ของ I​BM ที่เผยแพร่ภายใต้ Apache 2.0 เมื่อวันที่ 25 สิงหาคม 2026 อ่านพารามิเตอร์ทั้งหมดสามหมื่นล้านตัวเพื่อสร้างทุก ๆ โทเคน Xing 4.0 29B-A4B ซึ่งเป็นโมเดล sparse mixture-of-experts ของ China Telecom ที่น้ำหนักถูกเผยแพร่เมื่อวันที่ 16 กันยายน 2026 และเริ่มเรียกใช้งานได้ในช่วงกลางเดือนตุลาคม อ่านพารามิเตอร์เพียงประมาณสี่พันล้านตัวจากทั้งหมดสองหมื่นเก้าพันล้านตัว ทั้งคู่เป็น Apache-2.0 ทั้งคู่อยู่ในระดับน้ำหนักเดียวกัน ทั้งคู่มุ่งเป้าไปที่งานแบบเอเจนต์ และทั้งคู่มีต้นทุนการรันที่แตกต่างกันโดยสิ้นเชิงสำหรับคุณ: G​ranite มีต้นทุนด้านการประมวลผลในทุกโทเคน ส่วน Xing มีต้นทุนด้านหน่วยความจำสำหรับเก็บผู้เชี่ยวชาญที่คุณไม่ได้ใช้กับโทเคนนี้ และมีสแตกการให้บริการที่รู้วิธีจัดเส้นทางไปรอบ ๆ พวกมัน ทุกอย่างด้านล่างนี้เป็นผลสืบเนื่องมาจากข้อนั้น

แต่ละอาร์ติแฟกต์คืออะไรกันแน่

การแยกสิ่งเหล่านี้ออกจากป้ายกำกับที่ใช้ร่วมกันนั้นเป็นเรื่องที่คุ้มค่า “30B” บอกขนาดของไฟล์ ไม่ใช่รูปร่างของภาระงาน

• G​ranite 4.2 30B — เรือธงของ I​BM ในตระกูล G​ranite 4.2 สร้างขึ้นบน G​ranite-4.1-30B-Base ทรานส์ฟอร์เมอร์แบบ decoder-only ชนิด dense สำหรับการให้เหตุผล จำนวนพารามิเตอร์ 30B (รีโพซิทอรีระบุ 29B ในเทนเซอร์ BF16) กลไก attention แบบ grouped-query ที่มี 32 attention head เทียบกับ 8 key-value head, RoPE ที่ θ = 10,000,000, SwiGLU MLP ที่มีขนาด hidden 32,768, embedding อินพุตและเอาต์พุตแบบ untied, RMSNorm ที่ ε = 1e-5 ภาษาที่ทดสอบ 12 ภาษา Apache 2.0

• Xing 4.0 29B-A4B — รุ่นสืบทอดต่อจากสาย TeleChat ของ TeleAI จำนวน 40 เลเยอร์ ขนาด hidden 3,584, dense FFN intermediate 9,216 เทียบกับ expert intermediate 1,024, routed experts 64 ตัว โดยเปิดใช้งาน 4 ตัวต่อโทเคน บวกกับ shared expert อีกหนึ่งตัวที่เปิดอยู่ตลอดเวลา ใช้ attention แบบ MLA ที่บีบอัด key-value แทน GQA และ MTP speculative decoding ที่ถูกฝึกเข้าไปในเช็กพอยต์แล้ว จริง ๆ แล้วมีภาษาที่ผ่านการทดสอบเพียงภาษาเดียวบนการ์ด สัญญาอนุญาต Apache 2.0

• บริบท — Granite 4.2 30B รองรับ 128K โดยตัวมันเอง พร้อมส่วนขยายบริบทยาวที่ได้รับการบันทึกไว้ถึง 512K และความยาวลำดับการกำหนดค่า 131,072 Xing 4.0 มี 256K โดยตัวมันเอง โดยอ้างว่าสามารถขยายได้ถึง 512K หน้าต่างเริ่มต้นของ Xing กว้างเป็นสองเท่า; เส้นทางส่วนขยายของ Granite มีเอกสารประกอบที่ดีกว่าของทั้งสอง

• รูปแบบที่เผยแพร่ — G​ranite 4.2 30B เปิดให้ใช้งานในรูปแบบ BF16 พร้อมการควอนไทซ์ FP8, MXFP4 และ NVFP4 โดยมีบิลด์ GGUF จาก I​BM และจากคอมมูนิตี้ Xing 4.0 เปิดให้ใช้งานในรูปแบบ BF16 safetensors พร้อม FP8, w8a8 และ GGUF ทั้งสองรุ่นได้รับการจัดเตรียมไว้อย่างครบครันเป็นพิเศษในด้านนี้ และทั้งคู่ถือเป็นข้อได้เปรียบที่แท้จริงเมื่อเทียบกับโมเดลโอเพนซอร์สจำนวนมากที่เผยแพร่เพียงเชิร์ด bfloat16 เพียงชิ้นเดียวแล้วปล่อยให้อาสาสมัครจัดการควอนไทซ์กันเอง

• ความพร้อมใช้งาน — G​ranite 4.2 30B ไม่มีเอนด์พอยต์ที่คิดราคาตามโทเคนในแคตตาล็อกของเรา; คุณต้องรันมันเอง หรือเข้าถึงผ่านแพลตฟอร์มของ I​BM เองและแพลตฟอร์มให้บริการของบุคคลที่สามอื่น ๆ Xing 4.0 ได้รับเอนด์พอยต์เชิงพาณิชย์แบบคิดตามการใช้งานในช่วงกลางเดือนตุลาคม พร้อมระดับโปรโมชันฟรี และยังไม่มีอยู่ในแคตตาล็อกของเราเช่นกัน

การแลกเปลี่ยนระหว่างหน่วยความจำกับการประมวลผล ที่กล่าวอย่างตรงไปตรงมา

ความเบาบางไม่ใช่ส่วนลดสำหรับทั้งเครื่อง แต่เป็นส่วนลดบนแกนหนึ่งและเป็นค่าธรรมเนียมเพิ่มบนอีกแกนหนึ่ง G​ranite 4.2 30B ต้องใช้หน่วยความจำประมาณเท่ากับโมเดล dense ขนาด 30B ใน bfloat16 และคำนวณทั่วทั้งโมเดลต่อโทเคน ดังนั้นทรูพุตต่อหน่วยฮาร์ดแวร์ของมันจึงคาดเดาได้ และพฤติกรรมภายใต้การทำแบตช์ก็ตรงไปตรงมา Xing 4.0 ต้องเก็บ 29B ทั้งหมดไว้ในหน่วยความจำตลอดเวลา — ผู้เชี่ยวชาญทุกตัวอยู่ในหน่วยความจำไม่ว่าโทเคนนี้จะแตะมันหรือไม่ — แต่เคลื่อนย้ายน้ำหนักเพียง 4B ต่อโทเคนผ่านการคำนวณ ซึ่งเป็นเหตุผลว่าทำไมการควอนไทซ์แบบ 4-bit ของมันจึงถูกอ้างว่าพอดีกับ VRAM ประมาณ 15GB และทำไมทรูพุตโดยรวมของมันที่การทำงานพร้อมกันสูงจึงมีรูปแบบที่แตกต่างออกไปโดยสิ้นเชิง

ข้อกล่าวอ้างนั้นคุ้มค่าที่จะตรวจสอบก่อนที่คุณจะซื้อการ์ดโดยอิงจากมัน: รีโพซิทอรีรายงานว่า 31B ในเทนเซอร์ความละเอียดเต็ม และบิลด์ 4-bit ของโมเดลรวม 29B ที่มีขนาด 15GB บ่งชี้ถึงการควอนไทซ์อย่างหนักของน้ำหนัก expert ดูขนาดไฟล์ GGUF จริงแทนที่จะดูคำโปรยของคอลเลกชัน

ความแตกต่างข้อที่สองที่เงียบกว่าคือระดับความสมบูรณ์ของเส้นทางการให้บริการ G​ranite 4.2 30B เป็นทรานส์ฟอร์เมอร์แบบ dense มาตรฐาน ซึ่งหมายความว่า inference stack ทุกตัวรองรับมันได้ไม่มากก็น้อยโดยค่าเริ่มต้น Xing 4.0 ต้องใช้ custom kernel สำหรับสตรีม residual แบบ hyper-connection ที่ถูกจำกัดด้วย manifold และ attention แบบ MLA ของมัน — SGLang มี split-K kernel เฉพาะสำหรับ layout แบบสี่สตรีม, vLLM มีสถาปัตยกรรมนี้ และนั่นคือสถานะปัจจุบัน การออกแบบ attention+residual แบบเฉพาะทางคือราคาที่ต้องจ่ายของสถาปัตยกรรมนี้ และมันไม่ใช่ค่าใช้จ่ายครั้งเดียวหากคุณวางแผนจะ fine-tune, quantise หรือรัน batch shape ที่ไม่ปกติ

ตรงจุดที่ตัวเลขที่เผยแพร่ไม่ตรงกันจริง ๆ

ผู้จำหน่ายทั้งสองรายเผยแพร่ตารางของตนเอง ทั้งสองมีความสอดคล้องกันภายใน และไม่มีตารางใดได้รับการทำซ้ำอย่างอิสระโดยบุคคลที่สามบนฮาร์เนสที่เหมือนกัน ให้เปรียบเทียบสิ่งเหล่านี้ในฐานะข้อกล่าวอ้าง ไม่ใช่ผลการวัด

• SWE-bench Verified — Xing 4.0 75.00 เทียบกับ G​ranite 4.2 30B 57.

• SWE-bench Multilingual — Xing 4.0 66.00 เทียบกับ Granite 4.2 30B 41.89

• Terminal-Bench 2.1 — Xing 4.0 57.50 เทียบกับ G​ranite 4.2 30B 29.24

• การใช้เครื่องมือแบบเอเจนต์ — Xing 4.0 Claw-Eval 76.55 และ Tau3-Bench 64.63; Granite 4.2 30B τ³-bench 62.00 และ BFCL v4 61.39.

• การทำตามคำสั่ง — Xing 4.0 IFBench 69.67 เทียบกับ G​ranite 4.2 30B IFBench 77.17

• คณิตศาสตร์และการให้เหตุผลทั่วไป — G​ranite 4.2 30B AIME25 89.17, HMMT Feb25 89.17, GPQA 66.41, MMLU-Pro 77.60, LiveCodeBench v6 75.77 การ์ดของ Xing 4.0 ไม่ได้รายงานค่าเหล่านี้เลย ช่องเหล่านี้จึงว่างเปล่าแทนที่จะกลายเป็นชัยชนะ

• บริบทขนาดยาว — G​ranite 4.2 30B เผยแพร่ผล RULER ที่ 64K (89.96) และ 128K (81.38) ส่วน Xing 4.0 เผยแพร่ผล AA.LCR ที่ 61.00 และไม่มีอย่างอื่นในกลุ่มบริบทขนาดยาว Granite ชนะในแถวเดียวที่มีตัวเลขทั้งสองฝ่ายปรากฏอยู่ และนี่เป็นชัยชนะที่มีความหมาย เพราะ RULER ที่ 128K เป็นการทดสอบที่ยากกว่าคะแนนเฉลี่ยจากการดึงข้อมูลมาก

อ่านรูปร่างมากกว่ายอดรวม Granite ดูเหมือนเป็นผู้เชี่ยวชาญทั่วไปที่กว้างและวัดผลได้ดี พร้อมตารางการประเมินที่ซื่อสัตย์อย่างผิดปกติ — 20 แถวครอบคลุมการเขียนโค้ด คณิตศาสตร์ การใช้เครื่องมือ งานเอกสาร และบริบทแบบยาว ทั้งหมดโดยระบุฮาร์เนสว่าเป็นเฟรมเวิร์ก NeMo Evaluator SDK Xing 4.0 ดูเหมือนเป็นผู้เชี่ยวชาญเฉพาะทางแคบๆ: ช่องว่างที่ใหญ่โตในเบนช์มาร์กวิศวกรรมซอฟต์แวร์และตัวแทนเทอร์มินัล แพ้ในด้านการทำตามคำสั่ง และความเงียบในทุกที่อื่น โมเดลที่ไม่มีตัวเลข GPQA ไม่ได้แปลว่าจะแย่ใน GPQA มันเป็นโมเดลที่ผู้ขายเลือกที่จะเผยแพร่เก้าแถว

สองความไม่สมมาตรที่ตรงไปตรงมา

Granite 4.2 30B เปิดเผยต่อสาธารณะมาเจ็ดสัปดาห์แล้ว และต้องเผชิญกับการตรวจสอบอย่างละเอียดที่ย่อมตามมา ซึ่งรวมถึงการควอนไทซ์อิสระ บทวิเคราะห์จากบุคคลที่สามอย่างละเอียด และค่าการเปรียบเทียบที่ IBM เผยแพร่เองสำหรับรุ่นพี่น้อง 8B และ 3B ในทุกแถวของตาราง Xing 4.0 เปิดเผยต่อสาธารณะมาได้หนึ่งเดือน มีการดาวน์โหลดจากคลังเก็บ 53,000 ครั้ง ไม่มีการประเมินอิสระ และเปรียบเทียบประสิทธิภาพของตนเองกับผลการรันซ้ำของโมเดลคู่แข่งที่ผู้ขายทำในชุดทดสอบของตนเอง การเปรียบเทียบก่อนหน้าในซีรีส์นี้ครอบคลุมแล้วว่าตารางเปรียบเทียบนั้นปฏิบัติต่อ Gemma 4 อย่างไร ประเด็นเชิงโครงสร้างยังคงใช้ได้กับทุกคอลัมน์ในตารางนั้น

ความไม่สมมาตรกลับทิศกันในแกนหนึ่ง G​ranite 4.2 30B เป็นโมเดลสำหรับการให้เหตุผลที่มีโปรไฟล์การประมวลผลแบบเดนส์ ซึ่งหมายความว่ามันช้าต่อโทเคนในลักษณะที่ติดมากับการออกแบบและไม่อาจจัดเส้นทางเลี่ยงได้ ข้อโต้แย้งทั้งหมดของ Xing 4.0 คือคุณได้พื้นที่หน่วยความจำของโมเดล 29B มาพร้อมกับการคำนวณของโมเดล 4B หากข้อโต้แย้งนั้นยังใช้ได้กับภาระงานจริง มันก็เป็นข้อเสนอที่ดีกว่าอย่างแท้จริงสำหรับทราฟฟิกเอเจนต์ปริมาณสูง — และนี่คือข้อโต้แย้งที่แถว SWE-bench ของผู้ขายเองไม่สามารถชี้ขาดได้

ค่าใช้จ่ายเท่าไร และเราเตอร์เข้ามาเกี่ยวข้องตรงไหน

ไม่มีโมเดลใดอยู่ในแค็ตตาล็อกของ OrcaRouter所以我们จึงไม่ใช่เส้นทางไปสู่ทั้งสองรุ่น และบทความนี้จะไม่เสนอแนะเป็นอย่างอื่น การคำนวณที่เกี่ยวข้องก็ยังคุ้มค่าที่จะทำอยู่ดี G​ranite 4.2 30B มีค่าใช้จ่ายเพียงการ์ดหนึ่งใบและไม่มีอย่างอื่นอีกเลยตลอดไป โดยมีข้อแม้ว่าการประมวลผลแบบ dense ของมันหมายความว่าการ์ดที่คุณต้องใช้นั้นเป็นใบที่ใหญ่กว่า Xing 4.0 มีค่าใช้จ่ายเป็น GPU และสุดสัปดาห์หนึ่งสำหรับงานผสานรวมการให้บริการล่วงหน้า หรือเป็นการประเมินแบบ free tier ที่คิดตามการใช้งานในตอนนี้เลย และ free tier คือวิธีที่ถูกที่สุดในการตรวจสอบว่าข้ออ้างด้าน agentic จะยังใช้ได้กับ repository ของคุณเองหรือไม่ แทนที่จะเป็นฮาร์เนส terminus-2 ที่ผู้เขียนโมเดลเป็นคนรัน

จุดที่เราเตอร์พิสูจน์คุณค่าของมันกับสองโมเดลที่เราไม่ได้โฮสต์คือที่ขอบเครือข่าย คุณไม่ได้แทนที่โมเดลที่เส้นทางโปรดักชันของคุณรู้จักอยู่แล้ว แต่คุณรันโมเดลผู้ท้าชิงเคียงข้างมันบนทราฟฟิกส่วนหนึ่ง ภายใต้กฎที่กำหนดไว้ พร้อมการสลับอัตโนมัติเมื่อเกิดข้อขัดข้อง เพื่อให้คำตอบที่ไม่ดีหรือการค้างของอัปสตรีมไม่ไปถึงผู้ใช้ OrcaRouter คือ API เดียวที่อยู่หน้าโมเดลที่โฮสต์กว่า 200 โมเดล โดยมีมาร์กอัป 0% — ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยไม่มีการบวกเพิ่ม — และ DSL การกำหนดเส้นทางคือวิธีที่ใช้กำหนดสัดส่วนนั้น เมื่อการประเมินสิ้นสุด กฎจะเปลี่ยน และโมเดลเดิมจะรับทราฟฟิกกลับคืนไป

ถ้างบการประเมินของคุณมีเพียงโมเดลเดียว ให้เลือก Granite 4.2 30B เมื่องานมีขอบเขตกว้าง — การให้เหตุผลกับเอกสารยาว การสร้างข้อความหลายภาษา ไปป์ไลน์ที่เน้นการปฏิบัติตามคำสั่งอย่างหนัก หรืองานใดก็ตามที่คุณต้องการตัวเลขที่เผยแพร่แล้วสำหรับงานที่คุณรันจริง ให้เลือก Xing 4.0 29B-A4B เมื่องานแคบและเป็นแบบเอเจนต์ คุณวัดผลเองได้ และเหตุผลด้านอัตราการประมวลผลต่อการ์ดคือสิ่งที่คุณกำลังซื้อ ทางเลือกเดียวที่ผิดชัดเจนคือการเลือก Xing 4.0 โดยอาศัยเพียงตัวเลข 75 ต่อ 57 เท่านั้น ตัวเลขสองตัวนั้นถูกสร้างโดยห้องปฏิบัติการที่ต่างกันด้วยฮาร์เนสที่ต่างกัน และสิ่งเดียวที่ตัวเลขเหล่านี้ยืนยันได้อย่างน่าเชื่อถือก็คือผู้จำหน่ายรายใดเป็นผู้เผยแพร่แถวผลลัพธ์ SWE-bench

อะไรจะยุติเรื่องนี้ได้

การประเมิน Xing 4.0 แบบอิสระหนึ่งครั้งบนฮาร์เนสเดียวกับที่ใช้วัด Granite ด้วยสแคฟโฟลดิงแบบเดียวกัน จะช่วยยุบความไม่แน่นอนส่วนใหญ่ในชิ้นงานนี้ให้หมดไปได้ในเวลาทำงานเพียงบ่ายเดียวของคนที่มี GPU เหลือใช้สักเครื่อง จนกว่าจะมีสิ่งนั้น โมเดลแบบเดนส์คือตัวที่คุณนำตัวเลขไปใช้ได้จริง และโมเดลแบบสปาร์สคือตัวที่คุณต้องตรวจสอบตัวเลข ทั้งสองประโยคนี้จะล้าสมัยพอ ๆ กันในทันทีที่ประโยคที่สองไม่เป็นจริงอีกต่อไป

ไม่มีสิ่งใดในนั้นที่เป็นเพียงข้อสันนิษฐาน: ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ซึ่งได้รับการบันทึกไว้ ที่อยู่เบื้องหลังการเปิดตัวแบบนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง