Granite Switch 4.1 8B กับ Qwen3-8B: จะเกิดอะไรขึ้นเมื่ออีกฝ่ายไม่มีรุ่นสืบทอด

เริ่มจากปัญหาเรื่องชื่อก่อน เพราะมันเปลี่ยนว่าบทความนี้จะซื่อสัตย์ได้แค่ไหน เมื่อคุณค้นหาโมเดล 8B ในตระกูล Qwen รุ่นใหม่ล่าสุดของ Alibaba คุณจะไม่พบมัน: ไลน์ Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, ตัวแปร Flash, และ mixture-of-experts ขนาดมหึมา 2.4T-A95B — ไม่มีสมาชิกแบบ dense 8B รวมอยู่ด้วยเลย ช่อง 8B ในตระกูล Qwen ยังถูกครอบครองโดย Qwen3-8B ที่เปิดตัวเมื่อ 27 เมษายน 2025: 8.2 พันล้านพารามิเตอร์, thinking และ non-thinking แบบไฮบริดในโมเดลเดียว, มากกว่า 100 ภาษาและภาษาถิ่น, คอนเท็กซ์พื้นเมือง 32,768 โทเคน ขยายถึง 131,072 ด้วย YaRN โมเดลนั้นอายุสิบหกเดือนแล้วและยังเป็นหนึ่งในเช็กพอยต์น้ำหนักเปิดที่ถูกดาวน์โหลดมากที่สุดเท่าที่มีอยู่ มันคือผู้ครองตำแหน่ง — และสิ่งที่ทำให้การจับคู่นี้ควรค่าแก่การเขียนถึงก็คือ Granite Switch 4.1 8B เช็กพอยต์ประกอบของ IBM จาก 14 ตุลาคม 2026 ไม่ได้เสนอจะแทนที่มันด้วยรุ่นสืบทอดเลย มันเสนอโมเดลรูปร่างที่ต่างออกไปในคลาสพารามิเตอร์เดียวกัน: โมเดลข้อความ 8B ที่ถูกฟรีซ พร้อมอะแดปเตอร์สลับได้สองตัวและสปีชเอนโคเดอร์ที่แขวนไว้กับมัน ทำงานสามอย่างด้วยการสลับแทนที่จะทำงานเดียวด้วยการใช้เหตุผล ไม่มีใครแทนที่ Qwen3-8B และคำถามที่ดีกว่าคือมีใครจำเป็นต้องทำหรือไม่

ตรงกันข้ามกับมันคือ Granite Switch 4.1 8B เช็กพอยต์แบบประกอบของ IBM จากวันที่ 14 ตุลาคม 2026 — Granite 4.1 8B ที่ถูกแช่แข็งซึ่งมีพารามิเตอร์ 8,380,551,168 ตัว พร้อมอะแดปเตอร์ activated-LoRA แบบสลับได้สองตัวและตัวเข้ารหัสเสียงขนาด 470M รวมเป็นทั้งหมดแบบประกอบ 8,776,400,896 เพิ่มขึ้น 4.72% อยู่ในระดับพารามิเตอร์เดียวกัน แต่มีแนวคิดว่าโมเดลคืออะไรที่แตกต่างกันโดยสิ้นเชิง Qwen3-8B เป็นสแตกหนาแน่นหนึ่งเดียวที่ทำทุกอย่างด้วยการให้เหตุผลเกี่ยวกับมัน ส่วน Granite Switch 4.1 8B เป็นสแตกที่ไม่ทำอะไรเลยด้วยการให้เหตุผล แต่ทำสามสิ่งด้วยการสลับ

ช่อง 8B ว่างเปล่า และนั่นคือเรื่องราวที่แท้จริง

ควรหยุดพิจารณาการไม่มีอยู่ดังกล่าว มากกว่าจะมองว่ามันเป็นช่องว่างในบทเปรียบเทียบนี้ Alibaba เปิดตัวเจนเนอเรชัน Qwen3.8 ด้วยโมเดล dense ขนาด 27B, รุ่นย่อย Max และ Flash และ mixture-of-experts ขนาด 2.4 ล้านล้านพารามิเตอร์ และข้ามขนาดที่ทำให้รุ่นก่อนหน้าเป็นตัวเลือกเริ่มต้นสำหรับการปรับใช้บน GPU เดียว ทุกทีมที่เลือก Qwen3-8B เพราะมันพอดีกับการ์ดใบเดียวและปรับ fine-tune ได้อย่างประหยัด ตอนนี้กำลังมองไลน์อัพรุ่นสืบทอดที่เพิ่มความต้องการหน่วยความจำเป็นสองเท่า หรือเปลี่ยนโจทย์ด้านการให้บริการไปโดยสิ้นเชิง

นั่นคือการตัดสินใจที่แท้จริงซึ่งบทความนี้พูดถึง ไม่มีใครเลือกหว่าง Qwen3-8B กับ Granite Switch 4.1 8B ด้วยเหตุผลด้านคุณภาพ — รุ่นที่ครองตำแหน่งมาสิบหกเดือนเทียบกับผู้ท้าชิงที่เพิ่งมีอายุได้สองวันโดยไม่มีการประเมินอิสระ ไม่ใช่การเปรียบเทียบคุณภาพ หากแต่เป็นการเปรียบเทียบความรู้ คำถามคือคุณจะทำอย่างไรเมื่อม้าศึกของคุณไม่มีรุ่นสืบทอดขนาดเดียวกัน และคำตอบที่เป็นไปได้สองทางคือ "เก็บม้าศึกไว้" กับ "เปลี่ยนรูปทรง"

Qwen3-8B: สิ่งที่สิบหกเดือนของการใช้งานจริงมอบให้

Qwen3-8B เป็นทรานส์ฟอร์มเมอร์แบบ causal ชนิด dense ที่มี 36 เลเยอร์ ขนาด hidden 4,096 กลไก attention แบบ grouped-query ที่ 32 query head ต่อ 8 KV head ขนาด intermediate 12,288, RoPE theta 1e6, embedding แบบไม่ผูก (untied) และคลังคำศัพท์ขนาด 151,936 โทเคน มีพารามิเตอร์ประมาณ 8.2 พันล้านตัว ซึ่งประมาณ 6.95 พันล้านตัวเป็นส่วนที่ไม่ใช่ embedding สวิตช์การคิดเป็นพารามิเตอร์ตัวหนึ่ง — enable_thinking — และการตั้งค่าการสร้างจะแตกต่างกันไปตามโหมด โดยการ์ดเตือนไว้อย่างชัดเจนว่าอย่าใช้การถอดรหัสแบบ greedy ในโหมดคิด เพราะจะทำให้เกิดการวนซ้ำ

สิ่งที่มันมีซึ่งเช็คพอยต์ใหม่ใดก็อ้างไม่ได้: สิบหกเดือนของทราฟฟิกโปรดักชันของคนอื่น โหมดความล้มเหลวที่คนอื่นเจอมาแล้วและเขียนบันทึกไว้ การควอนไทซ์ ไฟน์จูน สูตร LoRA และคู่มือการดีพลอยสำหรับทุกเฟรมเวิร์กการเสิร์ฟที่สำคัญ ยอดดาวน์โหลดบน Hub เกือบสิบล้านและไลก์กว่าสองพัน โดยมีสายเลือด instruct อยู่เบื้องหลัง เมื่อโมเดลเปิดเผยต่อสาธารณะมานานขนาดนั้น ระบบนิเวศรอบตัวมันก็เป็นส่วนหนึ่งของขีดความสามารถอย่างแท้จริง และไม่มีวันเปิดตัวใดจะย้อนหลังกลับไปสร้างสิ่งนั้นได้

Granite Switch 4.1 8B: รูปทรงใหม่ให้ประโยชน์อะไร

เช็คพอยต์ของ IBM เป็นองค์ประกอบมากกว่าที่จะเป็นโมเดล และส่วนประกอบต่างๆ ได้รับการบันทึกไว้ใน build manifest ที่เช็คอินไว้ข้างๆ เวท ฐาน: Granite 4.1 8B, 40 ชั้น, ขนาดฮิดเดน 4,096, 32 หัวคิวรี เทียบกับ 8 หัว KV, หน้าต่าง 131,072 โทเค็น, คำศัพท์ 100,352 โทเค็น อะแดปเตอร์: guardian-core, แรงค์ 16, อัลฟา 64, เหนือโปรเจกชันความสนใจ (k_proj, o_proj, q_proj, v_proj), ตรวจจับอันตราย, การเจลเบรก, คำหยาบ, ความรุนแรง, เนื้อหาทางเพศ, อคติทางสังคม และพฤติกรรมที่ผิดจรรยาบรรณ; และ decision, แรงค์ 64, อัลฟา 128, เหนือโปรเจกชันทั้งเจ็ด รวมถึง MLP, ส่งคืนซอฟต์แม็กซ์ที่ปรับเทียบแล้วเหนือโทเค็นตัวเลือกที่มีป้ายกำกับในการส่งต่อครั้งเดียว. ตัวเข้ารหัส: Granite Speech 5.0 TurboCTC, 470M พารามิเตอร์, คอนฟอร์เมอร์ CTC แบบไม่ใช่ autoregressive, ภาษาอังกฤษ. สัญญาอนุญาต: Apache-2.0, เช่นเดียวกับ Qwen3-8B.

ความสามารถที่ไม่มีสิ่งที่เทียบเท่าใน Qwen3-8B คือ decision adapter คุณป้อนสถานะและคำถามที่มีตัวเลือกติดป้ายกำกับให้มัน แล้วมันจะคืนค่าการแจกแจง ไม่ใช่คำตอบ — การเรียกที่เอกสารระบุไว้จะขอ vLLM สำหรับ logprobs ของ id ของโทเคนป้ายกำกับเหล่านั้นอย่างเจาะจงผ่าน logprob_token_ids แล้วยกกำลังค่าเหล่านั้น ให้ผลลัพธ์ที่มีรูปแบบเช่น A: 0.982, B: 0.0035, C: 0.014 คุณสามารถพรอมต์ Qwen3-8B ให้เลือกป้ายกำกับได้ และมันจะทำได้อย่างมีความสามารถ และคุณจะได้ตัวอักษรหนึ่งตัว ตัวอักษรไม่สามารถนำไปตั้งเกณฑ์เป็นคะแนนที่ปรับเทียบแล้ว หาค่าเฉลี่ยข้ามเทิร์น หรือบันทึกเป็นค่าความมั่นใจได้ นั่นคือความแตกต่าง และมันไม่ใช่ความแตกต่างที่สเกลจะแก้ได้

ประการที่สองที่การประกอบมอบให้คือเรื่องเลขคณิต อะแดปเตอร์ทุกตัวใช้แคชคีย์/ค่าของโมเดลฐานร่วมกัน แทนที่จะดูแลแคชของตัวเอง ดังนั้นการเปลี่ยนจากไม่มีอะแดปเตอร์เลยไปเป็นมีสองตัวบวกตัวเข้ารหัสเสียงหนึ่งตัว จึงมีต้นทุนเพียง 4.72% ในพารามิเตอร์ แทนที่จะต้องมีสถานะ attention ใหม่สำหรับแต่ละความสามารถ โพสต์เปิดตัวของ IBM อ้างว่าโมเดลแบบประกอบใช้ VRAM ใกล้เคียงกับโมเดลฐานเพียงลำพัง ข้ออ้างเฉพาะนั้นยังไม่ถูกทำซ้ำ แต่ส่วนต่างพารามิเตอร์ที่ข้ออ้างนั้นอิงอยู่ก็อยู่ในแมนิเฟสต์ตรงนั้นเลย นั่นก็เป็นเหตุผลว่าทำไมโพสต์เปิดตัวจึงสามารถอธิบายการแข่งขันระหว่าง Granite Switch แบบประกอบขนาด 30B กับโมเดลตัดสินใจขนาด 27B ว่าเป็นข้อได้เปรียบด้านความเร็ว แทนที่จะเป็นโทษด้านหน่วยความจำ

• พารามิเตอร์ — 8.78B รวม (ฐาน 8.38B) เทียบกับ 8.2B

• เลเยอร์ — 40 เทียบกับ 36

• บริบท — 131,072 แบบเนทีฟ เทียบกับ 32,768 แบบเนทีฟ, 131,072 เมื่อใช้ YaRN

• คำศัพท์ — 100,355 เทียบกับ 151,936.

• ภาษา — ระบุชื่อไว้ 12 ภาษา (อังกฤษ เยอรมัน สเปน ฝรั่งเศส ญี่ปุ่น โปรตุเกส อาหรับ เช็ก อิตาลี เกาหลี ดัตช์ จีน) เทียบกับกว่า 100 ภาษา

• การให้เหตุผล — ไม่มี เทียบกับไฮบริดแบบคิดและไม่คิดในเช็กพอยต์เดียว

• เอาต์พุตแบบมีโครงสร้าง — ซอฟต์แมกซ์ที่ปรับคาลิเบรตแล้วบนโทเคนป้ายกำกับ เทียบกับตัวเลือกที่พรอมป์ต์

• อินพุตเสียง — ตัวเข้ารหัส ASR ขนาด 470M ที่ฝังในตัว เทียบกับไม่มี

• ระบบนิเวศ — อายุแค่สองวัน ยังไม่มี quantization หรือ fine-tune ที่น่าพูดถึง เมื่อเทียบกับงานของชุมชนที่ทำกันมาสิบหกเดือน

จุดที่ Qwen3-8B ยังคงชนะอยู่

เรื่องภาษา อย่างเด็ดขาด สิบสองภาษาที่มีชื่อ เทียบกับกว่าร้อยภาษาไม่ใช่ความคลาดเคลื่อนเล็กน้อยสำหรับใครก็ตามที่ต้องส่งมอบให้ผู้ใช้ทั่วโลก และมันเป็นสิ่งแรกที่การทดสอบการย้ายระบบจะตรวจพบ คำศัพท์ก็เล่าเรื่องเดียวกัน: 151,936 โทเค็น เทียบกับ 100,355 โดยที่ไอดีอะแดปเตอร์สำรองสามรายการของ Granite ทำให้ปัดเป็น 100,355 โมเดลที่ฝึกด้วยภาษากว่าร้อยภาษาก็คือโมเดลที่ถูกฝึกด้วยภาษากว่าร้อยภาษา

บริบทแบบเนทีฟคือประเด็นที่สอง 131,072 โทเค็นใช้งานได้ทันที เทียบกับ 32,768 เมื่อใช้เส้นทางส่วนขยาย YaRN Granite Switch 4.1 8B บังเอิญไปถึง 131K เท่ากัน แต่ไปถึงได้แบบเนทีฟ และการขยายด้วย YaRN มีต้นทุนต่อพฤติกรรมในบริบทยาวที่หน้าต่างแบบเนทีฟไม่มี

ข้อที่สามคือข้อที่ตัดสินการย้ายระบบจริงส่วนใหญ่: ไม่มีอะไรพัง ไม่มีระบบเชื่อมต่อที่ต้องเขียนใหม่ ไม่มีสแตกการให้บริการที่ต้องเปลี่ยน ไม่มีพฤติกรรมที่ต้องเรียนรู้ใหม่ โหมดความล้มเหลวทุกแบบมีคนอื่นทำแผนที่ไว้แล้ว และไฟน์ทูนที่คุณอาจมีอยู่แล้วก็ยังเป็นของคุณ คู่แข่งจะต้องดีกว่าอย่างมีนัยสำคัญจึงจะคุ้มค่าที่จะยอมทิ้ง และด้วยวัยเพียงสองวันโดยไม่มีการประเมินอิสระ Granite Switch 4.1 8B ยังไม่ได้พิสูจน์ว่าเป็นเช่นนั้น

จุดที่ Granite Switch 4.1 8B ชนะ

การให้คะแนนการตัดสินใจ และรูปแบบการดำเนินงานที่มาพร้อมกัน หากแอปพลิเคชันของคุณต้องการค่าความเชื่อมั่นเหนือตัวเลือกที่มีป้ายกำกับ — การจัดเส้นทางตั๋ว การให้คะแนนเกณฑ์การยกระดับ การเลือกเครื่องมือที่มีตัวเลขแนบมาด้วย — นั่นคือความสามารถพื้นฐานอย่างหนึ่งที่ Qwen3-8B ไม่มีให้ และการพรอมป์ต์ก็ไม่ได้สร้างมันขึ้นมา ตัวเลขที่เผยแพร่สำหรับอะแดปเตอร์นี้คือ Decision Index, edition v0.3 public fast subset ของ 1,068 แถว: 42.9 โดยรวม โดยมี Knowledge 29.1, Language 48.9, Retrieval 49.8, Tools 59.8 และ Arts 18.0 IBM เป็นผู้รัน IBM เป็นผู้เผยแพร่ ไม่มีใครทำซ้ำได้ และการ์ดเองก็ระบุว่าความน่าจะเป็นเหล่านี้เป็น prior มากกว่าจะเป็นการจำแนกที่ผ่านการรับรองบนโดเมนที่อะแดปเตอร์ไม่ได้ถูกฝึกมา

การรวมเอนด์พอยต์เป็นข้อที่สอง แชท การตัดสินใจ และการถอดเสียงบนเอนด์พอยต์เดียว โดยการถอดเสียงถูกกระตุ้นด้วยแบบธรรมดา input_audio ส่วนเนื้อหา แทนที่จะเป็นบริการที่สอง ข้อควรระวังจากการ์ดของ IBM มีผลและควรค่าแก่การกล่าวซ้ำในเจตนารมณ์: ภาษาอังกฤษเท่านั้น เอาต์พุตเป็นตัวพิมพ์เล็กและไม่มีเครื่องหมายวรรคตอน และตัวเข้ารหัสเสียงและ LLMไม่ได้ถูกฝึกพร้อมกัน, ดังนั้นการถอดเสียงผิดสามารถเปลี่ยนสิ่งที่โมเดลตอบสนองต่อได้อย่างเงียบ ๆ

และความสามารถในการประกอบรวมคือข้อที่สาม — คอมโพเซอร์เป็นสาธารณะ แค็ตตาล็อกอะแดปเตอร์เปิดกว้าง และคุณสามารถสร้างรูปแบบของคุณเองได้ แทนที่จะต้องยอมรับตัวเลือกอะแดปเตอร์สองแบบของ IBM

ทำอะไรดีในระหว่างที่ช่อง 8B ว่างอยู่

สิ่งที่ได้ผลไม่ใช่การย้ายระบบ แต่คือการมอง Granite Switch 4.1 8B เป็นตัวเลือกสำหรับคำขอเฉพาะที่ Qwen3-8B จัดการได้ไม่ดี — พวกที่ลงท้ายด้วยค่าความมั่นใจ หรือที่มาในรูปแบบเสียง — และปล่อยทุกอย่างอื่นไว้ที่เดิม นั่นเป็นปัญหาการจัดเส้นทาง ไม่ใช่การเขียนใหม่: ส่งคำเรียกที่มีลักษณะเป็นการตัดสินใจไปทางหนึ่ง และทราฟฟิกแบบสนทนาไปอีกทาง และรักษาเส้นทางสำรองไว้ให้สมบูรณ์ ในขณะที่คุณค้นหาว่ารูปแบบใหม่นั้นรับมือกับทราฟฟิกของคุณได้จริงหรือไม่

นี่คือเลเยอร์ที่ OrcaRouter ครอบครองอยู่ และคุ้มค่าที่จะพูดให้ชัดเจนว่าที่นี่หมายถึงอะไร: ทุกวันนี้ Qwen3-8B ไม่ได้อยู่ในแคตตาล็อกของเรา และ Granite Switch 4.1 8B ก็ไม่ได้อยู่เช่นกัน เราจึงไม่ใช่ช่องทางที่จะได้มาซึ่งทั้งสองตัว — Qwen3-8B คือการดาวน์โหลดจาก Hugging Face ส่วน Granite Switch 4.1 8B คือการดาวน์โหลดจาก Hugging Face บวกกับคอนเทนเนอร์ vLLM สิ่งที่แพลตฟอร์มนี้ทำคืองานโดยรอบ: คีย์ API เดียวใช้ได้กับโมเดลที่โฮสต์ไว้มากกว่า 200 โมเดล, การ failover อัตโนมัติเพื่อให้ตัวเลือกหนึ่งๆ อยู่ในเส้นทางจริงได้โดยไม่กลายเป็นจุดล้มเหลวจุดเดียว, routing DSL สำหรับประกอบหลายโมเดลให้เป็นการเรียกครั้งเดียว และ ราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยบวกกำไร 0% ดังนั้นเมื่อผู้ขายลดราคา การเปลี่ยนแปลงจึงมีผลทันทีในวันเดียวกัน แทนที่จะรอรอบรีเฟรชถัดไป หากคุณต้องการเห็นว่า Qwen รุ่นปัจจุบันบนปลายทางแบบโฮสต์เป็นอย่างไรระหว่างที่คุณชั่งน้ำหนักเรื่องนี้ Qwen3.8-27B อยู่ในแคตตาล็อกและอยู่ในตระกูลเดียวกับรุ่นที่ครองตำแหน่งอยู่ในการเปรียบเทียบนี้

ประเด็นสำคัญ

ให้ Qwen3-8B เป็นค่าเริ่มต้นต่อไป สิบหกเดือนในการใช้งานจริง ภาษามากกว่าร้อยภาษา และคำศัพท์ 151,936 โทเคน ไม่ใช่ข้อได้เปรียบที่เช็กพอยต์อายุสองวันจะเอาชนะได้ด้วยสถาปัตยกรรมเพียงอย่างเดียว และการที่ Alibaba ไม่ได้ปล่อยรุ่นสืบทอดขนาด 8B ก็ไม่ได้ทำให้ Granite Switch 4.1 8B กลายเป็นรุ่นสืบทอดนั้น — มันทำให้มันเป็นเครื่องมือคนละแบบที่บังเอิญตกอยู่ในคลาสหน่วยความจำเดียวกัน นำมาใช้อย่างจำกัดและเฉพาะเจาะจง: สำหรับคำขอที่ต้องการการแจกแจงที่ปรับเทียบแล้วสำหรับตัวเลือกที่มีป้ายกำกับ สำหรับการคัดกรองความปลอดภัยแบบอินไลน์ และสำหรับเสียงบนเอนด์พอยต์เดียวกับแชต ทดสอบกับชุดป้ายกำกับของคุณเองก่อนเชื่อ 42.9 เพราะตัวเลขนั้นเป็นของ IBM และของ IBM เท่านั้น สิ่งที่น่าสนใจเกี่ยวกับการจับคู่นี้ไม่ใช่ว่าโมเดลหนึ่งเอาชนะอีกโมเดลหนึ่ง — แต่มันคือการที่ช่อง 8B ยังคงว่างอยู่ และโมเดลที่จะเติมช่องนั้นต่อไปอาจไม่ใช่ 8B แบบ dense เลยก็ได้