Granite Switch 4.1 8B vs Granite 4.2 3B: แล็บเดียวกัน แต่เดิมพันสองแบบที่ต่างกัน

สิ่งแรกที่ควรรู้เกี่ยวกับ Granite Switch 4.1 8B และ Granite 4.2 3B คือทั้งสองไม่ได้เป็นคู่แข่งกันจริง ๆ ทั้งคู่เป็นคำตอบสำหรับคำถามที่ต่างกัน ซึ่งบังเอิญใช้แล็บเดียวกัน ใบอนุญาตเดียวกัน และเลขเวอร์ชันเดียวกัน และวิธีที่เร็วที่สุดที่จะทำให้เสียเวลาหนึ่งสัปดาห์คือการมองสิ่งนี้เป็นการเทียบกันแบบตัวต่อตัวแล้วเลือกหาผู้ชนะ IBM เปิดตัว Granite 4.2 3B เมื่อวันที่ 25 สิงหาคม 2026 ในฐานะโมเดลให้เหตุผลขนาดเล็ก: โหมดการคิดสามแบบ การเรียกใช้เครื่องมือ หน้าต่างบริบท 128K ที่ขยายได้ถึง 512K IBM เปิดตัว Granite Switch 4.1 8B เมื่อวันที่ 14 ตุลาคม 2026 ในฐานะองค์ประกอบประกอบขึ้นจากชิ้นส่วน: โมเดลข้อความ 8B ที่หยุดนิ่ง (frozen) พร้อมอะแดปเตอร์สลับได้สองตัว และตัวเข้ารหัสเสียงที่พ่วงอยู่กับมัน ตัวหนึ่งถูกสร้างขึ้นมาเพื่อคิดให้หนักขึ้น ส่วนอีกตัวถูกสร้างขึ้นมาเพื่อทำงานได้หลากหลายขึ้นจากเช็กพอยต์เดียว

สิ่งที่สองที่ควรรู้ละเอียดอ่อนกว่า และนี่คือเหตุผลที่การจับคู่นี้คุ้มค่าที่จะเขียนถึงเป็นชิ้นเป็นอันเลยด้วยซ้ำ ตระกูล Granite Switch สร้างขึ้นบนน้ำหนักของเจเนอเรชัน 4.1 ขณะที่สายผลิตภัณฑ์ตามปกติของ IBM ได้ขยับไปที่ 4.2 แล้ว อ่าน build manifest ของ Granite Switch 4.1 8B จะเห็นว่าเบสคือ ibm-granite/granite-4.1-8b อ่านโมเดลการ์ดของ Granite 4.2 3B จะเห็นว่ามันถูก post-train มาจาก ibm-granite/granite-4.1-3b-base ทั้งสองสายยืนอยู่บนน้ำหนัก pre-trained เจเนอเรชันเดียวกัน แต่ทำสิ่งตรงกันข้ามกับมัน: 4.2 ทำ post-train หนักกว่าเพื่อการให้เหตุผล ส่วน Switch ประกอบกันในแนวราบเพื่อความกว้างขวาง ไม่มีฝ่ายใดแทนที่อีกฝ่าย ซึ่งเป็นเหตุผลว่าทำไมปฏิกิริยาอัตโนมัติแบบ "อันไหนใหม่กว่า" จึงให้คำตอบที่ผิดในกรณีนี้

แต่ละอย่างจริงๆ แล้วคืออะไร

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B ไม่ใช่โมเดลที่ใช้การให้เหตุผล และไม่ได้พยายามจะเป็นเช่นนั้น ฐานของมันคือ Granite 4.1 8B — 40 เลเยอร์, ขนาด hidden 4,096, 32 query heads เทียบกับ 8 KV heads, หน้าต่าง 131,072 โทเค็น — ถูกแช่แข็ง โดยมีอะแดปเตอร์ LoRA แบบ activated สองตัวอยู่ด้านบน guardian-core มีแรงก์ 16 บนโปรเจกชัน attention และมีไว้เพื่อตรวจจับอันตราย การ jailbreak คำหยาบคาย ความรุนแรง เนื้อหาทางเพศ อคติทางสังคม และพฤติกรรมที่ผิดจริยธรรม decision มีแรงก์ 64 บนโปรเจกชันทั้งเจ็ด และมีไว้เพื่อคืนการแจกแจงความน่าจะเป็นที่ปรับเทียบแล้วสำหรับตัวเลือกที่มีป้ายกำกับใน forward pass เพียงครั้งเดียว เพิ่ม Granite Speech 5.0 TurboCTC ซึ่งเป็นตัวเข้ารหัส conformer ขนาด 470M พารามิเตอร์ สำหรับการถอดเสียง ยอดรวมเมื่อประกอบแล้ว: 8,776,400,896 พารามิเตอร์ เทียบกับฐาน 8,380,551,168 — เพิ่มขึ้น 4.72%

มิติที่พวกมันแตกต่างกันจริง ๆ

• ขนาด — Granite Switch 4.1 8B ที่ 8.78B เมื่อเทียบกับ Granite 4.2 3B ที่ประมาณ 3B น้ำหนักเกือบสามเท่า ซึ่งบน GPU เดียวคือความแตกต่างระหว่างสบายและตึง

• บริบท — 131,072 โทเค็น เทียบกับ 128K แบบเนทีฟ พร้อมเส้นทางขยายไปถึง 512K ใกล้เคียงกันที่ระดับฐาน แต่ไม่ใกล้เคียงหากคุณต้องการโหมดบริบทยาว

• การใช้เหตุผล — ไม่มีโหมดคิดเลยเมื่อเทียบกับอีกสามตัว Granite Switch 4.1 8B ตอบทันที ส่วน Granite 4.2 3B จะคิดก่อน ซึ่งเป็นทางเลือก

• เอาต์พุตแบบมีโครงสร้าง — ซอฟต์แมกซ์ที่ปรับเทียบแล้วบนตัวเลือกที่มีป้ายกำกับ เทียบกับคำตอบที่พรอมป์ต์ไว้ มีเพียงหนึ่งในนี้เท่านั้นที่ให้ตัวเลขซึ่งคุณตั้งเกณฑ์ได้

• รูปแบบข้อมูล — ป้อนข้อความพร้อมเสียง ออกเป็นข้อความ เทียบกับการใช้ข้อความเพียงอย่างเดียว

• การประกอบอะแดปเตอร์ — aLoRA สองตัวที่สลับได้ และ composer แบบสาธารณะ เทียบกับ checkpoint แบบ monolithic เพียงตัวเดียว

• เปิดตัว — 14 ตุลาคม 2026 เทียบกับ 25 สิงหาคม 2026 ห่างกันเจ็ดสัปดาห์ ทั้งคู่ใช้สัญญาอนุญาต Apache-2.0

เมื่อไหร่ที่ Granite 4.2 3B เป็นตัวเลือกที่ชัดเจน

อะไรก็ตามที่ต้องคิดก่อนตอบ และอะไรก็ตามที่ต้องรันแบบเล็ก ๆ โมเดล 3B ที่ให้เหตุผลในจำนวนโทเคนที่ควบคุมได้เป็นเครื่องมือที่แตกต่างจากโมเดล 8B ที่ไม่ให้เหตุผลเลย และในด้านคณิตศาสตร์ ตรรกะหลายขั้นตอน และโค้ด โหมดคิดกำลังทำงานจริง而不是แค่ประดับผลลัพธ์ โหมดใช้ความพยายามต่ำคือส่วนที่ถูกมองข้าม: มันให้ค่าระดับกลางระหว่าง "ให้เหตุผลเต็มที่" กับ "ไม่ให้เหตุผล" ซึ่งเป็นสิ่งที่คุณต้องการพอดีเมื่อคำถามเรียบง่ายแต่ไม่จิ๊บจ๊อย และคุณจ่ายตามจำนวนโทเคน

การขยายเป็น 512K มีความสำคัญด้วยเหตุผลเดียวกันในทิศทางที่ต่างออกไป งานเอกสารยาว — โค้ดระดับรีโพซิทอรี อินพุตหลายร้อยหน้า — เป็นจุดที่หน้าต่าง 131K เริ่มต้องใช้กลยุทธ์การแบ่งชิ้น และ Granite Switch 4.1 8B ไม่ได้ระบุเส้นทางการขยายเกิน 131,072 ของตน

Footprint เป็นอาร์กิวเมนต์ตัวที่สาม และมันไม่ใช่เรื่องเล็กเลย สามพันล้านพารามิเตอร์คือโมเดลระดับแล็ปท็อป คุณสามารถรัน Granite 4.2 3B ได้ในสภาพแวดล้อมที่เช็กพอยต์ขนาด 8.78B ไม่ใช่ทางเลือกที่เป็นไปได้เลย และนั่นคือความแตกต่างด้านขีดความสามารถ ไม่ใช่แค่ความชอบส่วนบุคคล

ที่ Granite Switch 4.1 8B เป็นตัวเลือกที่ชัดเจน

เมื่อผลลัพธ์ที่คุณต้องการคือความน่าจะเป็น ไม่ใช่ย่อหน้าหนึ่งย่อหน้า โมเดลการให้เหตุผลสามารถถูกพรอมป์ให้เลือกตัวเลือก B และมันจะให้ตัวอักษรนั้นแก่คุณ อย่างไรก็ตาม พรอมป์ไม่ใช่ความน่าจะเป็น คุณไม่สามารถตั้งเกณฑ์ตัดสินกับตัวอักษรได้ คุณไม่สามารถเปรียบเทียบตัวอักษรข้ามเทิร์นในฐานะคะแนนที่คาลิเบรตแล้วได้ และคุณไม่สามารถบันทึกมันเป็นค่าความเชื่อมั่นได้ decisionอะแดปเตอร์จะคืนค่า softmax เหนือโทเค็นป้ายกำกับโดยตรง — การเรียกที่ระบุไว้ในเอกสารจะขอให้ vLLM ส่ง logprobs ของ id เหล่านั้นพอดี แล้วยกกำลัง ซึ่งให้ผลลัพธ์ที่มีรูปแบบเช่น A: 0.982, B: 0.0035, C: 0.014 นั่นคือ primitive สำหรับการจัดเส้นทาง ไม่ใช่คำตอบ

เมื่อการตรวจสอบความปลอดภัยจำเป็นต้องเป็นคอมโพเนนต์มากกว่านโยบาย guardian-core ใช้เช็กพอยต์เดียวกัน โดยเปิดใช้งานด้วยโทเคนควบคุมที่เทมเพลตแชทแทรกเมื่อคุณส่ง adapter_name คุณไม่ได้ตั้งโมเดลที่สองขึ้นมาเพื่อคัดกรองอินพุต; ตัวแยกประเภทเป็นโหมดหนึ่งของโมเดลที่คุณโหลดไว้แล้ว

เมื่อคุณต้องการเอนด์พอยต์เดียวแทนที่จะเป็นสอง และโดยเฉพาะอย่างยิ่งเมื่อเสียงเป็นหนึ่งในสองนั้น การถอดเสียงใช้เอนด์พอยต์ร่วมกับแชตและการตัดสินใจ ดังนั้น input_audio ซึ่งเป็นส่วนเนื้อหาในการคอมพลีชันแชตแบบธรรมดาก็เพียงพอแล้ว Granite 4.2 3B ไม่มีเส้นทางสำหรับเสียง

และเมื่อคุณต้องการสร้างเวอร์ชันของคุณเอง คอมโพเซอร์เปิดให้ใช้สาธารณะ แค็ตตาล็อกอะแดปเตอร์เปิด และแมนิเฟสต์การบิลด์สำหรับเช็กพอยต์นี้ถูกเช็กอินไว้ข้าง ๆ เวต ซึ่งหมายความว่าแรงก์ โมดูลเป้าหมาย และ ID ของโทเคนควบคุมทั้งหมดสามารถอ่านได้โดยตรง แทนที่จะต้องอนุมานเอาเอง

ข้อแม้ที่ตรงไปตรงมาของทั้งสองฝ่าย

Granite Switch 4.1 8B ไม่มีการประเมินโดยอิสระใด ๆ ทั้งสิ้น คะแนนที่เผยแพร่เพียงหนึ่งเดียวของมันคือ Decision Index, edition v0.3 public fast subset อยู่ที่ 42.9 โดยรวม — ความรู้ 29.1, ภาษา 48.9, การดึงข้อมูล 49.8, เครื่องมือ 59.8, ศิลปะ 18.0 — และการรันนั้นเป็นของ IBM เอง เผยแพร่บนโมเดลการ์ดของ IBM ไม่มีใครทำซ้ำ ไม่มีรายการบนลีดเดอร์บอร์ดของบุคคลที่สาม โมเดลนี้มีอายุสองวันบน Hub โดยมียอดดาวน์โหลดไม่กี่สิบครั้ง

เส้นทางการพูดของมันแคบกว่าที่พาดหัวข่าวสื่อ และ IBM เองก็ยอมรับเช่นนั้น: encoder รองรับเฉพาะภาษาอังกฤษเท่านั้น ถอดเสียงออกมาเป็นตัวพิมพ์เล็กและไม่มีเครื่องหมายวรรคตอน และ encoder กับโมเดลภาษานั้น ไม่ได้ถูกฝึกมาด้วยกัน — ไม่มี projection ที่ผ่านการฝึกซึ่งเชื่อมสองส่วนเข้าด้วยกัน ดังนั้นการถอดเสียงผิดอาจเปลี่ยนสิ่งที่โมเดลตอบสนองได้อย่างเงียบ ๆ ส่วน Granite 4.2 3B นั้นมีอายุเจ็ดสัปดาห์แทนที่จะเป็นสองวัน แต่ตัวเลขการประเมินก็เป็นของ IBM เช่นกัน และหน้าต่างบริบท 512K ของมันเป็นเส้นทางการขยายมากกว่าจะเป็นหน้าต่างโดยธรรมชาติ

ทั้งสองโมเดลนี้ไม่มีรายการบนสกอร์บอร์ดแยกเป็นของตัวเอง นั่นเป็นลักษณะของสาย Granite 4.x ทั้งสายในตอนนี้ ไม่ใช่การวิจารณ์เช็คพอยต์ใดเช็คพอยต์หนึ่ง

รันทั้งคู่โดยไม่ต้องรันสองสแต็ก

ข้อสังเกตที่เป็นประโยชน์เกี่ยวกับการจับคู่นี้คือ โมเดลทั้งสองไม่ได้แข่งขันกันสำหรับคำขอเดียวกัน ดังนั้นการติดตั้งใช้งานจริงคือใช้ทั้งคู่ตามลำดับ: Granite 4.2 3B ในโหมดคิด (thinking mode) ในจุดที่ส่วนที่ยากคือการให้เหตุผล และ Granite Switch 4.1 8B ในจุดที่ส่วนที่ยากคือการให้คะแนนการตัดสินใจหรือการถอดเสียงบันทึกเสียง นี่คือสถาปัตยกรรมแบบสองคอนเทนเนอร์ และคุ้มค่าที่จะระบุให้ชัดเจนว่าชั้นการกำหนดเส้นทาง (routing layer) ช่วยตรงไหนและไม่ช่วยตรงไหน: วันนี้ยังไม่มีโมเดล Granite รุ่นใด ๆ อยู่ในแคตตาล็อกของ OrcaRouter ดังนั้นเราจึงไม่ได้เป็นเส้นทางแบบโฮสต์ไปยังเช็กพอยต์ทั้งสองนี้ — Granite Switch 4.1 8B และ Granite 4.2 3B ต่างก็เป็นการดาวน์โหลดจาก Hugging Face บวกกับคอนเทนเนอร์ vLLM สิ่งที่แพลตฟอร์มเปลี่ยนคือชั้นที่อยู่เหนือโมเดลเหล่านี้ขึ้นไป มีโมเดลมากกว่าสองร้อยรายการอยู่หลังคีย์เดียว ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยบวกมาร์กอัป 0% ดังนั้นการลดราคาของผู้ขายจึงมีผลทันทีในวันเดียวกัน แทนที่จะรอการรีเฟรชแคตตาล็อกครั้งถัดไป และ การเฟลโอเวอร์อัตโนมัติ (automatic failover) หมายความว่าโมเดลที่คุณเพียงแค่ลองใช้สามารถอยู่ในเส้นทางที่ทำงานจริงได้โดยไม่กลายเป็นจุดล้มเหลวเพียงจุดเดียวประเด็นของการมีสิ่งนั้นพร้อมไว้ก่อนที่ Granite ตัวใดตัวหนึ่งจะปรากฏบนปลายทางแบบโฮสต์คือ การเปรียบเทียบในตอนนั้นมีค่าใช้จ่ายเพียงแค่สตริงชื่อโมเดลหนึ่งสตริง แทนที่จะเป็นการย้ายระบบหนึ่งครั้ง

แล้วอันไหน

เลือก Granite 4.2 3B เมื่อภาระงานเป็นการให้เหตุผล เมื่อเครื่องมีขนาดเล็ก หรือเมื่ออินพุตยาวกว่า 131K โทเคน เลือก Granite Switch 4.1 8B เมื่อภาระงานต้องการความน่าจะเป็นในการตัดสินใจที่คาลิเบรตแล้ว การคัดกรองความปลอดภัยแบบอินไลน์ หรือเสียงพูดบนปลายทางเดียวกับแชต เลือกทั้งสองรุ่นหากคุณมี GPU เพราะส่วนที่ทับซ้อนกันระหว่างทั้งสองนั้นเล็กกว่าที่ป้ายกำกับ "Granite 4.x" ที่ใช้ร่วมกันทำให้ดูเหมือนมาก และอย่าเลือกรุ่นใดเลยโดยอาศัยตัวเลข benchmark ที่ IBM รันบนการ์ดของ IBM เพราะนั่นคือฐานหลักฐานสาธารณะทั้งหมดสำหรับทั้งสองรุ่น