Granite Switch 4.1 30B: IBM ลดอะแดปเตอร์จากสิบสองตัวเหลือสองตัว

เมื่อห้าเดือนก่อน IBM ได้เปิดพรีวิว Granite Switch ขนาด 30B บน Hugging Face พร้อมอะแดปเตอร์ 12 ตัวอยู่ภายใน และมีพารามิเตอร์ส่วนเพิ่ม 11.68% เหนือโมเดลฐาน เมื่อวันที่ 14 ตุลาคม 2026 โมเดลเวอร์ชันสมบูรณ์ก็มาถึง — Granite Switch 4.1 30B — โดยมีอะแดปเตอร์เพียงสองตัวเท่านั้น และมีค่าส่วนเพิ่ม 3.89% ตัวเลขพาดหัวข่าวลดลงสองในสาม และนั่นคือการเปิดตัว

เพื่อให้ชัดเจนว่า “arrived” หมายถึงอะไร เพราะนี่คือจุดที่สื่อหลายแห่งรายงานกันแบบสะเพร่า: เวตถูกอัปโหลดขึ้น Hub เมื่อวันที่ 14 ตุลาคม 2026 และโพสต์เปิดตัวของ IBM เองที่ชื่อ Granite Switch 4.1: แชต การตัดสินใจ และเสียงพูดจากเอนด์พอยต์เดียวถูกเผยแพร่เมื่อวันที่ 15 ตุลาคม นั่นคือสองวันก่อนเวลาที่บทความนี้กำลังถูกเขียนขึ้น มันเป็นการเปิดตัวที่ประกาศอย่างเป็นทางการ ไม่ใช่การดรอปแบบเงียบ ๆ ที่มีคนไปพบในมิเรอร์ และไม่ใช่การลงซ้ำของพรีวิวเดือนพฤษภาคม — อาร์ติแฟกต์ไม่เหมือนกัน จำนวนอะแดปเตอร์ก็ไม่เหมือนกัน และเส้นทางเสียงไม่มีอยู่ในพรีวิวเลย เนื้อหาต่อไปนี้แยกสิ่งที่คุณอ่านได้จากรีโพซิทอรีออกจากสิ่งที่ IBM เท่านั้นที่ได้กล่าวไว้

จริง ๆ แล้วข้างในเช็กพอยต์มีอะไรกันแน่

Granite Switch 4.1 30B เป็นการประกอบขึ้นมา ไม่ใช่สถาปัตยกรรมใหม่ โดยนำ Granite 4.1 30B — ซึ่งเป็นทรานส์ฟอร์มเมอร์แบบเดนส์ที่ใช้เฉพาะตัวถอดรหัส หน้าต่าง 131,072 โทเคน คำศัพท์ 100,352 โทเคน — มาแช่แข็งไว้ แล้วต่ออะแดปเตอร์ activated-LoRA สองตัวพร้อมตัวเข้ารหัสเสียงเข้าไป โครงสร้างการบิลด์ถูกเช็กอินเข้าไปในรีโพซิทอรีข้าง ๆ เวท ซึ่งเป็นเหตุผลว่าข้อกล่าวอ้างเชิงโครงสร้างทุกข้อด้านล่างนี้จึงอ่านได้จากตัวโค้ดเอง แทนที่จะเป็นเพียงการบอกเล่า

• guardian-core — aLoRA, rank 16, alpha 64, เชื่อมต่อกับ attention projections เท่านั้น (k_proj, o_proj, q_proj, v_proj), ยกมาจาก Guardian Library และมุ่งเป้าไปที่อันตราย, การ jailbreak, คำหยาบคาย, ความรุนแรง, เนื้อหาทางเพศ, อคติทางสังคม และพฤติกรรมที่ผิดจริยธรรม โทเคนควบคุม <|guardian-core|>, id 100352.

• การตัดสินใจ — aLoRA, rank 64, alpha 128, แนบไว้กับ projection ทั้งเจ็ดรวมถึง MLP และถูกฝึกให้ทำสิ่งที่แคบกว่าการแชต: เมื่อกำหนด state และคำถามที่มีตัวเลือกพร้อมป้ายกำกับ ให้คืนค่าการแจกแจงความน่าจะเป็นที่ปรับเทียบแล้วเหนือป้ายกำกับเหล่านั้นใน forward pass เดียว โทเคนควบคุม <|decision|>, id 100353.

• เสียงพูด — granite-speech-5.0-470m-turboctc ตัวเข้ารหัส CTC แบบคอนฟอร์เมอร์ที่ไม่ใช่ออโตเรเกรสซีฟขนาด 470 ล้านพารามิเตอร์ รองรับเฉพาะภาษาอังกฤษเท่านั้น เชื่อมต่อเป็นเส้นทางอินพุตเสียงแทนที่จะเป็นบริการอีกตัวหนึ่ง

การคำนวณน้ำหนักเป็นตัวเลขที่สะอาดที่สุดในรีลีสนี้ ค่าฐาน: 28,865,728,512 พารามิเตอร์ ค่าที่ประกอบขึ้น: 29,989,814,272 พารามิเตอร์ ผลต่างคือ 1,124,085,760 พารามิเตอร์ หรือ +3.89% คุณไม่ได้เขียนโทเคนควบคุมด้วยตัวเอง — เทมเพลตแชตจะแทรกโทเคนเหล่านั้นเมื่อคุณส่ง adapter_name เป็นอาร์กิวเมนต์ ซึ่งหมายความว่าการสลับความสามารถเป็นพารามิเตอร์ของคำขอ มากกว่าจะเป็นการดีพลอยครั้งที่สอง

พรีวิวมาพร้อมอะแดปเตอร์ 12 ตัว ส่วนเวอร์ชันทางการมาพร้อม 2 ตัว

นี่คือการตัดสินใจที่ควรค่าแก่การทำความเข้าใจ เพราะเมื่อมองเผิน ๆ มันดูเหมือนเป็นความถดถอย เช็กพอยต์พรีวิว — ซึ่งยังอยู่บน Hub ยังเป็น Apache-2.0 ลงวันที่ 5 พฤษภาคม 2026 — บรรจุอะแดปเตอร์สิบสองตัวจาก Granite Libraries สามชุด: citation, query rewrite, query clarification, hallucination detection, answerability, factuality detection, policy guardrails, factuality correction, guardian-core, uncertainty, requirement check และ context attribution นั่นเป็นชุดที่ใช้งานได้จริง และเป็นชุดที่คุณต้องคิดวิเคราะห์ เพราะอะแดปเตอร์สิบสองตัวหมายถึงสูตรการเรียกใช้สิบสองแบบและสัญญาเอาต์พุตที่แตกต่างกันสิบสองแบบ

Granite Switch 4.1 30B เก็บไว้สองตัวและเพิ่มตัวเข้ารหัสเสียง การแลกเปลี่ยนที่ IBM ทำคือความเข้าใจง่ายเพื่อแลกกับความครอบคลุม: โมเดลที่เสร็จแล้วคือโมเดลแชตที่ตอบคำถามเชิงตัดสินใจพร้อมค่าความน่าจะเป็นและถอดเสียงได้ด้วย และนั่นคือสามสิ่งที่ผู้เรียกใช้จำไว้ในหัวได้ในคราวเดียว อะแดปเตอร์อีกสิบตัวไม่ได้หายไป — ยังเผยแพร่อยู่ ยังประกอบได้ และคอมโพเซอร์ใน granite-switch รีโพซิทอรีจะสร้างเช็กพอยต์ให้คุณด้วยชุดย่อยใดก็ได้ที่คุณต้องการ รวมถึงทั้งสิบสอง สิ่งที่เปลี่ยนไปคือสิ่งที่มาพร้อมเปิดใช้งานโดยค่าเริ่มต้น

นั่นคือต้นทุนจริง และควรพูดถึงมันให้ชัดเจนมากกว่าจะกลบเกลื่อน: หากคุณกำลังรอให้อะแดปเตอร์ตรวจจับ hallucination และระบุแหล่งที่มาของบริบทของ preview ไปถึง checkpoint 1.0 นี่ไม่ใช่อย่างนั้น มันคือโมเดลที่แคบกว่าและมีโอเวอร์เฮดต่ำกว่า และ composition tooling ต่างหากคือสิ่งที่ปิดช่องว่างนั้น

อะแดปเตอร์การตัดสินใจคือครึ่งหนึ่งที่ไม่ใช่โมเดลแชต

การอ่านการแจกแจงความน่าจะเป็นออกจากแบบจำลองภาษาไม่ใช่เรื่องใหม่ สิ่งที่ต้องอธิบายคือการทำเช่นนั้นในการส่งผ่านไปข้างหน้าครั้งเดียวเทียบกับชุดป้ายชื่อตัวเลือกที่กำหนดไว้ตายตัว โดยมีตัวเลขที่ปรับเทียบดีพอจะใช้กำหนดเส้นทางได้ สูตรที่บันทึกไว้คือพรอมป์ตระบบของกลไกตัดสินใจแบบตายตัว, State: เทิร์นที่ประเมินบนฐานที่แช่แข็งแล้ว จากนั้นก็เป็น ### DECISION เทิร์นที่นำเสนอคำถามและตัวเลือกที่ติดป้ายด้วยโทเคนเดียว คุณขอ logprobs ของ id โทเคนป้ายเหล่านั้นแบบเจาะจงแล้วยกกำลัง ตัวอย่างในบัตรเองคืนค่าออกมาประมาณ A: 0.982, B: 0.0035, C: 0.014 — และส่วนที่น่าสนใจคือค่าเหล่านั้นมาจากปลายทาง completion ปกติ ไม่ใช่ classifier

มีจุดยุ่งยากเชิงวิศวกรรมที่ประกาศข้ามไป กลไก logprob-token-id จำกัดไว้ที่ 128 ID ต่อคำขอ ดังนั้นคำถามแบบตัดสินใจที่มีตัวเลือกมากกว่า 128 รายการจึงล้มเหลวไปเลย วิธีแก้ที่เอกสารระบุคือแบ่ง ID ป้ายกำกับออกเป็นชังก์ละ 128 ส่งคำขอหนึ่งครั้งต่อชังก์โดยใช้พรอมป์ต์เดียวกัน แล้วนำมาต่อกัน ซึ่งทางคณิตศาสตร์ให้ผลเหมือนกับการเรียกแบบไม่จำกัด เพราะ logprob ที่ส่งคืนครอบคลุมคำศัพท์ทั้งหมด ดังนั้นค่าของแต่ละป้ายกำกับจึงไม่ขึ้นอยู่กับว่าชังก์ใดเป็นผู้ขอ มีคำขอเพิ่มหนึ่งครั้งต่อทุก 128 ตัวเลือก นี่คือรายละเอียดแบบที่อยู่เฉพาะภายในรีโพซิทอรีเท่านั้น

ตัวเลขที่เผยแพร่เพียงตัวเดียวที่แนบมากับอะแดปเตอร์คือ Decision Index ฉบับ v0.3 ซึ่งเป็นสับเซตสาธารณะแบบเร็วขนาด 1,068 แถว: ภาพรวม 50.1 โดยมี Knowledge 32.4, Language 58.6, Retrieval 49.8, Tools 76.5 และ Arts 26.4 ให้ดูรูปร่างของผลลัพธ์มากกว่าดูพาดหัว — 76.5 ใน Tools ที่อยู่ข้าง ๆ 26.4 ใน Arts เป็นโปรไฟล์ที่ไม่สม่ำเสมออย่างมาก และมันบอกคุณได้มากกว่าว่าอะแดปเตอร์นี้ปลอดภัยที่จะชี้ไปที่ไหน เมื่อเทียบกับตัวเลขภาพรวม IBM ยังรายงานว่าการให้บริการอะแดปเตอร์ในเครื่องและผ่านปลายทาง vLLM ที่โฮสต์ไว้นั้นสอดคล้องกันภายในประมาณ 0.6 คะแนน ซึ่งเป็นการตรวจสอบความสมเหตุสมผลที่เป็นประโยชน์ต่อเส้นทางการให้บริการ แม้ว่า IBM จะรันทั้งสองส่วนด้วยตนเองก็ตาม

การถอดเสียงเป็นข้อความ และข้อควรระวังที่ IBM เขียนไว้ใน การ์ดของตัวเอง

เส้นทางเสียงจะนำทราบสคริปต์ผ่านเอนโคเดอร์ที่ฝังไว้ และแทรกเข้าไปในบริบทแชทแทนส่วนเนื้อหาเสียง ดังนั้นคำขอที่มีเสียงจะดูเหมือนการทำงานแชทให้เสร็จสมบูรณ์ตามปกติที่มีส่วน input_audio ไม่ต้องมีเซิร์ฟเวอร์เสียงตัวที่สอง ไม่ต้องมีงบประมาณความหน่วงตัวที่สอง

ข้อจำกัดทั้งหมดล้วนมาจากเอกสารของ IBM เอง ไม่ใช่จากนักวิจารณ์ที่มองแง่ร้าย: รองรับเฉพาะภาษาอังกฤษเท่านั้น เอาต์พุตเป็นตัวพิมพ์เล็กและไม่มีเครื่องหมายวรรคตอน ไม่มีการชี้นำในขั้นตอนถอดรหัส และ — ข้อที่ควรทำให้คุณต้องชะลอความเร็วลง — ตัวเข้ารหัสเสียงพูดและแบบจำลองภาษาไม่ได้ถูกฝึกฝนร่วมกันไม่มีโปรเจกชันที่ผ่านการฝึกฝนใดเชื่อมโยงสองส่วนนี้เข้าด้วยกัน ดังนั้นการถอดความผิดพลาดจึงอาจเปลี่ยนสิ่งที่แบบจำลอง หรือตัวปรับการตัดสินใจ ตอบสนองต่อ และจะไม่มีสิ่งใดในไปป์ไลน์คอยแจ้งเตือนเรื่องนี้ หากคุณกำลังนำระบบใดไปใช้งานซึ่งข้อผิดพลาดในการถอดความก่อให้เกิดผลกระทบตามมา ประโยคนั้นก็คือแบบจำลองภัยคุกคามทั้งหมดของคุณ

ยืนยันแล้ว, รายงานโดยผู้ขาย, ยังไม่ยืนยัน

• ยืนยันจากรีโพซิทอรี — ข้อมูลระบุตัวตนของโมเดลฐาน, อันดับของอะแดปเตอร์ทั้งสองและโมดูลเป้าหมายของอะแดปเตอร์เหล่านั้น, รหัสโทเคนควบคุม, จำนวนพารามิเตอร์ที่ประกอบขึ้นและส่วนต่าง +3.89%, หน้าต่าง 131,072 โทเคน, สัญญาอนุญาต Apache-2.0 และช่วงที่รองรับซึ่งปักหมุดไว้ (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+)

• รายงานโดยผู้ขาย ไม่ได้ทำซ้ำ — ตัวเลข Decision Index, คำอ้างว่า Granite Speech 5.0 TurboCTC เป็นโมเดล ASR ที่เร็วที่สุดบนกระดานผู้นำ OpenASR, คำอ้างว่าโมเดลที่ประกอบขึ้นใช้ VRAM ใกล้เคียงกับโมเดลฐาน, ข้อยืนยันว่าอะแดปเตอร์ Guardian เอาชนะโมเดลการตัดสินใจแบบปิดที่มีชื่อหลายตัวในงานด้านความปลอดภัย และข้อความแทรกในโพสต์เปิดตัวว่า บิลด์ Granite Switch ขนาด 3B แบบกำหนดเองเล่น Doom ได้ 60–100 การตัดสินใจต่อวินาที เทียบกับที่มีรายงานว่า 10 ต่อวินาที IBM กล่าวว่าจะมีข้อมูลเพิ่มเติม "ในอีกไม่กี่สัปดาห์ข้างหน้า" ซึ่งถือเป็นการยอมรับว่าหลักฐานในปัจจุบันยังบางเบา

• ยังไม่มีใครตรวจสอบ — ส่วนอื่น ๆ ทั้งหมด ไม่มีการประเมินจากบุคคลที่สาม ไม่มีการขึ้นอันดับบนลีดเดอร์บอร์ด ไม่มีการวัดค่าความหน่วงหรือปริมาณงานส่งข้อมูลอย่างอิสระ ไม่มีปลายทาง IBM ที่โฮสต์ไว้ รีโพซิทอรีนี้มียอดถูกใจอยู่ไม่กี่ครั้ง และ ณ เวลาที่เขียนนี้ แทบไม่มีการดาวน์โหลดเลย เปิดมาได้สองวันและยังมีคนอ่านไม่มากนัก

ตำแหน่งของสิ่งนี้ในสแต็ก

Granite Switch 4.1 30B เป็นเรื่องของการโฮสต์เอง การ์ดระบุ Hugging Face Transformers และ vLLM กำหนดช่วงเวอร์ชันแบบแคบ และเช็กพอยต์รันได้บนทั้งสองโดยไม่ต้องแปลง ไม่มีเอนด์พอยต์แบบ managed ดังนั้นขั้นตอนแรกที่ปฏิบัติได้จริงคือ GPU หนึ่งตัวและคอนเทนเนอร์หนึ่งตัว

พูดตรง ๆ เกี่ยวกับส่วนที่เหลือ: วันนี้ยังไม่มีโมเดล Granite ใดอยู่ในแค็ตตาล็อกของ OrcaRouter ดังนั้นถ้าคุณอยากได้เช็กพอยต์นี้ เส้นทางก็คือการเปิดตัวของ IBM กับฮาร์ดแวร์ของคุณเอง สิ่งที่แพลตฟอร์มมอบให้คือการตัดสินใจรอบ ๆ ต่างหาก — โมเดลกว่า 200 รายการภายใต้คีย์เดียวพร้อมการสลับสำรองอัตโนมัติ ราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยไม่บวกเพิ่ม 0% — ซึ่งสำคัญที่สุดพอดีในสถานการณ์แบบนี้ เช็กพอยต์อายุสองวันที่ไม่มีการประเมินอิสระเป็นเพียงผู้ท้าชิง ไม่ใช่ผู้ครองตำแหน่งเดิม และสิ่งที่ประหยัดต้นทุนที่สุดที่ทำได้กับผู้ท้าชิงก็คือเก็บมันไว้ข้างโมเดลที่ใช้งานในโปรดักชันอยู่แล้ว แล้วเปรียบเทียบด้วยทราฟฟิกของคุณเอง แทนที่จะเดินสายเส้นทางโปรดักชันใหม่ให้วนมาหามัน

คำถามที่เปิดอยู่

การเดิมพันเบื้องหลัง Granite Switch คือการผสมผสานเหนือกว่าการขยายขนาดสำหรับงานเฉพาะกลุ่ม — แอปพลิเคชันที่ตอบคำถาม ตัดสินใจ และถอดเสียง ซึ่งโมเดลสามตัวหมายถึงการติดตั้งใช้งานสามชุด ความหน่วงสามค่า และค่าใช้จ่ายสามรายการ การแชร์ KV cache หนึ่งตัวข้ามอะแดปเตอร์ และจ่ายเพียง 3.89% สำหรับสิ่งนั้น ถือเป็นงานวิศวกรรมที่แปลกใหม่จริงๆ และมันเป็นส่วนหนึ่งของการเปิดตัวนี้ที่จะยังคงสำคัญแม้เวลาผ่านไปหนึ่งปี

สิ่งที่ยังไม่ได้ข้อยุติคือคำตอบที่ประกอบขึ้นมานั้นดีหรือไม่ โปรไฟล์ที่เผยแพร่ของ decision adapter นั้นไม่สม่ำเสมอ เส้นทางเสียงรองรับเฉพาะภาษาอังกฤษและไม่ได้ฝึกแบบร่วมกัน และโมเดลนี้เพิ่งมีอายุได้สองวันโดยยังไม่มีการรันอิสระใด ๆ รองรับ อ่าน build manifest ประกอบซับเซ็ตของคุณเอง และวัดประสิทธิภาพ decision adapter เทียบกับชุดเลเบิลของคุณเอง ก่อนที่คุณจะเชื่อ 50.1 ของใครก็ตาม

การเปรียบเทียบเช่นนี้ก็เป็นจุดที่รูปแบบความล้มเหลวปรากฏให้เห็นเช่นกัน: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่มีการบันทึกไว้ซึ่งอยู่เบื้องหลังโมเดลในคลาสนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และแฟล็กข้อโต้แย้งของตนเอง