Granite Switch 4.1 8B กับ LFM2.5 2.6B Base: มีทางเลือกจริง ๆ ตรงนี้หรือ?

นี่คือคู่ที่ในชุดนี้ดูไม่เหมือนการแข่งขันที่ยุติธรรมที่สุด ดังนั้นเรามาจัดการกับเรื่องนี้ทันทีแทนที่จะแสร้งทำเป็นว่าไม่เป็นเช่นนั้น Granite Switch 4.1 8Bเป็นเช็กพอยต์แบบประกอบที่มีพารามิเตอร์ 8.78 พันล้านพารามิเตอร์ ซึ่ง IBM เผยแพร่เมื่อวันที่ 14 ตุลาคม 2026: เป็น Granite 4.1 8B แบบแช่แข็ง พร้อมอะแดปเตอร์ที่สลับได้สองตัวและตัวเข้ารหัสเสียง ทำหน้าที่แชท ให้คะแนนการตัดสินใจ และถอดเสียงจากปลายทางเดียว LFM2.5 2.6B Baseเป็นโมเดลข้อความที่ผ่านการฝึกมาก่อนขนาด 2.69 พันล้านพารามิเตอร์ ซึ่ง Liquid AI เผยแพร่เมื่อวันที่ 1 สิงหาคม 2026 สร้างขึ้นโดยเฉพาะสำหรับการติดตั้งบนอุปกรณ์ — และที่สำคัญ การ์ดโมเดลของมันเองระบุว่าเป็นเช็กพอยต์แบบ base ที่ "แนะนำเฉพาะสำหรับงานที่ต้องปรับแต่งละเอียดอย่างหนัก" เท่านั้น การนำมาเปรียบเทียบกันราวกับว่าตัวหนึ่งแทนที่อีกตัวได้นั้นเป็นความผิดพลาดเชิงหมวดหมู่ การเปรียบเทียบทั้งสองกลับบอกอะไรที่มีประโยชน์กว่า นั่นคือ ขอบเขตของแต่ละตัวอยู่ตรงไหนจริง ๆ และทำไมแทบจะไม่มีใครต้องเลือกหว่างสองตัวนี้

นี่จึงไม่ใช่การแข่งแบบ bake-off มันคือแผนที่ของการตัดสินใจที่คุณจะต้องทำจริง — การตัดสินใจที่คุณมีเป้าหมายฝั่ง edge และเป้าหมายฝั่งเซิร์ฟเวอร์ และคุณกำลังพยายามหาว่าโมเดลไหนควรไปอยู่ตรงไหน

แต่ละอันใช้ทำอะไร

LFM2.5 2.6B Base เป็นสถาปัตยกรรมแบบไฮบริด และความไฮบริดนี่แหละคือประเด็นสำคัญ มีทั้งหมดสามสิบเลเยอร์ โดย 22 เลเยอร์เป็นบล็อกคอนโวลูชันสั้นแบบ double-gated และ 8 เลเยอร์เป็น grouped-query attention ดังนั้นโครงสร้างส่วนใหญ่จึงเป็นคอนโวลูชันมากกว่าอัตเทนชัน ซึ่งเป็นสิ่งที่ช่วยให้หน่วยความจำและต้นทุนต่อโทเคนต่ำลงบนฮาร์ดแวร์ขนาดเล็ก ขนาดมิติซ่อน 2,048, 32 เฮดคิวรีเทียบกับ 8 เฮด KV, คอนเท็กซ์ 131,072 โทเคน, คำศัพท์ 128,000 โทเคน และงบประมาณการพรีเทรน 34 ล้านล้านโทเคน มีภาษาที่ระบุไว้สิบหกภาษา ได้แก่ อังกฤษ, อาหรับ, จีน, ฝรั่งเศส, เยอรมัน, อิตาลี, ญี่ปุ่น, เกาหลี, โปรตุเกส, สเปน, เวียดนาม, ไทย, อินโดนีเซีย, ฮินดี, รัสเซีย และโปแลนด์ Liquid อธิบายว่าตระกูลนี้สร้างขึ้นสำหรับการติดตั้งบนอุปกรณ์ และจัดส่งโมเดล instruct รุ่นพี่น้องในรูปแบบ GGUF, ONNX และ MLX ควบคู่ไปกับเช็กพอยต์แบบเนทีฟ

Granite Switch 4.1 8B เป็นสัญชาตญาณตรงกันข้ามที่นำไปใช้กับปัญหาตรงกันข้าม แทนที่จะย่อโมเดลให้เล็กลง กลับคงโครงสร้างหลักข้อความขนาดค่อนข้างใหญ่ไว้ และเพิ่มความสามารถด้านข้าง ฐานคือ Granite 4.1 8B: 40 เลเยอร์, ขนาด hidden 4,096, 32 หัว query เทียบกับ 8 หัว KV, หน้าต่าง 131,072 โทเค็น, คำศัพท์ 100,352 โทเค็น บนนั้นมี guardian-core, อะแดปเตอร์ activated-LoRA อันดับ 16 เหนือการฉายภาพ attention ที่ตรวจจับอันตราย การแหกคุก คำหยาบ ความรุนแรง เนื้อหาทางเพศ อคติทางสังคม และพฤติกรรมที่ผิดจริยธรรม; decision, อะแดปเตอร์อันดับ 64 เหนือการฉายภาพทั้งเจ็ดที่ส่งคืน softmax ที่ปรับเทียบแล้วเหนือโทเค็นตัวเลือกที่มีป้ายกำกับในการส่งผ่านไปข้างหน้าครั้งเดียว; และ Granite Speech 5.0 TurboCTC ตัวเข้ารหัส conformer แบบไม่ autoregressive ขนาด 470M พารามิเตอร์สำหรับการถอดเสียง รวมทั้งหมดที่ประกอบขึ้นคือ 8,776,400,896 พารามิเตอร์ เทียบกับฐาน 8,380,551,168 — เพิ่มขึ้น 4.72%

มิติที่ชี้ขาด: instruct กับ base

ความแตกต่างที่ใหญ่ที่สุดเพียงประการเดียวระหว่างเช็กพอยต์ทั้งสองนี้ไม่ใช่ขนาดหรือสถาปัตยกรรม หากแต่อยู่ที่ว่าอันหนึ่งเป็นโมเดลที่เสร็จสมบูรณ์แล้ว ส่วนอีกอันเป็นเพียงวัตถุดิบ

Granite Switch 4.1 8B พร้อมเรียกใช้งานได้ทันที Adapters ถูกประกอบเข้าไว้แล้ว, control tokens ถูกเชื่อมผ่าน chat template, สูตรการเรียกใช้สำหรับ decision adapter มีเอกสารกำกับพร้อมโค้ดที่ใช้งานได้ และการ์ดระบุเวอร์ชัน Transformers และ vLLM ที่ต้องการไว้อย่างชัดเจน คุณดาวน์โหลดมัน รันมัน แล้วมันก็ทำงานทั้งสามอย่าง

LFM2.5 2.6B Base ไม่ทำสิ่งเหล่านั้นเลย ด้วยการออกแบบไว้เช่นนั้น แนวทางของ Liquid เองระบุว่าเช็กพอยต์นี้มีไว้สำหรับ "ผู้ช่วยเฉพาะภาษา (เช่น ภาษาญี่ปุ่น) หรือเฉพาะโดเมน (เช่น การแพทย์) การฝึกด้วยข้อมูลที่เป็นกรรมสิทธิ์ หรือการทดลองกับแนวทาง post-training ใหม่ ๆ" — และถ้าสิ่งที่คุณต้องการคือโมเดลที่ตอบคำถามได้ทันทีโดยไม่ต้องทำอะไรเพิ่ม การ์ดก็ชี้ไปที่โมเดลพี่น้องที่ผ่าน post-training แล้วแทน เช็กพอยต์แบบ base ไม่มีพฤติกรรมการทำตามคำสั่งให้เปรียบเทียบ ไม่มีการจัดแนว และไม่มีวินัยเรื่องเทมเพลตแชต หากนำทั้งสองตัวไปประเมินในชุดเดียวกัน โมเดล Granite จะดูดีกว่าอย่างเห็นได้ชัด ด้วยเหตุผลที่ไม่เกี่ยวข้องกับว่าตัวไหนเป็นโมเดลที่ดีกว่าเลย: ตัวหนึ่งผ่าน post-training มาแล้ว ส่วนอีกตัวยังไม่ผ่าน

• พารามิเตอร์ — 8.78B ที่ประกอบรวม เทียบกับ 2.69B

• เลเยอร์ — บล็อกทรานส์ฟอร์มเมอร์แบบเดนส์ 40 บล็อก เทียบกับแบบไฮบริด 30 บล็อก (double-gated short-convolution 22 บล็อก + GQA 8 บล็อก)

• บริบท — 131,072 โทเค็น กับ 131,072 โทเค็น เท่ากันเป๊ะ ซึ่งเป็นเรื่องผิดปกติและน่าสังเกต

• คำศัพท์ — 100,355 (ID ที่สงวนไว้สามรายการสำหรับอะแดปเตอร์) เทียบกับ 128,000.

• โมดัลลิตี — ข้อความและเสียงเข้า ข้อความออก เทียบกับข้อความเท่านั้น

• ประเภทเช็กพอยต์ — ประกอบแล้ว, ผ่านการฝึกภายหลัง, พร้อมเรียกใช้ เทียบกับฐานที่ผ่านการฝึกมาก่อนสำหรับการปรับละเอียด

• สัญญาอนุญาต — Apache-2.0 เทียบกับสัญญาอนุญาต LFM 1.0 ซึ่งไม่ใช่ Apache ความแตกต่างนี้สำคัญในเชิงพาณิชย์และเป็นเรื่องที่มองข้ามได้ง่าย

• หลักฐานที่เผยแพร่ — Decision Index ที่ดำเนินการโดยผู้ขายรายเดียวอยู่ที่ 42.9 โดยรวม ไม่มีการประเมินโดยอิสระ เทียบกับไม่มีเกณฑ์มาตรฐานสาธารณะที่เทียบเคียงได้สำหรับเช็คพอยต์ฐาน

สิ่งที่ 2.69B ซื้อให้คุณได้ แต่ 8.78B ทำไม่ได้

ความสามารถในการพกพา และนี่ไม่ใช่ข้อได้เปรียบแบบผิวเผิน โมเดลขนาด 2.69B ที่มี 22 จาก 30 เลเยอร์สร้างจากคอนโวลูชันแบบสั้น ถูกออกแบบมาให้อยู่บนอุปกรณ์ — แล็ปท็อป, SoC ระดับโทรศัพท์, อุปกรณ์ฝังตัว — และ Liquid จัดจำหน่าย GGUF, ONNX และ MLX เวอร์ชันควอนไทซ์เพื่อการนี้โดยเฉพาะ เช็คพอยต์แบบประกอบขนาด 8.78B พร้อมตัวเข้ารหัสเสียงพูด 470M เป็นอาร์ติแฟกต์ฝั่งเซิร์ฟเวอร์ มันทำงานบน GPU ในคอนเทนเนอร์ อยู่หลังเอนด์พอยต์

นั่นหมายความว่ารูปแบบการนำไปใช้งานไม่ทับซ้อนกัน: แบบหนึ่งสำหรับกรณีที่คำขอไม่สามารถออกจากอุปกรณ์ได้ อีกแบบหนึ่งสำหรับกรณีที่ออกได้ หากข้อจำกัดคือ "ไม่มีเครือข่าย" การเปรียบเทียบก็จบก่อนจะเริ่มด้วยซ้ำ และไม่ว่าจะประกอบรวมกันอย่างไรก็ไม่เปลี่ยนสิ่งนั้น เมื่อเพิ่มประเด็นเรื่องสัญญาอนุญาตเข้าไป — LFM 1.0 แทน Apache-2.0 — เช็กพอยต์ 2.6B คือตัวที่คุณจะเลือกเมื่อคุณตั้งใจจะไฟน์จูนโมเดลของคุณเองบนข้อมูลของคุณเองและนำไปใช้ในผลิตภัณฑ์ ส่วน Granite Switch คือตัวที่คุณเลือกเมื่อคุณต้องการสามความสามารถในวันนี้ภายใต้สัญญาอนุญาตแบบผ่อนปรน

composition ให้อะไรกับคุณที่ 2.69B ให้ไม่ได้

สามงานจากปลายทางเดียว และความน่าจะเป็นแทนคำตอบ

อะแดปเตอร์ตัดสินใจคือส่วนที่ไม่มีสิ่งเทียบเท่าอยู่อีกฝั่ง เมื่อให้สถานะและคำถามที่มีตัวเลือกติดป้ายกำกับ มันจะคืนค่า softmax ที่ปรับเทียบแล้วเหนือป้ายกำกับเหล่านั้นในการส่งผ่านไปข้างหน้าครั้งเดียว — การเรียกตามที่บันทึกไว้จะขอให้ vLLM ส่ง logprobs ของรหัสโทเคนป้ายกำกับเหล่านั้นโดยตรงผ่าน logprob_token_ids แล้วยกกำลังด้วย e ให้ผลลัพธ์ที่มีรูปแบบเช่น A: 0.982, B: 0.0035, C: 0.014 พรอมต์ให้โทเคนแก่คุณ แต่อันนี้ให้ตัวเลขที่คุณสามารถตั้งเกณฑ์ หาค่าเฉลี่ย และหาลอการิทึมได้ นอกจากนี้ยังมีจุดละเอียดอ่อนที่บันทึกไว้ซึ่งควรทราบก่อนที่คุณจะสร้างต่อยอดจากมัน: vLLM จำกัด logprob_token_ids ไว้ที่ 128 รหัสต่อคำขอ ดังนั้นคำถามที่มีตัวเลือกมากกว่า 128 ตัวเลือกจึงต้องแบ่งรหัสป้ายกำกับออกเป็นกลุ่มละ 128 โดยยิงคำขอที่มีพรอมต์เหมือนกันหนึ่งคำขอต่อหนึ่งกลุ่ม แล้วนำผลลัพธ์มาต่อกันและใช้ softmax เพียงครั้งเดียวเหนือชุดป้ายกำกับทั้งหมด เนื่องจาก logprobs ที่คืนมานั้นครอบคลุมคลังคำศัพท์ทั้งหมด ค่าของแต่ละป้ายกำกับจึงเป็นอิสระจากว่ากลุ่มใดเป็นผู้ขอค่านั้น ดังนั้นผลลัพธ์แบบแบ่งกลุ่มจึงเหมือนกับการเรียกที่ไม่มีการจำกัดในเชิงคณิตศาสตร์ทุกประการ

เสียงพูดบนเอนด์พอยต์เดียวกันคือส่วนที่สอง ส่งinput_audio พาร์ตเนื้อหาในการทำ chat completion แบบธรรมดา แล้วเอนโคเดอร์ขนาด 470M จะถอดเสียงนั้นก่อนจะแทรกข้อความที่ถอดได้เข้าไปในบริบท ข้อควรระวังของ IBM นั้นเจาะจงและคุ้มค่าที่จะย้ำอีกครั้ง: เอาต์พุตเป็นภาษาอังกฤษเท่านั้น เป็นตัวพิมพ์เล็ก และไม่มีเครื่องหมายวรรคตอน อีกทั้งเอนโคเดอร์กับโมเดลภาษานั้นไม่ได้ถูกฝึกมาด้วยกัน — ไม่มีโปรเจกชันที่ผ่านการฝึกซึ่งเชื่อมทั้งสองเข้าด้วยกัน ดังนั้นการถอดเสียงที่ผิดพลาดอาจเปลี่ยนสิ่งที่โมเดลตอบสนองอย่างเงียบ ๆ ได้ โมเดลแบบเอดจ์ที่ไม่มีเส้นทางเสียงเลยนั้นมีปัญหาที่ต่างออกไป มิใช่ไม่มีปัญหา

และอะแดปเตอร์ความปลอดภัยคือตัวที่สาม: ตัวจำแนกความเป็นอันตรายและการเจลเบรกที่ทำงานบนเช็กพอยต์เดียวกัน ถูกกระตุ้นด้วยโทเคนควบคุมที่เทมเพลตแชตแทรกเข้ามาเมื่อคุณส่งadapter_name แทนที่จะเป็นโมเดลที่สองที่ต้องติดตั้งใช้งานและจ่ายเงิน

เราเตอร์อยู่ตรงไหนเมื่อคำตอบคือ 'ทั้งสอง'

เวอร์ชันสมจริงของการเปรียบเทียบนี้จบลงด้วยโมเดลทั้งสองอยู่ในผลิตภัณฑ์เดียวกัน LFM2.5 2.6B Base ที่ผ่านการปรับแต่งละเอียด อยู่บนอุปกรณ์ จัดการสิ่งที่ไม่อาจส่งออกไปจากอุปกรณ์ได้ Granite Switch 4.1 8B ที่โฮสต์เอง จัดการการตัดสินใจและการถอดเสียงฝั่งเซิร์ฟเวอร์ นั่นคือสถาปัตยกรรมแบบสองชั้น และคำถามเชิงปฏิบัติการที่ตามมาคือเกิดอะไรขึ้นตรงรอยต่อ — โมเดลบนอุปกรณ์ที่ล้มเหลว เซิร์ฟเวอร์ที่อิ่มตัว คำขอที่ต้องส่งต่อไปยังอย่างอื่น ไม่มีเช็กพอยต์ใดอยู่ในแค็ตตาล็อกของ OrcaRouter ในวันนี้ เราจึงไม่ใช่วิธีที่จะได้มาซึ่งทั้งสองตัว จุดที่เราเข้าไปเกี่ยวข้องคือห่วงโซ่สำรองที่อยู่เบื้องหลังพวกมัน คีย์ API เดียวครอบคลุมโมเดลที่โฮสต์ไว้กว่า 200 รายการ พร้อมการสลับสำรองอัตโนมัติ, ภาษา DSL สำหรับการกำหนดเส้นทางช่วยให้คุณประกอบโมเดลหลายตัวเข้าเป็นการเรียกครั้งเดียว แทนที่จะต้องเขียนการกระจายคำขอเอง และ ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยบวกเพิ่ม 0% ดังนั้นเมื่อผู้ขายลดราคา ราคาใหม่ก็มีผลทันทีในวันเดียวกัน img src="4.png" alt="ภาพหน้าจอแค็ตตาล็อกโมเดลของ OrcaRouter หัวข้อระบุ 210 โมเดล 16 ผู้ให้บริการ หนึ่งคีย์ API หนึ่งบิล พร้อมตัวกรองตามรูปแบบที่แสดง 173 โมเดลข้อความ 12 โมเดลภาพ 5 โมเดลเวกเตอร์ 10 โมเดลวิดีโอ และ 10 โมเดล TTS แถบด้านข้างสำหรับกรองรูปแบบอินพุต ความยาวบริบท ราคาอินพุต สถานะ ระดับการเข้าถึง ซีรีส์ และพารามิเตอร์ที่รองรับ และรายการการ์ดโมเดลที่เรียงจากใหม่ไปเก่า เริ่มด้วย OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol และ Anthropic Claude Sonnet 5.5 พร้อมอัตราค่าอินพุตและเอาต์พุตต่อล้านโทเคน" /> นั่นคือชั้นที่ทำให้การออกแบบแบบสองชั้นอยู่รอดได้แทนที่จะเปราะบาง และคุ้มค่าที่จะจัดให้มีไว้ก่อนที่ชั้นเอดจ์จะเริ่มล้มเหลวในภาคสนาม

คำตัดสิน เท่าที่มันเป็น

เลือก LFM2.5 2.6B Base หากคุณกำลังจะทำ fine-tune หากต้องทำ inference บนอุปกรณ์ หรือหากขนาด 2.69B เป็นข้อจำกัดแบบตายตัว เลือก Granite Switch 4.1 8B หากคุณต้องการการแจกแจงการตัดสินใจที่ปรับเทียบแล้ว ตัวจำแนกความปลอดภัยแบบอินไลน์ หรือการถอดเสียงจากปลายทางเดียวกับแชต และหากยอมรับคอนเทนเนอร์ที่ใช้ GPU หนุนหลังได้ การทับซ้อนระหว่างสองกรณีการใช้งานนั้นแทบจะเป็นศูนย์ ซึ่งเป็นเหตุผลว่าทำไมคำตอบที่ซื่อสัตย์ต่อคำถาม "อันไหนชนะ" คือคำถามนั้นตั้งไว้ผิดตั้งแต่ต้น — และเป็นเหตุผลว่าทำไมสิ่งที่ควรค่าแก่การจดจำมากกว่าคือ checkpoint ฐานขนาด 2.69B กับโมเดล instruct แบบประกอบขนาด 8.78B ไม่ใช่จุดสองจุดบนเส้นคุณภาพเส้นเดียวกัน แต่เป็นผลิตภัณฑ์สองชนิดที่บังเอิญมีจำนวนพารามิเตอร์ใกล้เคียงกัน