Bonsai 2 กับ Ternary Bonsai 2 27B: ชื่อตระกูลกำลังทำหน้าที่สองอย่าง

ค้นหา Bonsai 2 แล้วคุณจะพบกับอาร์ติแฟกต์ประมาณห้าแบบที่มี footprint ครอบคลุมต่างกันราวหนึ่งอันดับขนาด และไม่ชัดเจนจากชื่อว่าบทความหนึ่งๆ กำลังพูดถึงอันไหน Ternary Bonsai 2 27B คือรุ่นเฉพาะเจาะจง — โมเดล ternary ระดับ 27B ตัวเดียวที่สร้างบน Qwen3.8-27B ประกาศเมื่อ 17 กันยายน 2026 และเผยแพร่เป็นแพ็ก dense-trit ขนาด 5.95 GB หรือแพ็ก 2-bit-slot ขนาด 7.21 GB ส่วนคำว่า Bare Bonsai 2 เป็นชื่อรวบยอด: ชื่อเดียวกันครอบคลุม Ternary Bonsai 2 2B, Ternary Bonsai 2 4B และ Ternary Bonsai 2 9B ซึ่งเป็นโมเดลขนาดเล็กกว่ามากสามรุ่นที่สร้างบน Qwen3.5 และประกาศเมื่อ 15 ตุลาคม 2026 และตอนนี้ยังครอบคลุมรายการในไลบรารี Ollama ที่ให้บริการทั้งสี่ขนาดภายใต้ตระกูลแท็กเดียว

ดังนั้นนี่จึงไม่ใช่การเทียบกันแบบตัวต่อตัวตามปกติ ฝ่ายหนึ่งเป็นเซตย่อยของอีกฝ่าย และคำถามที่มีประโยชน์ไม่ใช่ว่าอันไหนดีกว่า แต่เป็นว่าผู้อ่านที่พิมพ์ "Bonsai 2" ลงในช่องค้นหาต้องการอันไหนกันแน่ คำตอบขึ้นอยู่กับบางสิ่งที่การตั้งชื่อปิดบังไว้: ตระกูลนี้แท้จริงแล้วเป็นสองตระกูล แยกกันตามโมเดลฐาน และการแยกนั้นไม่ได้ตกอยู่ตรงที่ตัวเลขขนาดชวนให้คิด

สองครอบครัวที่ใช้ชื่อเดียวกัน

อ่านเฮดเดอร์ GGUF ของไฟล์ที่เผยแพร่ แล้วรอยต่อก็อยู่ตรงนั้นในฟิลด์เมทาดาทา ทุกอาร์ติแฟกต์ของ Bonsai 2 — ไม่ว่าจะเป็น 2B, 4B, 9B หรือ 27B — รายงานค่า general.architecture = qwen35 สตริงนั้นคือแบ็กโบนแบบ hybrid-attention ของ Qwen3.5 และสำหรับสามตัวเล็กมันถูกต้องเป๊ะ: การ์ดโมเดลระบุ Qwen3.5-2B, Qwen3.5-4B และ Qwen3.5-9B เป็นโมเดลฐานโดยสถาปัตยกรรมไม่เปลี่ยนแปลง ส่วน 27B นั้นเป็นคนละเรื่อง ฐานของมันคือ Qwen3.8-27B ซึ่งเป็นโมเดล hybrid-attention ขนาด 27B ที่ใหม่กว่าและแข็งแกร่งกว่า และมันบังเอิญใช้สตริงสถาปัตยกรรมร่วมกันเพราะ Qwen3.8 ยังคงใช้แบ็กโบนตระกูลเดียวกัน

บันทึกการออกรุ่นของผู้ขายเองทำให้ความแตกต่างนี้มองเห็นได้หากอ่านเทียบกันแบบเคียงข้าง และมองไม่เห็นหากอ่านเพียงฉบับใดฉบับหนึ่ง โพสต์วันที่ 15 ตุลาคมสำหรับโมเดลขนาดเล็กบอกว่าพวกมัน "based on Qwen3.5" และอธิบายว่าพวกมันเข้าร่วมกับ Bonsai 2 27B — ซึ่งถูกนำเสนออย่างถูกต้องว่าเป็นอีกสิ่งหนึ่ง โพสต์วันที่ 17 กันยายนสำหรับ 27B บอกว่า Qwen3.8-27B ประกาศสองฉบับ โมเดลฐานสองแบบ ชื่อตระกูลเดียว และบทความของบุคคลที่สามที่กล่าวว่า "Bonsai 2 is based on Qwen3.5" นั้นผิดเกี่ยวกับ 27B ทั้งที่ดูเหมือนมีแหล่งอ้างอิงครบถ้วนสมบูรณ์

เรื่องนี้สำคัญ เพราะรุ่นของโมเดลฐานไม่ใช่รายละเอียดเล็กน้อยในที่นี้ มันกำหนดเพดานความสามารถ มันกำหนดว่าเปอร์เซ็นต์การคงอยู่เหล่านั้นเป็นเปอร์เซ็นต์ของอะไร และหมายความว่าตัวเลข benchmark ของโมเดลเล็ก ๆ กับตัวเลข benchmark ของ 27B ไม่ใช่จุดสองจุดบนเส้นโค้งเดียวกัน — แต่เป็นรายงานสองฉบับแยกกันที่เทียบกับฐานอ้างอิงสองชุดแยกกัน ให้ตั้งข้อสงสัยกับตารางใด ๆ ที่นำค่าเหล่านี้มาเรียงไว้ในคอลัมน์เดียว

ตัวเลขที่วางเรียงเคียงข้างกัน

ตัวเลขทั้งหมดเป็นข้อมูลที่ผู้ขาย Prism ML รายงาน; ไม่มีตัวเลขใดที่ทำซ้ำอย่างอิสระ

• โมเดลพื้นฐาน — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, -4B, -9B ตามลำดับ; Ternary Bonsai 2 27B: Qwen3.8-27B

• ประกาศแล้ว — 15 ตุลาคม 2026 สำหรับรุ่นเล็กทั้งสาม; 17 กันยายน 2026 สำหรับ 27B

• แพ็กโมเดลภาษาที่เล็กที่สุด — PTQ1_0 ขนาด 0.429 GB ที่ 2B; PTQ1_0 ขนาด 1.997 GB ที่ 9B; PTQ1_0 ขนาด 5.947 GB ที่ 27B

• แพ็กเริ่มต้น — PQ2_0 สำหรับทั้งหมด: 0.517 GB, 1.146 GB, 2.417 GB และ 7.206 GB ตามลำดับ

• บิตต่อน้ำหนัก — ~1.83 ที่ 2B, ~1.81 ที่ 4B, ~1.78 ที่ 9B, 1.72 ในอุดมคติ / 1.75 แบบแพ็ก ที่ 27B

• บริบท — 262,144 โทเคนทั่วทั้งตระกูล สืบทอดมาจากแกนหลัก Qwen

• Vision — แพ็ก mmproj แยกต่างหากสำหรับทุกขนาด โหลดเฉพาะเมื่อมีรูปภาพเข้ามา

• สัญญาอนุญาต — Apache 2.0 ตลอดทั้งโปรเจกต์

• การคงประสิทธิภาพตามที่มีรายงาน — 27B: 98.2% ของ Qwen3.8-27B FP16 จาก 14 เบนช์มาร์ก; โมเดลขนาดเล็ก: 19 เบนช์มาร์กในหกด้านทักษะ โดยรายงานเป็นอัตราการคงประสิทธิภาพแยกตามหมวดหมู่เมื่อเทียบกับเบสไลน์ Qwen3.5 ของตนเอง

บรรทัดหนึ่งในรายการนั้นคือเหตุผลที่ 27B ใช้พื้นที่ 5.95 GB ในขณะที่ 9B ใช้ 2.00 GB และไม่ใช่แค่จำนวนพารามิเตอร์เท่านั้น 27B ถูกอธิบายว่าเป็น "end-to-end ternary" ครอบคลุม embeddings, attention projections, MLP projections และ LM head โดยมีรายละเอียดชี้ขาด: เทนเซอร์จำนวนเล็กน้อยชุดหนึ่ง — เส้นทางสถานะรีเคอร์เรนต์ของเลเยอร์ linear-attention บวกกับค่าน้ำหนักนอร์มัลไลเซชัน ประมาณ 26.2 ล้านพารามิเตอร์ หรือ 0.0976% ของโมเดลภาษา — ยังคงอยู่ในความแม่นยำสูงกว่า และส่วนที่เหลือนั้นคือสิ่งที่ทำให้ตัวเลขหลักขยับจาก 1.71 เป็น 1.72 บิตต่อน้ำหนัก บน 9B กลไกเดียวกันให้ค่า ~1.78 โมเดลที่ใหญ่กว่ามีประสิทธิภาพต่อน้ำหนักมากกว่า ไม่ใช่น้อยกว่า เพราะภาระส่วนเพิ่มความแม่นยำสูงแบบคงที่ถูกเฉลี่ยกระจายไปยังพารามิเตอร์ที่มากกว่าสิบเท่า หากคุณกำลังใช้ตารางบิตต่อน้ำหนักเพื่อพิจารณาว่าจะเลือกขนาดใด นั่นคือทิศทางเดียวที่ตารางชี้ไป

จุดที่โมเดลขนาดเล็กชนะจริง ๆ

ไม่ใช่เรื่องคุณภาพ — แต่เป็นเรื่องรูปร่างของคำกล่าวอ้าง การเปิดตัวโมเดลขนาดเล็กเป็นรุ่นเดียวในตระกูลนี้ที่เผยแพร่คำกล่าวอ้างเรื่องความยาวคำตอบ และมันเป็นสิ่งที่ตรวจสอบได้ง่ายที่สุดในประกาศทั้งสองฉบับ: Prism ML รายงานว่าโมเดล 9B ใช้โทเคนน้อยลงประมาณ 40% ในงานมาตรฐานอย่างการทำตามคำสั่งและคณิตศาสตร์ในชีวิตประจำวัน นั่นเป็นข้อความเกี่ยวกับความยาวของผลลัพธ์ ไม่ใช่ความสามารถ และคุณสามารถตรวจสอบเทียบกับพรอมป์ของคุณเองได้ในบ่ายเดียว โพสต์เดียวกันระบุการหลีกเลี่ยงการวนซ้ำและควบคุมความยาวคำตอบเป็นลำดับความสำคัญในการพัฒนาที่ชัดเจน ซึ่งเป็นสิ่งที่คุณเขียนเมื่อรุ่นก่อนหน้าของคุณมีปัญหา

มันยังเป็นรุ่นเดียวที่รายงานอัตราการคงความสามารถไว้สูงกว่า 100% ในหลายหมวดหมู่ — 121.5% ด้านการทำตามคำสั่งสำหรับรุ่น 2B, 107.8% ด้านคณิตศาสตร์, 115.0% ด้านการเขียนโค้ด เมื่อเทียบกับฐาน Qwen3.5 แบบความแม่นยำเต็ม นั่นคือตัวเลขของผู้ขายเองบนชุดทดสอบของผู้ขายเอง และการที่โมเดลที่ถูกบีบอัดทำคะแนนได้ดีกว่าโมเดลต้นทางบนเบนช์มาร์กที่เลือกสรรมาอย่างจงใจนั้น เป็นข้อกล่าวอ้างเกี่ยวกับการฝึกและฮาร์เนสอย่างน้อยก็พอ ๆ กับที่เป็นข้อกล่าวอ้างเกี่ยวกับเลขคณิตแบบไตรภาค รายงานของรุ่น 27B มีลักษณะระมัดระวังมากกว่า — 84.78 เทียบกับ 86.32 โดยคณิตศาสตร์อยู่ที่ 96.57 เทียบกับ 97.06 และระดับการเขียนโค้ดอยู่ที่ 89.42 เทียบกับ 89.07 และการสูญเสียกระจุกตัวอยู่ในด้านความรู้/การใช้เหตุผลและด้านภาพ — ซึ่งเป็นโปรไฟล์ที่การแทนค่าแบบ 1.7 บิตควรให้ออกมา เมื่อการสูญเสียของรายงานหนึ่งตกอยู่ตรงจุดที่ทฤษฎีทำนายไว้พอดี และกำไรของอีกรายงานหนึ่งไปตกอยู่ในหมวดหมู่ที่ผู้ขายเลือกมาเป็นจุดขาย ความไม่สมมาตรนั้นก็คือข้อมูล

บรรจุภัณฑ์: ข้อได้เปรียบเงียบ ๆ ของ 27B

ตั้งแต่ 17 ตุลาคม 2026 ทั้งสี่ขนาดสามารถดึงได้ในชื่อ bonsai-2:2b, :4b, :9b และ :27b จาก Ollama — รวมทั้งหมดเก้าแท็ก โดยแต่ละขนาดยังมี alias -q2_0 ด้วย นี่เป็นเรื่องใหม่ ไม่มีการประกาศจากผู้จำหน่าย และคุ้มค่าที่จะรู้ว่าจริง ๆ แล้วมันให้บริการอะไร แท็กของ Ollama ชี้ไปที่การแพ็ก Q2_0 ซึ่งเป็นรูปแบบเดียวที่ upstream llama.cpp โหลดได้ ส่วนแพ็ก PTQ1_0 แบบ dense-trit — ไฟล์ที่เล็กที่สุดในตระกูลนี้ — ไม่มีอยู่ใน registry เลย ดังนั้นเส้นทางที่สะดวกกับเส้นทางที่เล็กจึงเป็นคนละเส้นทางกัน และเป็นเช่นนี้เท่าเทียมกันสำหรับทั้งสี่ขนาด

จุดที่ 27B แตกต่างอยู่ที่สิ่งที่มันไม่ได้จัดส่งมาด้วย ทั้ง 4B และ 9B ต่างมาพร้อมดราฟเตอร์สำหรับ speculative decoding แบบเลือกได้สองตัว: หัว MTP ที่ฝังมาในแพ็กแบบสล็อต 2 บิต และดราฟเตอร์แบบบล็อก DFlash2 ที่ช่วยงานที่เน้นการคัดลอกเป็นหลัก แต่ช้ากว่าการถอดรหัสแบบธรรมดาในงานแชตทั่วไป ส่วน 2B จงใจไม่ใส่มาให้ — โน้ตของผู้ขายระบุว่าในขนาดนั้น ขั้นตอนการถอดรหัสมีต้นทุนต่ำอยู่แล้ว และการร่างแบบ swept-depth เมื่อวัดแล้วช้ากว่าการถอดรหัสแบบธรรมดาบนพรอมป์ทั่วไป ในรุ่นเจเนอเรชันของ 27B ได้ตัดดราฟเตอร์เทียบเท่าตัวที่รุ่นก่อนหน้าในเจเนอเรชันแรกมีอยู่ออกไป

นั่นคือความแตกต่างด้านความสามารถที่แท้จริงระหว่างขนาดต่างๆ และมันไม่ปรากฏบนหน้า Ollama เลย

การตัดสินใจ และจะทำอย่างไรกับคำตอบ

27B เป็นรุ่นที่ควรเลือกใช้หากภาระงานเป็นงานให้เหตุผลระยะยาว: โค้ด คณิตศาสตร์ สายเครื่องมือแบบเอเจนต์ เอกสารยาวที่เก็บไว้ในบริบท 262K เป็นขนาดเดียวในตระกูลที่มีโมเดลฐานจากรุ่น Qwen3.8 และการแยกหมวดหมู่ของผู้ขายกล่าวว่าการบีบอัดนั้นแทบไม่มีผลเสียต่อคณิตศาสตร์และการเขียนโค้ด แต่กลับส่งผลกระทบต่อการเรียกคืนความรู้และการมองเห็น

9B คือตัวที่ควรเลือกใช้หากข้อจำกัดคือหน่วยความจำมากกว่าความยาก: ผู้ช่วยที่รันบนแล็ปท็อป การใช้งานบนโทรศัพท์ อะไรก็ตามที่ 2 GB กับ 6 GB เป็นตัวตัดสินว่าจะส่งมอบได้หรือไม่ โปรไฟล์ที่เผยแพร่ของมันแข็งแกร่งที่สุดในจุดที่ 27B อ่อนแอที่สุดเมื่อเทียบกับค่าพื้นฐาน — การทำตามคำสั่งและการควบคุมความยาว — ซึ่งเป็นสิ่งที่ผู้ช่วยในเครื่องขนาดเล็กใช้โทเค็นไปจริง ๆ 2B และ 4B มีไว้สำหรับงบประมาณที่ตึงตัวยิ่งขึ้นไปอีก และที่ขนาดเหล่านั้น ตัวเลขการคงอยู่จะมีสัญญาณรบกวนมากพอที่พรอมป์ของคุณเองจะเป็นแนวทางที่ดีกว่าตารางของผู้ขาย

หมายเหตุเกี่ยวกับการเปรียบเทียบที่ผู้อ่านส่วนใหญ่จะทำจริง ซึ่งเป็นการเทียบกับโมเดลแบบโฮสต์มากกว่าจะเทียบกันเอง ไม่มีขนาดใดของ Bonsai 2 ที่ให้บริการผ่าน OrcaRouter และบทความนี้ไม่ได้เสนอเป็นอย่างอื่น — พวกมันคือเวตต์ที่คุณดาวน์โหลด แต่คำถามที่ว่า “โมเดลโลคอลขนาด 2 GB ดีพอสำหรับงานนี้หรือไม่” นั้นตอบได้ด้วยการวัดเทียบกับบางสิ่ง และ OrcaRouter วางAPI หนึ่งตัวไว้หน้าโมเดลแบบโฮสต์กว่า 200 รุ่นโดยบวกกำไร 0% โดยส่งผ่านราคาตามรายการของผู้ให้บริการ พร้อมการสลับไปยังผู้ให้บริการสำรองอัตโนมัติเมื่อเกิดปัญหา และ DSL สำหรับกำหนดเส้นทางเพื่อประกอบหลายโมเดลเข้าเป็นการเรียกครั้งเดียว กำหนดเกณฑ์มาตรฐานด้วยโมเดลแบบโฮสต์ก่อน จากนั้นจึงทดสอบว่าโมเดลโลคอลทำได้ตามเกณฑ์นั้นบนฮาร์ดแวร์ของคุณหรือไม่ การเรียงลำดับเช่นนี้ช่วยประหยัดเวลาหลายสัปดาห์ที่ผู้คนเสียไปกับการปรับแต่งไฟล์ดาวน์โหลดที่ไม่มีทางเพียงพอตั้งแต่แรกอยู่แล้ว

ข้อควรระวังหนึ่งข้อที่ควรหยิบติดตัวไปจากบทความนี้ก็คือ ทั้งสองการเปิดตัวต่างรายงานเปอร์เซ็นต์การคงความสามารถ ทั้งคู่ถูกวัดโดยผู้ขายบนฮาร์เนสของผู้ขายเอง และจนถึงวันนี้ยังไม่มีบุคคลที่สามรายใดทำซ้ำผลของทั้งสองรายการได้ สิ่งเดียวที่คุณตรวจสอบเองได้คือตัวไฟล์จริง — ขนาดไฟล์ การแพ็ก ข้อมูลเมตา GGUF สัญญาอนุญาต และอัตราการประมวลผลบนเครื่องของคุณเอง นั่นคือจุดที่ควรเริ่ม และก็เป็นจุดที่ประกาศทั้งสองฉบับเริ่มไม่เหมือนกันอีกต่อไป: ขนาดแพ็กแบบสแตนด์อโลนของ 27B ถูกเผยแพร่แยกเป็นรายไฟล์บน Hugging Face ส่วนขนาดที่เล่าต่อกันปากต่อปากของโมเดลขนาดเล็กที่ 0.43 GB, 0.95 GB และ 2 GB นั้นหมายถึงเฉพาะตัวแบบจำลองภาษา โดยไม่รวมวิชันทาวเวอร์ ให้เปรียบเทียบ它们บนพื้นฐานเดียวกัน ไม่อย่างนั้น 9B จะดูเหมือนแพ้การโต้แย้งที่มันไม่เคยมี

ไม่มีสิ่งใดในนั้นที่เป็นเพียงข้อสันนิษฐาน: ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ซึ่งได้รับการบันทึกไว้ ที่อยู่เบื้องหลังการเปิดตัวแบบนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง