Bonsai 2 กับ Bonsai 27B: ตัวหนึ่งคุณดึงได้ แต่อีกตัวคุณดึงไม่ได้

ความแตกต่างที่เป็นรูปธรรมที่สุดระหว่าง Bonsai 2กับBonsai 27Bไม่เกี่ยวข้องใด ๆ กับเกณฑ์มาตรฐาน เมื่อวันที่ 17 ตุลาคม 2026 รายการในไลบรารี Ollama เปิดใช้งานแล้ว ครอบคลุมทั้งตระกูล Bonsai 2 — Ternary Bonsai 2 2B, Ternary Bonsai 2 4B, Ternary Bonsai 2 9B และ Bonsai 2 27B — และไม่มีรายการเทียบเท่าสำหรับรุ่นแรก ตรวจสอบหา bonsai-27b, ternary-bonsai-27b หรือชื่อรูปแบบอื่นใดบนรีจิสทรีนั้น แล้วคุณจะเจอ 404 Bonsai 27B ซึ่งเปิดตัวโดย Prism ML เมื่อวันที่ 14 กรกฎาคม 2026 ต้องดาวน์โหลดจากรีโพซิทอรี Hugging Face ของผู้จำหน่าย และรันกับฟอร์ก llama.cpp ของ Prism ML ส่วน Bonsai 2 มีการติดตั้งแบบบรรทัดเดียว

ความไม่สมมาตรนั้นคือลักษณะในทางปฏิบัติทั้งหมดของการเลือกนี้ และมันเป็นเรื่องง่ายที่จะมองข้าม เพราะชื่อทั้งสองดูเหมือนเป็นผลิตภัณฑ์กลุ่มเดียวกันที่แค่เพิ่มเวอร์ชัน พวกมันคือสองรุ่น สองโมเดลพื้นฐาน สองชุดบรรจุภัณฑ์ที่แตกต่างกัน และ — ณ สัปดาห์นี้ — สองกลไกการส่งมอบที่แตกต่างกัน สิ่งที่ตามมาคือสิ่งที่เปลี่ยนไปจริง ๆ ระหว่างสองรุ่นนี้ จุดที่รุ่นเก่ายังชนะอยู่ และการกำหนดค่าหนึ่งแบบที่คำตอบไม่ใช่ทั้งคู่

แต่ละอย่างคืออะไร

ทั้งสองเป็นรูปแบบการบีบอัดแบบ ternary ของโมเดล Qwen ที่ใช้ hybrid attention ทั้งคู่ไม่ใช่โมเดลที่ฝึกขึ้นใหม่ — สถาปัตยกรรม ค่าน้ำหนัก และการฝึกแบบ quantisation-aware มาจากฐานของ Qwen และสิ่งที่ Prism ML เข้ามาเสริมคือการแทนค่าแบบ ternary และเคอร์เนลที่นำการแทนค่านั้นไปประมวลผล

• เจเนอเรชัน — Bonsai 2 (กันยายน 2026, ขยายถึงตุลาคม 2026) เทียบกับ Bonsai 27B (14 กรกฎาคม 2026)

• โมเดลฐานที่ขนาด 27B — Qwen3.8-27B เทียบกับ Qwen3.6-27B

• โมเดลพื้นฐานทั่วทั้งตระกูล — Qwen3.5-2B, -4B, -9B และ Qwen3.8-27B ภายใต้ Bonsai 2; Qwen3.6-27B เพียงหนึ่งเดียวภายใต้รุ่นแรก

• ขนาดที่มีให้เลือก — สี่ขนาด (2B, 4B, 9B, 27B) เทียบกับหนึ่งขนาด (27B)

• จุดทำงานสองจุดที่ 27B — ไม่สิ จุดเดียว: Bonsai 2 27B เปิดตัวเฉพาะแบบ ternary เท่านั้น ในขณะที่ Bonsai 27B ได้เปิดตัวทั้งบิลด์ ternary และบิลด์ไบนารี

• ขนาดหน่วยความจำที่เล็กที่สุดในระดับ 27B — PTQ1_0 5.95 GB ใน Bonsai 2 เทียบกับ 3.9 GB ในบิลด์ 1-bit ของรุ่นแรก

• บริบท — 262,144 โทเค็นที่สืบทอดมาจากแบ็กโบน Q​wen ทั้งสอง

• สัญญาอนุญาต — Apache 2.0 ทั้งสอง

• การเผยแพร่ — แท็ก Ollama และ Hugging Face สำหรับ Bonsai 2; Hugging Face พร้อมกับฟอร์ก llama.cpp ของ Prism ML สำหรับ Bonsai 27B

แถวที่ตัดสินการนำไปใช้งานได้มากกว่าแถวอื่น ๆ คือแถวที่ห้า Bonsai 27B มีสองวิธีในการใช้หน่วยความจำ: บิลด์แบบ ternary ที่ประมาณ 7.2 GB และบิลด์แบบ binary ที่ 3.9 GB ส่วน Bonsai 2 27B มีเพียงแบบเดียว — บิลด์แบบ ternary ที่ 5.95 GB เมื่อใช้การแพ็กแบบ dense-trit หรือ 7.21 GB เมื่อใช้การแพ็กแบบ 2-bit-slot — และไม่มีคู่แบบ binary ในรุ่นนี้ หากคุณใช้งานบิลด์ 3.9 GB ของรุ่นแรกและคาดหวังรุ่นสืบทอดที่เทียบเคียงกันได้ ก็ไม่มีรุ่นนั้นที่ 27B

สิ่งที่คนรุ่นนี้ซื้อมาจริง ๆ

ตัวเลขของ Prism ML เอง บนฮาร์เนสของ Prism ML เอง โดยไม่มีการทำซ้ำอย่างอิสระให้ใช้ได้: Bonsai 27B แบบ ternary รุ่นแรกรายงานค่าเฉลี่ยในโหมดคิดที่ 80.49 เทียบกับ 85.07 สำหรับ Qwen3.6-27B FP16 ซึ่งเป็นข้อมูลอ้างอิงของมัน — คงไว้ 94.6% จาก 15 เบนช์มาร์ก Bonsai 2 27B รายงาน 84.78 เทียบกับ 86.32 สำหรับ Qwen3.8-27B FP16 — 98.2% จาก 14 เบนช์มาร์ก ในเชิงค่าสัมบูรณ์ โมเดลที่ถูกบีบอัดทำคะแนนเพิ่มขึ้นประมาณ 4.3 จุดบนสเกลของผู้ขาย

มีข้อควรระวังสองข้อที่ต้องพูดในคราวเดียวกัน เพราะพาดหัวเชิญชวนให้ตีความได้สะอาดกว่าที่ข้อมูลรองรับ ประการแรก ชุดเบนช์มาร์กไม่ใช่ชุดเดียวกัน — 15 ชุดสำหรับตัวหนึ่ง 14 ชุดสำหรับอีกตัว — และค่าฐานเปลี่ยนจาก Qwen3.6-27B เป็น Qwen3.8-27B ซึ่งตัวมันเองเป็นโมเดลที่แข็งแกร่งกว่า การ์ดโมเดล 27B ของผู้ขายเองทำให้ประเด็นที่สองชัดเจนขึ้นโดยการคำนวณรุ่นก่อนหน้าซ้ำบนชุดเบนช์มาร์ก 14 ชุดใหม่เพื่อให้เป็นแถวแบบเทียบเคียงกัน: บนพื้นฐานร่วมนั้น รุ่นก่อนหน้าได้คะแนน 80.98 และ Bonsai 2 27B ได้คะแนน 84.78 ดังนั้นการอ่านการเปลี่ยนแปลงอย่างซื่อตรงคือประมาณ 3.8 คะแนนเทียบกับชุดเบนช์มาร์กเดียวกัน โดยส่วนหนึ่งมาจากโมเดลฐานและอีกส่วนมาจากการฝึกแบบ ternary เปอร์เซ็นต์การรักษาเพิ่มขึ้นจาก 94.6% เป็น 98.2% ส่วนหนึ่งเพราะตัวส่วนเปลี่ยนไป

ประการที่สอง รูปร่างของการสูญเสียให้ข้อมูลมากกว่าค่าภาพรวม บนชุดทดสอบ 14 เบนช์มาร์กเดียวกัน Bonsai 2 27B แทบไม่เสียอะไรในจุดที่การให้เหตุผลแบบต่อเนื่องปรากฏชัด: คณิตศาสตร์ 96.57 เทียบกับ 97.06, การเขียนโค้ด 89.42 เทียบกับ 89.07 — อยู่ในระดับเดียวกัน แซงขึ้นมาเล็กน้อย — และการทำตามคำสั่ง 82.66 เทียบกับ 81.25 แซงนำ ความรู้และการให้เหตุผลลดลงจาก 85.55 เป็น 79.86 และวิสัยทัศน์ลดลงจาก 71.36 เป็น 66.19 นั่นคือโปรไฟล์ที่คุณคาดว่าจะเห็นจากการแทนค่าด้วย 1.72 บิตต่อน้ำหนัก: แกนการให้เหตุผลยังรอด การระลึกข้อเท็จจริงและความเข้าใจภาพเป็นส่วนที่โดนผลกระทบเต็มๆ ถ้าภาระงานของคุณคือโค้ดและคณิตศาสตร์ การบีบอัดแทบไม่มีต้นทุน ถ้าเป็นคำถาม-ตอบแบบที่ต้องค้นคืนจากคลังข้อความ ก็ไม่ใช่

ช่อง 3.9 GB คือจุดที่เรื่องนี้เริ่มน่าสนใจ

นี่คือส่วนที่กรอบแบบสองรุ่นซ่อนไว้ ผลงานที่โดดเด่นที่สุดของรุ่นแรกคือบิลด์ไบนารี: โมเดล 27B ใน 3.9 GB ซึ่งคงไว้ 89.5% ของ FP16 ตามที่ผู้จำหน่ายรายงาน บนค่าเฉลี่ยจากการวัด 15 รายการที่ 76.11 Bonsai 2 ไม่มี 27B แบบไบนารี แต่ Bonsai 2 มี 9B ที่ 1.997 GB ในการแพ็กแบบ dense-trit และ 2.42 GB ในการแพ็กแบบ 2-bit-slot — ประมาณครึ่งหนึ่งของขนาดพื้นที่ของ 27B แบบไบนารี จากรุ่นใหม่กว่าและโมเดลฐานใหม่กว่า

โมเดล 9B ดีกว่า 27B แบบ 1-bit หรือไม่ ผู้จำหน่ายไม่ได้รายงานตัวเลขที่ตอบคำถามนี้ และคุณก็ไม่ควรสร้างตัวเลขนั้นขึ้นมาเอง โมเดลทั้งสองถูกประเมินบนชุดการทดสอบที่แตกต่างกัน — 19 เบนช์มาร์กครอบคลุมหกด้านทักษะสำหรับโมเดล Bonsai 2 ขนาดเล็ก และ 15 เบนช์มาร์กสำหรับ 27B รุ่นแรก — เทียบกับเส้นฐานที่แตกต่างกัน และรายงานการเปิดตัวของโมเดลขนาดเล็กนั้นรายงานการรักษาความสามารถแยกตามหมวดหมู่เมื่อเทียบกับคู่เทียบ Qwen3.5 ความแม่นยำเต็มรูปแบบของตัวเอง มากกว่าจะเป็นค่าเฉลี่ยสัมบูรณ์ค่าเดียวที่เทียบได้กับ 76.11 ของ 27B การเปรียบเทียบที่มีอยู่จริงนั้นเป็นรายเบนช์มาร์ก และชี้ไปทั้งสองทิศทาง ตามตัวเลขของผู้จำหน่าย 9B ได้ 71.81 บน BFCLv3 และ 73.02 บน Tau2Bench ขณะที่ 27B แบบไบนารีทำได้ 74.41 บน BFCL v3 — ใกล้กันพอที่ความแตกต่างของชุดการทดสอบจะกลืนความต่างนั้นไป

สิ่งที่พูดได้โดยไม่เกินเลยนั้นแคบลงกว่าเดิมและยังมีประโยชน์: ระดับขนาดที่โมเดล 27B แบบไบนารีเคยครองอยู่เพียงลำพัง ตอนนี้มีผู้เล่นรายใหม่ที่ถูกกว่าจากรุ่นถัดไป และทั้งสองก็ใกล้เคียงกันมากพอที่ไม่มีใครควรเลือกจากตารางของผู้ขาย นั่นเป็นเหตุผลให้วัดผลด้วยพรอมต์ของคุณเอง ไม่ใช่เชื่อตัวเลขใดตัวเลขหนึ่ง นอกจากนี้ยังเป็นจุดเดียวในการเปรียบเทียบนี้ที่คำตอบไม่ได้เป็นหนึ่งในสองโมเดลที่อยู่ในชื่อเรื่องเลยจริง ๆ

การรันพวกมัน: ตัวเลขและจุดที่ต้องระวัง

ค่าอัตราการประมวลผล (throughput) เป็นค่าที่ผู้จำหน่ายวัดเอง และไม่ได้วัดบนเครื่องเดียวกัน ดังนั้นให้อ่านเป็นระดับขนาด (orders of magnitude) มากกว่าจะมองว่าเป็นการจัดอันดับ

• Bonsai 2 27B บน Apple M5 Max — ประมาณ 47 tok/s บนบิลด์ pre-rotation รุ่นก่อน โดยรอการวัดใหม่บนสแตกเวอร์ชันปัจจุบัน

Bonsai 2 27B บน M5 Pro — 28.1 tok/s ในการแพ็กแบบ 2-bit-slot โดยใช้พลังงานประมาณ 27.5 W บนรางจ่ายไฟ GPU

• Bonsai 2 27B บน RTX 5090 — 129.9 tok/s ในการแพ็กแบบ 2-bit-slot, 120.5 ในการแพ็กแบบ dense-trit

• Bonsai 27B แบบเทอร์นารีรุ่นแรกบน M5 Max — 44.0 tok/s; บน H100 98.0 tok/s เพิ่มขึ้นเป็นประมาณ 131.8 ด้วยดราฟเตอร์ DSpark ของมัน

• ไบนารี Bonsai 27B รุ่นแรกบน iPhone 17 Pro Max — ประมาณ 11 tok/s จำกัดด้วยความร้อน

จุดสำคัญอยู่ที่การแพ็กเกจ และมันส่งผลเหมือนกันกับทั้งสองรุ่น เคอร์เนล ternary ของทั้งสองรุ่นไม่ได้อยู่ใน llama.cpp ต้นทาง รุ่นแรกต้องใช้ฟอร์ก Prism ML สำหรับทุกไฟล์ ส่วน Bonsai 2 จัดส่งการแพ็กน้ำหนักเดียวกันในสามรูปแบบ และ llama.cpp ต้นทางรันได้เพียงรูปแบบเดียวเท่านั้น — Q2_0 ในมาสเตอร์เวอร์ชันล่าสุด — ขณะที่ปฏิเสธ PTQ1_0 ที่เล็กกว่า และ PQ2_0 ที่เร็วกว่า ว่าเป็นชนิดที่ไม่รู้จัก ดังนั้นแพ็ก dense-trit ที่เข้าใกล้ 1.72 บิตต่อน้ำหนักตามทฤษฎีมากที่สุด จึงเป็นตัวที่ต้องใช้บิลด์แบบฟอร์กเช่นกัน

เรื่องนี้คุ้มค่าที่จะนั่งคิดทบทวน เพราะมันอธิบายรายการของ Ollama ได้ แท็ก Ollama สำหรับ Bonsai 2 ให้บริการ Q2_0: ชั้นโมเดลของแท็ก 9B วัดได้ 2.557 GB ซึ่งเท่ากับขนาดไฟล์ Q2_0 บน Hugging Face แบบไบต์ต่อไบต์ และแพ็ก PTQ1_0 ที่เล็กที่สุดก็ไม่มีอยู่ในรีจิสทรีเลย ไม่ว่ารายการนั้นจะเป็นอะไรก็ตาม มันไม่ใช่เส้นทางไปสู่ชิ้นงานที่เล็กที่สุด ความสะดวกและขนาดพื้นที่กำลังถูกแลกเปลี่ยนกันตรงนี้ และการแลกเปลี่ยนนั้นมองไม่เห็นเว้นแต่คุณจะอ่านขนาดไฟล์

การไปถึงอันใดอันหนึ่ง

ถ้าคุณใช้ Ollama ทางเลือกก็ถูกกำหนดไว้ให้แล้ว: Bonsai 2 สี่ขนาด ollama pull bonsai-2:27b หรือ :9b ซึ่งกินพื้นที่ราว 8.3 GB และ 3.2 GB บนดิสก์ รวม vision projector หากคุณต้องการ dense-trit packing, speculative-decoding drafters หรืออะไรก็ตามจากรุ่นแรก มันคือการดาวน์โหลดจาก Hugging Face พร้อมการ build ฟอร์ก และรีโพซิทอรีเดโมของผู้จำหน่ายคือข้อมูลอ้างอิงที่ผ่านการทดสอบสำหรับเส้นทางนั้น

จุดที่ routing layer ช่วยได้จริงในกรณีนี้คืออีกด้านหนึ่งของคำถาม คุณไม่สามารถ route ไปยังตัวใดตัวหนึ่งในสองตัวนี้ได้ เพราะมันเป็น local weights และตอนนี้ OrcaRouter ยังไม่ให้บริการ Bonsai ขนาดใดเลย สิ่งที่ OrcaRouter มอบให้คุณคือ baseline สำหรับการเปรียบเทียบ: API เดียวที่วางอยู่หน้าโมเดลโฮสต์มากกว่า 200 ตัว โดยบวกกำไร 0% ราคาตามที่ผู้ให้บริการประกาศไว้ถูกส่งผ่านไปโดยตรง พร้อมระบบ failover อัตโนมัติระหว่างผู้ให้บริการ ลำดับที่สมเหตุสมผลสำหรับทีมส่วนใหญ่คือ เริ่มจากกำหนดบนโมเดลโฮสต์ว่างานหนึ่ง ๆ ต้องการอะไรจริง ๆ แล้วจึงค่อยตัดสินใจว่าโมเดล local ขนาด 2 GB, 3.9 GB หรือ 6 GB ผ่านเกณฑ์นั้นหรือไม่ แทนที่จะเดาจากเปอร์เซ็นต์การคงคุณภาพ

อันไหน อย่างเจาะจง

• คุณต้องการเจนเนอเรชันเทอร์นารีรุ่นใหม่ล่าสุดที่ 27B และการติดตั้งด้วยคำสั่งเดียว — Bonsai 2 27B ผ่าน Ollama โดยยอมรับการแพ็ก Q2_0 และขนาดบนดิสก์ที่ใหญ่ขึ้น

• คุณต้องการอาร์ติแฟกต์ระดับ 27B ที่เล็กที่สุดเท่าที่จะเป็นไปได้ หรือคุณพึ่งพา DSpark drafter — Bonsai 27B รุ่นแรกจาก Hugging Face พร้อมบิลด์แบบ fork ไม่มีสิ่งใดใน Bonsai 2 ที่แทนมันได้ในระดับ 27B

• คุณกำลังรันบิลด์ไบนารีขนาด 3.9 GB และจำเป็นต้องให้พื้นที่การใช้งานนั้นคงอยู่ — อย่าสันนิษฐานว่า Bonsai 2 มีรุ่นสืบทอด จะอยู่ต่อไป หรือจะวัด Bonsai 2 9B กับพรอมป์ของคุณเองก็ได้; มันมีขนาดครึ่งหนึ่งและใหม่กว่าหนึ่งรุ่น และผู้จำหน่ายยังไม่ได้เผยแพร่การเปรียบเทียบที่ชี้ขาดเรื่องนี้

• คุณต้องมีสี่คลาสขนาดจากรันไทม์เดียว — Bonsai 2 เป็นเจเนอเรชันเดียวที่ให้สิ่งนั้น

สิ่งหนึ่งที่ควรจับตาซึ่งจะทำให้ทั้งหมดนี้ง่ายขึ้น: ptq1_0 แท็กที่ปรากฏบนรายการของ Ollama นั่นจะหมายความว่าเคอร์เนล dense-trit ไปถึงเอนจินที่ Ollama แจกจ่ายแล้ว ข้อกำหนดเรื่องฟอร์กก็หมดไปสำหรับแพ็กที่เล็กที่สุด และการแลกระหว่างความสะดวกกับพื้นที่จัดเก็บก็ไม่ใช่การแลกอีกต่อไป

ไม่มีสิ่งใดในนั้นที่เป็นเพียงข้อสันนิษฐาน: ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ซึ่งได้รับการบันทึกไว้ ที่อยู่เบื้องหลังการเปิดตัวแบบนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง