Bonsai 2 לעומת Bonsai 27B: את אחד מהם אפשר למשוך, ואת האחר לא

ההבדל המוחשי ביותר בין Bonsai 2 ל-Bonsai 27B אינו קשור כלל לבנצ'מרקים. ב-17 באוקטובר 2026 עלה לאוויר ערך בספריית Ollama המכסה את כל משפחת Bonsai 2 — Ternary Bonsai 2 2B, Ternary Bonsai 2 4B, Ternary Bonsai 2 9B ו-Bonsai 2 27B — ואין ערך מקביל לדור הראשון. חפשו bonsai-27b, ternary-bonsai-27b או כל שם וריאנט ברישום הזה ותקבלו 404. Bonsai 27B, שוחרר על ידי Prism ML ב-14 ביולי 2026, חייב להיות מורד ממאגרי Hugging Face של הספק ולהריץ אותו מול ה-fork של Prism ML ל-llama.cpp. ל-Bonsai 2 יש התקנה בשורה אחת.

האסימטריה הזו היא כל הצורה המעשית של הבחירה, וקל להחמיץ אותה מפני ששני השמות נראים כמו קו מוצרים אחד עם העלאת גרסה. הם שני דורות, שני דגמי בסיס, שתי קבוצות שונות של אריזות, ו—נכון לשבוע הזה—שני מנגנוני אספקה שונים. בהמשך מפורט מה שבאמת השתנה ביניהם, היכן שהדגם הישן עדיין מנצח, והתצורה היחידה שבה התשובה היא אף אחד מהשניים.

מה כל אחד מהם הוא

שניהם דחיסות טרנריות של מודל Q​wen בעל קשב היברידי. אף אחד מהם אינו מודל חדש שאומן — הארכיטקטורה, המשקלים והאימון המודע לכימות מגיעים מבסיס Q​wen, והתרומה של Prism ML היא הייצוג הטרנרי והקרנלים שצורכים אותו.

• דור — Bonsai 2 (ספטמבר 2026, הורחב באוקטובר 2026) לעומת Bonsai 27B (14 ביולי 2026)

• מודל בסיס בגודל 27B — Qwen3.8-27B לעומת Qwen3.6-27B

• מודלים בסיסיים בכל המשפחה — Qwen3.5-2B, ‎-4B, ‎-9B ו-Qwen3.8-27B תחת Bonsai 2; Qwen3.6-27B יחיד תחת הדור הראשון

• גדלים מוצעים — ארבעה (2B, 4B, 9B, 27B) לעומת אחד (27B)

• שתי נקודות הפעלה ב-27B — לא, אחת: Bonsai 2 27B מגיע עם טרנרי בלבד, בעוד Bonsai 27B הגיע עם גם בנייה טרנרית וגם בינארית.

• טביעת הרגל הקטנה ביותר בקטגוריית 27B — 5.95 GB PTQ1_0 ב-Bonsai 2 לעומת 3.9 GB בגרסת ה-1-bit של הדור הראשון

• הקשר — 262,144 טוקנים שעברו בירושה מעמוד השדרה של Q​wen בשניהם

• רישיון — Apache 2.0 בשניהם

• אספקה — תגים של Ollama ו-Hugging Face עבור Bonsai 2; Hugging Face בתוספת ה-fork של llama.cpp מבית Prism ML עבור Bonsai 27B

השורה שמכריעה יותר פריסות מכל השאר היא החמישית. Bonsai 27B סופק בשתי דרכים לצרוך זיכרון: בנייה טרנרית בנפח של כ-7.2 GB ובנייה בינארית בנפח 3.9 GB. Bonsai 2 27B מספק אחת — בנייה טרנרית בנפח 5.95 GB באריזת טריטים צפופה או 7.21 GB באריזת חריצי 2 סיביות — ואין מקבילה בינארית בדור הזה. אם הרצתם את בניית ה-3.9 GB של הדור הראשון וציפיתם ליורש שקול, אין כזה ב-27B.

מה שהדור בעצם קנה

המספרים של Prism ML עצמה, על ההרנס של Prism ML עצמה, כשאין שחזור בלתי תלוי זמין: Bonsai 27B הטרנארי מהדור הראשון דיווח על ממוצע של 80.49 במצב חשיבה לעומת 85.07 של רפרנס Qwen3.6-27B FP16 שלו — 94.6% נשמרו לאורך 15 מבחנים. Bonsai 2 27B מדווח על 84.78 לעומת 86.32 עבור Qwen3.8-27B FP16 — 98.2% לאורך 14 מבחנים. במונחים מוחלטים, המודל הדחוס צבר כ-4.3 נקודות בסקאלה של הספק.

שתי הסתייגויות שייכות לאותה נשימה, מפני שהכותרת מזמינה קריאה נקייה יותר ממה שהנתונים תומכים בה. ראשית, מערכי המבחנים אינם אותו סט — 15 לאחד, 14 לאחר — וקו הבסיס עבר מ-Qwen3.6-27B ל-Qwen3.8-27B, שהיה בעצמו מודל חזק יותר. כרטיס המודל 27B של הספק עצמו מבהיר את הנקודה השנייה על ידי חישוב מחדש של המהדורה הקודמת על מערך 14 המבחנים החדש לשורה ברת-השוואה: על בסיס משותף זה המהדורה הקודמת מקבלת 80.98 ו-Bonsai 2 27B מקבל 84.78. לכן הקריאה הכנה של השינוי היא בערך 3.8 נקודות מול אותו מערך מבחנים, כאשר חלק מכך מגיע ממודל הבסיס וחלק מהאימון הטרנרי. אחוז השימור עלה מ-94.6% ל-98.2% בין היתר משום שהמכנה זז.

שנית, צורת הפגיעה מספקת יותר מידע מהנתון המצטבר. באותה ערכת בנצ'מרקים של 14, Bonsai 2 27B כמעט אינו מוותר על דבר במקומות שבהם באה לידי ביטוי הסקה מתמשכת: במתמטיקה 96.57 לעומת 97.06, בקידוד 89.42 לעומת 89.07 — באותה רמה, מעט גבוה יותר — ובביצוע הוראות 82.66 לעומת 81.25, גבוה יותר. ידע והסקה יורדים מ-85.55 ל-79.86, והראייה מ-71.36 ל-66.19. זה הפרופיל שהיית מצפה לו מייצוג של 1.72 סיביות למשקל: ליבת ההסקה שורדת, ואילו שליפת העובדות והבנת התמונות סופגות את הפגיעה. אם עומס העבודה שלך הוא קוד ומתמטיקה, הדחיסה כמעט בחינם. אם הוא מענה על שאלות בצורת אחזור מתוך קורפוס, זה לא כך.

המשבצת של 3.9 GB היא המקום שבו זה נהיה מעניין

הנה החלק שמסגור שתי הדורות מסתיר. הארטיפקט הייחודי ביותר של הדור הראשון היה הבילד הבינארי: מודל 27B ב-3.9 GB, שמשמר 89.5% מ-FP16 כפי שדווח על ידי הספק, בממוצע של 76.11 על פני 15 בנצ'מרקים. ל-Bonsai 2 אין 27B בינארי. אבל ל-Bonsai 2 כן יש 9B ב-1.997 GB באריזת טריטים צפופה וב-2.42 GB באריזת חריצי 2 סיביות — בערך חצי מהנפח של ה-27B הבינארי, מהדור החדש יותר וממודל הבסיס החדש יותר.

האם ‏9B טוב יותר מ־27B בעל סיבית אחת? הספק אינו מדווח מספר שעונה על כך, ואין לבנות מספר כזה. שני המודלים הוערכו על מערכי מבחנים שונים — 19 מבחנים על פני שישה תחומי מיומנות עבור מודלי Bonsai 2 הקטנים, ו־15 עבור ה־27B מהדור הראשון — מול קווי בסיס שונים, ודוחות ההשקה של המודלים הקטנים מדווחים על שימור קטגוריה ביחס למקבילי Qwen3.5 שלהם בדייקנות מלאה, ולא כממוצע מוחלט יחיד שניתן להשוות ל־76.11 של ה־27B. ההשוואות שכן קיימות הן ברמת המבחן ומצביעות בשני הכיוונים. לפי המספרים של הספק, ה־9B משיג 71.81 ב־BFCLv3 ו־73.02 ב־Tau2Bench, בעוד שה־27B הבינארי רשם 74.41 ב־BFCL v3 — קרוב מספיק כדי שההבדל במערך המבחנים יבלע אותו.

מה שאפשר לומר בלי להפריז הוא צר יותר ועדיין שימושי: מחלקת טביעת הרגל ש-27B הבינארי היה היחיד שאייש אותה מקבלת כעת מצטרף זול יותר מהדור הבא, והשניים קרובים מספיק כדי שאף אחד לא צריך לבחור ביניהם לפי טבלת ספק. זהו מקרה שמצדיק למדוד על הפרומפטים שלך, לא לסמוך על מספר. זה גם המקום היחיד בהשוואה הזו שבו התשובה היא באמת "אף לא אחד משני המודלים שבכותרת".

להריץ אותם: המספרים והמלכוד

נתוני התפוקה נמדדו על ידי הספקים ולא נלקחו על גבי מכונה משותפת, לכן יש לקרוא אותם כסדרי גודל ולא כדירוג.

• Bonsai 2 27B על Apple M5 Max — כ-47 tok/s בבילד טרום-הרוטציה המוקדם יותר, בהמתנה למדידה מחדש על הסטאק הנוכחי

• Bonsai 2 27B על M5 Pro — 28.1 tok/s באריזת 2-bit-slot, בערך 27.5 W על מסילת ה-GPU

• Bonsai 2 27B על RTX 5090 — 129.9 tok/s באריזת משבצות 2-ביט, 120.5 באריזת טריטים צפופה

• דור ראשון טרנרי Bonsai 27B על M5 Max — 44.0 tok/s; על H100, 98.0 tok/s, עולה לכ-131.8 עם DSpark drafter שלו

• Bonsai 27B בינארי מהדור הראשון על iPhone 17 Pro Max — בערך 11 tok/s, מוגבל תרמיתית

המלכוד הוא באריזה, והוא משפיע באותו אופן על שתי הדורות. הקרנלים הטרינאריים של אף אחד מהדורות לא נמצאים ב-llama.cpp במעלה הזרם. הדור הראשון זקוק לפורק של Prism ML עבור כל קובץ. Bonsai 2 מגיע עם שלוש אריזות של אותם משקלים, ו-llama.cpp במעלה הזרם מריץ בדיוק אחת מהן — Q2_0, ב-master האחרון — בעוד שהוא דוחה את PTQ1_0 הקטן יותר ואת PQ2_0 המהיר יותר כסוגים לא מוכרים. אז חבילת ה-dense-trit שמתקרבת ביותר ל-1.72 סיביות למשקל התיאורטיות היא גם זו שדורשת בנייה של פורק.

כדאי להתעכב על זה, כי זה מסביר את הרשומה של Ollama. התגיות של Ollama עבור Bonsai 2 מגישות את Q2_0: שכבת המודל של התגית 9B נמדדת ב-2.557 GB — בדיוק אותו גודל, בייט אחר בייט, של קובץ Q2_0 ב-Hugging Face, והחבילה הקטנה ביותר של PTQ1_0 נעדרת לחלוטין מהמרשם. יהיה מה שיהיה הרישום הזה, הוא אינו דרך לארטיפקט הקטן ביותר. נוחות וטביעת רגל נסחרות כאן, והסחר בלתי נראה אלא אם קוראים את גדלי הקבצים.

להגיע לכל אחד מהם

אם אתם על Ollama, ההחלטה כבר התקבלה עבורכם: Bonsai 2, ארבעה גדלים, ollama pull bonsai-2:27b או :9b, כ-8.3 GB ו-3.2 GB בדיסק כולל מקרן הראייה. אם אתם זקוקים לאריזת dense-trit, למודלי הטיוטה של הפענוח הספקולטיבי, או לכל דבר מהדור הראשון, מדובר בהורדה מ-Hugging Face ובנייה של fork, ומאגר ההדגמה של הספק הוא ההפניה הנבדקת לנתיב הזה.

היכן ששכבת ניתוב באמת עוזרת כאן הוא בצד השני של השאלה. אינך יכול לנתב לאף אחד מאלה — הם משקלים מקומיים, ו-OrcaRouter אינו מגיש היום שום גודל Bonsai. מה ש-OrcaRouter נותן לך הוא בסיס ההשוואה: API אחד מול יותר מ-200 מודלים מתארחים בתוספת של 0%, מחיר המחירון של הספק מועבר הלאה, עם מעבר אוטומטי בין ספקים בעת תקלה. הרצף ההגיוני עבור רוב הצוותים הוא לקבוע באמצעות מודל מתארח מה נדרש למשימה בפועל, ואז להחליט אם מודל מקומי של 2 GB, 3.9 GB או 6 GB עומד ברף הזה — במקום לנחש לפי אחוז שימור.

איזה מהם, באופן קונקרטי?

• אתה רוצה את הדור הטרנרי החדש ביותר ב-27B והתקנה בפקודה אחת — Bonsai 2 27B דרך Ollama, תוך קבלת אריזת Q2_0 וגודל הדיסק הגדול יותר.

• אתה רוצה את הארטיפקטים הקטנים ביותר האפשריים מסוג 27B, או שאתה מסתמך על ה-drafter של DSpark — Bonsai 27B מהדור הראשון מ-Hugging Face, עם בניית ה-fork. שום דבר ב-Bonsai 2 לא מחליף אותו ב-27B.

• הרצתם את בניית הבינארי של 3.9 GB ואתם צריכים שטביעת הרגל הזו תישמר — אל תניחו שיש ל-Bonsai 2 יורש. או שתישארו, או שתמדדו את Bonsai 2 9B מול הפרומפטים שלכם; הוא חצי מהגודל וחדש יותר בדור אחד, והספק לא פרסם השוואה שמכריעה את העניין.

• אתה צריך ארבע מחלקות גודל מסביבת הרצה אחת — Bonsai 2 הוא הדור היחיד שמציע את זה.

דבר אחד שכדאי לשים לב אליו, שיפשט את כל זה: ptq1_0 תגית שמופיעה ברשימת Ollama. פירושו יהיה שקרנלי ה-dense-trit הגיעו למנוע ש-Ollama מפיצה, דרישת הפורק נעלמת עבור החבילה הקטנה ביותר, והפשרה בין נוחות לטביעת רגל מפסיקה להיות פשרה.

שום דבר מזה אינו היפותטי: כשלי ה-AI המתועדים ותקריות הסוכנים העומדים מאחורי מהדורות כמו זו מרוכזים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה כוללת מקורות משלה, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.