Bonsai 2 מול Ternary Bonsai 2 27B: שם המשפחה ממלא שני תפקידים

חפשו אחר Bonsai 2ותגיעו לבערך חמישה ארטיפקטים שונים שטביעות המשאבים שלהם משתרעות על פני סדר גודל שלם, ולא ברור מהשם על איזה מהם מאמר נתון מדבר. Ternary Bonsai 2 27Bהוא הספציפי — מודל טרנרי יחיד בדרג 27B שנבנה על Qwen3.8-27B, הוכרז ב-17 בספטמבר 2026 ומשווק כחבילת dense-trit בנפח 5.95 GB או חבילת 2-bit-slot בנפח 7.21 GB. סתם Bonsai 2הוא המטרייה: אותו שם מכסה את Ternary Bonsai 2 2B, Ternary Bonsai 2 4B וTernary Bonsai 2 9B, שלושה מודלים קטנים בהרבה שנבנו על Qwen3.5 והוכרזו ב-15 באוקטובר 2026, והוא מכסה כעת גם רשומה בספריית Ollama שמשרתת את כל ארבעת הגדלים תחת משפחת תגים אחת.

אז זה לא העימות ראש-בראש הרגיל. צד אחד הוא תת-קבוצה של הצד האחר, והשאלה השימושית אינה איזה מהם טוב יותר, אלא את איזה מהם קורא שהקליד "Bonsai 2" בתיבת חיפוש באמת רוצה. התשובה תלויה במשהו שהשם מסתיר: המשפחה היא שתי משפחות, המחולקות לפי מודל בסיס, והחלוקה אינה נופלת במקום שמספרי הגדלים מרמזים עליו.

שתי משפחות עוטות שם אחד

קראו את כותרות ה-GGUF של הקבצים שפורסמו, והתפר נמצא ממש שם בשדה מטא-דאטה. כל תוצר של Bonsai 2 — ‏2B, ‏4B, ‏9B ו-27B כאחד — מדווח general.architecture = qwen35. המחרוזת הזו היא עמוד השדרה של Qwen3.5 עם קשב היברידי, ולשלושת הקטנים היא מדויקת לחלוטין: כרטיסי המודל מפרטים את Qwen3.5-2B, ‏Qwen3.5-4B ו-Qwen3.5-9B כמודלי בסיס עם ארכיטקטורה ללא שינוי. ה-27B הוא יצור אחר. הבסיס שלו הוא Qwen3.8-27B, מודל 27B חדש וחזק יותר עם קשב היברידי, והוא פשוט חולק את מחרוזת הארכיטקטורה כי Qwen3.8 שומר על אותה משפחה של עמוד שדרה.

הערות השחרור של הספק עצמו הופכות את הפיצול לגלוי אם קוראים אותן זו לצד זו, ובלתי נראה אם קוראים כל אחת לבדה. הפוסט מ-15 באוקטובר על המודלים הקטנים אומר שהם "מבוססים על Qwen3.5" ומתאר אותם כמצטרפים ל-Bonsai 2 27B — מה שמוצג במדויק כדבר אחר. הפוסט מ-17 בספטמבר על ה-27B אומר Qwen3.8-27B. שתי הכרזות, שני מודלי בסיס, שם משפחה אחד, וכתבה של צד שלישי שאומרת ש"Bonsai 2 מבוסס על Qwen3.5" טועה לגבי ה-27B בעודה נראית מבוססת היטב לחלוטין.

זה חשוב מפני שהדור של מודל הבסיס אינו פרט שולי כאן. הוא קובע את תקרת היכולת, הוא קובע מה שאחוזי השימור הם אחוזים של, וזה אומר שמספרי הבנצ'מרק של המודלים הקטנים ומספרי הבנצ'מרק של ה-27B אינם שתי נקודות על עקומה אחת — הם שני דוחות נפרדים מול שני קווי בסיס נפרדים. התייחס לכל טבלה שמסדרת אותם בעמודה אחת בחשדנות.

המספרים, זה לצד זה

כל הנתונים מדווחים על ידי הספק Prism ML; אף אחד מהם לא שוחזר באופן עצמאי.

• מודל בסיס — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, ‎-4B, ‎-9B בהתאמה; Ternary Bonsai 2 27B: Qwen3.8-27B

• הוכרז — 15 באוקטובר 2026 עבור השלושה הקטנים; 17 בספטמבר 2026 עבור ה-27B

• חבילת מודל שפה הקטנה ביותר — 0.429 GB PTQ1_0 ב-2B; 1.997 GB PTQ1_0 ב-9B; 5.947 GB PTQ1_0 ב-27B

• חבילת ברירת מחדל — PQ2_0 עבור כולם: 0.517 GB, 1.146 GB, 2.417 GB ו-7.206 GB בהתאמה

• ביטים לכל משקל — ~1.83 ב-2B, ~1.81 ב-4B, ~1.78 ב-9B, 1.72 אידיאלי / 1.75 ארוז ב-27B

• הקשר — 262,144 טוקנים בכל המשפחה, בירושה מעמוד השדרה של Qwen

• Vision — חבילת mmproj נפרדת בכל גודל, נטענת רק כאשר מגיעה תמונה

• רישיון — Apache 2.0 בכל המערכת

• שימור כפי שדווח — 27B: 98.2% מ-Qwen3.8-27B FP16 על פני 14 בנצ׳מרקים; מודלים קטנים: 19 בנצ׳מרקים על פני שישה תחומי מיומנות, מדווחים כשימור לפי קטגוריה לעומת קווי הבסיס שלהם של Qwen3.5

שורה אחת ברשימה הזו היא הסיבה ש-27B עולה 5.95 GB ואילו 9B עולה 2.00 GB, וזה לא רק מספר הפרמטרים. ה-27B מתואר כ"טרנרי מקצה לקצה" (end-to-end ternary) על פני embeddings, היטלי attention, היטלי MLP וראש ה-LM, עם פרט מכריע: קבוצה קטנה של טנסורים — נתיב המצב הרקורסיבי של שכבות ה-attention הליניאריות בתוספת משקולות הנרמול, כ-26.2 מיליון פרמטרים, 0.0976% ממודל השפה — נשארת בדיוק גבוה יותר, והשארית הזו היא מה שמזיז את נתון הכותרת מ-1.71 ל-1.72 ביטים למשקל. ב-9B אותה מכונה נותנת ~1.78. המודל הגדול יעיל יותר לכל משקל, לא פחות, כי תקורת הדיוק הגבוה הקבועה נפרסת על פני פי עשרה יותר פרמטרים. אם אתה מנמק איזה גודל לבחור מתוך טבלת ביטים למשקל, זה הכיוון האחד שאליו הטבלה מצביעה.

איפה שהמודלים הקטנים באמת מנצחים

לא על איכות — על צורת הטענה. השחרור של המודל הקטן הוא היחיד במשפחה הזו שמפרסם טענה בנוגע לאריכות, והוא הדבר שהכי ניתן לבדוק מבין מה שכל אחת משתי ההכרזות מכילה: Prism ML מדווחת שמודל 9B משתמש בערך ב-40% פחות טוקנים במשימות סטנדרטיות של ביצוע הוראות ומתמטיקה יומיומית. זו אמירה על אורך הפלט, לא על יכולת, ואפשר לאמת אותה מול הפרומפטים שלך בתוך אחר צהריים. באותו פוסט מופיעות הימנעות מלולאות חזרתיות ושליטה באריכות כעדיפויות פיתוח מפורשות, וזה מסוג הדברים שכותבים כשבדור הקודם שלך הייתה בעיה.

זו גם הגרסה היחידה שמדווחת על שימור מעל 100% בכמה קטגוריות — 121.5% במעקב אחר הוראות עבור ה-2B, 107.8% במתמטיקה, 115.0% בקידוד, מול קווי הבסיס של Qwen3.5 בדייקנות מלאה. אלה המספרים של הספק עצמו על מערך הבדיקות של הספק עצמו, ומודל דחוס שמשיג ציון גבוה יותר ממודל המקור שלו במבחן שנבחר ביד הוא טענה על האימון ועל מערכת ההערכה לפחות באותה מידה כמו על אריתמטיקה טרנארית. הדוח של ה-27B מנוסח שמרנית יותר — 84.78 מול 86.32, כשמתמטיקה עומדת על 96.57 לעומת 97.06 ורמת הקידוד על 89.42 לעומת 89.07, והאובדן מתרכז בידע/היסק ובראייה — וזהו הפרופיל שייצוג של 1.7 סיביות אמור להפיק. כאשר האובדנים של דוח אחד נופלים בדיוק במקום שבו התאוריה חוזה, והרווחים של דוח אחר נופלים על הקטגוריות שהספק בחר להדגיש בכותרת, האסימטריה הזו היא מידע.

אריזה: היתרון השקט של ה-27B

החל מ-17 באוקטובר 2026, כל ארבעת הגדלים ניתנים למשיכה בתור bonsai-2:2b, :4b, :9b ו-:27b מ-Ollama — תשע תגיות בסך הכול, כשכל גודל נושא גם כינוי -q2_0. זה חדש, הוא לא הוכרז על ידי הספק, וכדאי לדעת מה הוא באמת מספק. התגיות של Ollama מתמפות לאריזת Q2_0, היחידה ש-llama.cpp במעלה הזרם יכול לטעון. חבילות ה-PTQ1_0 מסוג dense-trit — הקבצים הקטנים ביותר במשפחה — אינן נמצאות ברג'יסטרי כלל. לכן המסלול הנוח והמסלול הקטן הם מסלולים שונים, במידה שווה עבור כל ארבעת הגדלים.

הנקודה שבה ה-27B שונה היא במה שהוא לא כולל. ה-4B וה-9B מגיעים כל אחד עם שני מודלי טיוטה אופציונליים לפענוח ספקולטיבי: ראש MTP המובנה בחבילת 2-bit-slot, ומודל טיוטה מבוסס בלוקים DFlash2 שעוזר בעבודה עתירת העתקות ואיטי יותר מפענוח רגיל בצ'אט כללי. ה-2B מגיע בלי אחד בכוונה — הערת הספק היא שבגודל כזה שלב פענוח כבר זול, וטיוטת swept-depth נמדדה איטית יותר בפרומפטים יומיומיים מאשר פענוח רגיל. הדור של ה-27B השמיט את מודל הטיוטה המקביל שנשא קודמו מהדור הראשון.

זהו הבדל אמיתי ביכולות בין הגדלים, והוא כלל לא מופיע בעמוד של Ollama.

להחליט, ומה לעשות עם התשובה

ה-27B הוא זה שכדאי לפנות אליו אם עומס העבודה הוא הסקה לטווח ארוך: קוד, מתמטיקה, שרשראות כלים סוכניות, מסמכים ארוכים המוחזקים בהקשר של 262K. זהו הגודל היחיד במשפחה עם מודל בסיס מדור Qwen3.8, ופילוח הקטגוריות של הספק אומר שהדחיסה כמעט ולא עולה לו במתמטיקה ובקידוד, בעוד שהיא גובה את מחירה בשליפת ידע ובראייה.

ה-9B הוא זה שכדאי לפנות אליו אם האילוץ הוא זיכרון ולא קושי: עוזרים שמתארחים על מחשב נייד, פריסות בטלפון, כל דבר שבו 2 GB מול 6 GB הוא ההבדל בין לשחרר לבין לא. הפרופיל המפורסם שלו הוא החזק ביותר בדיוק במקום שבו זה של ה-27B הוא החלש ביותר ביחס לקו הבסיס — עמידה בהוראות ושליטה במידת הפירוט — וזה בדיוק מה שעוזר מקומי קטן באמת מוציא עליו טוקנים. ה-2B וה-4B קיימים בשביל תקציבים הדוקים עוד יותר, ובגדלים האלה מספרי השימור נעשים רועשים מספיק עד שהפרומפטים שלכם עצמכם הם מדריך טוב יותר מהטבלה של הספק.

הערה על ההשוואה שרוב הקוראים יבצעו בפועל, שהיא מול מודלים מתארחים ולא זה מול זה. אף אחד משני הגדלים של Bonsai 2 לא מוגש דרך OrcaRouter, והמאמר הזה לא מרמז אחרת — הם משקולות שאתם מורידים. אבל השאלה "האם מודל מקומי של 2 GB טוב מספיק למשימה הזו" נענית על ידי מדידה מול משהו, ו-OrcaRouter מציב API אחד לפני יותר מ-200 מודלים מתארחים ב-0% תוספת מחיר כאשר מחיר המחירון של הספק מועבר הלאה, בתוספת מעבר אוטומטי בין ספקים ו-DSL לניתוב להרכבת כמה מודלים לקריאה אחת. קבעו את הרף עם מודל מתארח, ואז בדקו אם המודל המקומי עובר אותו על החומרה שלכם. סדר הפעולות הזה חוסך את השבועות שאנשים מאבדים על כיוונון הורדה שמלכתחילה לא הייתה מספקת.

אזהרה אחת שכדאי לקחת מהקטע הזה. שתי ההשקות מדווחות על אחוזי שימור, שתיהן נמדדות על ידי הספק על ההרנס של הספק עצמו, ונכון להיום אף צד שלישי לא שחזר אף אחת מהן. הדבר היחיד שאתם יכולים לאמת בעצמכם הוא הארטיפקט — גדלי הקבצים, האריזות, מטא-נתוני ה-GGUF, הרישיון, והתפוקה על המכונה שלכם. שם המקום להתחיל, ושם גם המקום שבו שתי ההודעות מפסיקות להידמות זו לזו: גדלי האריזה העצמאיים של ה-27B מפורסמים לכל קובץ בנפרד ב-Hugging Face, והנתון המועבר מפה לאוזן של המודלים הקטנים — 0.43 GB, 0.95 GB ו-2 GB — מתייחס למודל השפה בלבד, כשמגדל הראייה מוחרג. השוו אותם על אותו בסיס, אחרת ה-9B ייראה כאילו הפסיד בוויכוח שלא היה לו מעולם.

שום דבר מזה אינו היפותטי: כשלי ה-AI המתועדים ותקריות הסוכנים העומדים מאחורי מהדורות כמו זו מרוכזים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה כוללת מקורות משלה, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.