Bonsai 27B: מודל ה-27B במשפחת Bonsai, מוסבר

Bonsai 27B הוא המודל בעל 27 מיליארד הפרמטרים במשפחת Bonsai של PrismML, והוא זה שהאנשים מתכוונים אליו כשהם מקלידים "bonsai 27b" — אבל השם לבדו לא יוביל אתכם לשם, מפני ששלושה דברים שונים עונים למשהו שדומה לו. Bonsai 27B הוא בנייה מחדש בביטים נמוכים של Qwen3.6-27B, מתוארך ל-14 ביולי 2026 לפי ההכרזה של הספק עצמו, והוא מסופק כשתי חבילות של אותו מודל: Bonsai 27B ב-1 ביט, שמאחסן משקולות בינאריות {−1, +1} בנפח של כ-3.9 GB, ו-Ternary Bonsai 27B, שמאחסן משקולות טרנאריות {−1, 0, +1} ב-1.71 ביט אפקטיביים לכל משקולת — 5.9 GB בנתון הכותרת של הספק, 7.165 GB כפי שהחבילה מגיעה בפועל. זה אינו Ternary Bonsai 2 27B, הדור השני בעל השם הנפרד שנבנה על Qwen3.8-27B, וזה אינו המודל החזותי-לשוני בעל 2 מיליארד הפרמטרים ש-PrismML בנתה עבור משקפי החכמים Snapdragon AR1 Gen 1. שתי החבילות של Bonsai 27B כוללות חלון הקשר של 262,000 טוקנים, מגדל חזותי קומפקטי של 4 ביט, ורישיון Apache 2.0. המודל הוא Bonsai 27B; ההחלטה שבאה לאחר מכן היא איזו משתי החבילות שלו מתאימה לתקציב הזיכרון שלכם.

הדף הזה הוא עמוד הייחוס לאותו מודל. הוא לא הכרזה: Bonsai 27B זמין מאז יולי 2026, והשאלות ששווה לענות עליהן לגביו כעת הן אלה שהקורא מגיע איתן — מה בדיוק הוא, מה בא השם להבדיל, ומה עולה בפועל להריץ אותו.

איזה מהם הוא ה-27B?

האפשרות להתבלבל כאן אמיתית, וכדאי לפתור אותה לפני כל דבר אחר, מפני שניחוש שגוי שולח אותך למודל בן 2 מיליארד פרמטרים או לדור הלא נכון של המודל הנכון.

• Bonsai — שם המשפחה, והשם שהספק נותן לה. כשלעצמו הוא אינו מזהֶה שום דבר שאפשר להוריד. PrismML הוציאה את Bonsai 1.7B, Bonsai 4B, Bonsai 8B, Bonsai 27B ו-Bonsai Image, בנוסף למודל המשקפיים בעל 2 מיליארד הפרמטרים, ומהדורה מוקדמת יותר מאפריל 2026 בשם Ternary Bonsai לקו הקטן יותר. חיפוש של המילה החשופה נוחת באקראי בתוך הקבוצה הזאת.

• Bonsai 27B — הנושא של עמוד זה. הדור הראשון של סדרת 27B, שנגזר מ-Qwen3.6-27B, מתוארך ל-14 ביולי 2026. כאשר עמוד אומר "Bonsai 27B" בלי שום מסייג אחר ובלי "2", זה הדגם שאליו הוא מתכוון, וזה השם שבו יש להשתמש.

• Ternary Bonsai 27B — לא דגם אחר. זהו החבילה המוכוונת לאיכות של Bonsai 27B: אותו דגם 27B, אותה ארכיטקטורה ואותו בסיס, עם משקולות טרנאריות במקום בינאריות. שם המאגר הוא Ternary-Bonsai-27B-gguf, וכרטיס המודל שלו מציין את Qwen3.6-27B כבסיס בדיוק כפי שכרטיס הבינארי עושה. "Ternary" כאן הוא פורמט משקולות, לא גרסה.

• Ternary Bonsai 2 27B — מודל שונה באמת. הדור השני של קו ה־27B, שנבנה על Qwen3.8-27B והוכרז ב־17 בספטמבר 2026, עם חלוקת פרמטרים שונה וטענת איכות שונה. הספרה "2" נושאת את מלוא ההבחנה.

• 1-bit Bonsai 2B — חבר אחר במשפחה בקנה מידה אחר: מודל חזותי-לשוני עם 2 מיליארד פרמטרים לחומרה ברמת משקפיים, לא מודל 27B בשום דיוק.

אז אם הגעתם לכאן כדי להכריע איזה מאלה הוא מודל 27B, התשובה היא שהשורות השלישית והרביעית למעלה הן אותו מודל בשני פורמטים של משקלים, והחמישית היא זו שלא. באופן מעשי: קראו לזה Bonsai 27B, והוסיפו את החבילה כשזה משנה.

המפרט, מכרטיס המודל

כל נתון בסעיף זה מגיע מכרטיסי המודל שפרסמה PrismML עבור שתי החבילות, והוא הצהרה של הספק עצמו על המודל שלו. כאשר מספר הוא טענה ולא מדידה, הוא מסומן ככזה.

• פרמטרים — כ-27.3B בסך הכול, והמספר "27B" מתייחס לסך הכול הזה. כדאי להכיר את החלוקה כי היא מסבירה את התנהגות הזיכרון: בערך 24.8B נמצאים בעמוד השדרה הלשוני על פני 64 בלוקים, בערך 2.5B בהטמעה ובראש ה-LM, וכ-0.46B במגדל ראייה בן 27 בלוקים. הייצוג בביטים נמוכים מיושם מקצה לקצה — הטמעות, קשב, MLP וראש ה-LM — בלי שום פתח מילוט בדיוק גבוה יותר ברשת השפה.

• הקשר — 262,000 טוקנים מלאים, ללא וריאנט של הקשר ארוך וללא בילד של הקשר מצומצם. העלות של החלון הזה מנוהלת ולא משולמת במלואה: עמוד השדרה הוא היברידי, כך שרק 16 מתוך 64 השכבות שלו שומרות מטמון קשב מלא, והמטמון הזה נשמר בצורה כמעט חסרת אובדן של 4 סיביות. בחלון המלא של 262K, המטמון הדחוס הוא זה ששומר על המודל בתוך בערך 9.4 GB בחבילה הבינארית ו-12.8 GB בחבילה הטרינארית.

• מודאליות — טקסט ותמונות, שני המארזים. מגדל הראייה מגיע בצורה קומפקטית של 4 סיביות (0.63 GB) עם עותק BF16 (0.93 GB) לצידו. הראייה היא גם המקום שבו הדחיסה עולה הכי הרבה, וזה מכוסה בהמשך.

• פורמט משקל וגודל — 1-bit Bonsai 27B משתמש במשקלים בינאריים {−1, +1} עם סקיילינג קבוצתי ב-FP16, ארוזים כ-GGUF Q1_0_g128 ב-1.125 ביטים אפקטיביים אמיתיים לכל משקל; הקובץ הנשלח הוא 3.803 GB, וכרטיס המודל מעגל את טביעת הרגל הפרוסה לכ-3.9 GB. Ternary Bonsai 27B משתמש במשקלים טרינאריים {−1, 0, +1} עם אותו סקיילינג קבוצתי; ערך טרינארי נושא log₂3 ≈ 1.585 ביטים של מידע, ולכן רצפת הייצוג היא ~1.71 ביטים לכל משקל, שמסתכמת ל-5.9 GB אידיאליים. חבילת הטרינארי שפורסמה גדולה מהאידיאל הזה, מפני שהקרנלים של היום מאחסנים כל ערך טרינארי בחריץ של 2 ביטים — 2.125 ביטים לכל משקל בפריסה — והקובץ הנשלח הוא 7.165 GB. PrismML מציינת את שני המספרים ולא רק את המחמיא מביניהם, והפער ביניהם הוא מגבלה של קרנל ולא בחירה במידול.

• רישיון — Apache 2.0 בשתי החבילות, מצוין בשני המאגרים ובהכרזה של הספק. זהו רישיון מתירני ללא הגבלת תחום שימוש, מה שחשוב יותר בגודל משקל זה מאשר ברוב המקרים.

• מודל בסיס — Qwen3.6-27B בשני המקרים. זהו דחיסה מחדש של המודל של מישהו אחר ולא מודל שאומן מאפס, וההשלכה היא שגם תקרת היכולת של Bonsai 27B וגם קצב הרענון שלו עוקבים אחרי קו ה-27B במעלה הזרם ולא אחרי זה של PrismML.

היחס הטרנרי, נאמר פעם אחת

שתי החבילות הן מודל אחד, והסיכום האמיתי הוא שטרינארי קונה איכות ובינארי קונה טביעת רגל, כשהפער ביניהם קטן ממה שההבדל בגודל של 3.9 GB לעומת 7.2 GB מרמז.

במערך 15 הבנצ'מרקים של PrismML עצמה במצב חשיבה, קו הבסיס FP16 Qwen3.6-27B מקבל ציון 85.07. Ternary Bonsai 27B מקבל 80.49 — שימור של 94.6%, שהיצרן מעגל לכ-95%. 1-bit Bonsai 27B מקבל 76.11 — 89.5%, מעוגל לכ-90%. כך שהחבילה מכוונת האיכות מחזירה בערך חצי מהפער בין חבילת הבינארי לדיוק מלא, תוך שהיא עולה כ-3.3 GB יותר, וחבילת הבינארי היא זו שנכנסת לטלפון עם 12 GB. אותו מערך מראה בנייה 4-bit Q4_K_XL של אותו קו בסיס עם 84.99, או שימור של 99.9%, ב-17.6 GB — וזו ההשוואה שמסבירה מדוע בכלל קיימת כל אחת מחבילות הביט הנמוך, מכיוון שהיא מנצחת אותן באיכות ומפסידה בכל מכשיר שיש לו פחות מ-18 GB להקדיש למודל.

המקום שבו החבילה הבינארית נסוגה אינו אחיד, ופיצול הקטגוריות הוא החלק השימושי. לעומת קו הבסיס FP16, היא יורדת מ-95.33 ל-91.66 במתמטיקה ומ-88.74 ל-81.88 בקידוד, אך מ-78.47 ל-65.74 במעקב אחר הוראות, מ-80.00 ל-66.03 בעבודה סוכנית וקריאה לכלים, ומ-72.61 ל-59.57 בראייה. אם עומס העבודה שלך הוא אריתמטיקה או השלמת קוד, 3.9 GB הוא כמעט בחינם. אם מדובר בסוכני קריאה לכלים או בהבנת תמונות, שם בעצם משלמים את מחיר הדחיסה.

כרטיס המודל גם מפרסם נתון נגזר שהוא מכנה צפיפות אינטליגנציה — ציון מצטבר לג'יגה-בייט, מנורמל כך שציון מושלם שואף לאינסוף. על פי מדד זה, 1-bit Bonsai 27B מגיע ל-0.530 ו-Ternary Bonsai 27B ל-0.400, לעומת 0.199 עבור build 2-bit IQ2_XXS של אותו baseline, 0.155 עבור build 4-bit Q4_K_XL, ו-0.051 עבור מודל FP16. המספר המעניין ברשימה הוא ההשוואה הראשונה: האריזה הבינארית מנצחת את ה-build הרגיל של 2-bit באיכות מצטברת בפחות מחצי מהטביעת רגל, וזו כל התזה של המשפחה בשורה אחת.

ההשוואה הראש בראש המלאה בין שתי החבילות, ומהיכן מגיעים המספרים של כל אחת מהן, מפורטת בעמוד Bonsai vs Bonsai 27B בבלוג הזה, לצד המודל בעל 2 מיליארד הפרמטרים שחולק את שם המשפחה.

שאלה אחת שמגיעה עם המודל הזה ראויה לתשובה עובדתית, ולא יותר. החבילות הן קידודים בביטים נמוכים של אותו מודל בסיס, ולא וריאנט שאומן מחדש, והמאגרים אינם מפרסמים לצדן שום צ׳קפוינט מכוונן בנפרד או לא מצונזר — התוצר היחיד בדיוק מלא שמוצע הוא המרת FP16 לא ארוזה של אותם משקלים, שפורסמה כדי שתוכל להשוות חבילה דחוסה מול קו הבסיס שלה בכלי העבודה הסטנדרטיים.

משקלים ורישיון, מהמאגרים

המשקלים של Bonsai 27B מפורסמים ב-Hugging Face תחת ארגון prism-ml, ורשימת הקבצים היא הדבר המוחשי ביותר בשחרור. המאגר של חבילת הבינארי מכיל את המודל עצמו בגודל 3.803 GB, FP16 GGUF של אותו מודל בגודל 53.808 GB לשם השוואה, מודל טיוטה לפענוח ספקולטיבי DSpark בגודל 1.787 GB ב-4-bit ו-7.292 GB ב-BF16, ומגדלי ראייה בגודל 0.931 GB ו-0.629 GB. המאגר הטרנרי מכיל חבילה משלו בגודל 7.165 GB בתוספת אריזה שנייה בגודל 7.585 GB, שהיא group-64 ולא group-128 ותואמת ל-upstream ולא אופטימלית, ואותם קבצי טיוטה וראייה. שני המאגרים הם Apache 2.0 ושניהם מציינים את Qwen3.6-27B כבסיס.

שני דברים נובעים מהרשימה הזו. הראשון הוא ש-53.808 GB מול 3.803 GB הם היחס של פי 14.2 שמופיע בראש כרטיס המודל, וניתן לבדוק אותו ולא רק להצהיר עליו — קובץ הדיוק המלא נמצא ממש שם. השני הוא שהשחרור כבד יותר מהמודל: אם לוקחים גם את מודל הטיוטה וגם את מגדל הראייה, שהמסלול הרב-מודלי דורש, מוסיפים בערך 2.4 GB על גבי מודל של 3.9 GB. המספר המוביל של 3.9 GB הוא משקולות השפה, ולא הפריסה.

ההורדות הן המקום היחיד שבו החבילה ממוקדת האיכות מובילה: נכון לאוקטובר 2026, מאגר ה-GGUF הטרינארי חצה 590,000 הורדות לעומת קצת יותר מ-400,000 של החבילה הבינארית, בעוד שמכולות ה-MLX של שתיהן ניצבות מעל מיליון כל אחת. התמונה שמצטיירת מכך מרמזת שרובו של המודל הזה מורץ על חומרת אפל ולא על שרתים, ושהאנשים שמורידים אותו קונים את חמש נקודות השימור הנוספות ולא את הקובץ הקטן ביותר האפשרי — וזה בערך הייעוד שלשמו עיצב היצרן את הצמד.

מריץ את זה

מה שאפשר להשיג היום הוא ארבעה סוגים של ארטיפקט לכל חבילה, ואיזה מהם תרצה נקבע לפי סביבת ההרצה שלך ולא לפי איכות.

• GGUF עבור llama.cpp — הנתיב הראשי, וזה שעבורו נכתבו קרנלי הביטים הנמוכים. שתי החבילות הן בילדים של llama.cpp עבור CUDA, Metal ו-CPU, אבל קרנלי ה-1-bit והטרנריים נמצאים בפורק של PrismML עצמה ולא ב-upstream, כך ש-llama.cpp הסטנדרטי עדיין לא יטען אותם כראוי. אריזת ה-group-64 הטרנרית קיימת בדיוק עבור המקרים שבהם אתה צריך תאימות ל-upstream ומוכן לקחת 7.585 GB במקום 7.165 GB כדי להשיג אותה.

• MLX עבור Apple silicon — מכולות משלוח נפרדות בנפח 5.129 GB עבור החבילה הבינארית ו-8.491 GB עבור החבילה הטרינארית. שימו לב שהמכולה הבינארית של MLX גדולה יותר מהחבילה הבינארית של GGUF, וזה הבדל של תקורת מכולה ולא של מודל שונה.

• AWQ 4-bit עבור מסגרות שרת — בנייה של 4-bit של כל מודל עבור מסגרות ההגשה שמצפות ל-checkpoint של AWQ, בתשעה שברים (shards) בסך כולל של 18.70 GB, כולל מתכון multi-GPU. זה אינו ארטיפקט low-bit; זה אותו מודל ברמת דיוק שמתאימה ל-rack, והוא מוותר על כל הסיבה לקיומו של המודל.

• safetensors FP16 לא ארוזים — המודל המלא בגודל ~54 GB בפורמט Hugging Face הסטנדרטי, שפורסם במפורש עבור פריימוורקים שעדיין אינם תומכים באופן מובנה במשקלי 1-bit. הספק מציין שארטיפקט זה ייצא משימוש לאחר שקרנלי הביט הנמוך ינחתו ב-upstream.

תפוקת הפענוח הנמדדת בחבילת הבינארי, מהטבלה של כרטיס המודל עצמו, היא 66.4 אסימונים לשנייה ב-M5 Max, 44.2 ב-M5 Pro, 26.0 ב-M4 Pro ו-104.8 ב-H100, כאשר המילוי המקדים עומד על 874, 421, 133 ו-2,755 אסימונים לשנייה בהתאמה. עמוד ההכרזה מציין שיאים גבוהים יותר — עד 87 אסימונים לשנייה ב-M5 Max ו-163 ב-RTX 5090 — שהם תצורת המקרה הטוב ביותר של היצרן עצמו ולא זו של הטבלה. התייחסו לשתי הקבוצות כתנאי מדידה שונים, לא כאל סתירה, והתייחסו לשתיהן כאל נתונים שמדווחים על ידי היצרן. שיא הזיכרון, שוב מהכרטיס, הוא 5.2 GB בהקשר של 4K, 5.6 GB ב-10K ו-11.6 GB ב-100K בחבילת הבינארי, ו-8.4, 8.7 ו-14.7 GB בחבילת הטרינארי — עם הסתייגות שהנתונים האלה קדמו למטמון KV של 4 סיביות, שהוא מה שמביא את חלון 262K המלא לנפח חד-ספרתי בג'יגה-בייט.

מודל הטיוטה DSpark הוא אופציונלי וכדאי להבין אותו לפני שמפעילים אותו, מפני שהוא לא משנה דבר בתוצרים: זהו טרנספורמר בלוק־מקבילי בעל שש שכבות, המותנה במצבים חבויים הנשאבים מחמש שכבות יעד במרווחים אחידים, הוא מוסיף כ־0.5 GB בדיוק המשמש להגשה, והוא מאמת מול מודל היעד במקום לדגום בעצמו. לכן הספק יכול לציין האצה של פי 1.37 ב-CUDA בלי לגעת בנתוני האיכות. הוא אינו מופעל כברירת מחדל על Apple silicon.

הנקודה שבה המודל המקומי מגיע לקצה גבול היכולת שלו היא השאלה ההנדסית המעניינת, והיא שאלת ניתוב ולא שאלת מודל. מודל של 3.9 GB על מחשב נייד מטפל במה שנכנס לחלון ההקשר שלו; כל השאר צריך ללכת לאנשהו, והאנשהו הזה הוא מודל מתארח מאחורי API. OrcaRouter היא השכבה הזו — נקודת קצה אחת על פני יותר מ-200 מודלים מתארחים עם 0% תוספת על מחירי המחירון של הספקים, מעבר אוטומטי בין ספקים בעת תקלה, וכלל ההסלמה מדרג מקומי לדרג מתארח שמבוטא כקונפיגורציה במקום להיות מורכב ביד. זוהי השכבה שמעל המודל המקומי, ולא תחליף לו.

אינדקס ההשוואה

Bonsai 27B נמצא במשפחה שבה כל שכן עונה על שאלה אחרת, ואלה העמודים שמטפלים בכל אחת — אף אחת מהן אינה נדונה מחדש כאן.

• Bonsai לעומת Bonsai 27B — מודל המשקפיים בעל 2 מיליארד פרמטרים לעומת זה: פי שישה עשר בפרמטרים ופי מאתיים חמישים ושישה בהקשר, ולמה שם המשפחה אינו נושא כל מידע על מה שאתה מוריד. הדף הוא פוסט בלוג כאן, לא מודל מתארח, וזה הבדל שכדאי לשמור עליו ברור במשפחה הזו.

• Bonsai 27B מול Qwen3.8-27B — העימות הישיר בין המודל הזה לבין הבסיס החדש יותר שהוא אינו משתמש בו. עמוד ייעודי באצווה הזו מכיל את ההשוואה הזאת, ומכיוון ששני המודלים נענים לשמות דומים ומרוחקים זה מזה בדור אחד, כדאי לקרוא אותו כעומד בפני עצמו ולא כהרחבה של מפרט זה.

• Bonsai vs Ternary Bonsai 2 27B — הקפיצה הבין-דורית, והעובדה ששתי ההשקות מדווחות על איכותן אל מול שני סרגלי מדידה שונים: שימור של קו בסיס במקרה האחד, וטענה השוואתית במקרה האחר.

• Ternary Bonsai 2 27B — הדור השני בפני עצמו, מבוסס על Qwen3.8-27B, עבור קוראים שהחליטו שהם רוצים את הדגם החדש יותר ולא את זה.

מה לא הוסדר

כל נתון איכותי בעמוד זה הוא של PrismML, נמדד על מערך 15 המבחנים של PrismML עצמה, ואף אחד מחוץ לחברה לא פרסם רפרודוקציה שלו. זהו הפער הגדול ביותר במה שידוע על Bonsai 27B: טענות הדחיסה ספציפיות באופן יוצא דופן וניתנות לאימות באופן יוצא דופן, והן עדיין לא נבדקו על ידי צד שלישי. הספק גם מבהיר במפורש שקידוד סוכני — תהליכי עבודה ארוכי טווח, רב-קבציים, של הרצה ותיקון — אינו יעד חזק של מהדורה זו, ושגרסה מכווננת לכך היא הדבר הבא במפת הדרכים, וזה עולה בקנה אחד עם ההפסדים בקריאה לכלים ובביצוע הוראות בפילוח הקטגוריות שלמעלה. עד שתתקיים הערכה עצמאית, יש לקרוא גם את נתון השימור וגם את דירוג הצפיפות כעמדת הספק ולא כתוצאה מבוססת.

מה שכבר סגור הוא קטן יותר ושימושי יותר: המשקלים קיימים, הגדלים ניתנים לבדיקה מול רשימת הקבצים, הרישיון הוא Apache 2.0, ושתי החבילות נבדלות בכ-3.3 GB בתמורה לכחמש נקודות של איכות משומרת. זה מספיק כדי לבחור ביניהן. איזו מהן מתאימה לך תלוי בשאלה אם עומס העבודה שלך נראה יותר כמו חשבון או יותר כמו קריאה לכלים, ומספרי הקטגוריות שלמעלה הם הראיות הטובות ביותר הזמינות להחלטה הזו היום.