ZwZ2-27B לעומת ZwZ2-9B: מה פי שלושה פרמטרים באמת נותן

בדיוק במדד אחד בטבלת 25 המבחנים של inclusionAI, המודל הקטן מנצח. Chartography — קריאת ערכים מתוך גרפים — נותנת ל-ZwZ2-9B ציון של 13.00 ול-ZwZ2-27B ציון של 12.00. שניהם נמוכים. אף אחד מהם אינו טוב. אבל הכיוון הוא החלק המעניין, כי שני המודלים האלה הם אותו ניסוי בשני גדלים: מתכון אימון אחד, מערך נתונים אחד, שיטת מאמר אחת, המיושמים על גוף Qwen3.5-9B ועל גוף Qwen3.6-27B בהתאמה. אם המתכון זהה והמודל הגדול גדול פי שלושה בפרמטרים, האריתמטיקה של היכן שהגודל הזה באמת בא לידי ביטוי מפתיעה יותר ממה שציוני הכותרת הכוללים מרמזים.

כמו כן, ראוי לומר כבר בפתח ששני המודלים הגיעו באותה דרך שקטה. המאגר של ZwZ2-9B נוצר בשעה 03:42 UTC ב-16 באוקטובר 2026; זה של ZwZ2-27B בשעה 05:42 באותו בוקר. שניהם הכילו משקלים וללא תיעוד במשך עשרה ימים, ושניהם קיבלו כרטיסי מודל עם טבלאות בנצ׳מרק מלאות ב-26 באוקטובר. אף אחד מהם אינו מצהיר על רישיון. לאף אחד מהם אין מאמר שפורסם — הכרטיסים עדיין מכילים את מציין המקום PAPER_URL.

מתכון אחד, שני גופים

שיטת האימון אינה רק דומה בין השניים — זוהי אותה שיטה המיושמת על שתי שלדות (backbones), מה שהופך אותן לנקיות במיוחד להשוואה. EvidenceConnect מקבץ בין שלושה לשבעה אזורים קשורים מתוך תמונות SA-1B, מייצר שאלות באמצעות חיתוכי זום פריבילגיים, מסנן את השאלות לפי הסכמה בין-מודלית ומבחן השמטת אזור אחד, ממיר את השורדים למשימות בנות ארבע אפשרויות, ומאמן עם GRPO — ללא שלב כוונון עדין מפוקח. שני המודלים משתמשים בכ-20,000 דוגמאות אימון.

הגופים נבדלים בדרך הרגילה:

• קנה מידה — 9B פרמטרים על פני 32 שכבות בגודל מוסתר של 4,096, לעומת 27B על פני 64 שכבות בגודל מוסתר של 5,120.

• קשב — 16 ראשי שאילתה ו-4 ראשי KV במימד 256 עבור ה-9B, לעומת 24 ראשי שאילתה ו-4 ראשי KV באותו מימד עבור ה-27B.

• הזנה קדימה — גודל ביניים של 12,288 לעומת 17,408.

• ראייה — אותו מגדל בשניהם: 27 שכבות בגודל מוסתר של 1,152, המקרינות ל-4,096 ול-5,120 בהתאמה.

• הקשר ואוצר מילים — זהים ב־262,144 מיקומים וב־248,320 אסימונים.

• חיזוי מרובה טוקנים — הוסר משניהם, כאשר mtp_num_hidden_layers מוגדר ל-0.

• מודלים בסיסיים — Qwen3.5-9B עבור הקטן, Qwen3.6-27B עבור הגדול. זה הפרט שמסבך את ההשוואה, והחלק הבא עוסק בסיבה לכך.

מהיכן בעצם נובע הפער הכולל של 3.92 נקודות

הנה הממצא שלא ציפיתי לו לפני ביצוע החיסור. הממוצעים הכוללים הם 60.51 עבור ZwZ2-27B ו-56.59 עבור ZwZ2-9B — פער של 3.92 נקודות. עכשיו הביטו במה שכל מתכון הוסיף לבסיס שלו, אשר פורסם באותן טבלאות, על ידי אותה מעבדה, על אותו הרנס:

• ZwZ2-27B — Qwen3.6-27B הבסיסי ב-55.52, מכוונן ב-60.51. שיפור של 4.99.

• ZwZ2-9B — Qwen3.5-9B הבסיסי ב-51.63, המכוונן ב-56.59. שיפור של 4.96.

המתכון מניב שיפור כמעט זהה לחלוטין בשני הגדלים. כמות פרמטרים גדולה פי שלושה הניבה תוספת של 0.03 נקודות בתועלת האימון. ומודלי הבסיס כבר היו במרחק 3.89 נקודות זה מזה לפני שנגעו באף אחד מהם.

אז מתוך פער של 3.92 נקודות בין המודלים המוגמרים, 3.89 נקודות עברו בירושה מהצ'קפוינטים שמהם הם התחילו. ההתמחות לא יצרה את הפער. היא שימרה אותו כמעט באופן מושלם.

זוהי השוואה של מעבדה אחת והרנס אחד, ולכן החיסור לגיטימי באופן שהשוואות בין ספקים שונים לעולם אינן — כל אחד מארבעת המספרים הללו מגיע מאותה טבלה, נוצר על ידי אותו קוד הערכה, על אותה קבוצת בנצ'מרקים. העיגול גס מספיק עד שאין לקרוא את 0.03 כדיוק; הקריאה הכנה היא "לא ניתן להבחין ביניהם".

מה שזה אומר בפועל הוא שבחירה בין שני המודלים האלה היא כמעט בחירה בין Qwen3.5-9B לבין Qwen3.6-27B, בתוספת התאמה תפיסתית קבועה. אם לא הייתם בוחרים במודל הבסיס הגדול יותר עבור עומס העבודה שלכם, האימון של ZwZ2 לא ישנה את ההחלטה הזו.

תחום אחר תחום: הגודל מופיע במקום אחד

ממוצעים מסתירים את המבנה, וכאן המבנה נטוי לצד אחד. בהשוואה בין שני המודלים המכווננים על פני ששת התחומים:

• תפיסה דקת-גרגר — 67.57 עבור ה-27B לעומת 66.02 עבור ה-9B. פער של 1.55, הקטן מבין השישה.

• תפיסה מרחבית — 55.98 לעומת 52.33. פער של 3.65.

• חשיבה חזותית כללית — 53.71 לעומת 49.83. פער של 3.88.

• הסקה מרחבית מגולמת — 55.71 לעומת 51.11. פער של 4.60.

• הבנה של הקשר ארוך — 68.77 לעומת 64.08. פער של 4.69.

• סוכנים מולטימודליים — 51.81 לעומת 42.43. פער של 9.38.

הדפוס עקבי: היתרון של המודל הגדול יותר כמעט מוכפל כאשר המשימה עוברת מהסתכלות בתמונה לפעולה עליה. בשמונת מבחני התפיסה העדינים — אלה שהשיטה תוכננה עבורם במפורש — שני המודלים נמצאים בטווח של נקודה וחצי זה מזה, כאשר Chartography פועל בכיוון ההפוך.

התחום האג'נטי הוא המקום שבו ה-27B מצדיק את טביעת הזיכרון שלו, ורוב הפער הזה מגיע ממבחן אחד. UI-Vision מעניק 66.66 ל-ZwZ2-27B ו-45.48 ל-ZwZ2-9B — פער של 21.18 נקודות, גדול מכל פער אחר בטבלה. ScreenSpot-Pro ו-AgentVista מוסיפים תרומות קטנות יותר, עם 70.59 מול 66.98 ו-18.18 מול 14.83.

UI-Vision הוא בנצ'מרק לעיגון ממשק, והתוצאה אומרת משהו ספציפי ולא כללי: אם עומס העבודה שלך הוא קריאה והפעלה של ממשק תוכנה, ה-27B עושה משהו�ה-9B ברובו לא יכול. אם עומס העבודה שלך הוא השוואת אזורים מסומנים בתצלום או בדף מסמך, ה-9B עושה כמעט את אותו הדבר עבור שליש מהמשקלים.

המבחן היחיד שבו המודל הקטן מנצח — וכמה משקל ראוי לתת לזה

כדאי להתעכב על Chartography דווקא מפני שהיא היוצא מן הכלל שמוכיח עד כמה צרה ההתמחות. שני הציונים גרועים — 13.00 ו-12.00 מתוך 100, לעומת בסיס Qwen3.6-27B של 8.00 ובסיס Qwen3.5-9B של 7.00. האימון העלה את שני המודלים בכ-חמש עד שש נקודות במשימה שהם עדיין אינם מצליחים לבצע באופן אמין, והעלייה של ה-9B במקרה נחתה נקודה אחת גבוה יותר.

המסקנה הנכונה אינה ש־9B טוב יותר בגרפים. היא שב־משימה כה רחוקה מהתפלגות האימון, ההבדל בין שני המודלים הוא רעש, וההתנהגות הסבירה היא לנתב קריאת גרפים למקום אחר לגמרי. למודל שמקבל 12 או 13 במבחן גרפים אין יכולת גרפים שאפשר לבחור בינה.

אותה זהירות חלה גם על שאר הציונים המוחלטים הנמוכים. ZwZ2-9B מגיע בממוצע ל-42.43 בסוכנים רב-מודליים ול-18.18 ב-AgentVista; ZwZ2-27B מגיע בממוצע ל-51.81 ול-18.18. שניהם חלשים בעבודה סוכנית במונחים מוחלטים, והעובדה שהגדול יותר הרבה פחות חלש לא הופכת אותו לחזק.

איך באמת נראית טביעת הזיכרון

ההבדל בפרמטרים הוא החלק שאתה משלם עליו בכל יום. ZwZ2-9B הוא קובץ safetensors יחיד עם 9.41 מיליארד פרמטרים, בערך 19 GB ב-bf16. ZwZ2-27B מחולק לשני שרדים בכ-54 GB. הוסיפו לכך אקטיבציות של מגדל חזותי ותקציב KV של 262,144 פוזיציות, והפיצול המעשי הוא:

• ZwZ2-9B — התאמה נוחה על מאיץ צרכני יחיד בנפח 24 GB ב-bf16, צפוף אך עביר; לא קיימת גרסה מכווצת, כך שאתה נושא דיוק מלא אלא אם תבצע כיווץ בעצמך.

• ZwZ2-27B — כרטיס של 80 GB עם מרווח נשימה, או שני כרטיסים של 40 GB בפיצול צמוד של מקביליות טנסורית. שום דבר מתחת לזה לא מריץ אותו ב-bf16.

• תמיכת הגשה (Serving) — אף אחד משני המאגרים לא מספק מתכון ל-vLLM או ל-SGLang. שניהם נועלים transformers==5.13.1 ב-quickstart, ושניהם מתועדים רק במצב non-thinking, כאשר התשובות עטופות בתגי <answer>. אף אחד מהם אינו מצהיר על רישיון, וזהו עבור פריסה בפרודקשן מכשול גדול יותר מכל אחד משני נתוני הזיכרון.

הנקודה האחרונה ראויה למשפט משלה, משום שהיא זהה משני הצדדים: אין רישיון לקרוא. הכרטיסים מפנים ל„הרישיון הנלווה למשקלים ששוחררו“, והמשקלים אינם כוללים כזה. בכל גודל שתבחרו, השאלה המסחרית נותרת ללא מענה.

להשתמש בשניהם, במקום לבחור

טבלת התחומים מרמזת על דפוס דו-שכבתי יותר מאשר על מנצח. תפיסה עדינה כמעט אינה משתנה בין הגדלים, ולכן ה-9B הוא מעבר ראשון הגיוני שם; עבודת ממשק אג'נטית נעה ביותר מתשע נקודות בממוצע התחומים ועשרים ואחת ב-UI-Vision, ולכן התעבורה הזו צריכה להיות על ה-27B. נתב שמנתב לפי סוג משימה יוציא את רוב הטוקנים שלו על המודל הזול וישמור את היקר למסכים.

אף אחד משני הגדלים של ZwZ2 אינו בקטלוג שלנו, כך שהתבנית הזו היום משמעה הרצת שני צ'קפוינטים על החומרה שלך וכתיבת ה-dispatch בעצמך. המקום שבו OrcaRouter נכנס הוא הצד הכללי של אותה ערימה: Qwen3.8-27B ו-Qwen3.5-27B שניהם ניתנים לניתוב כאן מאחורי מפתח אחד במחיר המחירון של הספק ללא תוספת, כך שעומס העבודה שאינו דורש השוואת אזורים יכול לעבור למודל מתארח עם מעבר אוטומטי לגיבוי, בעוד שתעבורה ייעודית נשארת מקומית. זו טענה קטנה יותר מ"לנתב את ZwZ2 דרכנו", שאיננו יכולים להציע — אבל זה החלק בארכיטקטורה שזמין בפועל כרגע.

הסיכום הכנה אינו זוהר. שני צ׳קפוינטים, אותו מתכון, אותה שתיקה, אותו רישיון חסר, ופער ביצועים שהוא כמעט כולו הפער הקיים מראש של מודלי הבסיס ועוד התמחות אמיתית אחת בקצה העליון לעבודת ממשק. אם אתה צריך את מספרי ה-UI של ה-27B, אתה צריך את ה-27B ואת כרטיס ה-80 GB. אם לא, ה-9B מביא אותך למרחק של נקודה וחצי לכל היותר במשימה שכל הפרויקט נבנה כדי לשפר, והוא נכנס לחומרה שכנראה כבר יש לך.