ZwZ2-4B מול Qwen3.8-27B: מומחה בן 4.5B פוגש את ספינת הדגל בת 28B של Qwen

נניח שצינור התמונות שלך מריץ 200,000 שאילתות ביום ויש לך כרטיס אחד של 16 GB. האילוץ הבודד הזה פוסל את Qwen3.8-27B עוד לפני שנדון בכל בנצ'מרק: עם 28 מיליארד פרמטרים, משקולות ה-BF16 לבדן מסתכמות בכ-56 GB, ושום הגשה חכמה לא תכניס אותן ל-16 GB בלי כימות שלא תקצבת לו. ZwZ2-4B, עם 4.54 מיליארד פרמטרים וקובץ משקולות של 9.08 GB, נכנס. אז השאלה הכנה אינה איזה מודל טוב יותר. היא אם היכולת הצרה יותר של ה-checkpoint הקטן היא אילוץ אמיתי לעומס העבודה שלך, או שאתה עומד לשלם על מודל דגל כדי לענות על שאלות על חיתוכים של תמונות מוצר.

יש תפנית שהופכת את ההתמודדות הזו למוזרה יותר ממה שמזהה המודל מרמז. הדור 3.8 של Qwen מעולם לא שחרר מודל בסוג הגודל הזה. חבריו הם המודל ה-dense בן 27B מ-5 באוגוסט 2026, מודל תערובת-מומחים בעל 2.4 טריליון פרמטרים מ-8 באוגוסט, ו-Flash-Next ב-24 באוגוסט — אשר, למרות השם, הוא מודל בעל 180 מיליארד פרמטרים במשפחת ארכיטקטורה אחרת. אין מודל dense מתחת ל-27B. אז ZwZ2-4B— היריב האמיתי בגודל שווה שלו הוא Qwen3.5-4B, הצ'קפוינט מפברואר שממנו עבר כיוונון עדין. Qwen3.8-27B נכנס להשוואה הזו בתור התקרה, ולא בתור העמית.

אין אמת מידה שעליה השניים הללו יכולים להיפגש

התחילו מהדבר שהופך את רוב דפי ההשוואה למטעים. ל-Qwen3.8-27B יש הערכות מפורסמות ואקוסיסטם; ל-ZwZ2-4B יש 25 תוצאות בנצ'מרק שקיימות רק בתוך כרטיס המודל של עצמו, שהופקו על ידי המעבדה שאימנה אותו, בלי שכפול עצמאי בשום מקום. אי אפשר להעמיד 54.79 שדווח על ידי הספק לצד חבילת בנצ'מרק ממעבדה אחרת ולחסר ביניהם. שני המספרים לא הופקו על אותן משימות, באותה רזולוציה, תחת אותה מערכת בדיקה.

אז הטקסט הזה לא מדרג אותם זה מול זה. הוא משווה מה כל אחד מהם נועד לעשות, כמה עולה להריץ כל אחד, ומה הקטן יותר מוותר עליו. בכל מקום שבו מופיע מספר, מצוין מי הפיק אותו.

הפער, ממד אחר ממד

• פרמטרים — ZwZ2-4B 4,539,265,536 לעומת Qwen3.8-27B 28B בכרטיס שלה

• משקלים על הדיסק — כ־9.08 GB BF16 לעומת כ־56 GB BF16

• עומק — 32 שכבות לעומת 64

• רוחב — גודל נסתר 2,560 לעומת 5,120

• צורת קשב — 16 ראשי query מול 4 ראשי KV במימד ראש של 256, בשניהם

• לוח זמני קשב — יחס של 3:1 בין ליניארי למלא בשניהם

• חלון הקשר — 262,144 מיקומים בשניהם

• אוצר מילים — 248,320 טוקנים בשניהם

• מגדל ראייה — 24 שכבות בממד חבוי 1,024 לעומת 27 שכבות בממד חבוי 1,152

• רישיון — לא הוצהר עבור ZwZ2-4B לעומת Apache-2.0 עבור Qwen3.8-27B

ארבע השורות התואמות הן המעניינות. שני המודלים יורשים את אותו מזהה ארכיטקטורה, qwen3_5, עם אותה גאומטריית קשב ואותה תקרת הקשר. הדור 3.8 לא עיצב מחדש את המחסנית; הוא הגדיל אותה. לכן התצורה של 4B נראית כמו מיניאטורה של זו של 27B ולא כמו אובייקט זר, ולכן גם 4B יורש את מאפייני השירות של 27B — שכבות הקשב הליניארי הן מה שהופך הקשר של 262K לזול בהיקף הזה.

הנתון היחיד שניתן להשוות ישירות בכל ההתמודדות כולה

הכרטיס של ZwZ2-4B מדווח על מודל הבסיס שלו ב-49.41 ועל עצמו ב-54.79 על פני 25 מבחנים, שיפור של 5.38 נקודות. זוהי השוואה בין שני צ'קפוינטים שאומנו ונמדדו באותו נוהל, על אותן משימות, על ידי אותה מעבדה. זה עדיין מדווח על ידי הספק, ובחירת המבחנים היא של המעבדה, אבל לפחות שני הצדדים של החיסור ניתנים להשוואה.

שני דברים נובעים מכך. ראשית, הרווח אמיתי רק במובן שבו המעבדה מדדה אותו; איש לא שחזר את 54.79. שנית, ומועיל יותר, קו הבסיס הוא מודל חזק. Qwen3.5-4B מושך 7.4 מיליון הורדות בחודש וצובר 1,145 לייקים — זהו צ'ק-פוינט שנפרס באופן נרחב עם אקוסיסטם אמיתי. אם ZwZ2-4B טוב ב-5.38 נקודות במשימות עתירות תפיסה, זהו דלתא משמעותית לעומת מודל שאנשים באמת מריצים. אם הוא טוב ב-5.38 נקודות במדדים שנבחרו לתגמל בדיוק את הדבר שעבורו הוא אומן, הדלתא בייצור תהיה קטנה יותר.

השיטה מסבירה איזו פרשנות סבירה יותר. ZwZ2 אומן עם GRPO על שאלות רב-ברירה בעלות ארבע אפשרויות שנבנו מחיתוכי אזורים של SA-1B — בערך 20,000 מהן — ללא שלב כיוונון עדין בפיקוח. כל אות אימון שהמודל ראה אי-פעם היה בחירה בין ארבע אפשרויות בשאלה אם אזור מכיל את הראיות שהשאלה דורשת. עומס עבודה בצורה כזו הוא המקום שבו ה-5.38 אמור להחזיק. תיאור פתוח אינו בצורה הזו.

מה דגם מוביל של 28B נותן שדגם של 4.5B לא נותן

Qwen3.8-27B הוא מודל חזותי-לשוני כללי: תמונות, וידאו, שליטה גמישה בחשיבה, רישיון Apache-2.0, ומספיק מרווח פרמטרים כדי לספוג תמהיל אימון מקדים רחב ולא תוכנית אימון סינתטית צרה ואיכותית אחת. מספר ההורדות שלו — 7.5 מיליון בחודש שעבר, עם 18,500 לייקים — הוא אות האקוסיסטם שחשוב כשאתם בוחרים עמוד שדרה ולא מומחה. מתאמים, קוונטיזציות, כיוונונים עדינים וכלי עבודה קיימים עבורו ואינם קיימים עבור צ'קפוינט עם אפס הורדות.

הרוחב בא לידי ביטוי במצבי הכשל. הכרטיס של ZwZ2-4B מפרט הזיות, טקסט שנקרא שגוי, שגיאות ספירה ושגיאות מרחביות, ומציין שהתוצאות תלויות ברזולוציית התמונה, אורך ההקשר ופורמט הפרומפט. למודל כללי בגודל 28B יש אותן מחלקות כשל באופן עקרוני, אך עם יכולת רבה יותר להחזיק פרטים לאורך הקשר ארוך יותר, וללא דרישה שהמשימה תידמה לבחירה בין ארבע אפשרויות.

עבור חילוץ ממסמכים, הסקה על פני עמודים מרובים, וידאו, או כל מקרה שבו התשובה היא פסקה ולא אזור, ה-27B הוא הכלי העדיף, וההבדל בגודל אינו הגורם המכריע — מטרת האימון היא.

חשבון העלויות, עם מחירים אמיתיים

כאן ההשוואה מפסיקה להיות מופשטת. ב-OrcaRouter, qwen/qwen3.8-27b מוצע במחיר $0.33 למיליון אסימוני קלט ו-$2.40 למיליון פלט, עם חלון הקשר של 262K. קחו שאילתת תמונה מייצגת של 1,500 אסימוני קלט ו-300 אסימוני פלט. אלף כאלה עולים כ-$1.22 על ה-27B. הדגם הקל יותר, qwen/qwen3.8-flash, במחיר $0.15 ו-$0.47, מסתכם בכ-$0.37 עבור אותו אלף. מודל ראייה מתארח של 8B נמצא ביניהם.

ל-ZwZ2-4B אין מחיר לפי טוקן מכיוון שאין לו נקודת קצה מתארחת — בעמוד Hugging Face מדווחים שאף ספק לא מגיש אותו. העלות שלו היא כל מה שעולה לך שעת GPU, חלקי התפוקה, וזו האפשרות היחידה בהשוואה הזו שרצה על כרטיס בודד של 16 GB. זהו כל הטיעון הכלכלי לטובת המודל הקטן יותר, והוא טיעון חזק אם אתה כבר משלם על החומרה.

נקודה מבנית אחת בנוגע לניתוב, מכיוון שהיא משפיעה על אופן הבדיקה של זה. OrcaRouter מעביר את מחירי המחירון של הספקים בתוספת של 0%, כך שכאשר Qwen משנה את המחיר של מודל Qwen מתארח, המספר שלמעלה משתנה באותו יום ולא בחידוש החוזה הבא. השוואת עלויות בין צ'ק-פוינט מתארח בעצמו לבין מודל מתארח היא הוגנת רק אם הצד המתארח משקף את מחיר המחירון של היום, וזו התכונה המתוארת כאן — לא הנחה.

איפה שהמודל הקטן מנצח אפילו מול דגם הדגל

שלושה מקרים, והם מצומצמים יותר ממה ששיווק של מודלים קטנים בדרך כלל מרמז.

הראשון הוא שליטה בפריסה. קובץ BF16 בגודל 9.08 GB יכול להיות נעוץ לגרסה, מנוהל בגרסאות ונשלח אל מכשיר קצה. קובץ בגודל 56 GB לא יכול, ו‑API מתארח לא נותן לך לא את המשקלים ולא הבטחת גרסה. אם אילוץ המוצר שלך הוא „המודל נוסע עם המכשיר”, ה‑27B אינו מועמד בשום מחיר.

השנייה היא חיזוי עלויות בהיקף גדול. להסקה באירוח עצמי יש עקומת עלות שטוחה ואין מדידה לפי טוקן. בהיקף של 200,000 שאילתות תמונה ביום, $1.22 לאלף מסתכם בכ-$244 ביום — כ-$7,300 בחודש — על ה-27B במחיר מחירון. האם אירוח עצמי עדיף על זה תלוי לחלוטין בניצול, וכרטיס יחיד בתת-ניצול לעיתים קרובות לא.

השלישי הוא התמחות במשימה. אם עומס העבודה שלך הוא באמת "איזה מארבעת האזורים האלה מכיל את הראיות", הרי ש-ZwZ2-4B אומן בדיוק על צורה כזאת, עם שלב סינון שנועד להסיר שאלות שאפשר לענות עליהן בלי האזור. מומחה כללי מבזבז את היכולת שלו על כל השאר. זה המקרה שבו צ'קפוינט של 4.5B יכול לנצח צ'קפוינט של 28B, וזה המקרה היחיד שבו הטענה של הספק בדבר 5.38 נקודות הייתה אומרת את מה שהקורא מקווה שהיא אומרת.

איך להחליט, לפי הסדר שבו ההחלטה מתקבלת בפועל

• אם המשקולות חייבות להתקיים על חומרה שבשליטתך והחומרה קטנה — בחר ב-ZwZ2-4B, קבל את העמימות בנוגע לרישיון, והקצה תקציב להערכה משלך.

• אם המשימה היא שאלות בחירה מרובה המבוססות על אזור או אחזור ראיות חזותיות — בדקו את ZwZ2-4B מול Qwen3.5-4B על הנתונים שלכם לפני שמסתכלים על ה-5.38 של הכרטיס. הדלתא הזו, כשמשוחזרת, היא המספר היחיד שחשוב.

• אם אתה צריך וידאו, מסמכים ארוכים, תיאור פתוח או רישיון שצוות המשפטי שלך יחתום עליו — קח את Qwen3.8-27B והפסק לקרוא.

• אם אין לכם חומרה ואין לכם תיאבון לתחזוקת שרת — לכו במסלול Qwen המאוחסן, כי החלופה היא פרויקט תפעול, לא בחירת מודל.

החלק הלא נוח בהשוואה הזו הוא שההשוואה המעניינת אינה זו שבכותרת. ZwZ2-4B מול Qwen3.8-27B הוא החלטה לגבי סוג פריסה בתחפושת של השוואת מודלים. ההתמודדות ישירה האמיתית — אותו בסיס, אותו גודל, אותה עלות שירות, פער מדוד של 5.38 נקודות — היא ZwZ2-4B מול Qwen3.5-4B, וזה הניסוי שכדאי להריץ על התמונות שלכם לפני שמי מהמספרים האלה משנה את הארכיטקטורה שלכם.