UserRepGen-4B לעומת Qwen 3.8: פיין-טיון 4B בן שבעה חודשים מול ספינת הדגל הנוכחית של עליבאבא

נתחיל מהעובדה שהופכת את הצימוד הזה למוזר. microsoft/UserRepGen-4B, שהועלה ב-14 באוקטובר 2026 ללא הודעה מוקדמת, הוא כיוונון עדין של Qwen3.5-4B — הצ'קפוינט מפברואר 2026, דור שלם מאחורי המודל שאיתו הוא מושווה כאן. Qwen 3.8 הוא הדור של Alibaba מאוגוסט 2026, והמודלים המוגשים שלו כוללים את Qwen3.8-Max, דגל הדגמים במחיר 2.00 דולר למיליון טוקני קלט ו-6.00 דולר למיליון טוקני פלט על פני הקשר של מיליון טוקנים, Qwen3.8-27B במחיר 0.33 ו-2.40 דולר על פני 262,144 פוזיציות, ו-Qwen3.8-Flash במחיר 0.15 ו-0.47 דולר. Microsoft הסתכלה על המשפחה הזו ופנתה דור אחד אחורה לבסיס 4B. לאחר מכן היא פרסמה טבלה שמראה שהמודל שהתקבל מנצח את GPT-5.5 בדבר האחד שהוא עושה. השילוב הזה הוא כל המאמר: מה שכיוונון עדין ממוקד קונה לך שדגל דגמים חדש יותר לא קונה, ומה שזה עולה לך כדי להשיג אותו.

ראשית, של מה "Qwen 3.8" הוא שם

כדאי לחדד זאת לפני כל השוואה, מכיוון ששם המשפחה מכסה כמה ארטיפקטים שונים מאוד, והמחירים נעים בטווח של יותר מפי שלושה עשר. שלושת החברים המוגשים הם אלה שחשובים להחלטה:

• Qwen3.8-Max — ספינת הדגל, מולטימודאלי ילידי על טקסט, תמונה וווידאו, חלון הקשר של מיליון טוקנים, מוגש בשלושה פורמטים של תקשורת, כולל אחד תואם Anthropic. שכבת הפרימיום, לכשהדיוק בבעיות קשות גובר על העלות.

• Qwen3.8-27B — המודל הצפוף במשקולות פתוחות תחת Apache 2.0, חלון הקשר של 262,144 טוקנים, קלט טקסט, תמונה ווידאו. הכרטיס של Alibaba עצמה מדווח 90.3 ב-LiveCodeBench v6, 89.2 ב-GPQA Diamond, 84.3 ב-OSWorld-Verified ו-79.0 ב-QwenSWEBench — נתונים מדווחים על ידי הספק, שלא שוחזרו באופן עצמאי.

• Qwen3.8-Flash — מסלול הנפח, חלון הקשר של מיליון טוקנים, מתומחר לריצת משימה קצרה מיליון פעמים. כמו כן קיימת Qwen3.8-Max (0902) — תמונת מצב מתוארכת בקטלוג באותם תעריפים, שאותה נועלים כשצריך התנהגות ניתנת לשחזור ולא את הקצה הנע.

שום דבר מזה אינו חדשות, והעמוד הזה אינו מדווח על השקת Qwen. הדור הזה בן חמישה חודשים. הוא מופיע כאן משום שהוא הצד החדש יותר, הגדול יותר ובעל התוצאות הטובות יותר במבחנים של ההשוואה, ומשום שהטענה המעניינת מקבלת משמעות רק למול משהו כה חזק.

הטענה, בניסוח מדויק

כרטיס המודל של Microsoft מדווח על הערכת נאמנות על פני 700 שיחות שהוחזקו בנפרד, עם ניקוד מ־1 עד 10 על ידי שופט LLM, כאשר כל מחולל ייצוגים מחובר לאותה לולאת סימולציה:

• Qwen3.5-4B, עמוד השדרה הבלתי נגוע — 3.41 הטוב מ-1, 4.42 הטוב מ-3.

• GPT-5.5, כאשר הוא מקבל פרומפט סטנדרטי לתיאור המשתמש — 3.90 ו-4.90.

• UserRepGen-4B, לאחר כיוונון עדין מפוקח מקוון באמצעות זיקוק בדיעבד — 4.95 ו-6.02.

כל מספר הוא של מיקרוסופט עצמה, לפי שיפוט של GPT-5.4 mini, ואף אחד מהם לא שוחזר מחוץ למעבדה. יש לקרוא זאת כטענה כיוונית ולא כתוצאה סופית. אבל הכיוון חד משמעי וזה לא קשור למספר הפרמטרים: שיטת האימון הזיזה את עמוד השדרה ב-1.54 נקודות best-of-1, והיא עקפה ג'נרליסט בחזית בדרך. הקריאה המיועדת אינה "מודלים קטנים מנצחים מודלים גדולים" — אלא שמודל בסיס 4B מפברואר, שעבר כיוונון עדין אינטנסיבי על התנהגות אחת צרה, יכול לנצח מודל גדול בהרבה שרק התבקש לבצע את ההתנהגות הזו.

Qwen3.8-Max לא מופיע בטבלה הזו. יש להניח שהוא היה מתפקד טוב יותר מ-GPT-5.5, משום שהוא מודל כללי חזק יותר. הוא עדיין היה מנחש את ההתנהגות, משום ששום דבר באימון שלו לא כוון לכך.

מדוע בסיס בן שבעה חודשים היה הבחירה הנכונה

הפער הבין-דורי נראה כמו טעות עד שאתה מבין מה שהכיוונון העדין בעצם צריך מעמוד השדרה שלו. הוא צריך מודל שהוא בערך שוטף, זול להרצה, ויציב מספיק כדי ש-LoRA בדרגה 64 יוכל להזיז אותו בלי להרוס אותו. הוא לא צריך חשיבה בחזית, כי המשימה היא לא חשיבה — היא מתארת שיחה שהועברה לו.

שני פרטים בכרטיס מאשרים את הקריאה הזו. הראשון הוא תקרת הפלט: 1,024 אסימונים לייצוג, לעומת 8,192 לשיחה. השני הוא תקציב האימון — יולי עד אוגוסט 2026, חודשיים — והעובדה ששתי השיטות הכבדות יותר הפסידו. הציון של OPSD היה 4.46/5.60 ושל GRPO 3.57/4.59, שתיהן מתחת לכיוונון עדין מפוקח רגיל של 4.64/5.68. כששיטה זולה מנצחת שתי שיטות יקרות, צוואר הבקבוק מעולם לא היה היכולת של שלד המודל. מעבר למודל בסיס דגל משנת 2026 היה קונה מודל שעולה יותר לכל מעבר כדי לבצע את אותה עבודה עם אותה תקרה.

יש מחיר לבחירה הזו, והכרטיס מפרט זאת בכנות במקום להסתיר זאת. מכיוון שמגדל הראייה הגיע יחד עם הצ'קפוינט של האב, המודל נטען דרך AutoModelForImageTextToText ונושא עמו מסלולי קוד לתמונות ולווידאו שאינו משתמש בהם כלל — קלט של תמונות וווידאו אינו נתמך במפורש במהדורה הזו. אתה יורש את המטען של הארכיטקטורה יחד עם הרהיטות שלה.

האריתמטיקה של העלויות, שלא הולכת כפי שאנשים מצפים

הרפלקס הוא שהסקה מקומית זולה יותר. בקנה המידה שהמודל הזה מיועד לו, היא בדרך כלל לא, ולעשות את החשבון ביושר משנה את ההחלטה. קחו אצווה של 700 שיחות — אותו גודל כמו ההערכה של Microsoft עצמה — בערך 2,000 טוקנים בפרומפט ו-400 טוקני פלט לכל קריאה.

• דרך Qwen3.8-27B במחיר $0.33 ו-$2.40 למיליון: כ-$1.13 בסך הוצאות טוקנים עבור כל האצווה.

• דרך Qwen3.8-Max ב-$2.00 ו-$6.00: כ-$4.48.

לעומת זאת, UserRepGen-4B דורש הורדה של 9.1 GB, GPU עם מספיק זיכרון כדי להחזיק אותו ב-bfloat16, ואת ההנדסה לחיבור מחלקת Python. מיקרוסופט מדווחת שהוא מוגש עם vLLM על חומרת H100, A100, RTX A6000 ו-B200, ומציינת שהסקה ב-CPU דורשת float32 ו"הרבה יותר זיכרון מאשר קובץ המשקלים בגודל כ-9.1 GB". אם השיקול היחיד היה דולרים לכל טוקן, גישה דרך API למודל חזק יותר מנצחת בנפח הזה, ובפער לא קטן.

מה שאומר שהסיבות האמיתיות להריץ את UserRepGen-4B בעצמך הן אלו שלא מופיעות בגיליון מחירים: השיחות שאתה מזין לו. הכרטיס שלו עצמו אומר לעבד רק שיחות שאתה מורשה לעבד, למזער מידע מזהה תחילה, ושה�ייצוגים אינם נתונים אנונימיים — תיאורי ההתנהגות של המודל מזהים אדם מבין ארבעה מועמדים ב-51.02% מהמקרים, טוב יותר מהשיחות הגולמיות שהם מסכמים ב-44.22%. רכיב שהופך שיחות לפרופילים ניידים קריאים לאדם הוא כזה שאולי תרצה להשאיר בתוך הרשת שלך ללא קשר למה שעלות קריאת API תהיה.

היכן שכבת ניתוב משתלבת בצינור עיבוד כמו זה

זו תצורה של שני מודלים לעתים קרובות יותר מאשר תצורה של מודל אחד: מחולל הייצוגים על החומרה שלך, ומודל כללי שמבצע את צד העוזר, את השיפוט או את לולאת ההערכה סביבו. המחצית השנייה היא החלק שרץ דרך API.

כל שלושת החברים המוגשים של Qwen 3.8 נמצאים ב-OrcaRouter במחיר המחירון של הספק, בלי שום תוספת — 2.00$ ו-6.00$ עבור Max, 0.33$ ו-2.40$ עבור ה-27B, 0.15$ ו-0.47$ עבור Flash — במפתח אחד, עם מעבר אוטומטי לגיבוי בין ספקים, כך שקריאה לשופט בלולאת הערכה לא תמות בגלל ספק בודד במעלה הזרם. אם אתם סורקים אצווה של מאות שיחות דרך כמה סימולטורים ושופטים, היכולת הזו לעבור לגיבוי חשובה יותר מהתעריף לפי טוקן, כי ריצה שמתה בשיחה 400 מבזבזת את 399 השיחות שלפניה. ה-DSL לניתוב מאפשר לכם להרכיב את העוזר ואת השופט לקריאה אחת במקום לשרשר שתיים. מה שאנחנו לא עושים הוא לשרת את UserRepGen-4B: לקטלוג שלנו אין רשומה עבורו, ואין לפרש דבר כאן כהצהרת זמינות עבור ה-checkpoint של Microsoft.

ההחלטה, ללא הסתייגות

אם אתה רוצה מודל כללי שמנמק, כותב קוד, קורא מיליון טוקנים, אין במאמר הזה דבר שנגד Qwen3.8-Max — UserRepGen-4B לא מסוגל לעשות שום דבר מזה, וההשוואה למודל דגל היא לא השוואה שהוא נכנס אליה. אם אתה רוצה סימולטור משתמש המותנה בהתנהגות שיחה אמיתית, אף אחד מחברי Qwen 3.8 לא אומן לכך, והבחירה היא בין כיוונון עדין מקומי קטן עם יתרון מדיד לבין מודל API גדול בלי שום יתרון.

השאלה הפתוחה היא אותה שאלה שמרחפת מעל כל השחרור: אין מאמר. הכרטיס אומר שהציטוט "ממתין לאישור", שורה על כך שהמאגר פרטי עדיין יושבת בסעיף השימוש אחרי שהמאגר הפך לציבורי, וכל מספר בטבלת הנאמנות מקורו בשופט של מעבדה אחת בלבד. מיקרוסופט בנתה מודל שמנצח את קו הבסיס החזק ביותר שמולו הוא נבחן. האם הוא מנצח את קו הבסיס שלכם — זה משהו שרק הערכה שתפעילו בעצמכם יכולה לענות עליו.

כיוונון עדין בן שבעה חודשים הנמדד מול דגם דגל עכשווי הוא גם מקום טוב לשאול מה נכשל בעבר: תקלות ה-AI המתועדות וכשלי סוכנים סביב מודלים במחלקה הזו נאספים בארכיון תקלות ה-AI של OrcaRouter, שבו כל ערך כולל את המקורות שלו, חומרת האירוע, ציון הביטחון וסימון המחלוקת.