UserRepGen-4B: Microsoft העלתה במהלך הלילה מודל לדימוי משתמשים ולא הודיעה דבר

בשעה 20:30 UTC ב-14 באוקטובר 2026 מאגר בשם microsoft/UserRepGen-4B הופיע בארגון Microsoft Hugging Face, והקומיט האחרון בו הגיע שעתיים לאחר מכן. אין פוסט השקה, אין מאמר, אין פוסט בבלוג של ספק, אין demo Space ואין מאגר קוד מאחוריו — github.com/microsoft/UserRepGen מחזיר 404 וחיפוש קוד ב-GitHub אחר השם מחזיר אפס תוצאות. מה שכן קיים הוא קובץ safetensors בגודל 9,078,620,536 בייט, תבנית צ'אט, פרומפט ייצוג, דוגמה ניתנת להרצה, וכרטיס מודל מפתיע בכנותו לגבי מה שהוא לא מוכיח. הכרטיס מזהה את עמוד השדרה כ-Qwen3.5-4B, נקודת ביקורת צפופה של Alibaba מפברואר 2026, הנושאת LoRA בדרגה 64. זהו מקרה של שחרור בשקט: הארטיפקט אמיתי וניתן להורדה, ההכרזה נעדרת, והדבר הנכון לעשות הוא לקרוא את המאגר במקום לחכות להודעה לעיתונות שאולי לעולם לא תגיע.

מה בעצם יש בהאב

כל מה שלהלן נקרא ישירות מתוך המאגר, שהוא מקור הצד הראשון היחיד שקיים כרגע.

• המשקלים — קובץ אחד, model.safetensors, בנפח 9,078,620,536 בייטים ב-bfloat16. בקירוב 9.1 GB, ללא כימות, ללא GGUF, ללא ONNX, ללא בנייה של MLX, ללא פורמט ייעודי למכשיר מכל סוג שהוא. סרגל הצד של Hub עצמו מעגל את זה ל"5B פרמטרים" בעוד שהכרטיס מתאר את המודל כ"מחלקת 4B" — אי-עקביות קטנה במטא-נתונים, לא בקובץ.

• הבסיס — Qwen3.5-4B, הצ'קפוינט הצפוף בעל 4 מיליארד פרמטרים של Alibaba מפברואר 2026, שהותאם עם LoRA בדרגה 64. הכרטיס מציין שכל 7,235 שמות וצורות הטנסורים המאוחסנים נבדקו מול תצורת המקור בגרסה 851bf6e, וכי ראש הפלט חולק את משקולות הטמעת הקלט.

• הרישיון — MIT על התרומה של מיקרוסופט עצמה, בעוד נכסי Q​wen במעלה הזרם מושארים תחת Apache 2.0 בקובץ LICENSE.Q​wen נפרד. זהו צמד מתירני וראוי לציון, משום שזה אינו הדפוס שצוות מחקר בוחר בו כשהוא מתכוון לשמור משהו לעצמו מבחינה מסחרית.

• חלון האימון — יולי עד אוגוסט 2026, כך שכחודשיים של עבודה הסתיימו ואז חיכו לפני ההעלאה.

• ההעלאה עצמה — פיד הפעילות של ארגון מיקרוסופט ב-Hub מתעד אותה כ"philippelaban published a model", דקות ספורות לפני הלכידה. לא חשבון השקה, לא בוט פרסומים: אחד משני החוקרים הנקובים כאיש הקשר של כרטיס המודל. אם הייתה תוכנית פרסום, זה לא מה שהיא נראתה.

• אימוץ, נכון לעכשיו — אפס הורדות ואפס לייקים בזמן כתיבת הדברים. המספר הזה הוא קריאת שעון, לא פסק דין, והוא הנתון הכי בר-חלוף במאמר הזה.

מה המודל למעשה עושה — ומה שהוא במכוון לא עושה

השם מדויק ברגע שקוראים את הכרטיס. UserRepGen-4B אינו מייצר תורות משתמש. הוא קורא שיחה רב-תורית גמורה בין משתמש לעוזר וכותב אובייקט JSON עם בדיוק שני שדות מחרוזת: task, המתאר מה המשתמש ניסה להשיג, ו-user_behavior, המתאר כיצד הוא פעל לשם כך — כיצד הוא מנסח בקשות, כיצד הוא מפרק מטרה על פני תורות, מתי הוא מתנדב לספק הקשר, כיצד הוא מגיב כאשר תשובה נכשלת, והאם הוא מסיים מוקדם.

הפלט הזה אינו תשובה ואינו תמלול. זהו אות התניה, שנועד להימסר ל-LLM נפרד שמשחק את המשתמש בסימולציה. זרימת העבודה המיועדת בכרטיס מפורשת לגבי ההעברה: בחר שיחה שאתה מורשה לעבד, הסר חומר מזהה, צור את הייצוג, אמת אותו כ-JSON, סקור אותו עבור הסקות לא נתמכות, ואז העבר את הגרסה שנסקרה לסימולטור.

ההבחנה מעבודתה המוקדמת של מיקרוסופט בתחום הזה היא כל הנקודה של המודל. UserLM-8b ו-UserLM-2.0 מייצרים הבעות משתמש. UserRepGen מייצר את התיאור שהסימולטור מותנה בו, מה שהופך אותו לשימושי חוזר על פני ריצות סימולציה רבות וזול יותר לביקורת פעם אחת במקום בכל תור. הכרטיס אומר זאת במפורש, וזו מסוג הטענות הארכיטקטוניות שבדרך כלל מגיעות עם מאמר מצורף.

כאן המאמר אינו מצורף. סעיף הציטוט אומר: "קישור המאמר ורשומת ה-BibTeX ממתינים לאישור ויתווספו לפני שכרטיס המודל יושלם." שורה שנייה, בסעיף השימוש, אומרת לך לבצע אימות עם hf auth login "כשהמאגר פרטי" — המאגר אינו פרטי, כך שהמשפט הזה הוא שארית מהעלאה מדורגת. יחד, שני הפרטים האלה אומרים משהו מוחשי: כרטיס זה נכתב כדי ללוות מהדורה שעדיין לא התרחשה כשההעלאה הוכנה.

טבלת הבנצ'מרק, ולמה היא לא לוח דירוג

הכרטיס מפרסם הערכה על 700 שיחות שנשמרו לבדיקה, 100 נדגמו מכל אחד משבעה מערכי נתונים מקור. כל נתון בו הוא של מיקרוסופט עצמה, והופק עם GPT-5.4 mini שפעל בו-זמנית כמדמה, כעוזר וכשופט, ונוקד באמצעות קריאת שיפוט נפרדת בסולם נאמנות של 1 עד 10.

• Qwen3.5-4B base — 3.41 הטוב מ-1, 4.42 הטוב מ-3.

• GPT-5.5, בשימוש כפי שהוא כמחולל ייצוגים — 3.90 ו-4.90.

• כיוונון עדין מפוקח פשוט — 4.64 ו־5.68; OPSD — 4.46 ו־5.60; GRPO — 3.57 ו־4.59.

• UserRepGen-4B עצמו, שאומן בכיוונון עדין מפוקח מקוון באמצעות זיקוק בדיעבד — 4.95 ו-6.02.

קראו את הטבלה הזו כפי שהיא. השורות המעניינות אינן השורה העליונה. הן שתי השורות האמצעיות: גם OPSD וגם GRPO, שתי שיטות למידת חיזוק שאליהן התחום נוטה כברירת מחדל, נוחתות מתחת לכיוונון עדין מפוקח רגיל במשימה הזו. השיטה שמנצחת היא זו שמייעלת את הייצוג הניתן לשימוש חוזר ולא את המדיניות של הסימולטור. זו טענה אמיתית לגבי היכן שהגרדיאנט צריך ללכת, והיא הטענה הניידת ביותר בכל הכרטיס.

מה שהטבלה אינה יכולה לומר לך הוא אם משהו מזה בכלל עובר הלאה. השופט, העוזר והסימולטור הם כולם GPT-5.4 mini, כך שהלולאה נסגרת בתוך המודל של ספק אחד. ניסוי נפרד בזמן בדיקה מרמז יותר: הרצת המודל הבסיסי עם עשרה סבבים של משוב איטרטיבי בדיעבד מעלה את הנאמנות ל-6.10 ב-best-of-1, עם שיא של 7.07 ב-best-of-3 בתשעה סבבים. זה מנצח את המודל המאומן — אך רק במחיר של הרצות סימולציה וקריאות משוב בזמן הסקה, וזו בדיוק העלות שהמודל המאומן קיים כדי להימנע ממנה. כרטיס המודל מקפיד לתייג את השתיים כמדידות שונות, וכך צריך לנהוג כל מי שמצטט אותן.

אימות אנושי הוא דל אך קיים: 100 זוגות של סימולציות עם ציוני שיפוט לא-שווים, אנוטטור מומחה אחד, בעיוורון לזהות המודל ולסדר ההצגה, והסכמה של 88% עם השופט. אנוטטור אחד ומאה זוגות אינם מחקר שהייתם תולים בו החלטה על מוצר. עם זאת, זוהי בחינה עצמאית רבה יותר מזו שרוב ההעלאות השקטות זוכות להן.

ממצא הפרטיות שהכרטיס מפרסם על עצמו

קבור בהערכות הנוספות מספר שראוי להיות הכותרת של ההכרזה הזו: עבור למעלה מ-147 משתמשים מ-ThoughtTrace שאינם מופיעים באימון, נשאל בורר GPT-5.4 mini איזו מבין ארבע שיחות מועמדות הגיעה מאותו משתמש כמו שאילתה. תיאורי התנהגות שהופקו על ידי UserRepGen-4B מניבים דיוק של 51.02%. שיחות מלאות מניבות 44.22%. בחירה אקראית מניבה 25%.

הייצוג הנלמד הוא מזהה טוב יותר של אדם מאשר השיחה הגולמית שהוא מסכם. הכרטיס אינו מרכך זאת — הוא אומר שהתוצאה "מדגימה סיכון לקישוריות, לא אנונימיזציה או התאמה לגילוי זהות", ובמקום אחר קובע באופן חד-משמעי ש"ייצוגים אינם נתונים אנונימיים". זהו פריט מחקרי שמודד את מצב הכשל של עצמו ומדפיס אותו, וזה יותר ממה שרוב הפרסומים מצליחים לעשות, אך זה גם אומר שזרימת העבודה המומלצת אינה נימוס אופציונלי. אם אתם מעבדים שיחות שאין לכם בסיס חוקי לעבדן, הפלט של המודל הזה הוא פרופיל קומפקטי, נייד וקריא לאדם של האדם שבהן.

איפה אפשר ואיפה אי אפשר להריץ את זה היום

Microsoft אינה מגישה את המודל הזה. אין נקודת קצה, אין מחיר, אין API. הכרטיס מדווח על הסקה שנבדקה עם vLLM על חומרת H100, A100, RTX A6000 ו-B200, ובנוסף בדיקת עשן של CPU בלינוקס עם Transformers 5.2.0, PyTorch 2.11.0 ו-Accelerate 1.10.1 שהפיקה JSON תקין מפרומפט של 481 טוקנים. גם אנחנו לא מציעים אותו — OrcaRouter לא מפרט את UserRepGen-4B, הקטלוג שלנו אינו כולל רשומה עבורו, ואין לפרש דבר כאן כהצהרת זמינות. כיום הדרך היחידה להשתמש בו היא להוריד 9.1 GB ולהריץ את example.py הכלול.

כדאי לומר זאת בפשטות ולא לעטר, מפני שהגרסה הכנה של השחרור הזה היא מצומצמת: צ'קפוינט, כרטיס, וטענה לגבי היכן למקם את הגרדיאנט. אם זה יעמוד במבחן, ההמשך המעניין אינו נקודת קצה מתארחת — אלא האם אותה תחבולת ייצוג עוברת למודל בסיס גדול בדרגה אחת, שבו התניית הסימולטור שאותה היא מחליפה יקרה בהרבה.

מה לצפות

שלושה דברים, לפי מידת השינוי שהם יחוללו בתמונה. המאמר, כשיתפרסם, או שיהפוך את טענת הזיקוק־בדיעבד לניתנת לבדיקה, או שיחשוף ששילוב שבעת מערכי הנתונים עושה יותר עבודה מאשר השיטה. צ'קפוינט נוסף יגיד לך אם Microsoft מתייחסת לזה כקו מוצרים או כתוצר מחקרי. וההערכה הבלתי־תלויה הראשונה, ממישהו מחוץ למעבדה, היא זו שהופכת את 4.95 למספר שאפשר לתכנן לפיו. עד שלפחות אחד מאלה יקרה, זהו ריפוזיטורי לקריאה ולא מודל להמר עליו.

השבוע שבו הופיע הצ'קפוינט הזה ללא הודעה מוקדמת הוא גם רגע סביר לבחון מה כבר השתבש בסוג הזה של מודלים: אירועי AI מתועדים וכשלים של סוכנים הקשורים למודלים כמו זה נאספים בארכיון אירועי ה-AI של OrcaRouter, שבו כל רשומה נושאת את המקורות שלה, חומרה, דירוג ביטחון ודגל שנוי במחלוקת.