כרטיס כותרת ראשי עם הכיתוב 'WeMM-Video-2B', עם כתובית 'שוחרר ללא הודעה מוקדמת', ועם ארבעה תגים עם הכיתוב '2B צפוף, 3.28B בסך הכול', 'וידאו + אודיו + תמונה + טקסט בקלט', 'Apache 2.0, ארבעה כיווצים', 'אפס הורדות ב-Hub'.
Engineering & Research

{{1}}WeMM-Video-2B{{/1}}: מודל אומני-מודאלי 2B שאיש לא הכריז עליו

מחבר

Gideon Frost

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

אין פוסט השקה. אין כרטיס מודל בעמוד מוצר, אין רשימת המתנה, אין טבלת מחירים, אין ציוץ בנצ'מרק של מנהל בכיר ב-T​encent. מה שקיים הוא מאגר Hugging Face שנוצר ב-08:58 UTC ב-17 בנובמבר 2026 ומאגר GitHub שהקומיט הראשון בו נחת שש וחצי שעות קודם לכן, ושניהם מתארים WeMM-Video-2B כצ'ק-פוינט 2B צפוף במשפחה של מודלי וידאו אומני-מודאליים סינית–אנגלית מ-WeChat Vision ב-T​encent. שישה ימים לאחר מכן יש למאגר שני לייקים, אפס הורדות, וארבעה אחים מכומתים שנוצרו בתוך אחת עשרה דקות ממשקולות הבסיס. אז המשפט הראשון הכנה בכל טקסט על המודל הזה הוא משפט על האריזה שלו: הוא ציבורי, הוא ניתן להורדה, ואף אחד לא אמר עליו מילה.

הפער הזה ראוי להתייחסות רצינית ולא ליחס של יום חדשות איטי. משפחת מודלים שמשחררת משקלים, מאמר, ארבעה פורמטי כימות, מתכוני vLLM ו-SGLang עם טלאים, זמן ריצה מקורי ב-C++ וקובץ Docker compose באותו שבוע אינה מאגר מחקרי שמישהו שכח להכריז עליו — היא מהדורה שהוכנה ואז שוחררה בלי שכבת השיווק. מה שלהלן מפריד בין מה שהארטיפקטים מוכיחים לבין מה שרק Tencent יכולה לאשר, והוא אינו מעוניין במכוון להכריע אם המודל טוב.

מה המאגר מכיל בפועל

נקודת הביקורת הבסיסית היא tencent/WeMM-Video-2B, ברישיון Apache 2.0, 6.12 GiB של safetensors בפורמט BF16 בשני שרדים. קובץ האינדקס מדווח על 3,283,624,264 פרמטרים בסך הכול, מה שמגלה משהו שהשם אינו מגלה: "2B" הוא מודל השפה, לא המערכת. עמוד השדרה הטקסטואלי הוא מפענח ממשפחת Qwen3.5 — 24 שכבות, גודל מוסתר 2048, 8 ראשי קשב מול 2 ראשי KV, אוצר מילים של 248,320 טוקנים והטמעת מיקום מקסימלית של 262,144 טוקנים — עם פריסת קשב היברידית שמציבה שכבה אחת של קשב מלא אחרי כל שלוש שכבות של קשב לינארי. לפניו ניצבים טרנספורמר ראייה בן 24 שכבות בגודל מוסתר 1024, ומערך אודיו הבנוי ממקודד Whisper בן 32 שכבות שמזין Q-Former בן שתי שכבות עם גודל מוסתר של 4104. הפרמטרים הנותרים נמצאים בשני המקודדים הללו.

Generated scoreboard titled 'WeMM-Video-2B — the scoreboard' with six rows: parameters 3.28B total with a 2B language model, modalities in text, image, audio and video plus soundtrack, output text only, video sampling 2 fps from 4 to 16 frames, an 8,192-token context, and no hosted endpoint as the price. A footer reads 'Vendor-reported; no independent evaluations published.'

הארכיטקטורה הזו עונה על השאלה שהשם מעלה. זה לא מחולל וידאו. היא קולטת וידאו — פריימים ובנוסף, באופן אופציונלי, את פס הקול המקורי — ומפיקה טקסט. מזהי הטוקנים של התצורה עצמה מאשרים זאת: טוקן וידאו, טוקן אודיו, טוקן תמונה ומודל שפה שמייצר. אם הגעתם לכאן בתקווה לעוד מועמד במירוץ טקסט-ל-וידאו, המאגר יאכזב אתכם כבר בקריאה הראשונה של תג ה-pipeline, שהוא image-text-to-text.

• גדלים במשפחה — 2B, 4B, 9B צפופים, ו-35B-A3B תערובת מומחים, כולם פורסמו יחד ב-17 בנובמבר.

• כימותים עבור ה-2B — FP8 Block128, AWQ W4A16, GGUF Q4_K_M ו-NVFP4 W4A16, כל אחד במאגר משלו, כל אחד נוצר בתוך אחת עשרה דקות מהמשקולות הבסיסיות.

• נתיבי הגשה — Transformers 5.2.0, vLLM 0.18.0 או 0.31.0 עם טלאים, SGLang 0.5.16 או 0.5.19 עם טלאים, וסביבת ריצה מקורית עבור גרסת ה-GGUF שפועלת על CPU או CUDA.

• מגבלות קלט במתכונים המסופקים — עד ארבע תמונות, שני סרטונים ושני פריטי אודיו לבקשה, באורך הקשר של 8,192 טוקנים.

• רישיון — Apache 2.0 על המשקולות, עם קובץ נפרד של הודעות צד שלישי המכסה את רכיבי LAVIS, vLLM ו-SGLang.

פרט השירות המתוקן הוא זה שמבדיל בין זה לבין הפצת משקלים פתוחים טיפוסית. Tencent לא שחררה מאגר בסגנון "עובד בתיאוריה"; היא שחררה טלאי שכבת-על עבור גרסאות ספציפיות של vLLM ו-SGLang, קובצי תלויות נעולים, תמונות Docker שתויגו ל-CUDA 12.9, והערת אימות שאומרת שה-checkpoint נטען והשלים יצירה על חומרת L20 ו-H20 עבור טקסט, תמונה, אודיו ווידאו עם פס קול. האם הטלאים האלה יחזיקו מעמד מחוץ לאשכול של Tencent עצמה הוא בדיוק סוג השאלה ששבוע של זרים שמריצים אותם עונה עליו, והשבוע הזה עוד לא קרה.

Screenshot of the Hugging Face model card for tencent/WeMM-Video-2B, showing the image-text-to-text pipeline tag, Transformers and Safetensors, the qwen3_5 architecture with custom code, an Apache-2.0 licence, a model size of 3B parameters, a downloads figure with no deployments, and a Quantizations section listing the four sibling repositories.

מה שהמאמר טוען, ומי בדק אותו

הדוח הטכני הוא arXiv 2611.26409, dated? Wait need Hebrew only. Let's final.

הטענה המרכזית עוסקת במודל 35B-A3B, ולא במודל 2B: שהוא מציב רף חדש של קוד פתוח בהערכת וידאו אומני-מודאלית, עולה באופן משמעותי על Qwen3.5-Omni-Flash ו-Seed2.0-Mini-0428 ומצמצם את הפער מול Gemini-3.0-Flash. טענה שנייה אכן נוגעת למודל שבכותרת המאמר הזה: ש-WeMM-Video-9B עולה על Qwen3-Omni-30B-A3B-Instruct הגדול יותר בקוד פתוח. מודל ה-2B מופיע בתיאור המשפחה ובמאגר המודלים, אך הטיעון של המאמר נשען על האח הגדול ביותר שלו.

כל אחד מהמספרים האלה מדווח על ידי הספק. אין רשומה ב-Artificial Analysis, אין תוצאה ב-LMArena, אין שחזור בלתי תלוי, ולא — נכון לכתיבת שורות אלה — שום הערכה של צד שלישי מכל סוג שהוא לאף חבר במשפחה. המאמר אומר שהמודלים הוערכו על פני יותר מ-120 מדדים; הוא לא אומר מי הריץ אותם, והתשובה היא T​encent. זו אינה האשמה, זהו המצב הרגיל של שחרור בן שישה ימים. אבל זה כן אומר שהתיאור הנכון של מעמדו של 35B-A3B הוא "T​encent מדווחת שהוא מוביל", ולא "הוא מוביל".

הסתייגות נוספת היא מבנית ולא עריכתית. מערך של 120 משימות בנצ'מרק, שנבחרו וקיבלו משקל על ידי המעבדה שאימנה את המודל, הוא מדד להתאמה — הוא אומר לך שהמודל טוב בדברים שכותביו חשבו למדוד. הוא לא אומר לך שהוא טוב בדברים שאתה צריך. הפער בין שתי האמירות האלה הוא המקום שבו נעשות רוב טעויות בחירת המודל, ושום כמות של קריאת טבלאות לא סוגרת אותו.

ארבעת המצבים, ולמה נתיב האודיו חשוב

ה-API של האינפרנס חושף חמש צורות בקשה, והמעניינת שבהן היא האחרונה. טקסט ותמונה אינם יוצאי דופן. אודיו בלבד אינו יוצא דופן. פריימים של וידאו בלבד הם המקרה הסטנדרטי של וידאו רב-מודלי. וידאו עם פס הקול המקורי שלו הוא זה שמשנה את מה שאפשר לבקש מהמודל לעשות, והוא סוג תוכן נפרד ב-API ההגשה ולא התנהגות משתמעת.

בפועל, זה אומר שאפשר לתת למודל קליפ ולבקש ממנו לתאר מה מופיע על המסך ולסכם את הנאמר, בקריאה אחת, ולקבל תשובה שמשקפת את שניהם. הדוגמאות של כרטיס המודל עצמו עושות בדיוק את זה — תמלול דיבור באנגלית מהקלטה של אפולו 11, ואז תיאור של אותו MP4 עם רצועת השמע שלו ובלעדיה. השאלה אם ההיסק המשותף טוב יותר מהרצת מודל וידאו ומודל דיבור זה לצד זה והדבקת הפלטים היא שאלה אמפירית, וזה הדבר השימושי ביותר שמעריך בלתי תלוי יכול לבדוק.

ההחלטת התכנון הנוספת שראויה לציון היא תבנית הצ'אט הדו-מצבית. העברת enable_thinking=False נותנת תגובה ישירה; enable_thinking=True נותנת שרשרת היסק לפני התשובה. זהו כפתור איזון בין השהיה לאיכות שמסופק כדגל תבנית ולא כשני צ'קפוינטים, וזו בחירה סבירה עבור מודל 2B — אינך משלם עבור סט משקולות נוסף כדי לקבל את ההתנהגות השנייה.

להריץ אותו, והמצב האמיתי של הזמינות

מסלול ההתחלה המהירה כולל סביבת Python 3.12, כרטיס גרפי של NVIDIA, מנהל התקן תואם ל-CUDA 12.9 ו-FFmpeg. התקינו את Torch 2.10.0, TorchVision 0.25.0 ו-TorchCodec 0.10.0 מאינדקס CUDA 12.9, ולאחר מכן את Transformers 5.2.0, Accelerate, Pillow, Librosa, SoundFile, SciPy ו-Requests. המודל נטען דרך AutoModelForImageTextToText עם trust_remote_code=True — הארכיטקטורה מותאמת אישית, ולכן הדגל הזה מהותי ולא קישוטי, וכרטיס המודל אכן אומר לכם נכון לקרוא את הקוד המותאם אישית לפני הפעלת הדגל.

אם אתם רוצים שרת ולא סקריפט, מתכון ה-vLLM נועל גרסת build מתוקנת של 0.18.0 ומעביר --no-enable-prefix-caching לצד --mamba-ssm-cache-dtype float32, וזהו שילוב שאומר לכם שלשכבות הקשב הלינארי ההיברידי אין עדיין מטמון prefix עובד. זוהי מגבלת תפוקה אמיתית לעומסי עבודה של צ'אט, וזה מסוג הפרטים שמתגלים רק כשמישהו באמת ניסה להריץ את הדבר כשירות.

מה שחסר בכל מסמך הוא מחיר. אין נקודת קצה באירוח Tencent עבור WeMM-Video-2B, אין תעריף לפי טוקן, אין פריסה מנוהלת. מורידים את המשקלים ואתה הבעלים של ה-GPU. בצד של OrcaRouter ההצהרה הכנה היא אותה אחת: איננו מגישים את WeMM-Video-2B. מה שכן אנחנו מציעים מ-Tencent הוא קו מודלי הטקסט של Hunyuan — tencent/hy4, tencent/hy4-flash וגרסאות התצוגה המקדימה — בנקודת קצה אחת תואמת OpenAI במחיר המחירון של הספק עם 0% תוספת, וזה שימושי אם הצינור שלך צריך מודל טקסט מאותה מעבדה וחסר תועלת אם הוא צריך דווקא את זה. שני מוצרים שונים, שם ספק אחד, וערבוב ביניהם יהיה הטעות הקלה לעשות בחיפזון.

Screenshot of the OrcaRouter catalogue page for tencent/hy4, showing pricing of $0.56 per million input tokens and $2.24 per million output tokens, a quality score of 90, a speed score of 67, a 1M-token context window, a 64k maximum output, zero-data-retention support and a release date of 4 November 2026.

מסקרנות להמלצה

שלושה דברים, לפי מידת ההשפעה שלהם.

הראשון הוא הערכה בלתי תלויה על בנצ׳מרק ש-T​encent לא בחרה. כל הרצת ארנה עיוורת — הבנת וידאו, שאלות־תשובות אודיו־חזותיות, מה שהכי קרוב — תגיד לך מיד אם המיצוב המוצהר של המשפחה שורד מפגש עם סט פרומפטים ניטרלי. עד שזה קיים, ה״מצב המתקדם ביותר החדש בקוד פתוח״ של 35B-A3B הוא טענה על טבלה בקובץ PDF.

השני הוא דוח serving מחוץ ל-T​encent. הטלאים ספציפיים, החומרה ספציפית, והערת האימות מכסה שני דגמי GPU. לא ידוע אם זה פועל בצורה נקייה על צומת H100, צומת A100 או 4090 שכור, והתשובה תקבע אם ה-2B הוא פרויקט סוף שבוע או ארטפקט מחקרי.

השלישי הוא הכרזת ספק — כל הכרזת ספק שהיא. פוסט בבלוג, כרטיס מודל בעמוד מוצר של Tencent, שכבת תמחור. נכון לעכשיו, אפשר לפענח את השחרור רק אם קוראים חותמות זמן במאגר, וחלון שבעת הימים שבו זה נכון הולך ונסגר. אם Tencent לא מפרסמת דבר, הקריאה הסבירה ביותר היא שהמשקלים האלה קיימים כדי לתמוך במאמר וב-35B, ושה-2B הוא צ'קפוינט נוחות ולא מוצר.

וזו השורה התחתונה הכנה. WeMM-Video-2B הוא מודל אומני-מודלי אמיתי, ניתן להורדה, ברישיון Apache-2.0, שאיש לא הכריז עליו, איש לא הוריד אותו, ואיש לא בחן אותו באופן עצמאי. אם העבודה שלך כוללת הבנה משותפת של אודיו ווידאו ויש לך GPU פנוי ואחר צהריים, העלות של לגלות מה הוא עושה היא ההורדה. אם העבודה שלך כוללת שחרור משהו בחודש הבא, העלות של לגלות את זה גבוהה מזו, והדבר האחראי הוא להמתין למספרים של מישהו אחר.

השוואות במאמר הזה1

זוהה מתוך המאמר הזה