Duo-1.0-causal-base: 153 GB של משקלים, מאמר, ואין פוסט השקה

בשעה 06:32 UTC ב-12 בנובמבר, מאגר Hugging Face בשם Duo-1.0-causal-base קיבל את הקומיט הראשוני שלו: 80 קבצים, 153.46 GB, וחבילה המכילה עמוד שדרה חזותי-לשוני, טרנספורמר דיפוזיה אודיוביזואלי, שני קודקים, מזהה דיבור ומיישר כפוי. המאמר שמאחוריו עלה ל-arXiv יום קודם לכן. שלושה מאגרים אחים נוספים הופיעו בתוך עשרים וארבע שעות, ואחד מהם עדיין בהעלאה הבוקר. בלוק החדשות של המאגר עצמו, מתוארך ל-13 בנובמבר, מכנה את כל זה הפצה. כמעט שום גורם אחר לא. אין פוסט השקה, אין נקודת קצה מתארחת, אין דף תמחור ואין בנצ'מרק עצמאי עבור Duo-1.0-causal-base שאני יכול למצוא — וקובץ הרישיון שיושב בתוך 153 ה-GB האלה שולל מההענקה שלו את האיחוד האירופי, הממלכה המאוחדת, דרום קוריאה וארצות הברית.

אז זה לא טקסט השקה, כי לא הייתה השקה. זה גם לא טקסט הדלפה, כי המשקלים פומביים, ללא הגבלה ומושלמים. מה שלהלן מפריד בין שני הדברים שנטשטשים בכל פעם שמעבדת מחקר מפרסמת מאגר במקום מוצר: מה שהקבצים והמאמר למעשה מבססים, ומה שאיש עדיין לא אימת.

מה נחת, ובאיזה סדר

ניתן לקרוא את הרצף מתוך מטא-נתוני המאגר, וזה חשוב מכיוון שזהו התיעוד היחיד ממקור ראשון.

• המאמר — arXiv 2611.15131, Duo: מודל עולם הדדי לאינטראקציה דופלקסית מלאה, עשרים מחברים מ-Hengyuan Cao ועד Zhenzhong Lan, הוגש ב-11 בנובמבר 2026. עמוד המאמר ב-Hugging Face מציג 27 הצבעות בעד ואין סיקור מעבר לכך.

• המשקלים — ארבעה מאגרים תחת ארגון inclusionAI, המתאר את עצמו כבית היוזמה של Ant Group ל-AGI, ושעמוד הפרויקט שלו נושא זכויות יוצרים של Ant Research משנת 2026. Duo-1.0-causal-base ו-Duo-1.2-causal-base נוצרו בשעה 06:30 וב-06:32 UTC ב-12 בנובמבר; Duo-1.0-distill עשרים וחמישה שניות קודם לכן; Duo-1.0-distill-quant הבוקר בשעה 08:09 UTC.

• הקוד — github.com/inclusionAI/Duo, Apache-2.0, נוצר ב-6 בנובמבר אך מכיל בדיוק קומיט אחד, עם חותמת זמן של 09:13 UTC היום, עם שישה כוכבים וללא פורקים בעת כתיבת הדברים.

• ההודעה — בלוק החדשות של ה-README, כל שלוש השורות הנושאות את התאריך 2026/11/13: המאמר, צינורות הזרימה של vLLM-Omni ו-SGLang-Omni, ומשקלי v1 בתוספת קוד הסקה לא מקוון.

גדלי החבילות הם הדבר הראשון שהקורא יכול לפעול לפיו, משום שהם אינם ניתנים להחלפה זה בזה.

• Duo-1.0-causal-base — 153.46 GB על פני 80 קבצים. משקולות Realization 69.07 GB, מודל Intent 66.73 GB, קודקים לווידאו ואודיו 11.02 GB, מערך דיבור 6.54 GB, ומתאם בנפח 84.8 MB.

• Duo-1.2-causal-base — 153.46 GB ב-80 קבצים, מתואר רק כ"איכות יצירה משופרת", כאשר הגרסאות המזוקקות והמכוילות שלו מופיעות כ"בקרוב".

• Duo-1.0-distill — 2.78 GB, שמונה קבצים. זו שכבת-על, לא מודל: היא יורדת לאותה תיקייה כמו חבילת הבסיס ומחליפה את הגדרות הדגימה ב-Euler בארבעה צעדים ובהסטת זרימה של 5.0, לעומת חמישים צעדים ב-1.0 עבור הבסיס.

• Duo-1.0-distill-quant — 47.03 GB. אותה שכבת-על בת ארבעה שלבים ב-ModelOpt FP8 עם scaling לכל ערוץ, והכרטיס מציין במפורש שסביבת ההרצה חייבת לתמוך בפורמט הזה או להציע מסלול המרה.

שני מודולים ושעון של 708 אלפיות שנייה

אפשר להבין את הארכיטקטורה מקובצי התצורה, וזה יותר ממה שרוב כרטיסי המודל מספקים. Duo מפצל את העבודה לשניים.

מודול ה-Intent מוצהר כ-Qwen3VLForConditionalGeneration — 64 שכבות עם 5120 ממדי hidden, 64 ראשי attention עם 8 ראשי key-value, גודל intermediate של 25600, אוצר מילים של 151,936 טוקנים ומגדל חזותי בעל 27 שכבות עם גודל patch של 16. ה-shards מסתכמים ל-66.71 GB של משקלי bfloat16. זהו מודל חזותי-לשוני גדול, והכרטיס אף פעם לא מציין מספר פרמטרים, כך שמחלקת הגודל היא הסקה מתוך ה-config ולא נתון מהיצרן. על גביו יושב מתאם LoRA עם rank 8 ו-alpha 16, המכוון להטלות query, key, value ו-output וכן לראש מודל השפה, ולארבעה טוקנים מיוחדים הניתנים לאימון: <wait>, <blank>, <chunk_708> ו-<speak>.

קבוצת הטוקנים הזו היא כל הרעיון במיניאטורה. בכל נתח, מודול ה-Intent מפיק או <speak> עם טקסט או <wait> בלי שום דבר. ההחלטה מתי לדבר היא חיזוי נפרד מההחלטה מה לומר, וזה ההבדל בין מודל שעונה כשאתם מפסיקים לבין מודל שיכול להתערב, לשמור על שתיקה או להמשיך לדבר בזמן שאתם מדברים.

מודול Realization הוא MiniMaxH3DiTModel: 50 שכבות עם 5376 ממדים מוסתרים, 56 ראשים בממד 128, רוחב feed-forward של 14336, patch בגודל 1×2×2, 24 ערוצי latent לווידאו ו-32 לאודיו, ומזקק טוקנים דו-שכבתי שמקפל את המצבים המוסתרים של מודול Intent לתוך ההתנייה. הוא מאותחל ממשקולות MiniMax H3, וקובץ NOTICE מפרט את רישיון ה-upstream. השארדים מסתכמים ל-66.28 GB על פני 535 טנסורים.

השעון שקושר ביניהם הוא המספר ששווה לזכור. האינטראקציה פועלת במקטעים של 17 פריימי וידאו בקצב של 24 פריימים לשנייה — 708 מילישניות. כל מקטע מקודד לחמישה לטנטי וידאו עם פיצול פריימים של 1-4-4-4-4, ול-2×29 לטנטי אודיו, מכיוון שהאודיו פועל בקצב של 40 לטנטים לשנייה לערוץ ב-32 kHz, אחד בכל 25 מילישניות. קידוד מיקום הוא RoPE תלת-ממדי המקושר לזמן ההשמעה. מסכות ההקשבה נבנות כך שאף מקטע לא יכול לראות את המדיה הנקייה של העתיד של עצמו, וזה מה שהופך את כל העניין לסיבתי ולניתן להזרמה במקום למודל דיפוזיה שזקוק לקליפ המוגמר לפני שהוא יכול להתחיל.

טענת ההשהיה היא אמיתית, והיא טענה של שמונה GPUs

חלק הסטרימינג במאמר הוא הדבר המוחשי ביותר בגרסה, והפחות ניתן לשחזור על החומרה שיש לרוב הקוראים.

• הסקת כוונה — 90 עד 160 מילישניות לכל מקטע.

• יצירה סמויה משותפת ב־768×576 — 200 עד 450 אלפיות השנייה.

• פענוח בזרימה — כ-30 ms לכל קבוצה של ארבעה פריימים.

• תקורה — כ־40 מ״ש.

• סך הכול — 330 עד 650 מילישניות, לעומת יעד מחזור של 17/24 שנייה, עם השהיית דגימה נוספת של 708 מילישניות אם אמירה מסתיימת באמצע החלון.

המספרים האלה מגיעים מפריסה של שמונה מעבדי GPU. מודול Intent פועל במקביליות טנזורית על פני ארבע דרגות ב-GPUs 0–3 לצד מזהה הדיבור; ה-transformer הדיפוזיה מתפרס על פני כל השמונה, ובוחר מקביליות טנזורית או רצפית לכל מקטע לפי מה שממזער את זמן המחזור תחת מגבלת הזיכרון; ה-VAE הזורם מחלק מרחבית לארבעה חלקים ב-GPUs 4–7. GPUs 0–3 מריצים Intent עבור מקטע k+1 בעוד GPUs 4–7 מפענחים את מקטע k. הפלט משוחרר כעוגן של פריים אחד ועוד ארבע חבילות של ארבעה פריימים, ומרווח ההשמעה הקצר ביותר, 1/24 שנייה בכ-41.7 ms, ארוך בכוונה מפענוח של 30 ms כך שהמאגר יוכל לספוג ריצוד.

כעת קרא את דרישות ה-README אל מול זה. פריסת ה-offline reference מבקשת שני CUDA GPUs — אחד ל-Intent והקודקים, ואחד ל-Realization — שני סביבות Python מכיוון שחבילת qwen-asr הנעוצה גוררת איתה את גרסת ה-Transformers שלה, ו-FFmpeg ב-PATH. זו התצורה שהדמו המסופק אכן מריץ. הנתון של 330 עד 650 ms מניח שמונה GPUs של מודל שלא צוין. שני המספרים כנים; הם עונים על שאלות שונות, והפער ביניהם הוא המרחק בין תוצאה ממאמר לבין מערכת שאפשר לבנות השבוע.

93.3% זה מחברים שבודקים את הבחינה של עצמם

ההערכה יוצאת דופן באופן שראוי לציין אותו לפני שמצטטים את האחוז בכל מקום.

שלושים מקרי דופלקס בזמן אמת הושמעו שוב זה לצד זה על ציר זמן משותף ונשפטו במהירות השמעה רגילה עם שמע, כנגד שישה קריטריונים בינאריים עם תנאי כשל כתובים: היענות תוכן, עמידה בשפה, מובנות דיבור, יציבות זהות חזותית, סנכרון אורקולי ועקביות רגשית אורקולית. מתוך 180 בדיקות, 168 עברו — 93.3%. תשעים מתוך תשעים עברו בעמידה בשפה, במובנות הדיבור וביציבות הזהות החזותית גם יחד. העקביות הרגשית עמדה על 96.7%, התאמת השפתיים על 90.0%, וההיענות לתוכן על 73.3%, או 22 מתוך 30.

להלן שלושה דברים, ורק הראשון מחמיא.

ראשית, 93.3% מתוך 180 בדיקות בינאריות עם תנאי כשל כתובים הוא טענה ניתנת להפרכה יותר מאשר Elo של טבלת מובילים, וניתוח הכשלים ספציפי באופן יוצא דופן: בדיחות והערות עקיפות שהמודל נדרש לקרוא מעבר למילים המילוליות, וכוונה שמתבהרת רק כאשר קוראים יחד דיבור וווידאו — הדוגמה במאמר היא משתמש שנמצא בבית ומזכיר אופניים שיתופיים כשמתחיל לרדת גשם, אשר המודל התייחס אליו כבקשה לעצה ולא כשינוי סצנה.

שנית, השופטים הם המחברים. אין הרצה על ידי צד שלישי, אין מחקר עיוור של השוואה בזוגות, ואין פאנל של סוקרים חיצוניים. רובריקה בינארית עם תנאים כתובים היא הכלי המתאים; יישומה על הפלטים שלך אינו אימות בלתי תלוי.

שלישית, והמשמעותי ביותר, אין השוואת בסיס בשום מקום במאמר. ההשוואה הכמותית היחידה היא אבלציה על סינתזת נתונים: לאורך רצף של שישים שניות המורכב מעשרה בלוקים של שש שניות, הבסיס מאבד 34.2 רמות לומה עד הבלוק התשיעי, בעוד שהשיטה המוצעת מתייצבת סביב 99. עבודה קשורה — Moshi, Qwen-Omni, Wan-Streamer, EMO, OmniHuman, LiveTalk, Self Forcing, CausVid — נדונה באופן איכותי ללא מספרי השוואה ראש-בראש. המאמר גם אינו מציין לעולם מספרי פרמטרים או נפחי נתוני אימון. לכן הסיכום הכנה הוא ש-Duo v1 נמדד מול מחוון, ולא מול מודל אחר.

הרישיון הוא החלק שקובע את השבוע שלך

זהו הקטע שמשנה החלטות רכש, והוא קבור בקובץ LICENSE בגודל 17 KB ולא בפרוזה של כרטיס המודל.

המשקולות אינן תחת Apache-2.0. מאגר הקוד כן; המשקולות לא. כל צ'ק-פוינט של Duo נושא את minimax-h3-community-license, מכיוון שמודול Realization אותחל מ-MiniMax H3 והרישיון עובר יחד עם הנגזרת. ההסכם שבתוך החבילה מתוארך ל-2 באוגוסט 2026 ומגדיר את "M​iniMax" כ-Nanonoble Pte. Ltd.

ההענקה שלה מוגבלת מבחינה טריטוריאלית. "הטריטוריה החלה" פירושה ברחבי העולם למעט הטריטוריות המוחרגות, והטריטוריות המוחרגות הן האיחוד האירופי, הממלכה המאוחדת, הרפובליקה של קוריאה וארצות הברית של אמריקה. נוסח הרישיון מזמין כל אדם בטריטוריות אלה לפנות ל-MiniMax בנוגע לקבלת רישיון "המבוסס על בקרות ומעקות בטיחות איתנים", וזהו מסלול, לא הרשאה.

באופן מעשי: קבוצת מחקר בסינגפור, בשווייץ, ביפן, בהודו, בברזיל או בקנדה יכולה להוריד ולהריץ את זה היום לפי התנאים המוצהרים. צוות בסן פרנסיסקו, בלונדון, בברלין או בסיאול לא יכול, לפי הקריאה הפשוטה של הקובץ, ולא אמור לגלות את זה בסוף אינטגרציה של שבועיים. חוסר הסימטריה הזה הוא גם הסיבה לכך שהרישיון — ולא הבנצ'מרק — הוא הדבר שצריך לבדוק לפני שקובעים משהו בלוח הזמנים.

מה שאתה יכול להריץ בפועל היום

המסלול הלא־מקוון מתועד וקצר. שכפל את המאגר, בנה שתי סביבות וירטואליות — אחת עבור Realization ואחת עבור מחסנית הדיבור — הורד חבילת בסיס, העתק את configs/inference.example.json אל configs/inference.json, כוון אותו אל המשקלים ואל שני קבצי ההרצה של Python, והרץ את run_demo.py --config configs/inference.json --port 4173. הממשק הוא דף דפדפן בכתובת /video/index.html.

לצורך סטרימינג, ה-README מפנה לשני ענפים: vLLM-Omni, המסומן כמומלץ, ו-SGLang-Omni. זהו הנתיב שאליו מתייחסים נתוני השהיה, וזה שדורש פריסת שמונה כרטיסי GPU.

שתי הסתייגויות לגבי מה שתראו. ההדגמות בעמוד הפרויקט נלקחו מנתוני אימון ומהסקה לא־מקוונת — כך נאמר שם, ומוסיפים שתוצאות בזמן אמת בדופלקס מלא "יתווספו בקרוב." והשחרור הוא במפורש תצוגה מקדימה: "Duo v1 הוא שחרור תצוגה מקדימה לחוקרים," עם תמיכה ב"שיחה אודיו־חזותית בסיסית," כאשר v2 מובטח שיתנה את Realization ישירות באודיו ובווידאו של המשתמש לצורך אינטראקציה חזותית. אם העניין שלכם הוא מודל שצופה בכם ומגיב לאובייקטים, היכולת הזו לא נכללת בשחרור הזה.

מי צריך לשים לב השבוע, ומי צריך לחכות

• מחקר אינטראקציה בדופלקס מלא — זהו השחרור הפתוח הקונקרטי ביותר בקטגוריה: מאמר עם תקציב השהיה, שעון צ'אנקים, מתכון זיקוק ומשקולות שאפשר ממש להוריד. זיקוק הרולאאוט הכפול — הרצת מודול ה-Intent הקפוא ולאחר מכן יצירת מדיה מהפלטים של המודל עצמו, ולא מהיסטוריה מוקלטת — הוא הרעיון שניתן להעביר גם אם לעולם לא תריץ את Duo.

• צוותים שבונים מוצר אווטאר או מוצר־ליווי — שווה קריאה רק בגלל מסגור ה־708 ms. זה המספר שמכריע אם קריאת ביניים מרגישה כמו אדם או כמו פיגור, וזהו אילוץ עיצובי שאפשר לאמץ בלי לאמץ את המודל.

• צוותים בטריטוריות המוחרגות — המתינו, והתייחסו לשיחת הרישוי כמסלול הקריטי ולא לתקציב ה-GPU.

• מי שרוצה API — זה לא זה. כרטיס המודל מציין במפורש שאין ספק הסקה שמשרת אותו, ושאין נקודת קצה של ספק.

הנקודה האחרונה היא המקום שבו נתב באמת מתאים, והמקום שבו הוא לא. OrcaRouter לא מארח את Duo-1.0-causal-base ואינו יכול לנתב אותו: סטאק דיפוזיה דו-מודולרי בנפח 153GB עם שעון מקטעים קבוע של 708ms אינו יעד ל-chat-completions, ושום כמות של ניתוב לא תשנה את זה. מה שכן ניתן לנתב הוא מנגנון הגיבוי מבוסס התורות שרוב הצוותים משחררים בזמן שניסוי דופלקס רץ מאחורי דגל — דיבור נכנס, מודל שפה, דיבור יוצא. חלק הפלט הקולי יכול להיות מודל text-to-speech מתארח במקום תהליך נוסף על אותן שתי יחידות GPU, וביצוע זה דרך API אחד עבור יותר מ-200 מודלים, כאשר מחיר המחירון של הספק מועבר הלאה בתוספת של 0%, משאיר את חשבון העלויות ללא שינוי כאשר ספק משנה מחיר. failover אוטומטי שייך לרגלי האירוח האלה, ולא לרגל ה-self-hosted: הוא שומר על דמו פעיל כאשר ספק מתערער, והוא אינו עושה דבר לסטאק שאתה מריץ על החומרה שלך.

השימוש הכנה הנוסף הוא משמעת הערכה. השאירו את מסלול הייצור על מודלים שאפשר לקרוא להם, והתייחסו ל-Duo-1.0-causal-base כאל ניסוי ספסל עם רובריקה כתובה — מה שבהתחשב בכך שהרובריקה היחידה הקיימת הוחלה על ידי מחבריה, הוא בדיוק מה שזה.

מה היה משנה את פסק הדין

שלושה דברים, בסדר עולה של מידת חשיבותם.

צד שלישי שמדרג את ששת הקריטריונים על פרומפטים שצוות Duo לא בחר. המחוון כבר פורסם, מה שהופך את זה לזול למישהו לבצע ויקר למודל אם היענות התוכן היא באמת 73.3% במקרים שלא נראו.

נקודת קצה מתארחת או מתכון הגשה שאינו מניח שמונה כרטיסי GPU. הדמו הלא-מקוון עם שני כרטיסי GPU וטענת השהיה עם שמונה כרטיסי GPU נכונים שניהם, והפער ביניהם הוא המקום שבו רוב הקוראים ימצאו את עצמם בפועל.

תנאי רישיון הכוללים את השטחים המוחרגים. שום דבר בארכיטקטורה לא משנה את החשבון הזה, ואף כמות של שיפור בנצ'מרק אינה משנה אותו.

עד אז, התיאור המדויק של Duo-1.0-causal-base הוא זה: חבילת מחקר שלמה, ללא הגבלת גישה, בנפח 153 GB, עם תקציב השהיה ממשי והערכה בדירוג עצמי, שפורסמה כמאמר ומאגר קוד עם שורת חדשות מתוארכת וללא מוצר מאחוריה. זה יותר מקדם-פרסום — המשקלים קיימים וההדגמה פועלת — והרבה פחות ממודל שאפשר לתכנן סביבו רבעון. השאלה הפתוחה אינה אם Duo יכול לנהל שיחה במקטעים של 708 אלפיות שנייה. היא אם למישהו מחוץ לצוות יהיה בכלל מותר לבדוק.