Qwen 4: ה-PR של vLLM בשם 'qwen4 fuse op' נתן את השם לארכיטקטורה — Apsara 2026 נתנה את השם למשפחה

בקשת משיכה שכותרתה "Add qwen4 fuse op" נשארת פתוחה במאגר vLLM מאז 26 באוגוסט, ובמשך רוב אותו חודש היא הייתה הדבר הקרוב ביותר לתיאור של הדור הבא של המודלים של Alibaba שהתקיים מחוץ לחברה. זה השתנה ב-22 בספטמבר 2026, כאשר ראש Qwen של Alibaba, Liu Da Yiheng, ניצל את פתיחת ועידת Apsara בהאנגג'ואו כדי לתת שם למשפחה: Qwen 4 Max, Qwen 4 Flash, Qwen 4 Plus, ו-Qwen 4 27B — שכבת המשקולות הפתוחות, וזו שעולם ההסקה המקומית חיכה לה. יומיים לאחר מכן, לאחר סיום הוועידה, הציבה החברה את המשפחה הזו על מפת דרכים לראשונה: Qwen 4 באימון, וסדרת המשך — Qwen 4.5 ו-Qwen 5 — עם תחזית של 5 עד 10 טריליון פרמטרים, נתון שמנכ״ל קבוצת Alibaba, Eddie Wu, הציג על הבמה, והחברה חזרה עליו אז בפרסום הרשמי שלה באנגלית. מה שמפת הדרכים אינה, לאחר שבועיים, הוא לוח זמנים. התזמון שמסתובב כעת הוא חלון — אוקטובר, או תחילת נובמבר — ושום דבר ממנו אינו מבוסס על משהו ש-Alibaba פרסמה. בחומר הכתוב של החברה עצמה אין חודש, אין רבעון ואין תאריך; למודל אין מזהה, אין חלון הקשר ואין מחיר; ואין מאגר של Qwen 4 בארגון Qwen ב-Hugging Face. התייחסו לחלון כאל משאלה ולא כאל תוכנית. בקשת המשיכה — vllm-project/vllm#53909, שעדיין פתוחה, עדיין לא מוזגה ועדיין ממתינה לסקירה — אינה כוללת תאריך שחרור ולא מספר פרמטרים אף היא. היא מוסיפה קרנלים עצמאיים של Triton עבור שלוש משפחות אופרטורים: HyperConnection, Qwen Sparse Attention (QSA), ופעולות מצב PLE. בכותרת שלה כתוב "qwen4", ורשימת האופרטורים שלה כמעט זהה לחלוטין לארכיטקטורה ש-Alibaba סיפקה במשקולות הפתוחות של Qwen3.8-Flash-Next — מודל מומחים מעורבים (mixture-of-experts) מולטימודלי, שיצא ב-26 באוגוסט 2026, ושבכרטיס ה-Hugging Face שלו כתוב "A Preview of the Qwen4 Architecture". Qwen 4 עצמו עדיין לא שוחרר. למשפחה יש שם, מקום במפת דרכים וחלון על-פי שמועות; הקרנלים הם עדיין הדבר היחיד שמתאר אותה.

זהו מאמר של 'מה שאנחנו יודעים עד כה', לא סיפור השקה. Aliba​ba כבר נתנה שם למשפחה על במה ציבורית והציבה אותה במפת דרכים של החברה, אבל מתן שם אינו אספקה: אין כרטיס דגם, אין משקלות ואין API לאף דרג של Qwe​n 4, וכל טענה ארכיטקטונית להלן עדיין מגיעה מתצוגת Qwen3.8-Flash-Next והממצאים ההנדסיים סביבה ולא ממסמך Qwe​n 4 כלשהו. הראיות המוצקות הן בקשת המשיכה (PR) של vLLM שנמצאת עדיין בבדיקה, מודל התצוגה המקדימה שפורסם, בקשת PR של sglang שהוגשה ב-27 באוגוסט ומוסיפה תמיכה מקורית באותו קונפיגורציית ארכיטקטורה של Qwe​n4-Exp, והרשומה qwen4_exp שהגיעה מאז למרשם המודלים של vLLM עצמו בענף main — Qwen4ExpForCausalLM, Qwen4ExpForConditionalGeneration ו-Qwen4ExpMTP — לצד עבודת המולטימודאל של הפרונטאנד ב-Rust, שמוזגה ב-1 בספטמבר. המסקנה שאנו מסיקים מהן — שהאופרטורים בבקשות ה-PR הם הארכיטקטורה ש-Aliba​ba הציגה בתצוגה מקדימה — היא פרשנות של אותן ראיות, וכל פרט להלן מסומן בהתאם. טענה אחת כאן אינה של Aliba​ba כלל: חלון אוקטובר עד תחילת נובמבר מגיע מפוסט ברשימת מעקב ב-X ומדפי המעקב שחזרו עליו בשבועיים האחרונים, היא אינה משוחזרת, והיא מוצגת כמקור קהילתי בכל מקום שבו היא מופיעה.

מה Alibaba בעצם אמרה ב-22 בספטמבר

Aliba​ba הציגה תצוגה מקדימה של משפחת Qwe​n 4 בפתיחת כנס Apsara (Yunqi) שלה, שנערך בהאנגג'ואו מ-22 בספטמבר עד 24 בספטמבר 2026, עם ליו דה ייהנג, מוביל Qwe​n, על הבמה. ארבעה דרגים הוכרזו בפתיחה, על המבנה שכבר ביסס דור 3.8:

• Qwe​n 4 Max — דרגת הדגל, וזו שמוצבת מול הדגם המוביל מכל מעבדת חזית אחרת.

• Qwe​n 4 Flash — דרגת התפוקה הגבוהה, המיועדת לעבודה רגישה לשהיה ובנפח גבוה ולא להסקה בשיא.

• Qwe​n 4 Plus — שכבת הביניים המאוזנת.

• Qwen 4 27B — שכבת המשקלים הפתוחים: מחלקת הגודל שבה Qwen כבר סיפקה משקלים פתוחים בעבר, וזו שמתוארת כאפשרות להרצה מקומית.

הרשומה של 27B היא החלק הקונקרטי של ההכרזה, והיא מה שאות המקור שמאחורי הכתבה הזו הגיב לו. בדור 3.8, דרג 27B היה השחרור במשקלים פתוחים שהומר ל-MLX, עבר קוונטיזציה ל-NVFP4 וקיבל כיוונון עדין בתוך ימים מהשחרור, כך ש-Qwen 4 27B עם שם מפורש נותן שוב לאקוסיסטם במורד הזרם יעד. זהו יעד ולא שחרור, וכדאי להחזיק בהבחנה הזו: Alibaba לא פרסמה פירוט פרמטרים, לא רישיון, לא חלון הקשר ולא תאריך עבורו, ושם הדרג אפילו לא אומר אם הוא צפוף או תערובת מומחים. כל מה שהפך את דרג 27B הקודם לישים להרצה — מחלקת הגודל, ההתמקדות במכונה אחת — עובר בירושה מהיסטוריית קו המוצרים, ולא צוין עבור המודל הזה.

מה שהוועידה לא הניבה הוא הדבר שקורא יכול לתכנן לפיו. העמדה המוצהרת של Alibaba — ניסוח מטעם הספק, שהוצג על הבמה ודווח על ידי כלי תקשורת עצמאיים רבים ולא אומת באופן עצמאי — היא ש-Qwen 4 בנוי על ארכיטקטורה מדור חדש, שהוא נמצא באימון, ושהוא מגיע "בקרוב". לאף אחת מהדרגות אין חלון הקשר, מחיר, רשימת מודאליות או ציון מפורסם. הפריט היחיד עם תאריך בוועידה היה מודל וידאו מדור הבא המיועד לנובמבר. מספר אחד מאותה במה צריך להישמר בנתיב משלו: השאיפה של 5 עד 10 טריליון פרמטרים שייכת למסגרת הזמן של Qwen 4.5 ו-Qwen 5, ולא ל-Qwen 4 — שום מספר פרמטרים לא צורף לאף דרגה של Qwen 4. הנתון הזה כבר אינו הדלפה או טענה שמסתובבת: הוא נמצא בפרסום של Alibaba עצמה באנגלית, הוא מיוחס לנאום המפתח של המנכ"ל אדי וו, ומוצג כתחזית בלי תאריך ובלי ארכיטקטורה מאחוריה — הצהרה מטעם החברה, ועדיין לא שוחזר.

אז השינוי בשם שינה את מעמדה של המשפחה, לא את מצב הראיות. כל מה שלהלן הוא עדיין התיאור של שכבת ההגשה לגבי מהי הארכיטקטורה הזו — ומכיוון שההכרזה אינה מוסיפה מפרטים משלה, אותו תיאור נותר מפורט יותר מכל מה שפרסמה Alibaba.

מה זה בעצם ה-PR של "qwen4 fuse op"

בקשת ה-Pull request #53909 במאגר vllm-project/vllm פתוחה, ומגיעה מהעתק (fork) של תורם, ועדיין ממתינה לסקירת מחזיקי הקוד — הסקירה האוטומטית הושבתה דווקא משום שהבקשה הגיעה מהעתק. מדובר בעבודה קטנה, בצורת קרנל:

• שלוש ליבות HyperConnection — RMSNorm מקובץ של Ge​ma, gate reduce, ו-injection combine.

שלוש ליבות QSA ועוד שלוש מעטפות בסיס-ספק לשם השוואה.

• גרעיני PLE לאיסוף מצב ופיזור ממוסך.

• 13 בדיקות עוברות המכסות הגנות dtype וצורה, מטא-נתוני עמודים, חריצי מטמון, פריסת MRoPE, מצב מפוסע, אינדקסים null וכפולים, וביצוע דטרמיניסטי.

שני פרטים חשובים מעבר לרשימת הפעולות. ראשית, היישום הוא fail-closed: ה-guards של המארח מעלים שגיאות במקום ליפול לנתיב חישוב גנרי של Torch, כי ערך שגוי בשקט ב-attention kernel גרוע מכשלון קשה. שנית, הפיצול בשמות — הכותרת אומרת "qwen4" בעוד התיאור קורא ל-Qwen3.8-Flash-Next — הוא עצמו אות. הצד של vLLM מתייחס למודל התצוגה המקדימה כמופע הראשון של משפחת qwen4, ובונה קרנלים תחת שם המשפחה שיכסו כל מה שיבוא אחר כך.

לשם הקשר, מה זה "fuse op": מנוע הסקה (inference engine) בדרך כלל מריץ את הגרף של המודל תוך השקת קרנל אחד לכל פעולה, וכל השקה נושאת תקורה — מעברי זיכרון בין קרנלים, עלות שיגור. איחוד של כמה פעולות אלמנטיות ופעולות מצב לתוך קרנל אחד חותך את התקורה הזאת, וזה בדיוק המקום שבו העלות והשהיה של ארכיטקטורה חדשה נקבעות. מודל הבנוי על אופרטורים שאין להם אף יישום מאוחד (fused) בשום מקום יהיה איטי וזולל זיכרון, לא משנה עד כמה האימון מתוחכם; מנוע ההסקה הראשון שמאחד אותם היטב קובע את המחיר האמיתי של המודל.

קריאת שמות הקרנל כשרטוט

אף אחד מהאופרטורים האלה לא קיים ב-opset הסטנדרטי של טרנספורמר, וזו הסיבה שהם בכלל זקוקים לקרנלים חדשים — וכל אחד מהם מתמפה לחלק ספציפי בארכיטקטורה שהציגה Aliba​ba בתצוגה מקדימה ב-Qwen3.8-Flash-Next:

HyperConnection → חיבורים שיוריים מגושרים (gated residual connections). הזרם השיורי היחיד מורחב לארבעה ענפים מקבילים עם גייטינג דינמי לכל רכיב, המאפשר למודל להחליט כמה לקרוא מכל ענף וכמה לכתוב אליו; ניתן לאחסן את המצב השיורי ב־FP8 כדי לצמצם את תעבורת הזיכרון.

• QSA → Qwen Sparse Attention. אינדקס קל משקל דוחס את המפתחות למיקרו-בלוקים ביחס דחיסה של 4, מדרג אותם, ושומר על 512 הבלוקים הטובים ביותר — כ־2,051 עמדות טוקן לוגיות — בעוד ש־softmax הסופי ואגרגציית הערכים עדיין רצים על ה־K/V המקורי והלא־דחוס. שתים־עשרה מתוך 48 השכבות הן QSA; 36 האחרות הן שכבות GDN בעלות תשומת לב ליניארית, עם מצב רקורסיבי בגודל קבוע וללא מטמון KV שגדל.

• פעולות מצב PLE → זיכרון n-gram. טבלת החיפוש בעלת 51 מיליארד הפרמטרים — "Per-Layer Embeddings" בסקירה של SGLang — כתובתה מחושבת על ידי גיבוב של הטוקן הנוכחי ושל שניים או שלושה טוקנים קודמים, והיא מביאה 16 שורות לכל טוקן. מיקומיה ניתנים לחישוב מראש, ולכן היא יכולה לשכון בזיכרון המארח (host) ולהיטען מראש באופן אסינכרוני במקום לכבוש זיכרון GPU (VRAM).

גוף ה-MoE שבו יושבים הקרנלים: 125B פרמטרים בסך הכול עם כ-6B פעילים לכל טוקן — פחות מ-5% הפעלה — מנותב על פני 512 מומחים עם ניתוב top-10.

שתי הסתייגויות משמרות את היושר הזה. ראשית, הארכיטקטורה שלעיל נקראת מכרטיס המודל של Qwen3.8-Flash-Next ומפירוקים קהילתיים, ולא ממסמך כלשהו של Qwe​n 4 — זו עדות על המשפחה, לא מפרט של המשפחה. שנית, שום דבר מזה לא משנה את העובדה המרכזית: Qwe​n 4 לא קיים בשום קטלוג.

קו ראיות נפרד הוא מסלול הראייה, שראוי להשאירו בנפרד מהקריאה של ה-kernel לעיל. ללא תלות בכל מיפוי אופרטורים, רישום המודלים של vLLM עצמו על main מפרט ערך בשם qwen4_exp — Qwen4ExpForConditionalGeneration — הרשום כמודל מולטימודלי עם מגדל ראייה Qwen3-VL ו-Qwen3VLMultiModalProcessor. ה-PR של ה-frontend ב-Rust (#54813) שמחבר את התצורה הזו אל ה-crate המולטימודלי של המנוע, מסלול הקוד שהופך קלטי תמונות לטוקנים, מוזג ב-1 בספטמבר 2026 — הצהרה חזקה יותר מאשר אותו PR בהיותו פתוח, מפני שמסלול המולטימודלי של קו qwen4 נמצא כעת במנוע ולא ב-fork של מישהו. זה עדיין לא מהדורה: למודל שאותו ערך רישום מתאר אין משקלים ואין API. אך זהו האישור ההנדסי הראשון לכך שהדור הבא של Qwe​n מקבל קלט תמונות, והתווית "מולטימודלי" על הארכיטקטורה אינה עוד רק שורה בכרטיס המודל של התצוגה המקדימה.

מדוע הארכיטקטורה משנה את תמונת העלות

אם Qwen 4 ישוחרר על הארכיטקטורה הזו, הכלכלה שונה מזו של טרנספורמר צפוף סטנדרטי — או אפילו MoE רגיל — וההבדל הזה הוא הסיבה שכדאי לעקוב אחר עבודת הקרנל.

• פיצול זיכרון וחישוב. עלות הזיכרון עוקבת אחר סך כל הפרמטרים — כל 125B חייבים להיות טעונים בזכרון כדי לשרת את המודל. עלות החישוב עוקבת אחר הפרמטרים הפעילים — רק ~6B מופעלים בכל מעבר קדימה. ההפרדה הזו היא מה שמאפשר למודל "125B" לשרת בעלות של מודל קטן בהרבה.

• מטמון ה‑KV מפסיק לגדול ברוב השכבות. עם 36 מתוך 48 שכבות שמשתמשות בקשב רקורסיבי בגודל קבוע, מטמון המפתח/ערך הגדל מוגבל ל‑12 שכבות. בהקשר טבעי של 262K טוקנים — 1M דרך YaRN — זו במידה רבה הסיבה לכך שהגשת הקשר ארוך הופכת לבת‑השגה בכלל.

• הטבלה הגדולה ניתנת להעברה. טבלת ה-n-gram היא צרכן הזיכרון הגדול ביותר עם 51B פרמטרים, והיא אינה צריכה לשכון על ה-GPU. עבודת ה-day-0 של SGLang מדדה העברת טבלת BF16 לזיכרון מארח מוצמד, מה שפינה כ-23 GiB לכל GPU ב-H200 והגדיל את קיבולת ה-KV המוקצית בכ-78% — עם פלטים זהים ביט-בביט. בצד של vLLM, אותה העברה הגיעה בשלבים ולא ב-PR אחד: PR התמיכה המקורי (#53899) נסגר ללא מיזוג ב-21 בספטמבר, ואילו היכולת עצמה הגיעה דרך מיזוגים נפרדים — #54371, העברת PLE מבוססת UVA עם מקביליות טנסורית של Engram, ב-9 בספטמבר, ומסלול ROCm (#57497) ב-25 בספטמבר.

אף אחד מהמספרים הללו לא עבר עדיין ביקורת עצמאית — טענות ההאצה בהקשר ארוך של 7.6×/4.9×, נתון הפענוח של 540 tok/s מהפוסט של SGLang, וטענת עלות האימון של "1/9 מ-Qwen3.7-Plus" — ויש לקרוא אותם כדיווח של ספק או של הקהילה עד שמדד ניטרלי ישחזר אותם.

המרוץ לשרת אותו

שני המנועים המרכזיים עוסקים כעת בעבודה על qwen4 — SGLang פרסמה תמיכה מיידית (day-0) תוך ימים מהתצוגה המקדימה של 26 באוגוסט, והעבודה בכל צד הלכה והצטברה מאז, מהרשמת תצורה ועד הנדסת ליבה (kernel) וזיכרון.

• פורסם פוסט day-0 מטעם SGLang ב-26 באוגוסט, בשיתוף פעולה בין SGLang, Aliba​ba, NVIDIA ו-AMD, שמשחרר checkpoint NVFP4 וטוען לקצב פענוח של 540 טוקנים לשנייה ב-TP4 על B200 עם פענוח ספקולטיבי.

• ב-27 באוגוסט, PR של sglang (#36585) הוסיף תמיכה מקורית ב-Qwe​n4-Exp למנוע עצמו — תוך רישום התצורה Qwen4ExpForConditionalGeneration ומודל טקסט הבנוי מאותם רכיבים של GatedResidual, Gated DeltaNet, Qwe​n sparse attention, PLE ו-MoE. הוא לא מוזג: ה-PR מגיע מתורם שאינו מתחזק, העבודה מיוחסת לסוכן אוטונומי בשם Argus, והוא עדיין פתוח וממתין לסקירה. עם זאת, העוגן שלו ניתן לבדיקה באופן עצמאי — התצורה של Qwen3.8-Flash-Next עצמה מצהירה על model_type=qwen4_exp, והמימוש הייחוסי נמצא כעת ב-huggingface/transformers תחת models/qwen4_exp.

• ב-8 בספטמבר נפתח PR טיוטה של sglang (#38492) מול qwen4-main-squashed, ענף sglang שיועד לקו Qwen4/Flash-Next, וזה לא רישום. הוא מעביר את RecoverSSM — נתיב שחזור של מצב מקובל שנבנה לראשונה עבור Qwen3.8-Flash-Next על SM120 — לצורך אימות multi-token-prediction (MTP) של הארכיטקטורה. טיוטות MTP זורמות דרך המצב הרקורנטי בגודל קבוע של שכבות Gated DeltaNet, ובמקום להחזיק כל מצב ספקולטיבי ביניים בזיכרון בזמן אימות טיוטה, המנוע משחזר את המצב המקובל מהמצב המחויב ומקידומת הטוקנים המקובלת. המצב הוא opt-in (דגל --gdn-mtp-cache-mode none; התנהגות full-cache הנוכחית נשארת ברירת המחדל), והוא מוקדם אפילו לפי הסטנדרטים של הסיפור הזה: טיוטה שנגעו בה לאחרונה ב-14 בספטמבר, שה-head הנוכחי שלה עדיין נכשל בתשע מהבדיקות שלה, כאשר רשימת המשימות של המחבר עצמו עדיין פתוחה לפני שאפשר לסמן אותו כמוכן לסקירה. הכיוון הוא העיקר — sglang מהנדסת את נתיב ההגשה של Qwen4, ולא רק רושמת את הקונפיגורציה שלו.

• סדרת qwen4 של vLLM עברה משלושה PRs פתוחים למצב מעורב בשבועות שחלפו מאז שהמאמר הזה פורסם לראשונה. ה-PR הרב-מודלי עם פרונטאנד Rust (#54813) מוזג ב-1 בספטמבר. עבודת ה-PLE-offload מוזגה בשני חלקים — #54371 ב-9 בספטמבר ו-#57497 ב-25 בספטמבר — בעוד שה-PR המקורי של PLE-offload (#53899) נסגר ללא מיזוג ב-21 בספטמבר. מאז, ה-config עבר ל-upstream: #57387, שמחליף את ה-config וה-processor של qwen4_exp במימושים upstream של Transformers, מוזג ב-2 באוקטובר. מה שעדיין פתוח הוא ה-PR של fuse-op שהוא נושא המאמר הזה (#53909) — לצד תיקון באג ב-QSA ring-buffer שהוגש ב-1 באוקטובר (#59528) ומעבר SM86 (Ampere) על טבלת ה-n-gram בת 51 מיליארד פרמטרים שפתוח מאז 26 בספטמבר (#58856), שזו סוג העבודה שמישהו עושה כשמודל הוא משהו שאנשים מנסים לשרת על חומרה ישנה יותר ולא משהו שאף אחד לא הריץ. ה-config של qwen4_exp עצמו רשום ב-vLLM כרב-מודלי: מגדל ראייה Qwen3-VL יחד עם מודל הטקסט Qwen4-Exp.

זהו מרוץ עם פרס אמיתי. המנוע שממזג את האופרטורים החדשים בצורה הטובה ביותר קובע את המחיר המוגש לדור Qwen4, משום שיעילות הקרנל — לא מספר הפרמטרים הגולמי — היא מה שמרכיב את עלות הטוקנים של מודל hybrid-attention.

מה בעצם יוצא היום: Qwen3.8-Flash-Next לעומת Qwen 4

כדאי לדייק בשני הדברים בסיפור הזה, כי השמות עושים הרבה עבודה.

• Qwen3.8-Flash-Next יצא. המשקולות הפתוחות נמצאות ב-Hugging Face וב-ModelScope תחת רישיון qwen-community-1.0, בגרסאות סטנדרטית ו-FP8; כרטיס המודל קובע את המפרט — 125B MoE, כ-6B פעילים, טבלת n-gram של 51B, קונטקסט של 262K, מולטי-מודאלי. זוהי תצוגה מקדימה של הארכיטקטורה, לא מודל הדגל.

• Qwen3.8-Flash הוא גרסת הייצור המוגשת ש-Alibaba הכריזה לצדו, הרשומה ב-Qwen Cloud במחיר ¥1 למיליון טוקני קלט ו-¥3 למיליון טוקני פלט (כ-0.16$ / 0.47$), עם חלון הקשר מובנה של 1M טוקנים וכלים מובנים. תמחור לפי דיווח הספק, שטרם נכלל במדד עצמאי כלשהו.

• Qwen 4 עדיין לא יצא. Alibaba נקבה בשמות כל ארבע הרמות ב-22 בספטמבר 2026 ואמרה שהמשפחה באימונים ותגיע בקרוב — ההודעה הרשמית הראשונה על התזמון, ועדיין לא לוח זמנים. אין תאריך, אין כרטיס ואין משקלים לאף רמה. החלון שמסתובב כעת הוא מאוקטובר עד תחילת נובמבר, והוא מגיע משרשורי רשימות מעקב ומדפי מעקב ולא מ-Alibaba: סטטוס האימונים הוא הצהרה של החברה, התזמון מגיע מהקהילה. חלון ספטמבר שהופץ בהדלפת מפת דרכים מיולי כבר נגמר, וזו תשובה בפני עצמה.

• דרגת Qwe​n 4 27B היא זו שכדאי לעקוב אחריה מסיבה שאינה קשורה לבנצ'מרקים: היא הדרגה היחידה במשפחה עם רקורד של שחרור משקלים פתוחים, ו-27B שהוכרז הוא הדבר שסביבו מתכננות ערימות ההסקה המקומיות — ולכן פירוט הגדלים, הרישיון והתאריך החסרים חשובים כאן יותר מאשר בדגם הדגל.

טבלת הביצועים של התצוגה המקדימה — DeepSWE 1.1 ב-58.7, SWE-bench Pro ב-62.5, LiveCodeBench v6 ב-91.9 — מדווחת מטעם הספק בכרטיס ולא שוחזרה באופן בלתי תלוי. תכנן סביב הארכיטקטורה; התייחס לציונים כאל הבטחה, לא כאל מדידה.

מה מפתח צריך לעשות עכשיו

שום דבר בסטאק הנוכחי שלך לא משתנה היום: אין אפשרות לקרוא ל-Qwe​n 4 בשום מקום — Apsara נתנה שמות לדרגים והעלתה את המשפחה על מפת דרכים, ולא שחררה דבר מזה — ונכון לכתיבת שורות אלה, המשקולות הפתוחות של Qwen3.8-Flash-Next עדיין לא נמצאות גם ברשימת המודלים שלנו — הדברים הקרובים ביותר שאנו מעבירים היום הם הווריאנט המוגש של Qwen3.8 Flash במחיר $0.15/$0.47 למיליון טוקנים ומסלול המשקולות הפתוחות של Qwen3.8 27B במחיר $0.33/$2.40, שזה הדבר הקרוב ביותר ל-Qwe​n שניתן להריץ מקומית בקטלוג, בעוד שהדור היורש עדיין בגדר שמועה. שורת מפת הדרכים היא הדבר האחד ששווה לקרוא פעמיים, מפני שזו הפעם הראשונה ש-Aliba​ba מתחייבת בכתב לדור יורש: אם Qwe​n 4.5 ו-Qwe​n 5 באמת ייכנסו לטווח של 5 עד 10 טריליון פרמטרים, הדרג שאתה יכול להרשות לעצמך לארח בעצמך באותו דור חשוב יותר, לא פחות. אם אתה רוצה להרגיש את הארכיטקטורה לפני שהמשפחה תשוחרר, הדרכים הכנות הן למשוך את המשקולות בעצמך או להמתין שהתצוגה המוקדמת תנחת מאחורי API. לכל מי שמתכנן סביב דרג ה-27B, הדבר נכון גם כן בתוספת אחת: שווה לעקוב אחריו דווקא מפני שהוא הדרג שהכי סביר שיהיה ניתן להריצו בלי API, והוא נכון לעכשיו הפחות מוגדר מבין הארבעה.

כאשר Qwen3.8-Flash-Next או דגם Qwe​n 4 מופיע בקטלוג של ספק, עלות המעבר ב-OrcaRouter היא בקירוב אפס: API אחד ל-200+ דגמים, מחיר המחירון של הספק מועבר הלאה בתוספת של 0%, והורדת מחיר מצד ספק נכנסת לתוקף אצלנו באותו היום. אותו endpoint ואותו מפתח שאתם כבר משתמשים בהם עבור Qwen3.8 Max — זמין היום לקריאה בתור qwen/qwen3.8-max במחיר $2.00/$6.00 למיליון טוקנים, מחיר המחירון מועבר הלאה — הוא אותו endpoint שבו תשתמש קריאה ל-Qwe​n 4.

עבור ארכיטקטורה לא מוכחת, מעבר אוטומטי הוא הצעד הראשון הנכון: נתב נתח תנועה למודל החדש עם מעבר אוטומטי ל-Qwen3.8 Max (או לכל מודל שהעומס בפועל דורש), ותן לתנועה שלך להחליט אם התצוגה המקדימה עומדת בכרטיס — עריכת routing-DSL, לא שכתוב.

מה אנחנו צופים

• האם קרנלי ה-fuse-op יתמזגו (#53909), כעת האחרון מבין שלושת ה-PR-ים המקוריים של vLLM ל-qwen4 שנותרו פתוחים — הפרונט-אנד הרב-מודלי ועבודת ה-PLE-offload כבר נחתו, והקונפיגורציה כבר עלתה ל-upstream. בצד של sglang, גם ה-PR לתמיכה ילידית וגם טיוטת RecoverSSM עדיין פתוחים. סט קרנלים ממוזג הוא האות החזק ביותר עד כה לכך שסדרת qwen4 נמצאת במפות הדרך לטווח הקרוב של שתי סביבות ההרצה.

בין אם qwen4-main-squashed מתגבש לקו הראשי של Qwen4 ב-sglang — ענף אינטגרציה שעבודות ליבה וזיכרון ממשיכות לנחות עליו הוא מחויבות חזקה יותר מאשר PR של תורם יחיד, וכדאי לעקוב אחר מה שיקרה לו ברגע שלמוצר הדגל יש תאריך.

• האם מסלול הראייה שורד עד לשחרור — רשומת הרישום המולטימודלית של qwen4_exp ואינטגרציית ה-frontend של Rust הם האות המוצק הראשון לכך שדגם הדגל מגיע עם קלט תמונות, ושניהם נמצאים כעת בקוד הראשי של vLLM ולא בפורק. השאלה הפתוחה היא אם הדגם המשוחרר שומר על מגדל הראייה הזה.

הנתונים העצמאיים הראשונים על Qwen3.8-Flash-Next, שיהוו את המבחן הראשון לשאלה האם טענות העלות של הארכיטקטורה מחזיקות מעמד מחוץ לספק.

• תאריך או כרטיס עבור Qwe​n 4 עצמו. למשפחה יש כעת שמות, רשימת טירים, סטטוס אימון ומקום במפת דרכים שפורסמה, ואף אחד מאלה אינו לוח זמנים. החלון שהקהילה מפיצה הוא מאוקטובר עד תחילת נובמבר; מפת הדרכים שאליב​אבא פרסמה ב-Apsara אינה כוללת תאריכים כלל, ואף מאגר של Qwe​n 4 לא הופיע ב-Hugging Face. האות האמיתי הבא הוא הראשון שיש לו תאריך מצורף — כרטיס מודל, מזהה API או משקלים.

• במיוחד שכבת Qwe​n 4 27B — האם היא תשוחרר עם משקלים פתוחים לפי התבנית של Qwen3.8-27B, תחת איזה רישיון, ובאיזו מהירות יגיע בעקבותיה אקוסיסטם ההמרה והכוונון העדין.

• הרישיון של המשפחה — האם Qwen 4 יחזור על התבנית של Qwen3.8 Max של משקלים פתוחים תחת רישיון מוגבל בשימוש, או יפתח עוד יותר.

• מרוץ מחירי השירות בתצוגה המקדימה, שיגלה לנו מה באמת עולים הטוקנים של הארכיטקטורה ההיברידית בייצור.

שאלות נפוצות

מתי יוצא Qwen 4? עדיין אין תאריך, וכעת יש שתי הצהרות רשמיות בנוגע לתזמון ולא אחת. מנכ״ל קבוצת Alibaba, אדי וו, אישר ב-Apsara ב-22 בספטמבר 2026 ש-Qwen 4 נמצא באימון, ושקו ממשיך — Qwen 4.5 ו-Qwen 5 — צפוי לעמוד על 5 עד 10 טריליון פרמטרים; ההודעה הרשמית באנגלית של Alibaba חוזרת על שתי ההצהרות. אף אחת מההצהרות אינה כוללת לוח זמנים. שלוש טענות בנוגע לתזמון הופצו, ואף אחת מהן אינה של Alibaba: הדלפת מפת הדרכים מיולי שהעלתה אפשרות לחלון של ספטמבר 2026, שחלף ללא השקה; וחלון אוקטובר עד תחילת נובמבר שמסתובב כעת בפוסטים של רשימות מעקב ובעמודי מעקב, שהוא פרשנות של קצב ההשקות של המעבדה ולא הצהרה מטעמה. השחרור של Qwen3.8-Flash-Next ב-26 באוגוסט הוא במפורש תצוגה מקדימה של הארכיטקטורה, ולא דגם הדגל.

האם Qwen 4 הוא אותו מודל כמו Qwen3.8-Flash-Next? לא. Qwen3.8-Flash-Next הוא מודל פתוח במשקלים שפורסם, ובכרטיס שלו הוא מכונה "A Preview of the Qwen4 Architecture." Qwen 4 היא המשפחה שטרם פורסמה שאליבאבא נתנה לה שם ב-22 בספטמבר — ארבע רמות, בלי מפרטים מפורסמים — והארכיטקטורה משותפת, אבל המוצר לא.

האם אני יכול להשתמש ב-Qwen 4 היום? לא — שום דבר לא מנתב למודל שאין לו משקולות ואין API, וההכרזה מ-22 בספטמבר לא שינתה זאת. הדברים הקרובים ביותר שאפשר ממש לגעת בהם הם משקולות פתוחות של Qwen3.8-Flash-Next שיצאו ב-26 באוגוסט, או ה-API של Qwen3.8 Max, זמין ב-OrcaRouter במחיר $2.00/$6.00 למיליון טוקנים.

הקרנל הוא המסר — וההכרזה מ-22 בספטמבר, על כל זמן הבמה שלה, לא כתבה אותו מחדש. vLLM לא מבזבזת מחזורי סקירה על בניית קרנלים של Triton למשפחות אופרטורים שהיא מצפה לנטוש, ואליבאבא גם היא לא מפרסמת תצוגה מקדימה של ארכיטקטורה שהיא מצפה לנטוש. בין ה-PR ‏"qwen4 fuse op" שעדיין פתוח, התצוגה המקדימה של Qwen3.8-Flash-Next שיצאה ב-26 באוגוסט, רשומת qwen4_exp שיושבת כעת ברישום ה-mainline של vLLM כשהקונפיג שלה הועלה ל-upstream והאינטגרציה הרב-מודלית שלה מוזגה, עבודת ה-PLE-offload שנחתה גם על CUDA וגם על ROCm בספטמבר, ו-PR טיוטה של sglang שנפתח ב-8 בספטמבר ושעדיין מכוונן זיכרון SM120 עבור מסלול חיזוי הריבוי-טוקנים של הסדרה — צורת הדור הבא של Qwen אינה עוד שמועה: היא כתובה בקרנלים ובמסלולי הזיכרון ששני רונטיים בונים עבורו. מה שאפסארה הוסיפה הוא שם לכל דרג, סטטוס אימון, וטווח פרמטרים לדור שאחריו. מה שהקהילה הוסיפה מאז הוא חלון זמן ולא עובדה: מאוקטובר עד תחילת נובמבר, מאותם שרשורי מעקב. אליבאבא לא פרסמה אף אחד מהם. תכננו לפי הארכיטקטורה; אל תהמרו על התאריכים.