
Qwen 4 QSA يحصل على التوازي السياقي لفك الترميز: داخل طلب السحب المسوّد في vLLM الخاص بـ Qwen3.8-Flash-Next
- OrcaجديدOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 لكل مليون رمز · 185 tok/s
- openaiجديدOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 لكل مليون رمز · 76 tok/s
- openaiجديدOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 لكل مليون رمز · 151 tok/s
- tencentجديدTencent: Hy4 Flash2026-11-16$0.02 / $0.07 لكل مليون رمز · 240 tok/s
- AlibabaجديدQwen: Qwen4 Max2026-11-16$1.50 / $4.50 لكل مليون رمز · 178 tok/s
- GoogleجديدGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 لكل مليون رمز · 94 tok/s
- AnthropicجديدAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 لكل مليون رمز · 212 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 لكل مليون رمز · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 لكل مليون رمز · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 لكل مليون رمز · 82 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 لكل مليون رمز · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 لكل مليون رمز · 105 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 لكل مليون رمز · 68 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 لكل مليون رمز · 36 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 لكل مليون رمز · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 لكل مليون رمز · 39 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447الذكاء
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 لكل مليون رمز · 222 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929الذكاء
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 لكل مليون رمز · 104 tok/s
في 2026-09-29، ظهر طلب سحب مسوّدة في مستودع vLLM بعنوان «[Model][DCP] Support Qwen4Exp QSA»، وهو يحمل، بالنسبة للنموذج الذي يصفه، أكثر أرقام الخدمة تحديدًا نشرها أي شخص طوال الشهر: تشغيلات مقترنة لـ Qwen3.8-Flash-Next على أربع وحدات GPU تُظهر انتقال سعة رموز KV من 9,759,529 إلى 17,603,636، والحد الأقصى للتزامن من 37.23× إلى 67.15×، وانخفاض زمن الوصول إلى أول رمز من 1,869 مللي ثانية إلى 767 مللي ثانية. وQwen3.8-Flash-Next هو معاينة مفتوحة الأوزان من نوع خليط الخبراء بـ125 مليار معامل، تصفها بطاقته على Hugging Face بأنها «معاينة لمعمارية Qwen4»؛ ويضيف طلب السحب توازي سياق فك التشفير إلى مسار الانتباه المتناثر الذي بُنيت حوله تلك المعمارية. أما Qwen4 نفسه — بطبقات Qwen4 Max وFlash وPlus و27B التي سمّاها المورّد في مؤتمر Apsara في 2026-09-22 — فلا يزال غير مُصدَر، بلا أوزان ولا معرّف ولا سعر ولا موعد. لذا اقرأ هذا على حقيقته: ليس إطلاقًا، ولا اختبار أداء، بل أثرًا هندسيًا يخبرك كيف يجري توسيع غلاف خدمة Qwen4 قبل أن توجد العائلة.
هذا مقال «ما نعرفه حتى الآن»، وتوثيق المصادر فيه أهم من المعتاد. طلب السحب هو مسودة، ومفتوح، وغير مدموج — vllm-project/vllm#59279، فُتح في 2026-09-29 بواسطة Sungsoo Ha، مهندس برمجيات في NVIDIA، ولا يزال في حالة مسودة. كل رقم أدناه هو قياس مزدوج خاص بالمؤلف، مُبلَّغ عنه في متن طلب السحب، ومأخوذ على مراجعة أسبق من العمل نفسه. لا شيء هنا مدقق بشكل مستقل، ولا شيء هنا وصل إلى إصدار، والتحذير الذي يرفقه المؤلف جوهري بما يكفي ليخصص له قسم خاص به أدناه.
ما الذي يغيّره طلب السحب فعليًا
توازي سياق فك التشفير — DCP — هو تقنية خدمة، وليس تغييرًا في النموذج. فبدلًا من أن تحتفظ مجموعة GPU واحدة بكامل ذاكرة KV المؤقتة، يقسّم DCP تلك الذاكرة المؤقتة عبر الرتب، بحيث لا تقرأ كل رتبة سوى شريحتها من السياق، بينما تُجمَّع نتائج الانتباه عبر الرتب في النهاية. المقصود هو السعة: فمع تقسيم الذاكرة المؤقتة، يمكن لنشر ما أن يستوعب قدرًا أكبر بكثير من حركة السياق الطويل المتزامنة على العتاد نفسه، وهو بالضبط القيد الذي يضغط عندما يحمل كل طلب ربع مليون رمز.
التعقيد هو أن Qwen Sparse Attention — QSA — ليس طبقة انتباه عادية. وكما تحدد بطاقة نموذج Qwen3.8-Flash-Next، فإن مفهرسًا خفيفًا يضغط المفاتيح إلى كتل دقيقة بنسبة ضغط قدرها 4، ويمنحها درجات، ويحتفظ بأفضل 512 كتلة، أي نحو 2,048 موضع رمز، بينما لا يزال softmax النهائي وتجميع القيم يعملان على K وV غير المضغوطين. وهذا يعني أن QSA يحمل حالة أكثر من ذاكرة KV المؤقتة: فهناك الذاكرة الرئيسية، وهناك ذاكرة المحدد والذاكرات الجانبية التي يحتفظ بها المفهرس. ولا يعرف التنفيذ العام لـ DCP في vLLM شيئًا من ذلك.
ما يفعله #59279، وفقًا لوصفه، هو تعريف DCP بالأجزاء الخاصة بـ QSA:
• تقرأ كل رتبة الجزء الخاص بها من الرئيسية ذاكرة KV، بينما يبقى محدِّد QSA وذاكراته الجانبية منسوخة عبر الرتب بدلاً من تجزئتها.
• تُجمَع نتائج الانتباه عبر الرتب بعد قراءة الانقسام.
• يُحفظ المحدِّد وذاكرة KV المؤقتة الرئيسية في مجموعة ذاكرة مؤقتة واحدة، لذا لا يمكن أن يتباعدا.
• تُمنع دفعات Synthetic V2 الاصطناعية من الكتابة إلى ذاكرات التخزين المؤقت الجانبية QSA.
![A capture of the vLLM GitHub pull request #59279, titled '[Model][DCP] Support Qwen4Exp QSA', showing an Open state with a Draft badge, the head branch sungsooha:n4/qsa-dcp-clean-20260929, the description of how decode context parallelism is enabled for Qwen4Exp QSA, and the labels kv-cache-manager, mrv2, speculative-decoding, dflash, nvidia, qwen and ci/build.](https://cms.orcarouter.ai/api/media/file/2-1437.png)
هذا الزوج الأخير من التفاصيل هو الجزء المثير للاهتمام إذا كنت تهتم بالصحة بدلًا من الإنتاجية. إن ذاكرة انتباه مقسّمة (sharded) تختلف بهدوء عن محدّد منسوخ (replicated selector) هي نوع من الأخطاء التي تظهر كتدهور بطيء في الدقة عند السياق الطويل بدلًا من انهيار، والتغيير صريح بشأن إبقاء الاثنين متوافقين. يذكر المؤلف أيضًا أن مساعدة الذكاء الاصطناعي استُخدمت وأن Codex مُدرج كمساهم مشارك — وهذا جدير بالقول بصراحة، لأنه في PR أولي بهذا الشكل من المنصف أن تسأل من كتب ماذا.
الأرقام المزدوجة، وكيف تم الحصول عليها
خطة الاختبار محددة بما يكفي لتكون قابلة للتحقق، ولهذا تستحق النتائج الاقتباس. يشغّل كلا الجانبين Qwen/Qwen3.8-Flash-Next-FP8 على أربع وحدات GPU مع توازٍ تنسوري 4 وتوازٍ للخبراء مُفعّل، عند --gpu-memory-utilization 0.90 مع تفعيل التخزين المؤقت للبادئات. الفرق الوحيد بين الجانبين هو --decode-context-parallel-size: يُحذف عند DCP=1، ويُضبط على 2 عند DCP=2، مع إعادة تشغيل بين الجانبين كي يبدأ القياس من ذاكرة مؤقتة باردة. الحمل هو تتبّع AgentX بحجم 256k عند 128 مستخدمًا لمدة 900 ثانية؛ والدقة هي EvalScope لـ GSM8K إضافةً إلى مُقيّم MRCR المُودَع في المستودع، ويُشغَّل ست مرات لكل جانب مع تجاهل التشغيل الأول بعد إعادة التشغيل.
فروق معدل النقل المبلّغ عنها، DCP=2 مقابل DCP=1:
• رموز KV — 9,759,529 مقابل 17,603,636، بزيادة 1.80× في سعة التخزين المؤقت.
• أقصى درجة تزامن — 37.23× مقابل 67.15×، وأيضًا 1.80×.
• الطلبات في الثانية — 1.69 مقابل 2.30، 1.36×.
• رموز الإدخال في الثانية — 128,730 مقابل 179,702، 1.40×.
• زمن الوصول إلى أول رمز — 1,869 مللي ثانية مقابل 767 مللي ثانية، أقل بمقدار 2.44×.
• زمن الوصول بين الرموز — 43.48 مللي ثانية مقابل 26.27 مللي ثانية، أقل بـ 1.66×.
• معدل إصابة ذاكرة التخزين المؤقت للبادئة في الحالة المستقرة — 67.85% مقابل 88.98%، بزيادة 21.1 نقطة مئوية.

كانت الدقة، المُبلَّغ عنها كمتوسط ± الانحراف المعياري للعينة عبر التشغيلات بعد الإحماء، شبه ثابتة: إجمالي MRCR 0.8630 ± 0.0005 عند DCP=1 مقابل 0.8697 ± 0.0153 عند DCP=2، وGSM8K 0.9788 ± 0.0020 مقابل 0.9790 ± 0.0016. كانت عينات MRCR ذات 2-needle و4-needle ثابتة عند 0.9960 و0.9906 في كلا الذراعين، لذا جاء كل التحرك بين التشغيلات من عينات 8-needle — وسجّلت إحدى التشغيلات المجمّعة عند DCP=2 قيمة 0.8970 بينما تراوحت الأربع الأخرى بين 0.8620 و0.8632. هذا تفاوت حقيقي، وليس ضجيجًا يمكن التلويح به جانبًا، وقد ذُكر في PR بدلًا من تنعيمه.
ما لا تُثبته هذه الأرقام
التحذير موجود في نص PR وهو ليس بالهيّن. قيست نتائج AgentX والدقة المزدوجة على نسخةأقدم من مراجعة QSA DCP، باستخدام نسخة vLLM الليلية المبنية على الالتزام 3df4ae153eb. يتضمن الالتزام النهائي النظيف في طلب السحب إصلاحًا لاحقًا لنواة التوطين الخاصة بـ QSA وقد اجتاز تحققًا مركّزًا على B200 — لكن التقييمات الكاملة لـ AgentX والدقة لم تُعَد على ذلك المصدر بالضبط. بعبارة أخرى: سردية الإنتاجية والفرق المشحون ليسا الأثر نفسه، والمؤلف يقول ذلك.
علاوة على ذلك، ينطبق الانضباط المعتاد، وهو ينطبق بقوة هنا. هذه أرقام تكوين واحد من مساهم واحد على إعداد واحد بأربع وحدات GPU. وهي قريبة من طرف البائع وليست محايدة: فقيام أحد مساهمي إطار العمل بقياس تغيير في إطار العمل أمر طبيعي ومفيد، لكنه ليس تدقيقًا مستقلًا، ولم يكرر أي طرف ثالث التشغيل. لا توجد نسخة vLLM صادرة يمكنك تثبيتها اليوم وتتضمن هذا التغيير، لأن التغيير لم يُدمج بعد. وDCP=2 هو تقسيم على اتجاهين لشكل محدد واحد — والفروق ليست وعدًا بما قد تفعله DCP=4 أو DCP=8، ولا شيء في الـ PR يزعم أنها كذلك.
لماذا لا يزال طلب سحب (PR) خاص بالخدمة حول بنية غير مُصدَرة يستحق وقتك
الاعتراض البديهي: النموذج المذكور في العنوان غير موجود، فلماذا الاهتمام؟ لأن الشيء الذي يجري ضبطه ليس Qwen 4. إنه Qwen3.8-Flash-Next، وذلك النموذج موجود بالفعل — فقد نشرته Alibaba في 2026-08-24 بوصفه MoE بـ125 مليار معلمة مع تفعيل 6 مليارات منها، وجدول تضمين n-gram بـ51 مليار معلمة، ورأس MTP بحجم 4 مليارات للفك الترميزي التخميني، و48 طبقة مرتبة على شكل اثني عشر تكرارًا من ثلاث كتل Gated DeltaNet تتبعها كتلة QSA واحدة، و512 خبيرًا منها 10 موجّهة و1 مشترك نشط، وسياق أصلي من 262,144 رمزًا تقول بطاقته إنه قابل للتوسيع إلى 1,000,000. وهو التنفيذ المرجعي لمعمارية Qwen4 بأوزان مفتوحة، وQSA — أي الانتباه المتناثر بالكتل الدقيقة الذي يعلّم طلب السحب هذا DCP كيفية تجزئته — هو الجزء الأكثر تميزًا فيه.
ما تصفه الأرقام هو ما يحدث عندما تتوقف عن التعامل مع سياق الـ 262K ذلك باعتباره شيئًا يجب أن تحتفظ به مجموعة GPU واحدة كاملًا. إن القفزة بمقدار 1.80× في سعة رموز KV والتزامن هي حساب تقسيم ذاكرة تخزين مؤقت إلى قسمين، وهي أقل نتيجة مثيرة للدهشة في القائمة. الأرقام الأكثر إثارة للاهتمام هي أرقام زمن الاستجابة: زمن أقل بمقدار 2.44× حتى أول رمز، وزمن استجابة بين الرموز أقل بمقدار 1.66× عند نفس الحمل المقدَّم، إضافة إلى تحسّن بمقدار 21 نقطة في معدل إصابة ذاكرة البادئة المؤقتة في الحالة المستقرة. تشير هذه الأرقام إلى أن مسار DCP لا يشتري السعة على حساب زمن الاستجابة فحسب — بل حصّل كليهما في هذا التشغيل المقترن. وهذا هو شكل التغيير الذي يهم أي شخص يقدّم حركة الوكلاء مع مطالبات نظامية طويلة جدًا، لأن سلوك ذاكرة البادئة المؤقتة عند السياق الطويل هو عادةً حيث تموت إنتاجية السياق الطويل بهدوء.
وهذه ليست رقعة معزولة. فقد أنتج الأسبوع نفسه مجموعة من أعمال محرك Qwen4Exp: يضيف #59214 خطط GEMM منخفضة الكمون لفك التشفير على SM100 من أجل أشكال B200، ويضيف #59010 نواة prefill متناثرة أصلية على SM90 لمسار QSA على Hopper، ويغطي #58977 تضمينات BF16 INC PLE، أما #58961 — وهو الوحيد الذي دُمج فعلاً، في 2026-09-28 — فقد أصلح ذاكرة KV مؤقتة للتنميط كانت عروض مفاتيح QSA تُبقيها حية. وبقراءتها معًا، فإنها تشكل غلاف الخدمة لمعمارية Qwen4 التي تُبنى علنًا داخل بيئات التشغيل، قبل أشهر من طرح العائلة. وإذا كنت تخطط لـ Qwen 4، فالإشارة المفيدة ليست تاريخ إطلاق — فلا يوجد تاريخ — بل ما تفترضه النوى وتخطيطات ذاكرة التخزين المؤقت مسبقًا بشأن الكيفية التي سيتعين عليك بها خدمته.
ما يمكنك الاتصال به اليوم
إذا أردت اختبار سلوك السياق الطويل على البنية التي يتناولها طلب السحب هذا، فالنموذج الذي ينبغي اللجوء إليه هو فئة Flash التي تقدمها علي بابا فعليًا. Qwen3.8-Flash — النشر الإنتاجي المبني على Qwen3.8-Flash-Next، بسياق يبلغ 1,000,000 رمز وإخراج أقصى يبلغ 131,072 رمزًا، ويستقبل مدخلات نصية وصورية وفيديو — متاح الآن، وهو نقطة وصول واحدة للنموذج الذي يشغّل بنية Qwen4Exp فعليًا اليوم، مُدرَج باسم qwen/qwen3.8-flash بسعر 0.15 دولار لكل مليون رمز إدخال و0.47 دولار لكل مليون رمز إخراج، مع قراءات الذاكرة المؤقتة بسعر 0.0184 دولار. ولأن هذه أسعار قائمة المزوّد تُمرَّر دون أي هامش ربح من جانبنا، فإن أي تغيير في سعر المورّد أو حدوده يصلك في اليوم نفسه الذي يُعلن فيه.

تحفّظان صادقان. أولًا، Qwen3.8-Flash-Next نفسه — أوزان FP8 في خطة اختبار طلب السحب، تلك التي ستحتاجها لإعادة إنتاج أي من هذه القياسات محليًا — ليس في كتالوجنا؛ فطبقة Flash المخدومة هي خط إنتاج QwenCloud، وليست نقطة الحفظ الخام للمعاينة. إذا أردت تشغيل التكوين الدقيق في PR فأنت تستضيفه ذاتيًا على أربع وحدات GPU. ثانيًا، تغيير DCP غير مدموج، لذا لا شيء يمكنك استدعاؤه في أي مكان اليوم يشغّله. ما تمنحك إياه الطبقة المخدومة هو وسيلة لمعرفة ما إذا كان عبء عملك مهيأ أصلًا للمشكلة التي يحلها DCP: إذا كانت مطالباتك طويلة وقائمة على الوكلاء وكثيفة البادئات، فإن سعة 1.80× وفرق ذاكرة التخزين المؤقت للبادئة هما الرقمان اللذان ينبغي مراقبتهما في آثارك الخاصة.
وإذا كان الجزء المثير للاهتمام بالنسبة لك ليس نموذجًا واحدًا بل مسألة التبديل — أي فئة تبني عليها بينما لا تزال تشكيلة Qwen 4 بلا اسم — فهذه مشكلة توجيه لا مشكلة خدمة، وواجهة API واحدة لأكثر من 200 نموذج هي طريقتك لإبقاء الخيار مفتوحًا دون عقد ثانٍ أو تغيير في الشيفرة عندما تصل العائلة أخيرًا.
أسئلة تستحق الإجابة عنها مباشرة
هل يعني #59279 أن Qwen 4 قد صدر، أم أنه على وشك الصدور؟
لا. طلب السحب يتعلق ببنية Qwen4Exp كما هي مطبقة في Qwen3.8-Flash-Next، التي أطلقتها Alibaba في 2026-08-24. عائلة Qwen 4 — Max وFlash وPlus و27B — سُمّيت على منصة في Apsara في 2026-09-22 ووُضعت على خارطة طريق الشركة مع خط خَلَف متوقع بـ5 إلى 10 تريليونات معامل، ولا تزال بلا بطاقة نموذج، ولا أوزان، ولا معرف API، ولا نافذة سياق، ولا سعر، ولا تاريخ. طلب سحب لإطار عمل يضيف نمط توازٍ إلى البنية التجريبية هو خطوة نحو خدمة Qwen 4 جيدًا. لكنه ليس خطوة نحو وجود Qwen 4.
كيف يختلف توازي سياق فك التشفير عن التوازي الموتري؟
إنهما يقسّمان أشياء مختلفة ويفشلان بطرق مختلفة. يقسّم التوازي الموترّي الأوزان وحسابات كل طبقة عبر وحدات GPU، لذا تشارك كل رتبة في كل رمز لكنها ترى التسلسل كاملاً. يقسّم توازي سياق فك التشفير ذاكرة KV المؤقتة نفسها، لذا تحتفظ كل رتبة بشريحة من السياق وتقرأها فقط، ثم تُدمج نتائج الانتباه الجزئية بعد ذلك. يتعلق TP باحتواء النموذج؛ أما DCP فيتعلق باحتواء السياق وحركة المرور المتزامنة التي تعتمد عليه. هذا التمييز هو بالضبط سبب كون طلب السحب PR هذا غير بسيط: لا يمكن ببساطة تجزئة محدّد QSA وذواكره المؤقتة الجانبية بالطريقة التي يمكن بها تجزئة ذاكرة KV الرئيسية، لذا يجب أن يجزّئ التغيير أحدها ويكرّر البقية، ثم يثبت أن الاثنين يبقيان متسقين.
إذا استدعيت Qwen3.8-Flash-Next اليوم عبر واجهة برمجة تطبيقات مستضافة، فهل أحصل بالفعل على هذه الأرقام؟
لا، والفجوة تتكوّن من ثلاثة أجزاء. التغيير غير مدموج، لذا لا يحتوي أي إصدار صادر من vLLM عليه. وحتى بعد دمجه، يتعيّن على المزوّد تبنّي ذلك البناء واختيار التشغيل بحجم DCP أكبر من واحد — فهو إعداد خدمة، وليس إعدادًا افتراضيًا. كما أن الفروقات المقيسة مأخوذة من مراجعة سابقة للتصحيح وليس من الالتزام النهائي، الذي يذكر المؤلف أنه لم يحظَ سوى بتحقق مركّز على B200 حتى الآن. تعامل مع الفروقات المُبلّغ عنها كحد أعلى موثّق جيدًا لما يوفّره هذا النهج في إعداد واحد، وليس كمواصفة لأي نقطة نهاية يمكنك استئجارها هذا الأسبوع.
السؤال المفتوح
الشيء الذي ينبغي مراقبته ليس ما إذا كانت هذه المسودة تحديدًا ستُدمج — فالأرجح أنها ستُدمج بشكل ما، لأن معالجة التخزين المؤقت الخاصة بـ QSA التي تضيفها تمثّل ثغرة حقيقية لا مجرد تفضيل. الشيء الذي ينبغي مراقبته هو ما إذا كان الالتزام النهائي سيحصل على التقييم المقترن نفسه الذي حصلت عليه المراجعة الوسيطة. إن تغييرًا في الخدمة تأتي مزاعم الإنتاجية فيه من بناء واحد ومزاعم الصحة فيه من بناء آخر هو، في الوقت الحالي، اقتراح جيد الحجة لا نتيجة مقيسة، كما أن تفاوت الدقة في عينات MRCR ذات الإبر الثماني واسع بما يكفي ليكون إعادة تشغيل الاختبار على المصدر المشحون الشيء الأكثر فائدة الذي يمكن لأي أحد نشره عنه. وحتى ذلك الحين: الاتجاه واضح، والسجل غير مغلق، والنموذج الوحيد بمعمارية Qwen4 ضمن الأوزان المفتوحة لا يزال هو نموذج أغسطس.
