بطاقة عنوان مولّدة تحمل عنوان 'ZwZ2-4B vs ZwZ2-9B' مع سطر علوي 'العائلة نفسها، الوصفة نفسها'، وعنوان فرعي 'كلاهما يعمل بـ32 طبقة. طراز 9B أوسع، لا أعمق.'، وأربع شرائح مستديرة تحمل '4.54B مقابل 9.41B'، و'Hidden 2,560 مقابل 4,096'، و'9.08 GB مقابل 18.8 GB BF16' و'بفارق 1.80 نقطة'. ويقرأ التذييل 'كلا التهيئتين تقرآن من المستودعات المنشورة.' شعار OrcaRouter مركّب في الشريط الأبيض أسفل العمل الفني.
Guides & Insights

ZwZ2-4B مقابل ZwZ2-9B: العمق نفسه، ضعف الأوزان، وفارق 1.8 نقطة

الكاتب

Alistair Wren

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

الافتراض البديهي بشأن نموذج 4B ونموذج 9B من العائلة نفسها هو أن الأصغر أقل عمقًا. ZwZ2-4B وZwZ2-9B ليسا كذلك. يصرّح كلاهما بوجود 32 طبقة محوّل بالضبط. ويستخدم كلاهما 16 رأس استعلام مقابل 4 رؤوس مفتاح-قيمة عند بُعد رأس قدره 256. ويحمل كلاهما المفردات نفسها البالغة 248,320 رمزًا والسقف نفسه للسياق البالغ 262,144 موضعًا، ويشغّل كلاهما الجدول نفسه للانتباه بنسبة 3:1 من الخطي إلى الكامل. إن نموذج 9B ليس نسخة أعمق من ZwZ2-4B؛ بل هو أوسع، وبمجرد أن ترى ذلك، يتوقف باقي هذه المقارنة — بما في ذلك فجوة الدرجات الخاصة بالمورّد نفسه — عن أن يبدو كخط مستقيم.

نقطتا التحقق متقاربتان أيضاً زمنياً ومن حيث الأصل. أُنشئت ZwZ2-4B في 15 أكتوبر 2026، وZwZ2-9B في 16 أكتوبر، وكلتاهما بواسطة inclusionAI، ودُرِّبتا بالخط نفسه على المجموعة نفسها المكوّنة من 20,662 سؤال اختيار من متعدد، ولم يُعلن عن أي منهما. تختلفان في نموذجيهما الأساسيين — Qwen3.5-4B وQwen3.5-9B على الترتيب — وفي عرض كل كتلة ينتج عن ذلك.

فرق التكوين، وما يعنيه

تكشف قراءة ملفَّي التكوين طبقةً بطبقة عن اختلاف بنيوي حقيقي واحد، وعدة اختلافات تنشأ عنه آليًا.

• العمق — 32 طبقة في كليهما، متطابقة

• العرض المخفي — 2,560 للنموذج 4B مقابل 4,096 للنموذج 9B، بمعامل 1.6

• عرض التغذية الأمامية — الحجم الوسيط 9,216 مقابل 12,288

• هندسة الانتباه — 16 رأس استعلام، 4 رؤوس مفتاح-قيمة، بُعد الرأس 256، في كليهما

• جدول الانتباه — 24 طبقة خطية و8 طبقات انتباه كامل، في كليهما

• السياق — 262,144 موضعًا في كليهما، M-RoPE عند 11/11/10، تدوير جزئي 0.25

• المفردات — 248,320 رمزًا في كليهما، تضمينات مرتبطة في 4B وغير مرتبطة في 9B

• برج الرؤية — 24 طبقة بحجم مخفي 1,024 مقابل 27 طبقة بحجم مخفي 1,152

• التنبؤ متعدد الرموز — صفر طبقات MTP في كليهما، مع إزالة الرأس التخميني من كل أساس

• المعلمات — 4,539,265,536 مقابل 9,409,813,744، بمعامل 2.07

تستحق صفّان من تلك الصفوف ملاحظة. فالتضمينات غير المرتبطة في نموذج 9B تعني أن مصفوفتَي الإدخال والإخراج لديه نسختان منفصلتان من جدول بحجم 248,320 × 4,096؛ وهذا وحده يمثل نحو ملياري معلمة، وهو جزء كبير من سبب تجاوز نسبة المعلمات (2.07) لنسبة العرض (1.6). وينمو برج الرؤية مع مكدس اللغة — 27 طبقة عند بُعد مخفي 1,152 مقابل 24 عند 1,024 — لذا يرى نموذج 9B الصورة عبر مُرمِّز أعرض، وليس فقط مفكِّك أعرض.

A screenshot of the Hugging Face model page for inclusionAI/ZwZ2-4B showing 0 likes, tags for Image-Text-to-Text, qwen3_5, zwz2 and arxiv:2602.11858, a Downloads last month figure shown as a dash, a model size of 5B params in BF16, the notice 'This model isn't deployed by any Inference Provider', a model tree running from Qwen3.5-4B-Base through Qwen3.5-4B to this checkpoint, the training dataset inclusionAI/ZwZ2-RL-VQA at 20.7k with 5 downloads, and card text reporting overall accuracy rising from 49.41 to 54.79.

الأرقام: مكسب أكبر، وسقف أدنى.

تنشر inclusionAI مقياسًا تجميعيًا واحدًا لكل نموذج: الدقة الإجمالية عبر 25 معيارًا في ستة مجالات، بأوزان متساوية. ووفقًا للأرقام الواردة في بطاقة النموذج نفسها، تبدو سلسلة النماذج على النحو التالي.

• ZwZ2-4B — الأساس 49.41، بعد الضبط 54.79، بزيادة 5.38 نقطة

• ZwZ2-9B — الأساس 51.63، المضبوط 56.59، بزيادة 4.96 نقطة

• ZwZ2-27B — الأساس 55.52، المضبوط 60.51، بزيادة 4.99 نقطة

إذن، نموذج 4B هو الأكثر استفادة وينتهي في المرتبة الأخيرة. أما 9B فيستفيد أقل وينتهي أعلى بـ1.80 نقطة. كلا العبارتين صحيحتان، وأيّهما تهم يعتمد كليًا على السؤال الذي تطرحه. إذا كان السؤال "كم يضيف وصف التدريب هذا؟"، فإن الإجابة تكون أكبر عند 4B. وإذا كان السؤال "أي النموذجين أكثر دقة؟"، فالإجابة هي 9B، بفارق 1.80 نقطة، ولا يغيّر أي صياغة ذلك.

كل هذه أرقام يُبلّغ عنها المورّد على مجموعة اختبارات معيارية اختارها المورّد. لم يُقيّم أحدٌ أي عضو من هذه العائلة بشكل مستقل، وتفاصيل كل اختبار معياري موجودة في الأشكال لا في النص — ملف SVG وملف PNG على كل بطاقة. فجوة 1.80 نقطة هي الملخص الصادق لما هو منشور؛ وليست قياسًا رأيتَه أنت أو رأيتُه أنا مُعادًا إنتاجه.

A screenshot of the Hugging Face model page for inclusionAI/ZwZ2-9B showing 5 likes, tags for Image-Text-to-Text, qwen3_5, zwz2 and arxiv:2602.11858, a Downloads last month figure of 147, a model size of 9B params in BF16, the notice 'This model isn't deployed by any Inference Provider', a model tree running from Qwen3.5-9B-Base through Qwen3.5-9B to this checkpoint, the same 20.7k training dataset, and card text reporting overall accuracy rising from 51.63 to 56.59.

لماذا يتقلص المكسب مع نمو النموذج

هذا النمط — 5.38 عند 4B، و4.96 عند 9B، و4.99 عند 27B — يستحق أن يُؤخذ على محمل الجد بدلًا من تجاهله. إن وصفة تدريب تضيف قدرة إلى نموذج صغير إنما تسدّ فجوة: فالنموذج الأساسي لم يكن يملك السعة أو الإشارة التدريبية اللازمة للانتباه إلى أدلة إقليمية دقيقة، و20,000 سؤال اختيار من متعدد مُنقّى بعناية تعلّمه مهارة كان يفتقر إليها. أما النموذج الأساسي الأكبر فيملك أصلًا قدرًا أكبر من تلك القدرة، لذا فإن المنهج نفسه لديه أقل ما يضيفه. وينخفض العائد الحدّي على البيانات كلما تحسّن الأساس.

هذا هو التفسير المتسامح، وهو التفسير الذي تدعمه الأرقام. أما التفسير غير المتسامح فهو أن مجموعة الاختبارات المعيارية لها سقف، أو أن شكل المهمة ذا الخيارات الأربعة يكافئ النماذج الصغيرة بشكل غير متناسب. وكلا التفسيرين متسق مع الأرقام المنشورة، ولهذا ينبغي التعامل مع فجوة 1.80 نقطة باعتبارها اتجاهًا لا مقدارًا.

A generated two-column scoreboard card titled 'ZwZ2-4B vs ZwZ2-9B - the scoreboard' comparing six rows: Parameters 4.54B vs 9.41B, Layers 32 vs 32, Hidden size 2,560 vs 4,096, Vision tower 24 x 1,024 vs 27 x 1,152, Overall accuracy 54.79 vs 56.59, and Gain over base +5.38 vs +4.96. The footer reads 'All accuracy figures are vendor-reported and independently unreproduced.' The OrcaRouter logo is composited in the white strip below the artwork.

ثمة احتمال ثالث أكثر أهميةً للتبنّي: قد يكون التحسّن مركّزًا. تقول البطاقة «تحسّن على كل معيار»، لكن متوسطًا عبر 25 مهمة متساوية الوزن قد يخفي فوزين كبيرين وعشرين فوزًا صغيرًا. ومن دون الجدول الخاص بكل معيار — وهو غير موجود في النص — لا يمكنك تحديد ما إذا كانت نتيجة 4B البالغة 5.38 متساويةً أو مركّزةً في مهام الإدراك الدقيقة تحديدًا التي تستهدفها الوصفة. وإذا كانت مركّزة، فالنموذج الصغير متخصص ونموذج 9B عامّ، والمتوسط هو الإحصاءة الخاطئة للاختيار بينهما.

يُعد 27B التجربة الضابطة.

الحجم الثالث يجعل حجة العائلة قابلة للاختبار. ZwZ2-27B مبني على Qwen3.6-27B — جيل أساس مختلف عن شقيقيه — ويسجل تحسنًا قدره 4.99 نقطة، وهو في الأساس نفس تحسن 9B البالغ 4.96 وأدنى بكثير من 5.38 لدى 4B. لو كانت قيمة الوصفة تتعلق بجودة البيانات وحدها، لكان المتوقع تحسنًا مستويًا عبر الأحجام. لكن 4B هو الاستثناء. وهذا يتسق مع رواية فجوة السعة ولا يتسق مع رواية تكون فيها بيانات التدريب ببساطة ممتازة بشكل موحد.

كما يحسم طراز 27B نقطة عملية تتعلق بإصدار العائلة. ظهرت المستودعات الثلاثة خلال 23 ساعة من بعضها بعضًا، إذ جاء 4B أولًا و27B أخيرًا، وهو ما يوحي بدفعة نشر واحدة لا بإطلاق تدريجي. وتلا ذلك مجموعة البيانات في 19 أكتوبر. تخبرك التنزيلات أين انصبّ الاهتمام: صفر لـ 4B، و147 لـ 9B، وسبعة لـ 27B. لم يختر أحد المفضّل بعد، والحجم الأوسط هو الوحيد الذي نزّله أي شخص.

المقدَّم: 9 GB مقابل 18.8 GB

الحساب هنا بسيط وهو أقوى حجة لصالح النموذج الأصغر. أوزان ZwZ2-4B عبارة عن ملف BF16 بحجم 9.08 GB؛ أما أوزان ZwZ2-9B فتبلغ نحو 18.8 GB بالدقة نفسها. على بطاقة بسعة 24 GB، يترك النموذج 4B مساحة لذاكرة KV cache وفيرة وحزمة؛ بينما يترك 9B مساحة ضئيلة جدًا. على بطاقة بسعة 16 GB، يتّسع 4B ولا يتّسع 9B إطلاقًا دون تكميم.

لا يقدّم أي مزوّد مستضيف أيًا من النموذجين — إذ لا تشير صفحات Hugging Face إلى أي مزوّد استدلال لأي منهما — لذا فإن كليهما قرارا استضافة ذاتية. وإذا كنت تختار بينهما على أساس العتاد، فإن نموذج 9B ينتمي إلى فئة عتادية مختلفة، وليس مجرد تنزيل أكبر قليلًا. هذا هو المعنى العملي لنسبة المعاملات البالغة 2.07×، وهو أمر تحدده بطاقة الرسوميات لديك، لا فارق الدقة البالغ 1.80 نقطة.

بالنسبة للفرق التي تريد سلوك الإدراك دون تحمّل عبء تقديم الخدمة، فإن الخيار المستضاف الوسطي في الكتالوج هو qwen/qwen3-vl-8b-instruct بسعر 0.18 دولار لكل مليون رمز إدخال و0.70 دولار لكل مليون رمز إخراج، مع سياق يبلغ 131 ألفًا. إنه ليس النموذج نفسه، ولن يدّعي هذا المقال أنه كذلك — لكنه المقارنة التي تحتاجها معظم الفرق فعلاً، ويعمل على المفتاح نفسه الذي يوجّه به OrcaRouter كل شيء آخر، مع تجاوز فشل تلقائي إذا تدهورت إحدى الخدمات الأعلى.

إذا كنت تبني خط أنابيب متعدد المستويات بدلاً من اختيار نقطة تحقق واحدة، فإن طبقة التوجيه هي المكان المناسب للتعبير عن ذلك: أرسل كل صورة إلى نموذج رخيص أولاً، ثم لا تُصعّد إلا الصور ذات الثقة المنخفضة إلى نموذج أكبر. تجمع لغة التوجيه DSL النماذج في استدعاء واحد، لذا فإن التصعيد قاعدة في المسار بدلاً من تكامل ثانٍ. لا يمكن لأي من نقطتي تحقق ZwZ2 أن تكون الطبقة الرخيصة اليوم — فهي ليست مستضافة — لكن النمط هو ما يتجادل بشأنه هذان النموذجان ضمنيًا.

أي واحد يجب أن آخذ؟

• اختر 4B إذا كانت بطاقتك الرسومية بسعة 16 أو 24 GB، وكانت مهمتك تتمثل في أدلة بصرية مرتبطة بمناطق محددة، وكنت تريد أكبر تحسّن مُقاس مقارنةً بنموذج أساسي في هذه العائلة.

• اختر 9B إذا كانت لديك سعة ذاكرة كافية وكنت تريد أعلى دقة نشرها أي شخص لنقطة تحقق ZwZ2 أقل من 27B. فـ1.80 نقطة ليست بالأمر الهين.

• لا تأخذ أيًا منهما بعد إذا كنت بحاجة إلى ترخيص يوقّعه فريقك القانوني. لا يعلن أي من المستودعين عن ترخيص، وتُحيل البطاقات إلى ملف ترخيص غير موجود.

• لا تأخذ أيًا منهما إذا كنت بحاجة إلى ورقة بحثية. لا يوجد توثيق منشور علني لطريقة v2؛ فمعرّف arXiv الموجود على كلتا البطاقتين يعود إلى عمل ZwZ من الجيل الأول على عائلة أساس مختلفة.

التجربة المفيدة حقًا ليست مقارنة 4B بـ9B على 25 معيارًا يخص شخصًا آخر، بل تشغيل كليهما — أو تشغيل 4B مقابل قاعدته الخاصة — على بضع مئات من الصور من عبء عملك الفعلي، وفحص ما إذا كان الرقم 5.38 ينتقل. وحتى يفعل شخص ذلك، فإن الأرقام المنشورة لعائلة النماذج تصف سلوك وصفة على مجموعة مهام، لا قرارًا يمكنك اتخاذه بشأن خط أنابيبك الخاص. ونموذج 4B هو المثير للاهتمام تحديدًا لأن مكسبه هو الأكبر وأدلته هي الأرقّ.