رفع SkyRL نتيجة AIME الخاصة بـ Mistral Large 4 بمقدار أحد عشر نقطة على ثماني عُقد: ما الذي يثبته Day-0 RL على MoE بحجم 1T
- OrcaجديدOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-2999 tok/s
- OrcaجديدOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 لكل مليون رمز · 101 tok/s
- OrcaجديدOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 لكل مليون رمز · 284 tok/s
- OrcaجديدOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 لكل مليون رمز · 93 tok/s
- MoonshotجديدMoonshotAI: Kimi K3.1 Pro2026-10-2446الذكاء
- OrcaجديدOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 لكل مليون رمز · 106 tok/s
- minimaxجديدMiniMax: M3.1 Flash2026-10-1929الذكاء
- OrcaجديدOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 لكل مليون رمز · 70 tok/s
- deepseekجديدDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733الذكاء
- DeepSeekجديدDeepSeek: DeepSeek V4.1 Flash2026-10-1740الذكاء
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 لكل مليون رمز · 95 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955الذكاء
- anthropicAnthropic: Claude Sonnet 5.52026-09-2854الذكاء
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 لكل مليون رمز · 167 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2228الذكاء
- OpenAIOpenAI: GPT-6 Sol2026-09-2248الذكاء
- AnthropicAnthropic: Claude Opus 5.52026-09-2258الذكاء
- xiaomiXiaomi: MiMo-V2.6-Flash2026-09-2127الذكاء
- xiaomiXiaomi: MiMo-V2.6-Pro2026-09-2130الذكاء
- xAIGrok 4.72026-09-2134الذكاء
أُعلن عن Mistral Large 4 كمعاينة API في 6 أكتوبر 2026، ولم تصبح أوزانه قابلة للتنزيل إلا عند 14:51 UTC يوم 29 أكتوبر — وهو ما يجعل تقرير التعلّم المعزّز المنشور في اليوم نفسه جديرًا بالملاحظة لسبب لا يطنب مؤلفوه في الحديث عنه: قبل ظهيرة ذلك اليوم، لم يكن لدى أي جهة خارج Mistral نتيجة ضبط دقيق يمكن نشرها. تأتي المذكرة من فريق SkyRL في NovaSky. ثماني عُقد NVIDIA GB200، وتعلّم معزّز بـ LoRA على نقطة حفظ NVFP4، وvLLM تخدم عمليات التوليد، ومتوسط@8 في AIME 2024 يرتفع من نحو 64% إلى نحو 75% عبر 75 خطوة تدريب. إحدى عشرة نقطة على معيار تُحسم عادةً بأعشار النقطة إما أن تكون أنفع نتيجة ليوم الصفر في الربع أو أقلّها قابلية للتكرار، والمذكرة كما كُتبت لا تخبرك أيّهما.
ما تخبرك به فعلًا حقيقي، ويستحق فصله عمّا لا تخبرك به. العتاد مذكور بالاسم. ونقطة التحقق مذكورة بالاسم. ومحرك التشغيل مذكور بالاسم. وإطار التدريب مذكور بوصفه واحدًا من اثنين. وما يغيب هو دالة المكافأة، ورتبة المحوّل، ومنظومة التقييم، وأي منحنى تعلّم — وهي الأمور الأربعة التي يحتاجها فريق آخر لمحاولة إجراء التشغيل نفسه. لذا هذا إعلان عن وصفة تدريب مرفق برقم رئيسي، وليس حزمة إعادة إنتاج. اقرأه على أنه الأول، فإنه مفيد معلوماتيًا حقًا بشأن تكلفة التدريب اللاحق لنموذج خليط خبراء بتريليون معامل في أواخر 2026. واقرأه على أنه الثاني، فستبالغ في تقدير معيار تقييم واحد على مهمة واحدة.
ما تقوله ملاحظة SkyRL فعليًا
الادعاء بأكمله يتّسع في خمسة أسطر، فها هو دون أي إطار:
• الأجهزة — 8 عُقد NVIDIA GB200، مستأجرة بدلاً من مملوكة، والتي تمثل بواقع أربع وحدات GPU لكل عقدة 32 قطعة Blackwell ونحو 6.1 تيرابايت من إجمالي ذاكرة HBM بواقع 192 غيغابايت لكل GPU.
• نقطة تحقق — الشقيقة المكمَّمة بـ NVFP4 من الإصدار المفتوح، بمساحة 610.1 غيغابايت موزّعة على 32 جزءًا، وليست النموذج الأصل FP8 البالغ 1,060.6 غيغابايت. هذا الاختيار هو الخيار الحاسم: فهو ما يجعل نموذجًا بحجم 1T يتّسع على ثماني عُقد مع بقاء مساحة للتفعيلات وذاكرة KV المؤقتة ونسختين من أوزان محرك التشغيل.
• الطريقة — LoRA بدلًا من التعلم المعزز على كامل المعاملات. لا تتلقى التدرجاتَ إلا المهايئات، لذا تبقى حالة المُحسِّن صغيرة ويمكن للأساس المُجمّد أن يبقى في صيغته المُكمّاة.
• Loop — يولّد vLLM عمليات التوليد؛ بينما يتولى FSDP2 أو Megatron الجانب التدريبي. تقدم المذكرة كليهما كخيار، مما يدل على أن الواجهة الخلفية للتدريب كانت لا تزال قيد الاستبدال عند كتابة النتيجة.
• النتيجة — AIME 2024 average@8 من حوالي 64% إلى حوالي 75% خلال 75 خطوة تدريبية.
لا شيء في تلك القائمة يُعدّ مواصفةً للتشغيل. فلا يوجد حجم دفعة، ولا طول تسلسل، ولا معدل تعلّم، ولا حجم مجموعة للتدرّج السياسي، ولا بيان لما كانت عليه المكافأة عدا ما هو ضمني: «إجابات AIME قابلة للتحقق». قيمة الـ75 خطوة دقيقة؛ غير أنّ تقريبًا كل ما يلزم لتفسيرها ليس كذلك.
لماذا يُعدّ عدد العُقد هو العنوان الرئيسي، وليس درجة AIME؟
إن تريليون معامل هو رقم يعمل في الغالب كعامل رادع. تبلغ نقطة حفظ FP8 حوالي 1.06 TB، وهو حجم مقبول إذا كان لديك مركز بيانات، لكنه يمثل مشكلة إذا كان لديك رف واحد. نقطة حفظ NVFP4 تخفض ذلك إلى النصف لتصبح 610 GB، و610 GB كمية يمكن توزيعها عبر ثماني عُقد دون حيل تجزئة تكلفك في الاتصال أكثر مما توفر في الذاكرة.
ولهذا فإن الجملة المثيرة للاهتمام في الملاحظة ليست تلك التي تحتوي على النسبة المئوية. فقد كانت Hugging Face قد نشرت بالفعل وصفة ضبط دقيق بإشراف لهذا النموذج — LoRA عبر مدرب SFT التابع لـ TRL، على عقدة واحدة من ثماني وحدات معالجة رسومية B300، فوق أوزان FP8. وهكذا كان SFT على عقدة واحدة موثقًا قبل أن يبلغ عمر الأوزان يومًا واحدًا. أما ما لم يكن موثقًا فهو التعلم المعزز، والسبب بنيوي: يحتاج RL إلى محرك استدلال يعمل إلى جانب المدرب، يولّد عمليات التوليد بسرعة كافية بحيث لا يتضاءل وقت GPU الذي يُنفق على التدريب أمام وقت GPU الذي يُنفق على أخذ العينات. يقرأ SFT مجموعة بيانات ثابتة. أما RL فعليه أن ينتج مجموعته الخاصة.
إذن، الفرق بين الوصفتين المنشورتين ليس ثماني عُقد مقابل عُقدة واحدة. بل هو ثماني عُقد مع حزمة خدمة مقابل عُقدة واحدة بلا حزمة خدمة، لمهمة يجب أن يحاول فيها النموذج ثلاثين مسألة ثماني مرات لكل منها قبل أن يتعلم أي شيء. محرك rollout هو مركز التكلفة الجديد، وتسمية vLLM كمولّد هي الجزء من الملاحظة الذي يمكن للفرق الأخرى أن تتصرف بناءً عليه اليوم.
المقارنة التي سيُجريها الجميع، ولماذا هي غير منصفة في كلا الاتجاهين
أجرت Mistral تدريب التعلم المعزز الخاص بها على هذا النموذج قبل نشر أوزان النموذج، وكانت الشركة محددة بشأن شكل ذلك: نحو ثلاثة أسابيع إضافية بعد المعاينة الصادرة في 6 أكتوبر، جرى تنفيذها على حوسبة فرنسية تصفها الشركة بالميغاواط بدلاً من وحدات GPU — نحو 10 ميغاواط — مع تقارير أخرى تضع البنية التحتية الأوسع للتعلم المعزز عند نطاق 3000 وحدة GPU. النتائج التي نشرتها عن ذلك التشغيل:
• Terminal-Bench 4.0 — 28.3% قبل التعلم المعزز الإضافي، و41% بعده.
• BrowseComp — 75% قبل، 84.5% بعد.
• حزمة أمان الوكلاء B3 — 93.3% قبل، 97.1% بعد.
• طول المخرجات — نحو 30% رموز أقل لكل مهمة بعد التعلم المعزز (RL)، وهو ما يهم المشتري أكثر من أيٍّ من صفوف الدقة.
ضع ذلك إلى جانب 64 إلى 75 على AIME، وسيغريك أن تحسب نسبةً من ساعات GPU لكل نقطة. قاوم هذا الإغراء، لأن التجربتين لا تشتركان تقريبًا في أي متغيّرات. مكسب Mistral يأتي في العمل الطرفي الوكيلي والتصفح، وقد قاسه مورّد صمّم نظام المكافآت داخليًا ولديه ثلاثة أسابيع من الزمن الفعلي. أما مكسب SkyRL فيأتي في رياضيات المسابقات، وقد قاسه شريك لديه عنقود مستأجر ومكافأة يستطيع سكربت التحقق منها. إن انتقالًا بمقدار 13 نقطة على Terminal-Bench وانتقالًا بمقدار 11 نقطة على AIME ليسا الإنجاز نفسه معبّرًا عنه بوحدات مختلفة؛ بل هما إنجازان مختلفان تصادف أنهما متقاربان في الحجم.
القراءة المنصفة أضيق وأكثر فائدة: ثلاثة أسابيع من التعلم المعزز (RL) على نطاق مراكز البيانات حرّكت درجة Mistral الطرفية بمقدار ثلاثة عشر نقطة، وبضع ساعات من LoRA RL على نطاق ثماني العقد حرّكت درجة الرياضيات لدى أحد الشركاء بمقدار إحدى عشرة نقطة. كلا الرقمين يقولان الشيء نفسه — نقطة التحقق هذه تستجيب للتعلم المعزز بسهولة — ولا يقول أيٌّ منهما شيئًا عن الآخر.
ما الذي يثبته وما لا يثبته 64 إلى 75 في AIME 2024
ابدأ بالحساب، لأنه الجزء الوحيد من هذا الذي يمكن التحقق منه دون وحدة معالجة رسوميات (GPU). تتكون AIME 2024 من ثلاثين مسألة. ويعني Average@8 ثماني محاولات مُعاينة لكل مسألة، لذا يستند الرقم المُبلَّغ عنه إلى 240 إكمالًا. ويبلغ خطأ المعاينة في نسبة قريبة من 70% عند حجم العينة هذا بضع نقاط مئوية، وهو ما يضع تحركًا بمقدار إحدى عشرة نقطة خارج نطاق الضوضاء ب comfortably. وإذا كان الرقمان صادرين عن نفس أداة الاختبار، فإن التحسين حقيقي في تلك المهمة.
هذا هو أقوى ما يمكن قوله، ويستحق أن يُقال بوضوح لأن معظم ادعاءات يوم الصفر لا تبلغ هذا القدر حتى. والآن، حدود ذلك:
لا توجد نتيجة AIME منشورة من Mistral لهذا النموذج. خط الأساس البالغ 64% هو قياس SkyRL الخاص لنقطة التحقق الأساسية على أداة الاختبار الخاصة بها، لذا فإن الفرق متسق داخليًا لكنه غير مستند إلى مرجع خارجي — لا يمكنك التحقق منه مقابل رقم من المورّد لأنه لا يوجد رقم من المورّد.
• {{1}}Average@8{{/1}} ليس pass@1. ثماني محاولات لكل مسألة تُحسّن صورة أي نموذج ذي توزيع معاينة واسع، والفجوة بين المقياسين تبلغ عادةً من خمس إلى خمس عشرة نقطة في رياضيات المسابقات. الرقم الذي يحدد ما إذا كنت ستنشر النموذج هو المحاولة الواحدة التي تمنحها له في الإنتاج.
• يبلغ عمر AIME 2024 عامين ونصفًا، وهو من أكثر مجموعات الرياضيات تمثيلًا في بيانات التدريب اللاحق. وحصول نموذج لعام 2026 على نتيجة جيدة فيه دليل على نقطة تحقق قابلة للتدريب، وليس حكمًا على الاستدلال. ولا يذكر أي شيء في الملاحظة تقييمًا على بيانات محجوزة أو تقييمًا أحدث.
• مهمة واحدة، تشغيل واحد، مكافأة واحدة. يُعدّ التعلم المعزز على الرياضيات القابلة للتحقق أسهل حالة ممكنة: فلا تحتاج المكافأة إلى مُحكِّم، ولا إلى معايير تقييم، ولا إلى بشري. والنتيجة بيان عن مدى تقدُّم هذا النموذج تحت أرخص إشارة تعلم معزز ممكنة، وهو ما يُعدّ حقًا التجربة الأولى الصحيحة، وأيضًا الأقل قابلية للنقل.
ما ستحتاج إليه لإعادة إنتاجه، وما يسمح به الترخيص
قائمة التسوق العملية، التي أُعيد بناؤها من الملاحظة بدلًا من أن تكون منشورة منها:
• نقطة حفظ NVFP4 — بسعة 610 GB، و32 شاردًا، ومتاحة دون قيود، وقابلة للتنزيل اليوم دون الحاجة إلى بوابة حساب على Hugging Face.
• نحو 32 وحدة معالجة رسومات من فئة Blackwell موزعة على ثماني عُقد، بالإضافة إلى الربط البيني الذي يمنع مزامنة المحول من استهلاك زمن الخطوة.
• نسخة vLLM مبنية بمسار NVFP4 عامل لهذه البنية. توصي بطاقة النموذج باستخدام vLLM مع حاوية رسمية وحجم توازي تنسوري يساوي ثمانية، وتشير إلى رأس فك ترميز تخميني مضمّن تدّعي الشركة أنه يوفّر حتى 1.9× من الإنتاجية — ذلك الرأس ليس ما تحتاجه حلقة التعلم المعزز، لكن الحاوية هي ما تحتاجه.
• سيتعين عليك اختيار رتبة المحول والمكافأة بنفسك، لأن الملاحظة لا تذكر ذلك.
تُحلّ مسألة الترخيص على نحو أنظف من المسألة التقنية. أصدرت Mistral هذا بموجب Mistral Ecosystem Open-Weight License، وهو نص MIT معدّل يسمح بالاستخدام التجاري والضبط الدقيق والمشتقات، ولا يشترط ترخيصًا تجاريًا منفصلًا إلا لتشغيل عمل تجاري قائم على تقديم النموذج كخدمة فوقه. الضبط الدقيق الداخلي، ومحول خاص، وتشغيل تقييم على عُقَد مستأجرة — كل ذلك يقع ضمن نطاق المنح. أما إقامة واجهة API لكل رمز وبيع الوصول إلى نسختك المضبوطة بدقة فليس كذلك. إذا كانت خطتك هي الأولى، فليس الترخيص مشكلتك. وإذا كانت الثانية، فهو المشكلة كلها، ولا يغيّرها أي مقدار من تحسّن AIME.
النصف من الحلقة الذي يصبح مكلفًا لاحقًا
AIME هي الحالة الرخيصة لسبب يستحق التوضيح. فالمكافأة هنا عبارة عن نص إجابة يقارنه سكربت. لا يوجد حكَم، ولا معيار تقييم، ولا نموذج ثانٍ في الحلقة، لذا فإن التكلفة الحدية لعملية rollout هي الاستدلال ولا شيء غير ذلك. انقل الوصفة نفسها إلى المهام الوكيلية، أو الكتابة المفتوحة، أو أي شيء يُقيَّم بالتفضيل، وستصبح المكافأة استدعاءً لنموذج — يُنفَّذ على نطاق الـ rollout، آلاف المرات في كل خطوة، طوال التشغيل بأكمله. هذه مشكلة شراء مختلفة عن حوسبة التدريب، وهي المشكلة التي يكتشفها معظم الفرق بعد أن تكون قد حجزت وحدات GPUs.
Mistral Large 4 نفسه ليس نموذجًا نقدّمه، لذا هذا الجزء ليس طريقًا إليه — استضافته بنفسك تعني مستودع Hugging Face وواجهة API الخاصة بالمورّد. أما ما يمكن توجيهه فهو النصف الآخر من الحلقة. وإذا كان المُتحقّق لديك نموذج حُكم بدلًا من سكربت، فعليه أن يصمد أمام استدعائه بحجم مرحلة العرض: نقطة نهاية واحدة تغطّي أكثر من 200+ نموذج، سعر قائمة المورّد يُمرَّر كما هو دون أي هامش إضافي فوقه، والتحويل عند الفشل حين تصطدم نقطة نهاية حُكم واحدة بحدّ المعدّل في منتصف خطوة تدريب. والنماذج التي ستستخدمها فعليًا كحُكّام مُدرجة، مع السياق والسعر، في فهرس نماذج OrcaRouter. المغزى ليس أن التوجيه يجعل التعلّم المعزّز رخيصًا، بل أن إشارة المكافأة هي الجزء من تشغيل التعلّم المعزّز الذي لا يمكنك الجدولة حوله، لذا فهي الجزء الجدير بأن تُوضع خلف واجهة مستقرة.
ماذا تشاهد بعد ذلك
ثلاثة أمور من شأنها أن تحوّل هذا من ملاحظة واعدة إلى نتيجة: أن ينشر فريق SkyRL رتبة المحول وتعريف المكافأة ومنحنى تعلّم، مما سيتيح لمجموعة أخرى محاولة إجراء التجربة نفسها بدلًا من الاكتفاء بالإعجاب بها؛ ومهمة ثانية، يُفضَّل أن تكون مكافأتها ليست مقارنة سلاسل نصية، مما سيُظهر ما إذا كان الأثر يصمد عند الاحتكاك بحكم؛ وتقييم مستقل على AIME أو رياضيات أصعب لنقطة التحقق المنشورة، لأن حد 64% هو حاليًا قياس الشريك نفسه، والسبيل الوحيد لإزالة هذا التحفظ هو أن يقيسه شخص آخر.
حتى ذلك الحين، الملخص الصادق قصير. فالأوزان عمرها يوم واحد، وقد حرّك شريك نتيجة معيار رياضياتي بإحدى عشرة نقطة على ثماني عُقد مستأجرة باستخدام محوّل LoRA، ولم يُعِد أحد إنتاج ذلك بعد. هذا أكثر مما تقدمه معظم الإصدارات مفتوحة الأوزان في أسبوعها الأول، وأقل مما توحي به العناوين الرئيسية.
