نافذة السياق في Mistral Large 4: 1 مليون مُعلنة، و524 ألف مُقاسة، ولماذا يُحاسَب على الفرق، الصورة 1 من 4.
Guides & Insights

نافذة السياق في Mistral Large 4: مليون مُعلن، و524 ألفًا مقاسة، ولماذا يُحتسب الفرق في الفوترة

الكاتب

Rowan Sterling

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

تقول بطاقة نموذج Mistral شيئًا، ويقول قياس مستقل شيئًا آخر، والفجوة ليست شكلية. تسرد البطاقة نافذة سياق بسعة 1M رمز. وقد قاست Artificial Analysis، التي تقيّم التكوين الذي يمكنها تشغيله فعليًا، 524,288 رمزًا. يُحتسب كل رمز إدخال ترسله، لذا فإن سؤال «كم من السياق لديّ» هو أيضًا سؤال «كم يُسمح لي بإنفاقه في طلب واحد».

الفرق بين هذين الرقمين هو 2×، وهذا على نموذج يتقاضى 1.36 دولار لكل مليون رمز إدخال ليس خطأ تقريب.

Mistral Large 4's Context Window: 1M Claimed, 524K Measured, and Why the Difference Is Billed, image 2 of 4.

ما هي الأرقام، ومن أين يأتي كل منها

• 1,048,576 توكن — القيمة الموجودة في ملف الإعدادات الذي ترفقه Mistral مع الأوزان. إنه سقف كتبه المورّد، وتكرره بطاقة النموذج على أنه "1M".

• 524,288 رمزًا — ما قاسه Artificial Analysis على التكوين الذي اختبره. نصف السقف.

• كم يكلف ذلك — بسعر 1.36 دولار لكل مليون، تكلف تعبئة 524 ألفًا نحو 0.71 دولار لكل طلب؛ وتكلف تعبئة المليون بأكمله 1.43 دولار. كلا المبلغين يمثلان جانب الإدخال في استدعاء واحد، قبل أي إخراج.

رقم المورّد ليس كذبًا، والرقم المقاس ليس خللًا. نافذة السياق قدرة من قدرات المعمارية؛ وما سيقبله فعليًا إعداد خدمة معيّن — بميزانية ذاكرة التخزين المؤقت KV، وتوازي الموترات، وحجم الدفعة — أصغر، والفجوة بينهما طبيعية في هذا القطاع كله. لكنها نادرًا ما تُذكر في السطر نفسه مع السعر.

Mistral Large 4's Context Window: 1M Claimed, 524K Measured, and Why the Difference Is Billed, image 3 of 4.

لماذا يُعد هذا أكثر أهمية مما هو عليه في أماكن أخرى

ثلاثة أسباب خاصة بهذا الطراز.

إنه نموذج MoE بترليون معلمة. 1.05 تريليون معلمة مع 52 مليار معلمة نشطة لكل رمز، إضافة إلى مُشفِّر رؤية بـ1.6 مليار معلمة. تُعد ذاكرة KV المؤقتة لسياق طويل في هذه الفئة من النماذج القيدَ الحاسم على تقديم الخدمة، وليس ما يقصده ملف الإعداد. والرقم المقاس هو رقم التخطيط الصادق.

يتم التسعير حسب عدد الرموز (التوكنات)، وليس حسب الطلب. طلب السياق الطويل على هذه البطاقة هو بند تكلفة يتزايد خطيًا مع ما ترسله. أنت لا تشتري "نافذة بسعة 1M"؛ بل تشتري الرموز (التوكنات)، والنافذة تحدد فقط كم يمكن أن يصل في استدعاء واحد.

تُشحن الأوزان مع الإعدادات. عند تنزيل 1,060.6 GB من bf16 وقراءة code>config.json/code>، سترى 1,048,576 وستُغرى بالتخطيط بناءً عليه. تتطلب وصفة vLLM توازيًا موترًا بمقدار 8 مع ذاكرة KV المؤقتة بتنسيق FP8، وهي بالضبط نوع التهيئة الذي تتوقف فيه النافذة المخدومة والنافذة المُهيأة عن التوافق.

Mistral Large 4's Context Window: 1M Claimed, 524K Measured, and Why the Difference Is Billed, image 4 of 4.

كيف تقيس سقفك في فترة بعد الظهر

أرسل طلبًا يتجاوز ما تظنه الحد الأقصى واقرأ رسالة الخطأ — ففي معظم الحالات تُرجع المزوّدون رسالة بعدد الرموز بدلًا من الاقتطاع الصامت. يمنحك ذلك الحد الأقصى الفعلي على المضيف الذي تستخدمه فعلًا، وهو الرقم الوحيد الذي ينبغي أن تتضمنه ميزانيتك.

ثم أرسل طلبًا عند 80% من ذلك السقف وراقب زمن الاستجابة. النموذج الذي يضم تريليون معامل عند قراءته سياقًا طويلًا يكون زمن أول رمز لديه متزايدًا مع طول المُوجّه؛ ورقم 524K هو نافذة، وليس وعدًا بالسرعة.

أخيرًا، قارن السقف الناتج بطول الإدخال عند المئين الخامس والتسعين بدلًا من المتوسط. فالمتوسط لا يقيّد شيئًا أبدًا؛ إنّ الذيل هو حيث يظهر مسار التقطيع الذي لم تحتسب له ميزانية.

كيف تبدو نوافذ المنافسة

• DeepSeek V4 Pro — سياق 1M، وإخراج 384K، و0.66 دولار للإدخال و1.98 دولار للإخراج خارج أوقات الذروة.

• Grok 4.7 —سياق 500K، مخرجات 450K، بسعر $2.00 و$6.00 ثابت.

• Qwen3-Max — سياق 262K، ومخرجات 65K، و0.36 دولار و1.43 دولار.

• Mistral Large 4 — 1M مُعلن، 524K مُقاس، 1.36 دولار و4.18 دولار بسعر القائمة.

في مواجهة ذلك المجال، تقع النافذة المقيسة لدى Mistral بين ادعاءي 262 ألفًا و1 مليون — أقرب إلى الوسط منها إلى الأعلى. وإذا كان السياق هو سبب نظرك إليه، فإن الرقم المقيس هو ما ينبغي أن يكون في جدول المقارنة، وهو يكلّف نصف الرقم الرئيسي المعلن.

Mistral Large 4 ليس ضمن كتالوج OrcaRouter، لذا ليس هذا مسارًا يمكننا تقديمه؛ فهو قابل للاستدعاء عبر واجهة API الخاصة بـ Mistral ومن مضيفين من أطراف ثالثة. أما ما نقدّمه عمومًا فهو نقطة نهاية واحدة متوافقة مع OpenAI تغطي 224 نموذجًا بسعر قائمة المزوّد دون أي هامش ربح — حيث تكون نافذة المورّد، أياً كانت، هي ما تُحتسب عليه فاتورتك.