Granite Switch 4.1 8B: نقطة تحقق واحدة بحجم 8B تدردش وتقرر وتحوّل الكلام إلى نص.

يدخل 8.38 مليار معامل. ويخرج 8.776 مليار. هذه النسبة 4.72% هي الفرق كله بين نموذج IBM الأساسي وGranite Switch 4.1 8B، وهو الرقم الأكثر إثارة للاهتمام في الإصدار، لأنّ في تلك الشريحة الضئيلة مصنّفَ أمان ومحرّكَ قرار ومتعرّفًا على الكلام — جميعها تستجيب من نقطة نهاية واحدة، وجميعها تقرأ وتكتب في نفس ذاكرة KV المؤقتة التي كان النموذج الأساسي سيبنيها على أي حال.

هبطت الأوزان على Hugging Face في 14 أكتوبر 2026. مدونة الإطلاق الخاصة بـ IBM، Granite Switch 4.1: الدردشة، والقرارات، والكلام من نقطة نهاية واحدة، ثم تبع ذلك في 15 أكتوبر، وهو أمر يستحق القول بوضوح منذ البداية: هذا ليس طرحًا هادئًا وجده أحدهم في مرآة. إنه إصدار معلن عمره حوالي يومين وقت كتابة هذه السطور، والنسخة المهمة من القصة ليست "ماذا ادعت IBM" بل "ما يمكنك التحقق منه فعليًا من نقطة التحقق الموجودة على Hub الآن". هذان الأمران ليسا متماثلين، وهذه المقالة تفصل بينهما.

ما الذي تحتويه نقطة التحقق فعليًا

Granite Switch ليس بنية جديدة. إنه تركيب: نموذج أساسي مجمّد، ومجموعة من المهايئات منخفضة الرتبة التي يمكن تشغيلها وإيقافها لكل رمز، و— في هذا البناء تحديدًا — مُرمِّز مُضاف للصوت. يعيش المُركِّب في مستودع granite-switch وبيان البناء الخاص بنقطة الحفظ هذه مُودَع بجانب الأوزان، ما يعني أن كل ادعاء بنيوي أدناه يمكن قراءته مباشرة من Hub بدلًا من أن يكون مأخوذًا من بيان صحفي.

الأساس هو Granite 4.1 8B — مفكك كثيف فقط، انتباه استعلامات مجمّع مع 32 رأس استعلام مقابل 8 رؤوس مفتاح/قيمة، وSwiGLU، وRMSNorm، ونافذة من 131,072 رمزًا ومفردات من 100,352 رمزًا. نقطة التحقق المركّبة ترث كل ذلك وتضيف محوّلَي LoRA مُنشَّطين:

• guardian-core — الرتبة 16، ألفا 64، مرتبطة بإسقاطات الانتباه فقط (k_proj, o_proj, q_proj, v_proj)، مأخوذة من إصدار مكتبة Guardian وموصوفة بأنها تكشف الأذى وكسر الحماية والكلام البذيء والعنف والمحتوى الجنسي والتحيز الاجتماعي والسلوك غير الأخلاقي.

• decision — الرتبة 64، وألفا 128، مرتبطة بالإسقاطات السبعة جميعها بما فيها MLP ‏(down_proj، gate_proj، up_proj)، ومُدرَّبة على القيام بأمر أضيق نطاقًا وأغرب طابعًا: عند إعطائها حالةً وسؤالًا ذا خيارات موسومة، تُعيد توزيعًا احتماليًا معايَرًا على وسوم تلك الخيارات في تمريرة أمامية واحدة.

يتم تفعيل كلاهما بواسطة رموز تحكم — <|guardian-core|> و<|decision|> — تُدرجها قالب المحادثة لك عند تمرير وسيط adapter_name. أنت لا تكتب الرموز بنفسك، وهذه التفصيلة مهمة أكثر مما تبدو: فهي تعني أن اختيار المُهايئ هو معامل طلب، وليس نموذجًا ثانيًا يجب نشره.

لماذا دلتا المعامل صغيرة جدًا؟

الحساب هو القصة. النموذج الأساسي هو 8,380,551,168 معلمة. النموذج المركّب هو 8,776,400,896. أي +395.8 مليون، أو +4.72%، مقابل مهايئين. السبب في بقاء الرقم منخفضًا إلى هذا الحد هو قرار تصميمي يُسمى تطبيع ذاكرة KV-cache: كل مهايئ يرى ذاكرة المفتاح/القيمة الخاصة بالنموذج الأساسي بدلًا من الاحتفاظ بذاكرته الخاصة. في إعداد متعدد المهايئات التقليدي، يكون كل مهايئ إضافي مجموعة ثانية من حالات الانتباه، وتنمو فاتورة الذاكرة مع عدد المهايئات التي تتنقل بينها. هنا لا يحدث ذلك. ادعاء IBM في منشور الإطلاق هو أن النموذج المركّب يستهلك "تقريبًا نفس القدر من VRAM على GPU مثل ما يستهلكه النموذج الأساسي بمفرده"، ورغم أن لا أحد خارج IBM قد قاس ذلك بعد، فإن فرق الأوزان البالغ 4.72% يتسق معه — وعلى عكس ادعاء VRAM، فإن فرق الأوزان ليس سوى رقم في بيان (manifest) يمكنك قراءته.

مهايئ القرار هو النصف المثير للاهتمام

قراءة توزيع احتمالي من نموذج لغوي ليست بالأمر الجديد؛ لكن القيام بذلك في تمريرة أمامية واحدة باستخدام مفردات ثابتة من تسميات الخيارات، والحصول على أرقام معايَرة بما يكفي للاعتماد عليها، هو الجزء الجدير بالفهم. وصفة الاستدعاء موثّقة في البطاقة: مطالبة نظام ثابتة لمحرك القرار، ثم دور الحالة: يُقيَّم على القاعدة المجمّدة، ثم دور ### القرار يعرض السؤال وخيارات تحمل تسمية من رمز واحد. ثم تطلب من الخادم قيم لوغاريتمات الاحتمال لمعرّفات رموز التسميات تلك تحديدًا — يوفّر vLLM ذلك عبر logprob_token_ids — ثم ترفعها إلى الأس. يعيد المثال الموثّق شيئًا مثل A: 0.982, B: 0.0035, C: 0.014.

هناك عقبة هندسية حقيقية هنا تتجاهلها النسخة التسويقية من هذا الإصدار. يضع vLLM حدًا أقصى لـ logprob_token_ids عند 128 معرّفًا لكل طلب. إذا كان سؤال قرارك يحتوي على أكثر من 128 خيارًا، فستحصل على HTTP 400، والحل هو تقسيم معرّفات التسميات إلى مجموعات من 128، وإرسال طلب واحد لكل مجموعة مع نص توجيهي مطابق، ثم الدمج — لأن قيم logprobs المُعادة تشمل المفردات الكاملة، وقيمة كل تسمية مستقلة عن المجموعة التي طلبتها، لذا فإن عملية softmax واحدة على مجموعة التسميات الكاملة مكافئة رياضيًا لاستدعاء بلا حد أقصى. وهذا يعني طلبًا إضافيًا واحدًا لكل 128 خيارًا. إنها تفصيلة مفيدة حقًا، وهي بالضبط النوع من الأمور الذي لا يوجد إلا في المستودع.

الرقم المنشور الوحيد المرتبط بهذا المحوّل هو مؤشر القرار (JEV)، الإصدار v0.3، المجموعة الفرعية السريعة العامة المكوّنة من 1,068 صفًا: الإجمالي 42.9، المعرفة 29.1، اللغة 48.9، الاسترجاع 49.8، الأدوات 59.8، الفنون 18.0. تعامل مع ذلك على أنه منقول عن البائع، لأنه كذلك فعلًا: شركة IBM هي التي أجرته ونشرته، ولم يعِد إنتاجه أي طرف ثالث. ويستحق الأمر أيضًا قراءة الشكل بدلًا من العنوان الرئيسي — 59.8 في الأدوات إلى جانب 18.0 في الفنون يمثل ملفًا غير متوازن للغاية، وبطاقة النموذج نفسها تحذّر من أن احتمالات الخيارات هي "مُقدَّمة لإعلام القرار، لا تصنيف معتمد" في مجالات لم يُدرَّب المحوّل عليها.

تحويل الكلام إلى نص أمر حقيقي، لكنه أضيق نطاقًا مما يوحي به العنوان

يتضمن مسار الصوت Granite Speech 5.0 TurboCTC، وهو مُرمِّز CTC من نوع conformer غير ذاتي الانحدار ذو 470 مليون معامل، ويحوّل الصوت الوارد إلى نص قبل دمج النص المنسوخ في سياق الدردشة بدلًا من جزء محتوى الصوت. ولا يؤدي استدعاؤه إلى تغيير بنية الطلب: فهو input_audio جزء محتوى في إكمال دردشة عادي، وتجري عملية النسخ على نفس نقطة النهاية المستخدمة للدردشة والقرارات، لذا لا حاجة إلى إعداد خادم صوت ثانٍ.

المحاذير، وكلها من بطاقة IBM نفسها وليس من ناقد: المشفّر إنجليزي فقط، ومخرجُه بحروف صغيرة وبلا علامات ترقيم، ولا يوجد توجيه أثناء فك التشفير، و—تلك التي ينبغي أن توقفك— فإن مشفّر الكلام والنموذج اللغوي الكبير (LLM) هما غير مدرَّبين بشكل مشترك. لا يوجد إسقاط مدرَّب يقرنهما. لذلك يمكن لخطأ في النسخ أن يغيّر بصمت ما يستجيب له النموذج، أو محوّل. إذا كنت تبني أي شيء تترتب على خطأ النسخ فيه عواقب، فإن تلك الجملة هي مراجعة الأمان بأكملها.

ما المؤكَّد، وما المبلَّغ به من المورّد، وما لم يتحقق منه أحد

• مؤكَّد من المستودع — هوية النموذج الأساسي وعدد الطبقات، ورتبتا المهايئين ووحداتهما المستهدفة، ومعرّفات رموز التحكم، وعدد المعاملات المركّب، ونافذة الـ131,072 رمزًا، وترخيص Apache-2.0، وإصدارا vLLM وTransformers الموثّقان اللذان تطلبهما البطاقة.

• مُبلَّغ عنه من المورّد، غير مُعاد إنتاجه — درجات Decision Index، والادّعاء بأن Granite Speech 5.0 TurboCTC هو أسرع نموذج ASR على لوحة صدارة OpenASR، وادّعاء "نفس VRAM مثل النموذج الأساسي"، وملاحظة منشور الإطلاق الجانبية بأن نموذج Granite Switch مخصّص بحجم 3B يلعب Doom بمعدل 60–100 قرار في الثانية مقابل 10 في الثانية المُبلَّغ عنها لنموذج قرار مغلق. وتقول IBM إنها ستنشر مزيدًا من البيانات "في الأسابيع المقبلة"، وهو اعتراف بأن الأدلة الحالية ضعيفة.

• لم يتحقق أحد — وكل شيء آخر. لا يوجد تقييم مستقل، ولا إدراج في لوحة صدارة من طرف ثالث، ولا واجهة برمجة تطبيقات مستضافة من IBM، ولا قياس منشور لزمن الاستجابة أو الإنتاجية من أي جهة غير IBM. يُظهر مستودع Hub بضع عشرات من عمليات التنزيل وعددًا قليلًا من الإعجابات: هذا النموذج عمره يومان ولم يُقرأ إلى حد كبير.

ما تكلفة تشغيله، وأين يندرج OrcaRouter

Granite Switch 4.1 8B هو خيار استضافة ذاتية في الوقت الحالي. تُدرج البطاقة HuggingFace Transformers وvLLM كخلفيتين، وتحدد نافذة دعم ضيقة نسبيًا (Transformers 5.16–5.17، vLLM 0.26–0.28)، ونقطة التحقق تعمل مع كليهما دون تغييرات في الكود. لا توجد نقطة نهاية مُدارة يمكن التوجيه إليها، وهذا يعني بالنسبة لمعظم الفرق وحدة معالجة رسومات واحدة وحاوية قبل أول طلب.

لنكن صريحين بشأن الباقي: لا يوجد Granite Switch في كتالوج OrcaRouter اليوم، ولا يوجد أي طراز آخر من Granite — لذا إذا أردت نقطة الحفظ هذه، فإن الطريق هو إصدار المورّد نفسه وعتادك الخاص، وليس نحن. ما يقدمه لك OrcaRouter هو القرار المحيط.توجّه المنصة أكثر من 200 نموذج خلف مفتاح واحد مع تجاوز الفشل التلقائي، وتمرّر سعر قائمة المزوّد بهامش 0%، لذا عندما يحصل نموذج تقوم بقياسه على نقطة نهاية مستضافة، فإن مقارنته بالنموذج القائم على حركة المرور الخاصة بك تصبح تغييرًا في الإعدادات بدلًا من عقد ثانٍ. وهذا يهم أكثر في هذه الحالة بالذات: نقطة حفظ عمرها يومان وبدون تقييم مستقل هي مرشّح، وليست نموذجًا قائمًا، والتصرف الأقل تكلفة مع مرشّح هو إبقاؤه في مقارنة جنبًا إلى جنب بدلًا من إعادة توصيل مسار إنتاجي حوله.

السؤال المفتوح

Granite Switch 4.1 8B رهان على أن التركيب يتفوق على التوسّع في فئة محددة من العمل: تطبيقات تحتاج إلى الإجابة واتخاذ القرار والنسخ، حيث يعني تشغيل ثلاثة نماذج ثلاث عمليات نشر، وثلاث زمنيات استجابة، وثلاث فواتير. الهندسة التي تجعل ذلك الرهان منخفض التكلفة — ذاكرة KV المؤقتة المشتركة، وتبديل المحوّلات لكل رمز، ورموز تحكم تُحلّ في قالب المحادثة — غير معتادة حقًا، وهي الجزء من هذا الإصدار الذي سيظل مهمًا بعد عام.

ما لم يُحسَم بعد هو ما إذا كانت الإجابة المُركَّبة جيدة. الملف التعريفي المنشور لمُهايئ القرار غير متوازن، ومسار الكلام بالإنجليزية فقط ولم يُدرَّب تدريبًا مشتركًا، وكل هذا عمره يومان ولا يقف خلفه تشغيل مستقل. اقرأ بيان البناء، ونفّذ أمر compose بنفسك، وقِس أداء مُهايئ القرار على مجموعة الوسوم الخاصة بك قبل أن تصدّق الرقم 42.9 الذي يدّعيه أي شخص.