بطاقة عنوان مُولّدة بعنوان «Karpo Decision 31B vs Laya» وعنوان فرعي «طراز رائد بحجم 31B مقابل مُرمِّز بحجم 421M يمكن تشغيله على حاسوب محمول»، وثلاث شرائح نصية تحمل: «Karpo: 31.3B، 62.5 GB، 32,768 توكن»، و«Laya: 421M، 808 MB، 512 توكن»، و«الدرجة الإجمالية 73.9 مقابل 9.2»، وزوج أيقونات مسطّحة — رف GPU لمركز بيانات موسوم بـ «يحتاج إلى GPU» وحاسوب محمول موسوم بـ «يعمل على حاسوب محمول».
Guides & Insights

Karpo Decision 31B مقابل Laya: قائد 31B في مواجهة مشفّر 421M يمكنك تشغيله على حاسوب محمول

الكاتب

Gideon Frost

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

ضع Karpo Decision 31B إلى جانب Laya، فسيكون رد الفعل الأول الصادق أن أحدهم ارتكب خطأً في الوحدات. فـ Karpo هو تعديل دقيق لـ Gemma 4 بعدد معلمات يبلغ 31.3 مليار معلمة، يحتاج إلى 62.5 غيغابايت من الأوزان وإلى وحدة معالجة رسومات في مركز بيانات. أما Laya فهو مُشفّر ModernBERT بعدد معلمات يبلغ 421 مليون معلمة من Convai Innovations، برخصة Apache-2.0، وحجمه 808 ميغابايت على القرص، ويعمل على حاسوب محمول ويعيد النتيجة في نحو 33 مللي ثانية. وعلى Decision Index، لوحة المجتمع التي يظهر عليها كلاهما، يبلغ الفارق في الدرجة الكاملة 73.9 مقابل 9.2 — وهو أكبر تباين في دفعة المقارنات هذه بأكملها.

ومع ذلك، فإن Laya هو النموذج الذي يأتي مع حزمة pip تتم صيانتها، وخادم MCP، ونسخ ONNX وCore ML، ومسار ضبط دقيق مع قفزة موثقة في الدقة من 0.362 إلى 0.766 على مجموعة سير عمل حقيقية. أما Karpo فيأتي مع README ومستودع. السؤال المثير للاهتمام ليس أي النموذجين أفضل. بل ما الغرض الفعلي لكل منهما، لأن فجوة الدرجات وفجوة قابلية الاستخدام تشيران في اتجاهين متعاكسين، وواحدة فقط منهما تهم في كل مرة.

ماذا يعني الرقمان، ولماذا تكون المقارنة غير متوازنة بحكم التصميم

درجة Laya البالغة 9.21 في Full على المتتبّع هي رقم مهارة مصحّح حسب الصدفة، ودقتها الخام عبر المجموعة نفسها 37.7% مع تغطية 0.76 — أي أن نحو ربع طلبات المجموعة لم يُجب عنها إطلاقًا. ويسجّل المتتبّع السبب: 320 طلبًا وُسمت بأنها غير مدعومة، والسبب الغالب أن تعليمة كانت أطول من الميزانية الأصلية لـ Laya وأن النموذج يرفض بدلًا من أن يقتطع. وفي مجموعة صُممت لنماذج تقبل حالة من 32 ألف رمز، فإن مشفّرًا بسعة 512 رمزًا لا ينافس، بل يكتفي بالوضع الافتراضي.

يجيب Karpo على المجموعة نفسها بتغطية 99.87% ودقة خام تبلغ 83.2%. تم رفض تسعة طلبات، جميعها لأن سؤالًا ما بالإضافة إلى حالته تجاوز 32,768 رمزًا.

إذن، تخبرك مقارنة الدرجات المباشرة بأن نموذجًا صُمم لتصنيف قصير على نافذة من 512 رمزًا يؤدي أداءً ضعيفًا في اختبار قياس صُمم لنماذج قرار خاصة بالمستندات الطويلة. هذا ليس انتقادًا لـ Laya؛ بل هو بيان عن مجموعة الاختبارات. المقارنة المفيدة هي لكل مهمة على حدة، وبطاقة Laya تتضمن واحدة: في تصنيف النوايا MASSIVE تسجل 0.783 بالإنجليزية، وعلى XNLI تسجل 0.860، على مدخلات تتسع داخل نافذتها. لا يملك Karpo رقمًا منشورًا مكافئًا لمهمة تصنيف قصيرة أحادية الفئة، لأن بطاقته لا تنشر نتائج على مستوى المهام إطلاقًا.

المواصفات، وما يعنيه كل منها

A generated two-column scoreboard titled 'Karpo Decision 31B vs Laya — the scoreboard'. The Karpo column reads 'Params: 31.3B, 62.5 GB', 'Context: 32,768 tokens', 'Full score: 73.9', 'Coverage: 99.87%', 'Latency: 94 ms median' and 'Licence: Apache-2.0'; the Laya column reads 'Params: 421M, 808 MB', 'Context: 512 tokens', 'Full score: 9.21', 'Coverage: 0.76', 'Latency: 5.8 ms median' and 'Licence: Apache-2.0'. The footer reads 'Full score and coverage per the Decision Index; Laya latency per the tracker and its model card.'

• المعاملات — Karpo 31.3B إضافةً إلى قراءة 255 × 5,376، و62.5 GB بصيغة bf16؛ Laya 421M، نحو 808 MB تم تنزيلها.

البنية — عمود فقري لنموذج لغوي سببي يُشغَّل بالتعبئة المسبقة فقط مع قراءة خطية، مقابل مُرمِّز ثنائي الاتجاه يُقيِّم كل خيار عند رمز [MASK] الخاص به.

• السياق — Karpo: 32,768 رمزًا لكل تسلسل، مقسَّمة حسب السؤال مع تكرار الحالة؛ Laya: 512 رمزًا إجمالًا في التكوين المُشحون، منها 192 محجوزة لمُطالَبة الخيار، ما يترك نحو 320 للحالة.

• تعدد الوسائط — يقرأ Karpo الصور والنصوص؛ بينما تقرأ Laya النصوص فقط. لا يوجد مسار رؤية في نقطة التحقق الإنجليزية.

• زمن الاستجابة — Karpo 94 مللي ثانية كوسيط على وحدة معالجة رسومات مرجعية؛ Laya 39.5 مللي ثانية مقاسة على بطاقتها الخاصة، ويسجّل المتتبّع وسيطًا قدره 5.8 مللي ثانية على عتاده.

• الترخيص — Apache-2.0 على كليهما، الأوزان والشفرة، دون أي قيود على الاستخدام.

• الاستضافة — لا يوجد أي منهما على نقطة نهاية مستضافة من ناشره. لا تحتاج Laya إلى شيء سوى pip install laya.

صف السياق هو القرار بأكمله. إن 320 رمزًا قابلة للاستخدام للحالة هي تذكرة دعم، أو بريد إلكتروني، أو رسالة دردشة، أو عنوان منتج، أو سطر سجل. وهي ليست فاتورة ببنود أو سياسة من أربعين صفحة. إذا كانت حالتك أطول من فقرة، فلا يمكن طرح السؤال على Laya — ليس بشكل سيئ، ولا ببطء، بل لا يمكن طرحه على الإطلاق.

حيث يكون النموذج الصغير هو الإجابة الصحيحة حقًا.

هناك فئة من القرارات يكون Karpo فيها غير معقول، وتصميم Laya موجّه إليها مباشرة. تخيّل وكيلًا يحتاج، في كل خطوة، إلى إجابة نعم/لا عمّا إذا كانت نتيجة أداة تبدو وافية بالمقصود، أو إلى تحديد أيٍّ من ستة مصادر استرجاع ينبغي أن يذهب إليه استعلام، أو عمّا إذا كانت رسالة مستخدم تحتوي على إشارة فقدان عميل. هذه أسئلة بمقياس الميكروثانية حول جملة من السياق، وقد يكون هناك خمسون منها في محادثة واحدة.

عند 94 مللي ثانية ونموذج مُقيم بحجم 62.5 غيغابايت، تمثّل خمسون استدعاءً قرابة خمس ثوانٍ من زمن وحدة معالجة الرسوميات لكل محادثة، على عتاد تتجاوز تكلفته ما يبرره حجم الحركة. وعند وسيط قدره 5.8 مللي ثانية مع نموذج بحجم 800 ميغابايت يعمل على الجهاز نفسه الذي يعمل عليه تطبيقك، تكلّف الاستدعاءات الخمسون نفسها ثلث ثانية، ودون أي بند تكلفة في مركز البيانات. هذا ليس فرقًا هامشيًا في حلقة تُنفّذ خطوة بخطوة؛ بل هو الفرق بين ميزة تُشحن وأخرى لا تُشحن.

توثّق بطاقة Laya أيضًا أنماط الفشل بصدق، وهذا أنفع من ورقة مواصفات نظيفة. تنهار نقطة التحقق الإنجليزية مع النصوص غير اللاتينية — الخميرية بدقة 0.000 مع الإعلان عن ثقة 0.952 — وهو بالضبط فشل الثقة مع الخطأ الذي لا يجوز أن تتصف به طبقة قرار. والنسخة المشحونة من Router تكتشف نظام الكتابة في أقل من نصف ميلي ثانية بلغة Python الصِرفة وتوجّه إلى نقطة التحقق متعددة اللغات قبل التمريرة الأمامية. تتدهور أيضًا الأسئلة ذات العدد الكبير من الفئات: 77 خيارًا ضمن ميزانية 256 رمزًا تمنح كل تسمية ثلاثة أو أربعة رموز، وتهبط دقة Banking77 إلى 0.425 مقابل 0.870 لدى Jev. وتوصي البطاقة برفع ميزانية رأس التصنيف بدلًا من التظاهر بأن الإعداد الافتراضي يعمل.

A capture of the Hugging Face model card for convaiinnovations/laya showing the Text Classification tag, the Laya_system-one, calibrated-decisions and reinforcement-learning tags, the apache-2.0 licence, the summary describing a multilingual non-autoregressive System 1 decision model that returns calibrated probabilities in a single forward pass of about 33 ms across 100+ languages, the 'pip install laya' line with its onnx, mcp, langchain and serve extras, and the 0.4B-parameter file listing.

هذا المزيج — نموذج صغير مع أنماط فشل منشورة وإصلاح موثّق لكل منها — أكثر فائدة تشغيليًا من نتيجة أفضل بلا تفصيل على مستوى المهام.

حيث يبرّر نموذج 31B سعته البالغة 62 GB

تتمثل مزايا Karpo في تلك النابعة من احتوائه على نموذج لغوي حقيقي بداخله. فهو يقرأ لقطة شاشة. ويحتفظ بمستند سياسة وسجل عميل في الحالة نفسها البالغة 32,768 رمزًا، ويجيب عن مئة سؤال حول كليهما في تمريرة واحدة، لأن الحالة تُحسب مرة واحدة، وكل سؤال يتفرع من الكتلة المشتركة دون أن يرى خيارات الأسئلة الأخرى. ويتعامل مع اختيارات من 255 خيارًا دون نقص في الرموز، لأن آلية القراءة تمنح درجات للأكواد بدلًا من تضمين نص الخيارات في ميزانية ثابتة.

يدعم ملف تعريف الفئة ذلك على نحوٍ يتوافق بوضوح مع ما يوفره لك نموذج كبير. فمهارة Karpo في المعرفة والاستدلال هي 65.5 مقابل 2.9 لدى Laya — وهو رقم يعكس في الغالب أسئلة المعرفة ذات السياق الطويل في المجموعة، والتي لا يمكن طرحها على Laya. ومهارته في الأدوات والأتمتة هي 88.4 مقابل 5.8. ليست هذه فروقًا دقيقة بين نموذجين قابلين للمقارنة؛ بل هما فئتان مختلفتان من الأدوات.

ما لا يمتلكه كاربو هو أيّ من السقالات التشغيلية. لا تصدير ONNX، ولا بناء Core ML، ولا خادم MCP، ولا وكيل قابل للتثبيت عبر pip يمكنك توجيهه إلى وصف سير عمل وضبطه الدقيق في أمسية. لقد بدأ المجتمع بالفعل بتكميمه — ظهر IQ3_M GGUF وبناء NVFP4 خلال أسبوعين — لكن حتى وقت كتابة هذه السطور لا يوجد مسار رسمي صغير البصمة ولا سعر.

فجوة الضبط الدقيق، التي تحسم عمليات نشر أكثر مما تحسمها لوحة الصدارة.

الرقم الأهم على الإطلاق في بطاقة Laya ليس درجة معيارية، بل هو 0.766 مقابل 0.362: دقة نقطة تحقق مضبوطة بدقة مقابل النموذج الإنجليزي الأساسي على 2,000 قرار عبر أربعة مسارات عمل. لقد ضاعف الضبط الدقيق الدقة أكثر من مرتين في أحمال العمل التي كانت مهمة.

هذه هي الحجة لصالح نموذج بحجم 421M في سطر واحد. نموذج صغير يمكنك إعادة تدريبه على قراراتك الموسومة في غضون ساعة سيتفوق على نموذج بحجم 31B لا يمكنك إعادة تدريبه على الإطلاق، على حركة المرور لديك، وبمخططك. درجة Karpo البالغة 73.9 هي متوسط على مجموعة خاصة؛ وتوزيعك ليس تلك المجموعة. كما أن درجة Laya الأساسية البالغة 0.362 هي أيضًا متوسط على قرارات شخص آخر، وسيتحرك كلا النموذجين بمجرد أن تصبح البيانات لك — لكن واحدًا منهما فقط يأتي بمسار موثّق لإجراء ذلك التحول.

Karpo هو ضبط دقيق كامل لنقطة تحقق بحجم 31B دون وصفة تدريب منشورة ودون محوّل. إجراء ضبط دقيق عليه ممكن من حيث المبدأ، لكنه ليس أمرًا تدعمه البطاقة أو توثّقه أو تتوقعه.

تشغيل كليهما، وهو الجواب الأكثر تكرارًا من أيٍّ منهما بمفرده.

النموذجان يكمّلان بعضهما أكثر من كونهما بديلين، والتقسيم ميكانيكي. وجّه الحالات القصيرة إلى المُرمِّز والحالات الطويلة إلى النموذج 31B. أما Routerفهو النمط الافتراضي المُشحَن بالفعل على جانب Laya؛ وعلى جانب Karpo، فإن المكافئ هو فحص الحجم على الحالة قبل الإرسال.

إنّ الموضع الذي تُبرّر فيه طبقة التوجيه وجودها هو الحالة الثالثة: الطبقة الوسيطة بينهما. فإذا كانت حالاتك تقع بين 512 رمزاً و32,768 رمزاً، فلا هذا ولا ذاك مناسب تماماً — إذ ترفض Laya ويكون Karpo مبالغاً فيه ومكلفاً. وفي هذا النطاق الأوسط يكون لنموذج قرار مُخدَّم معنى، وJev 1.14 مدرج في كتالوجنا لهذا الغرض، ويمكن استدعاؤه بالمفتاح نفسه المستخدم مع كل شيء آخر. وإن وضع سياسة عتبة أمام نقطة نهاية توجيه واحدة — الحالة القصيرة إلى المُرمِّز الذي تستضيفه، والحالة الطويلة إلى نموذج مُتاح عبر الخدمة، والمخرجات غير المؤكدة إلى قائمة مراجعة — مهمة هندسية أصغر من تشغيل نقطة تحقق بحجم 62.5 غيغابايت، كما يُبقي استبدال النموذج خارج شيفرة تطبيقك. وكتالوجأكثر من 200 نموذج، تُحتسب بسعر قائمة المزوّد دون أي هامش ربح، يشمل أيضاً Gemma 4 31B، النموذج الأساسي الذي جرى الضبط الدقيق لـ Karpo انطلاقاً منه، وهو وسيلة زهيدة للتحقق مما حققه الضبط الدقيق فعلاً قبل أن تخصّص له وحدة معالجة رسومات.

إذا أُجبرت على توصية واحدة: ابدأ بـ Laya. فهي لا تكلف شيئًا، وتُثبَّت في دقيقة، وفي القرارات القصيرة كثيرة التكرار التي يتخذها الوكيل في كل خطوة تكون هي الأداة الصحيحة — لا حلًا وسطًا. انتقل إلى Karpo Decision 31B عندما تتوقف الحالة عن الاتساع داخل فقرة، واقبل أنك حينها تشتري وحدة GPU وتنزيلًا بحجم 62 GB ونموذجًا بلا سعر ولا إعلان ولا نتيجة تقييم مستقلة. إن فارق الـ64 نقطة على لوحة الصدارة حقيقي، وهو يقيس شيئًا لا يهم إلا عندما تصبح مدخلاتك طويلة بما يكفي لتحتاج إليه.

A capture of the Hugging Face model card for MachinePulseAI/karpo-decision-31B showing the Text Classification tag, the gemma4 image-text-to-text tag, the apache-2.0 licence, the line 'Ranked #1 on the Decision Index, with the highest Full score, 73.9', the description of a multimodal decision model that returns a probability for every option of every question in one forward pass without generating text, 'Fine-tuned from google/gemma-4-31B', 'Parameters: 31.3B in bf16, plus a 255 x 5,376 readout in fp32', the screenshot input at state.viewport_screenshot, and the base-model link to google/gemma-4-31B.