رسم توضيحي تجريدي مُنشأ على خلفية كحلية داكنة: قاعدة نموذجية شبه شفافة تقع داخل غرفة اختبار زجاجية محكمة الإغلاق، وروابط شبكتها مرسومة ككابلات مقطوعة، مع أقواس مراقبة كهرمانية باهتة تجتاح الحاوية. لا يظهر في الصورة أي نص ولا أشخاص ولا شعارات مؤسسات. وشعار OrcaRouter مركّب في الزاوية اليمنى السفلى.
AI Safety Incidents

لم تستطع OpenAI استبعاد وجود قدرة سيبرانية حرجة في Astra، ولم تُعلّق سوى جزء من عملها.

الكاتب

Alistair Wren

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

يوم الجمعة 7 أغسطس 2026، نشرت OpenAI منشورًا جاء فيه أن أحدث تقييماتها الداخلية لـ Astra، أحد نماذجها القادمة، أشارت إلى "تقدم كبير في البرمجة الوكيلية والأمن السيبراني"، وأنها لا تستطيع استبعاد أن يصل النموذج إلى Critical — أعلى فئة سيبرانية في إطار الاستعداد الخاص بها. ويقول المنشور إن الاستنتاج تم التوصل إليه "الليلة الماضية" بعد عدة أيام من الاختبار. لم يتضرر شيء: يصف المنشور تقييمات، لا اختراقًا، وذكرت OpenAI أن Astra "لم تكن مشاركة في استغلال Hugging Face". وما تغيّر كان داخليًا — إذ توقف تطوير لم يستوفِ ضوابط الأمان المعززة، بينما استمر العمل الذي استوفاها. والأشخاص الأكثر تأثرًا مباشرةً هم مطورو OpenAI، إلى جانب المختبِرين والمدافعين الذين كانوا سيحصلون على إمكانية الوصول في نهاية المطاف. وسجل القرار هو مدخل واحد في أرشيف حوادث الذكاء الاصطناعي، الذي يضم مصادر هذه الحادثة وتصنيفها والمدخلات المجاورة لها.

بالنسبة إلى حدث حوكمة، فإن اللافت هو قلة ما يزعمه المنشور. فهو لا يورد أي درجة، ولا نتيجة اختبار، ولا نص محادثة، ولا مقيّم خارجي مسمّى. إنه يورد حكمًا: أنه بناءً على الأدلة المتاحة، لم تستطع OpenAI استبعاد مستوى قدرة لم تكن قد أسندته من قبل إلى أي من نماذجها. وهذا يجعل السجل جديرًا بالقراءة بوصفه أمرين في آن واحد — إفصاحًا عن نموذج، واختبارًا لمدى قدرة إطار السلامة الخاص بالشركة نفسها على تغيير ما تفعله الشركة.

ما الذي يعنيه مصطلح "Critical" في إطار OpenAI؟

إطار Preparedness Framework، الذي نُشر لأول مرة في ديسمبر 2023 وأُعيدت مراجعته في الإصدار 2 في 15 أبريل 2025، يتتبّع ثلاث فئات: القدرات البيولوجية والكيميائية، والأمن السيبراني، والتحسين الذاتي للذكاء الاصطناعي. ولكل منها مستويان من القدرات: مرتفع وحرج. وتظهر عتبة الأمن السيبراني بعبارات شبه متطابقة في كل من الإطار ومنشور OpenAI في أغسطس: يبلغ النموذج مستوى حرج إذا كان قادرًا على "تحديد وتطوير استغلالات يوم الصفر الفعالة لجميع مستويات الخطورة في العديد من الأنظمة الحرجة الواقعية المحصنة دون تدخل بشري"، أو إذا كان قادرًا على "ابتكار وتنفيذ استراتيجيات جديدة متكاملة لهجمات سيبرانية على أهداف محصنة، بمجرد إعطائه هدفًا مرغوبًا عالي المستوى فحسب."

High هو المستوى الأدنى. يقول منشور OpenAI إن النماذج السابقة، «بما في ذلك GPT-5.6 Sol»، جرى تقييمها من حيث قدرات الأمن السيبراني المتقدمة وصُنِّفت عند High بدلاً من Critical. وهذا التمييز مهم لأن الإطار يفرض التزامات مختلفة على كل منهما. فبالنسبة إلى نموذج يصل إلى Critical، يتطلب الإطار ضمانات «تقلل المخاطر المرتبطة به إلى الحد الكافي أثناء التطوير، بغض النظر عن خطط النشر». وجاء جدوله السيبراني أكثر مباشرة: «إلى أن نحدد معايير للضمانات وضوابط الأمن تستوفي معيار Critical، أوقفوا التطوير الإضافي».

صياغة {{1}}7 أغسطس{{/1}} ليست تصنيفًا. يقول المنشور إن "{{2}}التقييمات الأولية تشير إلى أداء قوي بما يكفي بحيث لا يمكننا استبعاد مستوى القدرة الحرجة في الوقت الحالي.{{/2}}" وكانت الشركة لا تزال تجري اختبارات القياس المرجعي، وقد صرّحت بذلك.

An HTML card headed 'The cyber threshold, in OpenAI's own words', subtitled 'Preparedness Framework v2, last updated 15 April 2025'. A grey HIGH panel gives the two High conditions and notes that GPT-5.6 Sol was assessed there; an amber CRITICAL panel gives the two Critical conditions and notes that OpenAI could not rule them out. A blue band reads that High obligations attach before deployment while Critical obligations attach during development, irrespective of deployment plans. A dark band quotes the framework's rule: 'Until we have specified safeguards and security controls standards that would meet a Critical standard, halt further development.' A footer cites the Preparedness Framework v2 and OpenAI's 7 August 2026 post.

ما الذي فعله OpenAI، وما الذي شمله التوقف.

تسرد المنشور خمسة تدابير داخلية، جميعها مصاغة كشروط لمواصلة العمل بدلاً من أن تكون أسبابًا للتوقف عنه:

• ضوابط أمنية أكثر صرامة للنماذج ذات القدرات الأعلى والأنشطة المرتبطة بها: «بيئات اختبار معزولة، ووصول مقيّد إلى الشبكة والأدوات، وحماية معزّزة لأوزان النماذج مع التشفير، وقدرات إضافية للمراقبة والكشف، وتنفيذ داخل بيئة معزولة (صندوق رماية).»

• وقف مؤقت لـ"الأنشطة الداخلية التي تشمل Astra والتي لا تستوفي بعد متطلبات ضوابط الأمان المعززة هذه." يمكن للعمل الذي استوفى هذه المتطلبات أن يستمر.

• "مراقبة شاملة للإجراءات المحفوفة بالمخاطر وعدم التوافق عبر جميع تطبيقات Astra الوكيلية، بما في ذلك التدريب والتقييم"، مع قيام أدوات المراقبة بقراءة سلسلة أفكار النموذج وإطلاق استجابة أمنية لمراجعة الأنشطة عالية المخاطر ومقاطعتها.

• إجراء الاختبار مع "الوكالات الحكومية ذات الصلة ومنظمات مختارة للسلامة في مجال الذكاء الاصطناعي".

• ضوابط أمنية موصى بها لشركاء الاختبار من الأطراف الثالثة الذين يشغّلون تقييمات وأعباء عمل عالية المخاطر.

وصفت OpenAI السابقة نفسها. ويقول المنشور: "في يونيو 2025، ومع اقتراب نماذجنا من عتبة القدرات العالية في مجال الأحياء بموجب إطار الجاهزية"، فقد حددت الشركة خطوات لتعزيز الضمانات، وتوسيع نطاق الاختبار، والعمل مع خبراء خارجيين، وإضافة ضوابط أمنية، وكانت "تطبّق المبدأ نفسه هنا". والتفصيل الجدير بالاحتفاظ به هو المستوى: إذ يضع حساب OpenAI نفسه حالة الأحياء في يونيو 2025 عند المستوى عالٍ، أي أقل بمستوى واحد من تقييم الأمن السيبراني الذي كانت تكشف عنه الآن.

كانت القراءة الصحفية الفورية أن أحد المختبرات قد ضغط على المكابح. The Next Web، التي نشرت في الساعة 17:36 UTC يوم 7 أغسطس، وصفت توقفًا مؤقتًا لـ"بعض الأعمال الداخلية" بينما استمر الاختبار، وأفادت بأن Axios وصفته بأنه "ربما أول مرة يُبطّئ فيها مختبر رائد أحد نماذجه بسبب المخاطر السيبرانية". هذا وصف منصف للإعلان. وهو ليس مرادفًا للتوقف الكامل، ولا يدّعي المنشور ذلك.

ما لا يثبته منشور 7 أغسطس

الفجوة بين "لا يمكن استبعاد" و"بلغت" تمثل كل ما يحمله السجل من عدم يقين، والمنشور لا يحاول سدّها. فهو لا يورد اسم أي معيار قياس، ولا معدل نجاح، ولا عدد الثغرات المكتشفة، ولا وصفًا للأنظمة التي جرى اختبارها، ولا نصًا حرفيًا للمحادثات، ولا تقييمًا مستقلًا، ولا تاريخ إصدار. وهو لا يقول أيًّا من الشرطين الحرجين كانت أسترا تقترب منه، ولا مقدار اقترابها. ويقول فقط إن الأدلة كانت قوية بما يكفي بحيث لم تستطع الشركة استبعاد الفئة العليا.

إذن، فإن السجل، اعتبارًا من ذلك التاريخ، يثبت إفصاحًا واستجابة — لا قدرة مقيسة. والحكم على القدرة هو حكم OpenAI نفسها، مستندًا إلى تقييمات داخلية لم تكن قد نشرتها؛ ولم تسمِّ OpenAI أي مُقيِّم خارجي، ولم يختبر أي مختبر خارجي Astra علنًا وفق تعريف Critical. وقد صُنِّف المدخل عند أعلى مستوى ثقة، ووُسم بأنه غير متنازع عليه، وسُجِّل بلا ضرر فعلي، وهو ما يتوافق مع ما يحتويه المنشور فعليًا: بيان شركة، لا تقرير حادثة.

ماذا حدث بعد ذلك

بحلول 1 سبتمبر 2026 كانت الصياغة المؤقتة قد تغيّرت. وفي تقرير متابعة حمل عنوان "الطريق إلى Astra: القدرات الحرجة وضمانات الحدود، كتبت OpenAI: "نعتقد الآن أن Astra تستوفي عتبة القدرة الحرجة في الأمن السيبراني بموجب إطار الجاهزية لدينا... وهو أول نموذج نصنّفه عند هذا المستوى."

قدّم المنشور نفسه التفاصيل التي أغفلها إفصاح أغسطس. وهي تستحق الفصل حسب النوع:

• معايير الأداء. سجّلت Astra نسبة 100% في ExploitBench، وهو معيار أداء عام لتحويل الثغرات المعروفة إلى استغلالات. وبسبب مخاوف التلوث، أنشأت OpenAI أيضًا نسخة داخلية تحتوي على 20 ثغرة عالية الخطورة في V8 كُشفت بين يونيو وأغسطس 2026؛ وفي تلك المجموعة، كما يذكر المنشور، اكتشفت Astra واستخدمت "ثغرتَي يوم صفر ضمن سلسلة استغلال"، وقالت OpenAI إنها كانت في طور الإفصاح عنهما إلى القائمين على الصيانة.

• تقييمات يقودها خبراء. في مواجهة متصفح مُحصّن، بنت Astra سلسلة استطاعت الهروب من بيئة العزل وتنفيذ أوامر على المضيف؛ وتسجّل بطاقة النظام أن النجاح الأولي استغرق 29 ساعة ضد إصدار خلص الخبراء إلى أنه يفتقر إلى بعض إجراءات التخفيف الإنتاجية، وأن تكييف الاستغلال مع الإصدار المستقر الرسمي استغرق 12 ساعة إضافية. وفي مواجهة نظام تشغيل مُحصّن، جمعت ثغرات في تصعيد صلاحيات محلي من مستخدم غير ذي امتيازات إلى root خلال 12 ساعة.

• معدلات الرفض. في تقييمات OpenAI لكسر الحماية السيبرانية، رفضت Astra 91.5% من الطلبات، مقابل 59% لـ GPT-5.6 Sol — وهو رقم تكرره بطاقة النظام.

• فحص مستقل، مع حدّ. بطاقة النظام، المنشورة في 3 سبتمبر 2026 للنموذج الذي أطلقت OpenAI في ذلك اليوم باسم GPT-6 Astra، تتضمن تقييمًا خارجيًا أجراه مختبر الأمن Irregular. وجدت Irregular أن Astra حلّت 86 من أصل 226 تحديًا من تحديات FrontierCyber، مقابل 34 من أصل 226 بالنسبة إلى GPT-5.6 Sol، بما في ذلك ثغرات يوم الصفر التي تؤثر في المتصفحات والهواتف المحمولة وقواعد بيانات السحابة. كما «لم ترصد أي هجمات ناجحة على أهداف محصّنة بالكامل»، ولم يحلّ أيٌّ من النموذجين أيًّا من تحديات Elite السبع.

كشف منشور 1 سبتمبر أيضًا عن طبيعة التوقف. وقالت OpenAI إنها "أخرت أجزاء من تطوير Astra وإطلاقها" خلال الأسابيع العديدة الماضية، وإنها "أعادت تشغيل عملية التعلم المعزز الحدودية الكبيرة التي كانت متوقفة سابقًا" في 28 أغسطس 2026، بعد أن أصبحت متطلبات السلامة والأمن الجديدة سارية. وكان الوصول متدرجًا: إذ سيُوجَّه عمل الأمن السيبراني المتقدم أولًا إلى مجموعة صغيرة من المختبِرين، على أن يليه برنامج Daybreak Blue.

An HTML timeline card headed 'From cannot rule out to release', subtitled 'Four documented steps in OpenAI's handling of Astra'. Rows read: 7 August 2026, OpenAI says it cannot rule out Critical cyber capability in Astra and pauses internal activity that does not meet its new security controls; 28 August 2026, OpenAI restarts the large frontier reinforcement-learning run that had been paused after new safety and security requirements were in place; 1 September 2026, OpenAI designates Astra as meeting the Critical threshold, its first model at that level, and publishes benchmark and expert-assessment results; 3 September 2026, OpenAI publishes the GPT-6 Astra system card and releases the model, with advanced cyber work limited to testers and Daybreak Blue to follow. A dark footer band reads 'What 7 August did not show: no benchmark, score, transcript or named external assessor, only that OpenAI could not exclude the top tier.' A source line cites the OpenAI posts and the system card.

مُثبت، ومؤقت، وغير مُثبت

• مُثبَت.نشرت OpenAI الإفصاح في 7 أغسطس 2026، وقالت إنها لا تستطيع استبعاد وجود قدرة سيبرانية حرجة في Astra؛ وأدرجت الضوابط والتوقف الجزئي الموصوفين أعلاه. The Next Webأفادت بالمنشور في اليوم نفسه، وAxiosغطّته كتباطؤ بسبب المخاطر السيبرانية.

• أُقرِّر لاحقًا. في 1 سبتمبر 2026، صنّفت OpenAI نموذج Astra بأنه يستوفي العتبة الحرجة — أول نموذج تصنّفه عند ذلك المستوى — ونشرت نتائج المعايير المرجعية وتقييم الخبراء. وتحمل بطاقة النظام المؤرخة 3 سبتمبر رقم الرفض نفسه والتقييم الخارجي Irregular.

• مؤقتة وذاتية التقييم. استنتاج القدرات هذا خاص بـ OpenAI، واستنادًا إلى تقييمات OpenAI. حتى 7 أغسطس، لم يكن أي مختبر خارجي قد اختبر النموذج علنًا وفق تعريف Critical، ولم يذكر المنشور أي مقيّم خارجي. أما الفحص الخارجي اللاحق، الذي أجرته Irregular، فهو أضيق من التصنيف، وقد خلص صراحةً إلى عدم وقوع أي هجمات ناجحة على أهداف محصنة بالكامل.

• لم يثبت. أن Astra وصلت فعلاً إلى العتبة الحرجة في 7 أغسطس؛ فالمقال يقول فقط إن الشركة لم تستطع استبعاد ذلك. وأن أي نظام حقيقي قد تعرّض للاختراق: لا يسجّل السجل أي ضرر، وقد صرّحت OpenAI بأن Astra لم تكن متورطة في حادثة Hugging Face. ولا يثبت أيضاً أن الإيقاف الجزئي حقّق صيغة الإطار نفسها «وقف التطوير الإضافي» — فقد واصلت OpenAI العمل الذي استوفى ضوابطها الجديدة، وقيّمت الشركة، لا جهة خارجية، كفاية تلك الضوابط.

مسألة الحوكمة التي يتركها السجل مفتوحة

الإطار أداة ذاتية الالتزام. فهو يُلزم OpenAI بعتبات وضمانات، ويترك تقييم الأمر وتقدير كفايته لـOpenAI، مع مراجعة داخلية من فريقها الاستشاري للسلامة وإشراف من مجلس الإدارة. يصف منشور 7 أغسطس التشاور — إذ كانت وكالات حكومية و"منظمات مختارة للسلامة المتعلقة بالذكاء الاصطناعي" ستختبر النموذج — لكنه لا يسمّي أي جهة تنظيمية، ولا ينشر أي معايير، ولا يحدد أي تاريخ. ولا شيء في السجل يُظهر أن طرفًا خارجيًا يفحص ذلك القرار.

ما يوضحه السجل فعلاً هو أن الآلة تحرّكت. فقد غيّر تقييم للقدرات الممارسة الداخلية خلال يوم واحد: تم تشديد الضوابط، وتوقف بعض العمل، وتوسّعت المراقبة لتشمل التدريب والتقييم، ثم قُيّد لاحقًا الوصول إلى الوظائف الأكثر قدرة على المختبِرين. وهذا أكثر من بيان صحفي، وأقل من تحقّق خارجي.

الجزء غير المحلول هو الجزء الذي لا يستطيع الإطار أن يحسمه بنفسه. عبارة "لا يمكن استبعاد" تتعلق بالأدلة لا بالقدرة، وهي تترك للشركة أن تقرر مقدار الأدلة الكافي قبل أن تستأنف. أعادت OpenAI تشغيل التدريب الكبير في 28 أغسطس، وصنّفت النموذج "حرجًا" في 1 سبتمبر، وأطلقته باسم GPT-6 Astra في 3 سبتمبر. كل خطوة موثقة. أما ما إذا كان ينبغي أن تقع كل خطوة في وقتها الذي وقعت فيه، فهو حكم يسجله السجل لكنه لا يجيب عنه.

A generated abstract illustration on a dark navy grid: a translucent boundary ring encloses a cluster of nodes, with a single amber monitor glyph outside the ring tracing an arc across the cluster's activity. Faint concentric detection rings surround the enclosure. No text, no people, no code and no organisation logos appear in the image. The OrcaRouter logo is composited in the bottom-right corner.

مقارنات في هذه المقالة1

مستخرج من هذه المقالة · المعايير: Artificial Analysis · يُحدَّث يوميًا