رسم توضيحي تجريدي مُولَّد على خلفية رمادية دافئة شاحبة، مؤطَّر بخط رفيع سماوي اللون مع هامش واسع. لوحة كبيرة بلون أبيض مائل للعاجي بشكل نموذج تقرير حادث تقع إلى يسار المركز، تحمل خطوطًا أفقية باهتة مسطرة وثلاثة مربعات حقول صغيرة فارغة في عمود. من حافتها اليمنى، تتفرع وصلات رفيعة سماوية إلى أربع كتل صغيرة مسطحة بلون رمادي أردوازي مكدسة بالتساوي نزولًا على الجانب الأيمن، تحمل كل منها شريطًا قصيرًا واحدًا غير محدد. ثلاث وصلات صلبة، إحداها تتوقف قبل كتلتها تاركة فجوة صغيرة؛ وواحدة منقطة. مربع كهرماني صغير مسطح واحد يطفو بين اللوحة والكتل، غير محدد. لا يوجد أي نص أو حروف أو أرقام أو تسميات في أي مكان داخل الإطار. شعار OrcaRouter مركّب في الزاوية السفلية اليمنى لشريط أبيض أسفل العمل الفني.
AI Safety Incidents

SAFE RFC: تبادل حوادث الذكاء الاصطناعي بأسلوب الطيران التابع لمنظمة OSAA هو مسودة مفتوحة، وليس نظامًا بعد.

الكاتب

Rowan Sterling

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

في 4 أغسطس 2026، ومع افتتاح Black Hat USA في لاس فيغاس، نشرت Linux Foundation طلب تعليقات (Request for Comments) لفريق العمل المعني بتبادل نتائج الذكاء الاصطناعي المشتركة (SAFE) — وهو اقتراح للمؤسسات كي تبلغ عن حوادث أمن الذكاء الاصطناعي والحوادث الوشيكة في قناة مشتركة سرية، وتتعلم منها جماعيًا، وتنشر ضوابط دفاعية مستمدة مما أخفق. طُوّر المسودة الأولية بواسطة مساهمين من Cisco وCrowdStrike وHugging Face وNVIDIA وRed Hat، من بين أعضاء آخرين في التحالف، حسبما قالت Linux Foundation في إعلانها. وفُتحت لمراجعة المجتمع عبر مستودع GitHub الخاص بـ Open Secure AI Alliance في اليوم نفسه. ولا يصف هذا الإدخال أي ضرر: فهو سجل سياسات، أُدرج في الأرشيف بدرجة خطورة info ودرجة ثقة A، وموضوعه عملية وليس حدثًا. وتقع درجة الخطورة الخاصة بالسجل وتقييم الثقة وقائمة المصادر في أرشيف حوادث الذكاء الاصطناعي، إلى جانب الإدخالات المودعة حوله.

يطلب مشروع القرار من الأعضاء الإبلاغ عن أربعة أشياء، وتجاهل السبب

نص أغسطس موجز في خطابه البلاغي ودقيق في تحديد المحفّزات. وتحت عنوان «ميثاق الإبلاغ»، يطلب من الأعضاء الموافقة — كشرط للعضوية — على الإبلاغ عن حادثة عندما يعلمون أو يشتبهون بشكل معقول بأن نظام ذكاء اصطناعي يشغّلونه قد قام بأحد أربعة أمور: الوصول إلى نظام طرف ثالث أو استغلاله أو تعطيله أو إساءة استخدامه أو تعديله دون إذن؛ أو التسبّب في تأثير على طرف ثالث عبر الإفلات من حدود بيئة العزل أو الشبكة أو الهوية أو السياسة أو الأداة، أو تجاوزها؛ أو الاطلاع على معلومات سرية تخص طرفًا ثالثًا دون موافقة مالكها؛ أو مواصلة استكشاف هدف إنتاجي أو الوصول إليه أو تعديله بعد أن علم المشغّل، أو شكّ شكًا معقولًا، بأن النشاط غير مصرّح به أو خارج النطاق المعتمد.

ثم تأتي الجملة التي تضطلع بمعظم العمل: "القصد لا يحدد ما إذا كان الحدث قابلاً للإبلاغ عنه. إن الاعتقاد بأن بيئة ما كانت محاكاة قد يفسّر حادثًا، لكنه لا يزيل واجب الإبلاغ عنه." يبدو أن ذلك البند موجّه إلى الحالة التي يعمل فيها نظام في ما يعتقد مشغّله أنه بيئة اختبار معزولة، ويتعامل مع البنية التحتية الحيّة كجزء من التمرين: قد يفسّر اعتقاد المشغّل بشأن البيئة الحدث، لكنه لا يزيل واجب الإبلاغ. كما يطلب المشروع من الأعضاء الإبلاغ عن الحوادث الوشيكة، لا عن الأحداث التي أسفرت عن ضرر مؤكد فحسب، وتقديم تحليل أولي لفشل الضوابط خلال 30 يومًا.

المهلة الزمنية: فوري، 72 ساعة، أربعة أيام عمل، تسعون يومًا

جدول الإخطار في المسودة هو أكثر ما فيها تحديدًا، والصف الأول ليس موعدًا نهائيًا على الإطلاق: إذ يجب إبلاغ المنظمة المتأثرة بشكل مباشر على الفور. وكل مهلة تُحتسب من لحظة علم العضو بوقائع توفر أسبابًا معقولة للاشتباه في وقوع حدث خاضع للإبلاغ — لا من لحظة انتهاء التحقيق. والجدول أدناه منسوخ من مسودة 4 أغسطس؛ وتحتفظ مراجعة أكتوبر بالفواصل الزمنية نفسها.

A hand-built HTML card headed 'Notification deadlines in the August draft', kicker 'OrcaRouter - AI incident archive', subtitle 'All clocks run from reasonable grounds to suspect a reportable event'. Seven rows, each a pale blue deadline chip on the left and the required action on the right: immediate, notify the directly affected organisation; 72 hours, notify customers with credible exposure; 4 business days, submit a confidential, initial SAFE incident report; 14 days, issue a broader customer advisory when warranted; 30 days, publish a preliminary factual report, subject to security, legal and investigative constraints; 90 days, publish remediation status; weekly, provide machine-readable updates while material risks remain unresolved. A dark band reads 'These timelines do not replace any supplier obligation to notify affected parties, coordinated vulnerability disclosure practice, or contractual and legal duties to notify regulators or law enforcement. SAFE reporting runs alongside them.' A footer credits the SAFE RFC of 4 August 2026 and notes the card is hand-built, not a screenshot of any vendor page.

ثلاثة من تلك الصفوف تتعلق بإبلاغ أشخاص آخرين، وأربعة تتعلق بإبلاغ SAFE نفسها. وتكتسب هذه التفرقة أهمية لأن الإطار ليس نظام إفصاح صريحًا: يقول المسودة "إن هذه الجداول الزمنية لا تحل محل أي التزام على المورد بإبلاغ الأطراف المتأثرة، أو العملاء عبر أفضل ممارسات الكشف المنسق عن الثغرات القائمة، أو الالتزامات التعاقدية والقانونية الأخرى السارية بإبلاغ الجهات التنظيمية أو إنفاذ القانون". وما تضيفه SAFE هو التزام موازٍ تجاه جهة ليست جهة تنظيمية — ونموذج إفصاح من ثلاث طبقات لا يُقصد فيه أن يكون قابلًا للمشاركة على نطاق واسع سوى الطبقة الأخيرة، وهي تقرير السلامة العامة.

ثماني طبقات تحكم في أغسطس، وإحدى عشرة في أكتوبر

تُبنى المراجعات حول مكدّس التشغيل لا حول النموذج وحده. وقد أدرجت مسودة أغسطس ثماني طبقات وطرحت سؤالاً واحداً على كل منها — هل تعرّف النموذج على عدم اليقين وشروط التوقف؛ هل كانت افتراضات التفويض والبيئة صريحة؛ هل كانت المصنفات والموافقات وحدود الإجراءات تعمل؛ هل كانت بيانات الاعتماد والأذونات والتنفيذ مقيّدة؛ هل جرى التحقق من العزل وحدود البيانات بشكل مستقل؛ هل كان بإمكان المشغّلين الاكتشاف والمقاطعة في الوقت الفعلي؛ هل كانت مسارات التصعيد وإجراءات الإنهاء القسري واضحة؛ هل أبطل أي شريك في السحابة أو التقييم أو البيانات أو الأدوات الضوابط المفترضة.

A hand-built HTML card headed 'The review stack grew by three layers', kicker 'OrcaRouter - AI incident archive', subtitle 'Left: the eight layers in the 4 August draft. Right: the three added in the October revision'. Two white columns. The left column, headed 'Draft, 4 August 2026', lists eight layers each with its review question: model, instructions, safeguards, tools, environment, monitoring, human operations, supply chain. The right column, headed 'Added 21 October 2026' in amber, lists three: serving path, whether the invoked model, runtime, gateway, cache, proxy and wrapper matched configurations and produced expected results; authorisation and commitment, whether the consequential action matched valid authorisation at commitment including delegation, expiry and revocation; workflow composition, whether the combined sequence, shared state and interactions crossed a trust boundary or exceeded the originating scope. Below those, in the same column, a sub-heading reads 'And the answers narrowed to four' with the four permitted answers: pass, fail, insufficient evidence, not applicable, and a note that the change log states these findings do not establish general system safety or legal compliance. A dark band reads 'Eight layers ask whether the system behaved. The three added later ask whether the model that answered was the model that was configured, whether permission still existed when the action landed, and whether the sequence stayed inside the scope that started it.'

تضيف مراجعة أكتوبر، المؤرخة في 21 أكتوبر 2026 والمودعة في المستودع في اليوم التالي، ثلاث طبقات: مسار التقديم، والتفويض لحظة الإيداع، وتكوين سير العمل عبر سلسلة من الإجراءات. كما تحوّل المراجعة إلى تقييم متدرّج بأربعة إجابات مسموح بها — ناجح، وفاشل، وأدلة غير كافية، وغير منطبق — وتنصّ في سجل تغييراتها على أن هذه النتائج لا تُثبت سلامةً عامة للنظام ولا امتثالًا قانونيًا. ويستحق هذا التدرّج القراءة بوصفه وصفًا لما تعلّمه المؤلفون أن يقلقوا بشأنه: لا ما إذا كان النموذج قد أحسن التصرّف، بل ما إذا كان النموذج الذي أجاب هو النموذج الذي جرى إعداده، وما إذا كان الإذن لا يزال قائمًا حين وقع الإجراء، وما إذا كانت السلسلة ككل قد بقيت داخل النطاق الذي بدأتها به.

الطيران، ولكن أي جزء من الطيران؟

إن تأطير السجل نفسه — وهو نظام محاكى لنظام الإبلاغ عن سلامة الطيران التابع لـ NASA — يتبع إعلان Linux Foundation بدلًا من المسودة. ويصف الإعلان ASRS بأنه «نظام إبلاغ طوعي وسري، مصمم لتحليل حوادث الطيران والاستجابة لها على نحو يتيح للقطاع أن يتعلم ويتحسن». ولا تذكر المسودة الصادرة في أغسطس ولا المراجعة الصادرة في أكتوبر ASRS في أي موضع؛ إذ تقول المسودة فقط إن SAFE «ينبغي أن يتبنى أقوى سمات أنظمة الإبلاغ السرّي عن السلامة». وهذا فرق صغير له نتيجة عملية: فالإعلان يضع توقعًا لا يلتزم به النص بعد.

أثار هذا التشبيه تعليقات داخل عملية RFC نفسها. يذهب طلب سحب مبكر فُتح في 5 أغسطس، قدّمه مساهم يكتب بصفته الشخصية، إلى أن «تشبيه ASRS يفتقر إلى عنصر مؤسسي» — أي أن ASRS يعمل إلى حد كبير لأن التقارير تُستقبل وتُعالج وتُزال هويتها من قبل NASA، «بوصفها طرفًا ثالثًا عامًا وغير تنظيمي وغير تجاري — لا من قبل FAA بصفتها الجهة التنظيمية، ولا من قبل شركات الطيران التي يُبلّغ عن عملياتها». وظل الطلب، الذي يستند أيضًا إلى عملية حوكمة الإنترنت لعام 1998، مفتوحًا في 30 أكتوبر. وكون مشغّل SAFE قادرًا على أداء دور NASA أم لا هو سؤال تصميمي لم يُحسم بعد وليس سمة مستقرة: يضع نص أكتوبر الفريق العامل تحت حوكمة التحالف نفسها، مع الإفصاح عن تضارب المصالح والتنحي ومسار استئناف إلى لجنة التوجيه للتحالف.

رسمت تغطية مستقلة تمييزًا ثانيًا أضيق نطاقًا. ففي تقرير نشرته Infosecurity Magazine في 6 أغسطس، أشارت إلى أن منشور Linux Foundation لا يذكر وكلاء الذكاء الاصطناعي تحديدًا — فالتأطير القائم على الوكلاء ينتمي إلى المنشور المرافق من NVIDIA، الذي يرى أن {{1}}"وكيل الذكاء الاصطناعي ليس مجرد نموذج. بل هو نظام"،{{/1}} ويسرد أُطر اختبار وبيئات معزولة وضوابط حماية وأدوات تقييم يساهم بها أعضاء التحالف. إن محفزات المسودة، إذا قُرئت حرفيًا، تتعلق بأنظمة تعمل خارج حدود التفويض؛ أما الطرح الترويجي للإعلان، إذا قُرئ حرفيًا، فيتعلق بالوكلاء.

ما قاله المعلّقون بشأن مَن يتحمّل التكلفة

جاء أحد أكثر الاعتراضات المحددة المنشورة على المسودة بصيغتها الحالية من عضو مؤسس في التحالف، لا من ناقد خارجي. فقد قدّم ستيفن سارجنت، المؤسس وكبير مسؤولي التقنية في Avondale.AI، بيان موقف عبر البريد الإلكتروني في 7 أغسطس — وهو اليوم الذي تقول الوثيقة إن الفريق القانوني في Linux Foundation أقرّ باستلامه فيه — ثم نشره في 9 أغسطس. يستهلّ بيانه بإبداء دعمه للمهمة، ثم يجادل بأن الميثاق غير قابل للتوسّع بحسب حجم المؤسسة: «لا تميّز وثيقة RFC بين مؤسسة تضم 50,000 موظف وفريق صغير». وقد يستهلك تقرير يستغرق أربعة أيام عمل، بالإضافة إلى حزمة أدلة جنائية محفوظة، في تقييمه، من وقت الموظفين أكثر مما يستطيع مشغّل صغير تخصيصه؛ وتوصيته هي إطار متعدد المستويات، تكون فيه التقارير السرية والنشر المؤجل أو المجهول الهوية الوضع الافتراضي للمؤسسات التي تقل عن عتبة حجم معيّنة.

الاعتراض الثاني يتعلق بالإفصاح لا بالمواعيد النهائية: فهو يرى أن «الإفصاح العلني هو شكل من أشكال الإنفاذ» بالنسبة للمشغلين الصغار، لأن تقرير الشركة الكبيرة يصبح حاشية، بينما يصبح تقرير الشركة الصغيرة هو العنوان الرئيسي، ويطلب أن يكون الإبلاغ منزوع الهوية هو الوضع الافتراضي تحت حدّ حجم معين. والثالث يتعلق بإطار المراجعة لا بالجدول الزمني: فنموذج الطبقات الثماني يفترض وجود فرق مؤسسية منفصلة، لذا في نشر فردي «يقوم المشغّل بكل شيء»، وتُقرأ الطبقة المفقودة على أنها فشل في الضوابط بينما هي مجرد نموذج تشغيلي مختلف. والرابع يتعلق بعبارة «الحد الأدنى من ممارسات التشغيل البيني والضمان»، التي يقرأها بوصفها مسارًا من الإبلاغ الطوعي إلى أدوات إلزامية بحكم الواقع. بيان الموقف هو رأي عضو واحد، نشره ذلك العضو نفسه. وإعلان Linux Foundation بتاريخ 4 أغسطس يسبقه ولا يتناول المسألة. وثمة طلب سحب لاحق، فُتح في 5 أكتوبر وما زال مفتوحًا في 30 أكتوبر، يقترح قالبًا للأدلة للمشغلين الذين لا يملكون مركز عمليات أمنية — اعترافًا بأن التحفظ لقي صدًى، وخيارًا مرشحًا لا حلًا معتمدًا، إذ يصرّح مؤلفه بأنه «لا يثبت اعتماد SAFE أو الكفاية القانونية».

ما الذي تغيّر بين 4 أغسطس و30 أكتوبر؟

سجل المستودع هو أفضل سجل متاح لما أنتجه {{RFC}} فعليًا، وهو أكثر وضوحًا مما توحي به التغطية الإخبارية. وصلت أولى الالتزامات في 3 أغسطس؛ وأُودِعت المسودة وملف README موسّع في 00:14 و00:19 UTC يوم 4 أغسطس. ثم ظل المستودع ساكنًا لمدة عشرة أسابيع. في 14 أكتوبر، أضاف التحالف ميثاقًا وملف أعضاء وأعاد كتابة README ليصبح المستودع مقر مجموعة عمل SAFE؛ وسُجّل في ذلك اليوم أن الرئيسين المؤقتين هما بول ديوريو من NVIDIA وجوش بوير من Red Hat. في 21 أكتوبر، نشرت مجموعة العمل SAFE v1، مع سجل تغييرات أول مدخلاته أن النص "يزيل كلمة 'proposed' من وصف SAFE" ويحدده بوصفه مجموعة عمل قائمة تابعة للتحالف.

A hand-built HTML card headed 'From draft to v1: the repository record', kicker 'OrcaRouter - AI incident archive', subtitle 'Commit dates from OpenSecureAIAlliance/wg-safe, in UTC. Nothing between rows two and four but pull requests and issues'. A vertical timeline with five entries, each a date on the left and what happened on the right: 3 Aug 2026, initial commit, readme added, acronym updated, the repository exists one day before the announcement; 4 Aug 2026, 00:14 and 00:19 UTC, the draft lands with contributing file, expanded readme and draft RFC updated, the Linux Foundation dates its announcement to the same day and Black Hat USA 2026 opens in Las Vegas that morning; 5 to 7 Aug 2026, first outside comment, a pull request arguing the ASRS analogy has a missing institutional element opened 5 August and still open on 30 October, a founding member's position statement submitted by email on 7 August; 14 Oct 2026, marked in amber, a charter and members file added, the readme rewritten to make the repository the working group's home, interim chairs recorded as Paul DiOrio of NVIDIA and Josh Boyer of Red Hat; 21 to 22 Oct 2026, SAFE v1 posted with a change log whose first entry removes the word proposed from SAFE's description, the member roster updated afterwards. A dark band reads 'The record shows pull requests, issues and roster rows. It does not show a filed incident report, a pilot, a comment deadline or a ratification date.' A footer credits the GitHub REST API for the commits, pull requests and members file, read 30 October 2026, and notes the card is hand-built.

ثمة أمران بشأن تلك الحالة يجدر الفصل بينهما. يحمل ملف README الخاص بالمستودع الآن السطر «الحالة: معتمد — معتمد من اللجنة التوجيهية»، وهو أقرب ما في السجل العام إلى بيان تصديق؛ أما الميثاق، في المستودع نفسه، فلا يزال يقول «قيد التطوير. سيُنشر ميثاق SAFE هنا بمجرد اعتماده من اللجنة التوجيهية». ويسمّي سجل التغييرات نص أكتوبر «SAFE v1» ويصف ما يغيّره، لكنه لا يذكر مَن صدّق عليه، ولا بأي تصويت، ولا في أي تاريخ. والقارئ الذي يريد أن يعرف ما إذا كان SAFE الآن مواصفة معتمدة، أم مجموعة عمل لا يزال ميثاقها التنظيمي غير مكتوب، لن يحصل على إجابة واضحة من الوثائق.

ما هو ثابت، وما هو غير ثابت

• تأسّس: نُشر طلب تعليقات خاص بتبادل نتائج الذكاء الاصطناعي المشتركة في 4 أغسطس 2026 — وقد أرّخت مؤسسة Linux Foundation إعلانها بذلك اليوم — والمنظمات المذكورة كمساهمين فيه هي Cisco وCrowdStrike وHugging Face وNVIDIA وRed Hat، إلى جانب "أعضاء آخرين من Open Secure AI Alliance".

• المقرر: تتضمن المسودة ميثاقاً للإبلاغ بأربعة محفزات، وجدول إشعارات يمتد من الفوري إلى 90 يوماً، وقائمة حفظ الأدلة، وإطار مراجعة متعدد الطبقات، ونموذج إفصاح من ثلاث طبقات. النص الكامل متاح للعموم في المستودع، وتاريخه متاح للعموم معه.

• مُثبت، مع الإسناد فقط: حجم التحالف — "أكثر من 120 منظمة" — هو رقم NVIDIA نفسه، وقد تكرر في تقرير Infosecurity Magazine بتاريخ 6 أغسطس. لا تُظهر أي من التغطيات التي روجعت تدقيقًا مستقلًا للعضوية، كما أن ملف الأعضاء في المستودع يُدرج مساهمَين ورئيسين مؤقتين، لا 120 منظمة.

• غير ثابت: أن أي شخص قد قدّم تقريرًا بموجب الميثاق. يُظهر السجل العام بتاريخ 30 أكتوبر عمليات الإيداع وطلبات السحب والمشكلات؛ ولا يُظهر تقرير حادث، أو برنامجًا تجريبيًا، أو حالة أولى، أو موعدًا نهائيًا للتعليقات، أو قاعدة تصويت، أو تاريخ تصديق. ويصف الإطار التزامًا "يوافق عليه" الأعضاء كشرط للعضوية، وهو لا يماثل التزامًا لم يوفِ به أحد حتى الآن.

• محل خلاف: ما إذا كانت مقارنة ASRS تظل قائمة دون مشغّل عام محايد، وقد اعْتُرِض على ذلك في طلب سحب مفتوح؛ وما إذا كان عبء الإبلاغ متناسباً مع المشغّلين الصغار، وقد اعْتُرِض على ذلك في بيان موقف عضو مؤسس؛ وإلى أي مدى يعدّ الإطار خاصاً بالوكلاء مقابل أمن الذكاء الاصطناعي العام، وهو تمييز يرسمه نص Linux Foundation ونص NVIDIA على نحو مختلف.

لا شيء من ذلك يجعل السجل خاطئًا، ودرجة A الممنوحة للأرشيف قابلة للدفاع بشروطها الخاصة: فالوثائق الأولية تتفق فيما بينها حول ما نُشر، ومتى، ومن قام بنشره، والمسودة قابلة للقراءة كاملة. وما لا تستطيع الدرجة أن تحمله هو الشيء الذي يريده القارئ أكثر من غيره — ما إذا كانت الآلية تعمل. فبخصوص ذلك لا توجد أدلة في أي من الاتجاهين، لأن الآلية لم تحظَ بعد بحالة.