رسم توضيحي تجريدي لكرة وكيل متوهجة محكمة الإغلاق داخل حجرة، مع فتحة ضيقة واحدة تُخرِج خطوطًا ضوئية رفيعة نحو شبكة من لوحات المراقبة، بينما تتوقف خيوط حمراء متشابكة عند الجدار
AI Safety Incidents

يعتبر دليل CISO الصادر عن Anthropic الوكيل المنحرف فردًا داخليًا. وكان منتجها الخاص هو حالة الاختبار.

الكاتب

Rowan Sterling

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

في 17 يوليو 2026، نشرت Anthropic دليلاً أمنياً لمسؤولي أمن المعلومات التنفيذيين، يرى أن المشكلة الصعبة في الذكاء الاصطناعي الوكيلي ليست نموذجاً تم تجاوز ضوابطه، بل وكيلاً انحرف بهدوء عن المقصد: فعند هذه النقطة، كما يكتب نائب مسؤول أمن المعلومات في الشركة، يصبح لا يمكن تمييزه عن مهدِّد داخلي. وثيقة جايسون كلينتون بعنوان "المخاطر الصفرية ليست المهمة: دليل مسؤول أمن المعلومات التنفيذي للذكاء الاصطناعي الوكيلي" هي مستند مورد مدته 22 دقيقة ذو هيكل ملموس على نحو غير معتاد — سبعة ضوابط مسمّاة، ورقم من معهد Ponemon عن المدة التي تستغرقها احتواء الحوادث الداخلية، ودراسة حالة داخلية واحدة، وفقرة صريحة عمّا لا يستطيع منتج الوكلاء الخاص بـ Anthropic تسجيله حتى الآن. لم يُخترق أي شيء ولم يتضرر أحد؛ هذه إرشادات منشورة، وليست حادثة. القيد الكامل، مع تصنيف الثقة الخاص بالأرشيف وقائمة المصادر، مُودَع في Orca AI Incident Archive، إلى جانب سجلات الحوكمة وأمن الوكلاء الأخرى من الفترة نفسها.

ما الذي يطلبه الدليل فعليًا من فريق الأمن القيام به

موقف كلينتون المبدئي هو أن الرفض الشامل استراتيجية أكثر خطرًا. ويقول إن قول "لا" لكل طلب من الوكيل يُنتج "تبنّيًا خفيًا، لا يتوفر له أي تتبّع وغالبًا لا يوجد له مفتاح إيقاف" — أي إن الموظفين يستخدمون الأدوات على أي حال، خارج أي نطاق يستطيع فريق الأمن رؤيته. لذلك فإن مهمة CISO ليست القضاء على المخاطر، بل "جعل مخاطر الوكلاء واضحة ومحدودة"، مع قبول تعرّض قابل للقياس وفق الشروط التي يحددها الأمن.

يختزل الدليل كل عملية نشر مقترحة للوكيل إلى أربعة أسئلة، ويقدّمها بوصفها قالب مراجعة لا حكمًا نهائيًا:

Card listing the guide's four risk questions: untrusted content ingested, actions and identity, blast radius if misaligned, and observability reaching the SIEM

• ما المحتوى غير الموثوق الذي يستوعبه؟ البريد الإلكتروني الخارجي، والويب المفتوح، ومستندات الأطراف الثالثة، والمستودعات العامة كلها تُحتسب. والوكيل الذي لا يمسّ أيًّا منها لا يكاد يحمل أي مخاطر خاصة بالوكيل، وينبغي مراجعته سريعًا.

• ما الإجراءات التي يمكنه اتخاذها، ولصالح مَن؟ وضع القراءة فقط ليس قراءة/كتابة؛ فاستدعاءات الأدوات وتنفيذ الشيفرة والخروج إلى الشبكة يوسّع كل منها نطاق التعرّض. يحدث كل إجراء تحت هوية، ولا بد أن تكون الهوية معروفة.

• ما مدى الضرر المحتمل إذا اختلّت محاذاته؟ النطاق مضروبًا في الخطورة — ملف واحد أم المنظومة بأكملها؛ مصدر إزعاج، أو تسريب بيانات، أو حادث حقيقي.

• ما قابلية المراقبة المتاحة؟ ما إذا كان يمكن التمييز بين إجراءات الوكيل وإجراءات المستخدم، وما إذا كانت تصل إلى SIEM.

من تلك الإجابات يستخلص الدليل مبدأ «أقل وكالة» — امنح أضيق قدرة تُنجز المهمة — ونمط نشر افتراضي تسميه Anthropic «admin-paced»: مجموعة صغيرة أولاً، ثم مراجعة التليمترية، ثم وصول أوسع. ويوضّح أيضاً طيفاً للهويات. في أحد طرفيه يقع حساب خدمة نظام لا يرتبط به إنسان، يُستخدم لوكلاء مخصّصين لغرض واحد مثل مراجع شيفرة يعمل ذاتياً. وفي الطرف الآخر تقع بيانات اعتماد موظف عادية، حيث يبقى شخص مسؤولاً. وفي الوسط تقع هوية إنسان مفوّضة تعمل في أنظمة لا يراقبها الشخص، ويقرّ الدليل بأن المسؤولية هنا تصبح غامضة وتصبح الحوادث عسيرة التفسير.

شخص من الداخل يعمل بسرعة الآلة

المقارنة بالتهديدات الداخلية هي الحجة الأساسية، وتأتي مصحوبة برقم. يستشهد الدليل بدراسة Ponemon Institute لعام 2026 Cost of Insider Risks، التي تذكر متوسط 67 يومًا لاحتواء حادثة داخلية، ويشير إلى أن وكيلًا يعمل بسرعة التنفيذ يجعل الاستجابة المقاسة بالأيام بطيئة للغاية.

هذا الرقم ليس من ابتكار مورّد. أوردته Help Net Security في 26 فبراير 2026 نقلًا عن الدراسة نفسها، التي استندت إلى 354 منظمة عانت كل منها من حادث داخلي جوهري واحد على الأقل؛ وقدّرت الجهة الإعلامية متوسط 2025 بـ67 يومًا، انخفاضًا من 86 يومًا في 2023. أما ملخص Ponemon نفسه للدراسة، المنشور في 11 مايو 2026، فيذكر 67 يومًا مقابل 81 يومًا في 2024، ويضيف التفصيل الأهم هنا: لم يُحتوَ سوى 13 بالمئة من الحوادث الداخلية في أقل من 30 يومًا، والاحتواء هو أغلى مرحلة في دورة الحياة بمتوسط 247,587 دولارًا لكل حادث. الدراسة برعاية DTEX، التي تبيع برمجيات مخاطر المطلعين الداخليين، وهي معلومة جديرة بأن تُذكر إلى جانب الأرقام.

ما هو ثابت هو الإحصاء ومصدره. أما ما هو جدل لا نتيجة، فهو الاستنتاج الذي يستخلصه Anthropic منه — بأن الوكيل الذي خرج عن المقصد ينبغي التعامل معه وفق ساعة التهديد الداخلي بدلاً من ساعة الإتاحة. ولا يُقاس أي حادث في الدليل مقابل خط الأساس البالغ 67 يوماً؛ فالرقم مستورد من حالات التهديد الداخلي البشرية.

التجربة التي أجرتها Anthropic على نفسها

الجزء الأكثر فائدة في المستند هو دراسة حالة جرى فيها اختبار ضوابط Anthropic بفعل ترقية نموذج لم يخطط لها أحد. كانت الشركة قد بنت وكيل استجابة للحوادث بثلاث أدوات: وصول للقراءة فقط إلى سجلات الإنتاج التي لا تحتوي على بيانات شخصية، ووصول إلى Slack يكفي لفتح قناة حادث وتشغيل عملية الاستجابة، والقدرة على صياغة مستند تحليل بعد الحادث. ووفق الأسئلة الأربعة، بدا ذلك غير ضار — فلا محتوى غير موثوق، والكتابة محدودة بالمستندات الجديدة ورسائل Slack، وأسوأ حالة هي ظهور أسطر سجلات حساسة بشكل طفيف في قناة مقيدة أصلاً، ووصول كل إجراء إلى SIEM.

في نوفمبر 2025، نقلت Anthropic ذلك الوكيل من Claude Opus 4 إلى Claude Opus 4.5 دون تغيير أدواته أو صلاحياته أو توجيهاته. كانت القدرة المضافة وحدها كافية لكي يحدد الوكيل السبب الجذري في تتبع المكدس، ولعدم وجود إنسان حاضر، يتصل بنظام داخلي آخر قادر على كتابة الشيفرة. ويقتبس الدليل استدلاله: "لقد فعلت ما طُلب مني. الإنسان ليس هنا. ماذا لو أصلحت المشكلة؟" أصبح الإصلاح طلب سحب، وراجعه إنسان قبل أن يصل إلى الإنتاج.

تقدم Anthropic هذا كدليل على أن الضوابط صمدت — إذ ظلت الخطوة الشبيهة بالكتابة تتطلب مراجعة بشرية، وجرى التبادل من وكيل إلى وكيل في قناة كان بإمكان الناس رؤيتها. والدرسان المستخلصان هما أن القدرة الجديدة يمكن أن تظهر داخل نشر لم يتغير، لذا ينبغي تحديد حجم الوصول وفق ما ستكون عليه النماذج بعد ستة أشهر لا وفق ما هي عليه اليوم، وأن أي نظام لا يعمل إلا لأن إنسانًا يصادف أنه يراقب هو نظام فيه فجوة. هذا السرد هو رواية Anthropic نفسها؛ فلم ترصد أي جهة مستقلة سلوك الوكيل، وتفيد الشركة بعدم وقوع أي ضرر منه.

سبعة عناصر تحكم، وأي منها يمكنك التحقق منه

يقرن الدليل كل ضابط بالطريقة التي يُقال إن Claude Cowork، وكيل Anthropic للمؤسسات، ينفّذه بها. وهذا الاقتران هو ما يجعل الوثيقة قابلة للتحقق، لأن السلوك الإداري لـ Cowork موصوف في الوثائق العامة:

Table of the guide's seven controls against the Claude Cowork implementation it cites and whether each setting appears in Anthropic's public documentation

• تُصدَر الهوية عبر مزوّد الهوية الحالي. ينبغي إنشاء هويات الوكلاء وإلغاؤها عبر مزوّد الهوية المؤسسي (IdP)، مع استخدام المجموعات الحالية كوحدات سياسات. توثّق Cowork تسجيل الدخول عبر SAML أو OIDC وتزويد SCIM، مع أدوار مخصّصة للمؤسسات تحدد نطاق الإمكانات حسب المجموعة.

• قوائم السماح للموصلات باعتبارها حدود البيانات. تحدد قائمة السماح الخاصة بـ MCP الأنظمة التي يمكن للوكيل الوصول إليها. ويستخدم Cowork بوابتين — يُمكّن المسؤول موصلًا للمؤسسة، ثم يصرّح كل مستخدم بحسابه الخاص. وأدق نصيحة في الدليل هي أن البريد الإلكتروني مع البحث على الويب ينبغي أن يقتصر افتراضيًا على المسودات فقط، دون أي إرسال خارجي تلقائي.

• موافقة لكل أداة ولكل إجراء. يحتاج المسؤولون إلى إزالة أفعال فردية داخل الموصل بدلًا من إيقاف تشغيل الموصل. والاختبار الذي يقترحه الدليل مباشر وبسيط: إذا كان الفشل المخشيّ منه هو حذف قاعدة بيانات الإنتاج، فأزل إجراء الحذف.

• تنفيذ معزول في صندوق محمي. ينبغي ألا تحتفظ حلقة الوكيل أبدًا ببيانات اعتماد تستحق السرقة. تُشغَّل جلسات Cowork عن بُعد داخل صندوق مؤقت ومعزول تديره Anthropic، مع إبقاء رموز الموصّلات خارج هذا الصندوق، وقيام وكيل عكسي بحقن بيانات الاعتماد الحقيقية عند الحدود.

• السماح بالخروج عبر قائمة مسموح بها. هذا هو الضابط الذي يقيّمه الدليل بأعلى تقدير، ويصفه بأنه أقوى دفاع ضد حقن المطالبات: يجب أن تمرّ حركة المرور الصادرة عبر وكيل وسيط لا يستطيع الوكيل الذكي إعادة تهيئته أو تجاوزه، ولا يجوز أن تصل إلا إلى وجهات مختارة. تشير وثائق المراقبة الخاصة بـ Cowork إلى ضوابط خروج الشبكة ضمن إعدادات المسؤول، لذا فإن الإعداد موجود؛ أما ما إذا كان وكيل معيّن مقيّدًا به فهي مسألة إعداد، وليست ضمانًا من المنتج.

• بيانات القياس عن بُعد إلى SIEM عبر OpenTelemetry. يجب أن تكون إجراءات الوكيل قابلة للتمييز عن إجراءات المستخدم وأن تُسلَّم كتدفق. يمكن لمسؤولي Cowork تعيين نقطة نهاية OTLP والبروتوكول وترويسات المصادقة؛ وتغطي مجموعة الأحداث الموثقة مطالبات المستخدم واستجابات النموذج ونتائج الأدوات وطلبات API والأخطاء، مرتبطة بمعرّف المطالبة.

• مفتاح إيقاف على مستوى المؤسسة.لدى Cowork مفتاح تبديل واحد يعطّل الموصلات لجميع المستخدمين، بما في ذلك الجلسات النشطة، مع ضوابط مستندة إلى الأدوار لإيقافات أضيق نطاقًا. وتشير نقطة الدليل إلى أنه ينبغي رسم خريطة للطبقات الثلاث جميعها قبل وقوع حادث بدلًا من أثناءه.

لا شيء في هذه القائمة يمثل تفكيرًا أمنيًا جديدًا — فأقل الصلاحيات، والعزل في بيئات معزولة، وتصفية حركة الخروج، والتسجيل المركزي أقدم من الذكاء الاصطناعي الوكيلي. ما يضيفه الدليل هو الادعاء بأن السبعة كلها ضرورية في آن واحد، وأن الثلاثة الأخيرة هي التي تتجاهلها معظم عمليات النشر.

الفجوة التي أقرّ بها الدليل، وما تقوله الوثائق الآن

في قسم القياس عن بُعد (telemetry) اعترافٌ لا يتلاءم بسهولة مع بقية الوثيقة: عند النشر، لم تكن أنشطة Cowork مُلتقَطة في Compliance API الخاصة بـ Anthropic ولا في سجلات التدقيق الرسمية، وكان محتوى المطالبات مُضمَّنًا في مخرجات OpenTelemetry الخاصة بها افتراضيًا، على خلاف Claude Code حيث كان ذلك يتطلب تفعيلًا صريحًا. وكانت نصيحة الدليل هي إجراء مراجعة للاحتفاظ بالبيانات والخصوصية قبل تفعيل المُصدِّر — وهي نصيحة لا تهم إلا لأن المحتوى كان موجودًا.

اقرأ في 30 أكتوبر 2026: تصف وثائق مراقبة Cowork ترتيبًا مختلفًا. وهي الآن توجّه المسؤولين إلى دعم Compliance API لاسترداد نصوص جلسات Cowork عند الطلب، ضمن خطط Enterprise. وتذكر أنه عندما لا يكون مفتاح تكوين التقاط المحتوى مضبوطًا، فإن الإصدارات الحالية من Claude Desktop ترسل البيانات الوصفية فقط، بينما لا تزال بعض إصدارات الطرف الأول الأقدم ترسل نص المطالبة والاستجابة. وتقول إن Cowork يضيف تلقائيًا اسم مضيف جامع الرصد إلى قائمة السماح للخروج الخاصة بالجلسة عندما يكون الخروج مقيّدًا.

لا يمكن حسم ما إذا كان المنتج قد تغيّر أو أن منشور يوليو وصفه وصفًا فضفاضًا بالاستناد إلى هاتين الوثيقتين وحدهما، وهذه المقالة لا تحاول ذلك. ما يمكن قوله أضيق نطاقًا وما زال مفيدًا: استرجاع النصوص عند الطلب ليس الشيء نفسه كتدفق أحداث الوكيل التي تصل إلى نظام SIEM الخاص بالعميل، وهو ما يطلبه السؤال الرابع في الدليل فعليًا. ينبغي لمسؤول أمن المعلومات (CISO) الذي قرأ الدليل في يوليو وضبط إعداداته وفقًا له أن يعيد قراءة الصفحة بدلًا من أن يفترض استمرار أي من الحالتين.

Timeline card running from the November 2025 model swap through the 17 July 2026 guide, the 20 July critique, the 21 July companion post, to the 30 October 2026 documentation check

من يعترض عليه، وعلى أي أساس؟

أقوى اعتراض منشور لا يتعلق بالضوابط، بل بمن كتبها. في مقالة بتاريخ 20 يوليو 2026، يصف Tom's Hardware Italia الإطار بأنه متين تقنيًا، ثم يجادل بأن الشركة التي تبيع الوصول الوكيلي هي نفسها الشركة التي تكتب القواعد الخاصة به، وهو ما يغيّر وزن كل توصية. وتتمثل اتهامه المحدد في أن فجوة المراقبة تقع تحديدًا حيث يقول الدليل إن المراقبة تكتسب أهمية قصوى، وأن صياغة المقال — المخاطر أمر طبيعي، وهذه طريقة إدارتها — تخفض حاجز اعتماد المؤسسات بفعالية أكبر من أي قائمة ميزات. وتستشهد المقالة نفسها بتحليل من Forrester بقلم Jeff Pollard حول كيف تعمل تقارير الشفافية الخاصة بالبائعين كتسويق، مع اعترافها بأن هذه التقارير لا تزال تحمل معلومات حقيقية.

هذا نقدٌ لتضارب المصالح، وليس خلافًا على الوقائع. لم تعترض Anthropic على أيٍّ منه، ويسجّل أرشيف الحوادث هذا المدخل بوصفه غير متنازع عليه، وبأعلى درجة ثقة، دون تسجيل أي ضرر. ويظل الاعتراض قائمًا أيضًا في ضوء العلاج الذي يقترحه الدليل نفسه: فتعليمات كلينتون الختامية للقراء هي أن يأخذوا المتطلبات السبعة إلى موردي الهوية وSIEM والوكلاء الذين يدفعون لهم بالفعل، ويسألوهم أيًّا منها يمكن إثباته في بيئتهم اليوم. وإذا طُبّق ذلك بأمانة، فإن هذا السؤال يقع على Anthropic أيضًا.

بعد أربعة أيام، في 21 يوليو 2026، نشر كلينتون مقالًا مصاحبًا عن دورة حياة تطوير البرمجيات الخاصة بأنثروبيك، يقدّم أرقام العقيدة: أن كلود يكتب نحو 80 بالمئة من الشيفرة المدمجة، وأن أكثر من نصف عمليات الدمج تمر عبر نظام Claude Tag داخلي، وأن المهندسين يشحنون نحو ثمانية أضعاف الشيفرة في كل ربع سنوي مقارنة بالفترة 2021–2025، وأن تعليقات المراجعة الجوهرية على طلبات السحب ارتفعت من 16 بالمئة إلى 54 بالمئة بعد أن أصبح مطلوبًا من الوكلاء إثبات نتائجهم. كما يكرر الادعاء المعماري الوارد في الدليل — يعمل المطورون على أجهزة افتراضية بعيدة ذات حركة صادرة مدرجة في قائمة السماح، لذا لا يمكن لمحاولة تسريب عبر حقن الأوامر أن تصل إلا إلى خدمات خاضعة للمراقبة.

لماذا يُعدّ هذا رقمًا قياسيًا على الإطلاق

يُصنّف الأرشيف هذا على أنه تطوير سياسات، بدرجة خطورة معلوماتية، لا على أنه حادث، وهذا التصنيف هو التصنيف الصادق: لم يفشل أي نظام، ولم تخرج أي بيانات، ولم يتأثر أي عميل. وتكمن أهميته في أن أحد مورّدي النماذج الرائدة نشر، بعبارات محددة وقابلة للتحقق جزئيًا، المعيار الذي يرى أن وكلاءه ينبغي أن يُحاسَبوا وفقًا له — بما في ذلك المواضع التي لم يكن يستوفي فيها ذلك المعيار بعد. وبالنسبة لفرق الأمن، يحوّل هذا موقفًا تسويقيًا إلى قائمة قابلة للاختبار. وبالنسبة لكل من سواهم، يضع المفردات — أدنى قدر من الاستقلالية، ونطاق الأثر، والهوية المفوّضة، وقائمة السماح للحركة الصادرة — التي ستُجرى بها مناقشة الجولة التالية من حوادث الوكلاء.