رسم توضيحي تحريري تجريدي على خلفية كحلية داكنة: ينتصب في المركز هيكل طويل شفاف، مبني من إطارات شاحبة متراكبة تضيق كلما ارتفعت، مثل مرصد أو خزان سجلات بلا لافتة. تنطلق خطوط سماوية رفيعة من قاعدة الهيكل وتمتد إلى الخارج نحو عُقد صغيرة منفصلة عند حواف الإطار، وكل عقدة على مسافة مختلفة. تملأ الخلفية خطوط شبكية بيضاء دقيقة وأقواس متحدة المركز باهتة ونثار من نقاط غير مضيئة. لا يحتوي العمل الفني على أي نص ولا حروف ولا أرقام ولا أشخاص ولا علامات مؤسسية ولا شعارات؛ وشعار OrcaRouter مركّب في الزاوية السفلية اليمنى.
AI Safety Incidents

DeepMind تفتتح معهدًا لسياسات AGI، مع مراجعة للنماذج خلال 30 يومًا مطروحة بالفعل على الطاولة

الكاتب

Elias Hawthorne

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

في 16 سبتمبر 2026، أطلقت Google DeepMind معهد DeepMind Institute، وهو منصة نشر لمقالات عن الذكاء الاصطناعي العام، يديره ديميس هاسابيس وشين ليغ وجيمس مانييكا، ويتولى ليغ منصب مدير التحرير. لم يُطلق أي نموذج ولم يُسجَّل أي ضرر. وتكتسب عملية الإطلاق أهميتها مما تجادله المقالات الافتتاحية: الأولى، بقلم هاسابيس، تقترح هيئة معايير للذكاء الاصطناعي الحدودي بقيادة الولايات المتحدة تراجع النماذج الأكثر قدرة حتى 30 يومًا قبل إطلاقها — طوعية في البداية، ثم شرطًا للنشر في الولايات المتحدة، مع اختبارات محجوزة وإبطاء منسق محتمل خلفها. وأخرى، بقلم باحثي السلامة في DeepMind روهين شاه وأنكا دراغان، تدعو إلى وضع حد أقصى لـ"العمق التسلسلي المعتم"، أي الحوسبة التي يجوز للنموذج أداؤها دون إصدار أثر استدلال مقروء. ويقع سجل الأرشيف لهذا الإطلاق، مع تقييمه ومصادره المستشهد بها، في أرشيف حوادث الذكاء الاصطناعي إلى جانب مدخلات الحوكمة الأخرى في هذه السلسلة.

ما الذي تم إطلاقه، وما الجديد فعلاً؟

معهد ديب مايند هو منصة نشر، وليس جهة تنظيمية. مديروه الثلاثة هم هاسابيس، الشريك المؤسس ورئيس مجلس إدارة Google DeepMind وكبير العلماء في Alphabet؛ وليج، الشريك المؤسس وكبير علماء AGI، الذي يتولى أيضًا تحرير الموقع؛ ومانيكا، رئيس Google للأبحاث والمختبرات والتقنية والمجتمع. هذه الألقاب مأخوذة من صفحات المؤلفين الخاصة بالمعهد نفسه، وقد تكررت في تقرير The Next Web بتاريخ 16 سبتمبر وتقرير TechCrunch بتاريخ 17 سبتمبر. ويحمل الموقع إخلاء مسؤولية أهم من أي مقال منفرد: فمقالات DMI «مقصود بها أن تكون مداخل للحوار، تعكس أفكار المؤلف وأبحاثه، ولا ينبغي قراءتها على أنها رأي Google الرسمي».

بحسب ما كان عليه الفهرس وقت كتابة هذا المقال، كان يضم ثماني مقالات، خمس منها تحمل تاريخ 16 سبتمبر: المقال التأسيسي بقلم المديرين الثلاثة؛ «الحجة الداعية إلى شفافية الاستدلال» لروهين شاه وأنكا دراغان؛ «السياسة الاقتصادية للذكاء الاصطناعي العام (AGI)» لجوليان جاكوبس وأليكس إيماس؛ «مبادئ لطوباوية جديدة» لستيفن كيف؛ و«الحجة الداعية إلى تحقيق منفعة عالمية من الذكاء الاصطناعي» لإياسون غابرييل وأتوسا كاسيرزاده. ثم تلتها مقالتان أخريان في 24 سبتمبر — «الغشاشون والمبلغون عن المخالفات في سرب الوكلاء» و«الذكاء التكافلي الاصطناعي» — وواحدة في 8 أكتوبر، «ثني منحنى الاكتشاف».

عدّ المواد في يوم الإطلاق جدير بالملاحظة لأن التغطية تختلف مع الصفحة. وصف كل من TechCrunch وThe Next Web وAI Weekly أربع مواد نُشرت إلى جانب المقال التأسيسي، وأدرج كل منها إطار هاسابيس ضمنها. أغفلت الثلاثة جميعًا "حجة تحقيق المنفعة العالمية من الذكاء الاصطناعي"، وهو ما يؤرخه الموقع في اليوم نفسه. لا يحسم السجل هذا الاختلاف، ولا يفعل ذلك هذا المقال؛ المؤكد أن طوابع التاريخ الخاصة بالموقع نفسه تضع ذلك المقال ضمن الدفعة الافتتاحية، بينما لا تذكره التقارير المعاصرة.

التاريخ الأكثر أهمية ليس 16 سبتمبر على الإطلاق. فمقال الإطار يحمل على موقع DMI تاريخ 14 يوليو 2026، وينتهي تمهيده بملاحظة أنه "ظهر أولًا على X". وهكذا يكون مقترح المراجعة الممتدة 30 يومًا أقدم بنحو شهرين من المعهد الذي يستضيفه الآن؛ وما أضافه الإطلاق هو مكان نشر ومجموعة، لا فكرة سياساتية جديدة. لم نعثر على منشور X الأصلي، لذا فإن صفحة DMI هي المصدر لكل من تاريخ يوليو وملاحظة المصدر. وقدّمت TechCrunch وThe Next Web وAI Weekly الإطار ضمن القائمة الافتتاحية دون ذكر النشر الأسبق، وهي تفصيلة من النوع الذي تطمسه قصة الإطلاق ويحتاجها القارئ الذي يعيد تركيب الخط الزمني.

اقتراح هيئة المعايير، كما هو مكتوب

مقالة هاسابيس هي الوثيقة الأكثر ملموسية في المجموعة، وتحديدها هو ما يجعلها جديرة بالاقتباس. وهي تقترح أن تنشئ الولايات المتحدة "هيئة معايير جديدة على غرار شراكة بين القطاعين العام والخاص تحت إشراف فيدرالي أو منظمة ذاتية التنظيم، على غرار هيئة تنظيم الصناعة المالية (FINRA)"، بمجلس يضم خبراء تقنيين مستقلين وممثلين عن المصادر المفتوحة، وممولة إلى حد كبير من الصناعة من أجل دفع تكاليف المواهب التقنية والحوسبة التي تتطلبها الاختبارات واسعة النطاق. وسيُصنَّف أي نموذج بأنه "من فئة الحدود" عند تجاوزه عتبات في المعايير القياسية التي تحددها الهيئة وتحافظ على تحديثها؛ وستُسمى المنظمات التي تمتلك هذه النماذج "مختبرات الحدود" وتُشجَّع على نشر بطاقات النماذج، والحفاظ على الأمن السيبراني الداخلي، وفحص الموظفين الرئيسيين، وتمويل أبحاث السلامة.

التسلسل هو الجزء الأكثر اقتباسًا. وستشارك مختبرات الحدود، "في البداية"، النماذج مع الهيئة للمراجعة "قبل الإصدار بما يصل إلى 30 يومًا"، وذلك طوعًا. وبمجرد إثبات فعالية بروتوكول التقييم، "قد يتبع الإضفاء الرسمي سريعًا، ما يعني أن Frontier Models ستُلزم باجتيازه كي تُنشر في السوق الأمريكية." وستغطي التقييمات الأمن السيبراني والتهديدات البيولوجية وغيرها من المجالات عالية المخاطر، مع اختبارات وكيلية تبحث عن محاولات تجاوز ضوابط الحماية أو مؤشرات على الخداع، وستُحدَّث ربما كل ثلاثة أشهر مع تشبّع المعايير القياسية. ستبدأ التقييمات بالتشاور مع المختبرات ثم تصبح في النهاية اختبارات محجوزة تكتبها الهيئة بنفسها، لمنع المختبرات من الإفراط في الملاءمة للتقييمات المعروفة، بدعم من منظومة من المدققين الخارجيين.

ثمة ثلاثة أحكام إضافية يسهل تفويتها، وهي الأحكام التي ستجادل بشأنها جهة تنظيمية. وقد ينطبق الإطار على نماذج من فئة الحدود «بغض النظر عن بلد منشئها أو ما إذا كانت مفتوحة أو مغلقة»، في حين تُعفى النماذج غير الحدودية الآتية من الشركات الناشئة أو الأوساط الأكاديمية. ويمكن «تصعيد» الهيئة إذا استدعت جدية الموقف ذلك، بما في ذلك تنسيق إبطاء التطوير فيما بين Frontier Labs إذا اعتُبر ذلك ضروريًا» — والإبطاء المنسّق، بحسب صياغة Hassabis نفسها، بند احتياطي وليس سياسة. وهو اقتراح في مجمله: تقول المقالة إن الولايات المتحدة «يمكن أن تنشئ» هيئة كهذه. ولا يسمّي أي وكالة، ولا أي أداة تشريعية، ولا أي رقم في الميزانية، ولا أي جدول زمني يتجاوز العبارة الشرطية «بمجرد أن يثبت أن بروتوكول التقييم فعّال ومتين».

Self-authored HTML card headed 'The proposal, in sequence' with the title 'Four steps, each conditional on the one before' and the subtitle that this is how Hassabis's framework essay describes the path from voluntary review to a possible coordinated slowdown, with the essay dated 14 July 2026 on the DeepMind Institute site. A four-step ladder reads: step one, voluntary review, frontier labs share models with the standards body up to 30 days before release, with no obligation attached; step two, conditional, passing the assessment becomes a requirement for deploying a frontier model in the US market once the protocol is shown effective; step three, later phase, held-out tests written by the body that labs cannot see, plus a third-party auditor ecosystem; step four, contingency, a coordinated slowdown among frontier labs if the seriousness of the situation demands it. A side panel headed 'Who it would cover' states that a model qualifies by crossing benchmark thresholds, that the framework would apply regardless of country of origin and regardless of whether weights are open or closed, that non-frontier models from startups and academia would be exempt, that the body is modelled on a federally overseen public-private partnership or self-regulatory organisation 'much like the Financial Industry Regulatory Authority (FINRA)' funded substantially by industry, and that labs holding such models would become 'Frontier Labs' encouraged to publish model cards, maintain cybersecurity, vet key personnel and fund safety research. A footer notes the essay names no agency, no legislative vehicle and no budget, and repeats the institute's disclaimer that pieces should not be read as Google's official view. The OrcaRouter logo sits in the bottom-right corner.

الآلية الثانية: سقفٌ على التفكير لا يمكن لأحدٍ قراءته

يبدأ مقال شاه ودراغان من حقيقة عن كيفية عمل نماذج الاستدلال اليوم. فهي تحل المشكلات عبر كتابة خطوات وسيطة باللغة الطبيعية — سلسلة تفكير — ثم قراءتها مرة أخرى، ما يمنح الباحثين نافذة مباشرة على ما إذا كان النموذج يخطط لإخفاء معلومات أو الغش في تقييم ما. ويذكر المقال أن سجلات سلسلة التفكير كانت "حاسمة في التحقيق في حادثة الاختراق الأخيرة لـ Hugging Face"، حيث فحص الباحثون أكثر من 1,000 نص بمساعدة الذكاء الاصطناعي لتحديد ما حدث، وأن بعض ما وجدوه ربما كان سيمر دون أن يُلاحظ لولا وجود أثر قابل للقراءة.

حجتهم هي أن هذه النافذة مشروطة وليست مضمونة. فبإمكان النماذج أن تستدل في فضاء كامن بدلًا من الكلمات، وهو ما قد يكون أكثر كفاءة وسيكون غامضًا افتراضيًا، كما يمكن لحوافز التدريب أن تعلّم النموذج كتابة أثر مضلل حتى عندما تبقى البنية نفسها. ويستشهدون بدليلين على الاتجاه الجاري بالفعل: بطاقة النظام الخاصة بـ OpenAI لـ GPT-6 Astra، التي يقتبسون منها ادعاء "انخفاض كبير في قابلية مراقبة سلسلة التفكير مقارنة بالنماذج السابقة"، ونتيجة لمعهد أمن الذكاء الاصطناعي البريطاني تفيد بـ"زيادة كبيرة في القدرة على الاستدلال ضمن تمريرة أمامية واحدة، والقدرة على التحكم في محتوى سلسلة تفكيره". يظهر الاقتباسان في المقال؛ ولم يتحقق هذا المقال منهما بشكل مستقل مقابل بطاقة النظام أو منشور المعهد.

ومن هناك، يقترح المقال ثلاثة مسارات عمل — قياس مقدار الشفافية التي توفرها سلسلة التفكير فعليًا، والحفاظ على معماريات شفافة افتراضيًا، وتدقيق مكافآت التدريب حتى لا يُعلَّم الأثر بهدوء أن يبدو حسن السلوك — وفكرة واحدة قطعت شوطًا أبعد من البقية. ويعرّفون «عمق التسلسل المعتم» بأنه «في جوهره أطول عملية حسابية خطوة بخطوة يمكن لنموذج إجراؤها دون الحاجة إلى استخدام آلية قابلة للقراءة البشرية مثل سلسلة التفكير»، ويقترحون أن «اللوائح التنظيمية أو مطوري الذكاء الاصطناعي أنفسهم يمكنهم وضع حد معقول» له.

تضع المقالة رقمًا لما ستكلّفه هذه الحدود، وهو حساب المؤلفين أنفسهم وليس قياسًا. فإذا حُدّ العمق التسلسلي غير الشفاف عند 10 أضعاف نظيره في النماذج الحالية، كما يكتبون، فإن ذلك سيسمح مع ذلك "بتوسيع إجمالي للحوسبة يتجاوز 10,000 ضعف فوق نماذج اليوم" ضمن الهندسة الحالية، لأن العمق التسلسلي غير الشفاف في المحوّل يتزايد ببطء شديد مع حجم جولة التدريب. والادعاء حجة على أن الشفافية لا يلزم أن تُقايض بالحجم؛ وهو يستند إلى افتراض حول كيفية نمو ذلك العمق، وتعرضه المقالة على هذا النحو. وأين سيُحدَّد السقف فعليًا، ومن سيفرضه، تُرك مفتوحًا — فالجملة تطرح التنظيم والتقييد الذاتي من المطورين كبديلين ولا تختار بينهما.

Self-authored HTML card headed 'Opaque serial depth' with the subtitle that Shah and Dragan define it as the longest step-by-step computation a model can perform without a human-readable mechanism such as a chain of thought. A dark quotation strip carries the essay's line that regulations or AI developers themselves could set a reasonable limit on the opaque serial depth. A left panel headed 'The proposal' lists four rows: measure it, with monitorability evaluations, evasion stress tests and paraphrase tests; keep the architecture, do not move to latent-space reasoning by default; audit the rewards, do not train the trace to look aligned; fallback, show a new method is comparably monitorable. It adds that the essay does not say who sets the limit, offering regulation and developer self-limitation as alternatives and choosing neither. A right panel headed 'The arithmetic' sets two large figures: 10 times, a cap on opaque serial depth relative to current models, and 10,000 times, the overall compute scale-up on top of today's models that the authors say such a cap still permits, with a callout that this is the authors' own calculation and not a measurement, resting on opaque depth scaling slowly with training-run size. A footer cites 'The case for reasoning transparency', DeepMind Institute, 16 September 2026. The OrcaRouter logo sits in the bottom-right corner.

ما هو ثابت، وما هو غير ثابت

• التأسيس: أُطلق المعهد في 16 سبتمبر 2026 بثلاثة مديرين مُسمّين، وبوجود ليغ في منصب مدير التحرير؛ وينصّ إخلاء المسؤولية على الموقع على أنه لا يمثّل رأي Google الرسمي؛ والمقالات موجودة، وتحمل تلك التواريخ وتطرح الحجج الملخّصة أعلاه. وقد نقلت منصات إعلامية مستقلة — TechCrunch وThe Next Web وAI Weekly — خبر الإطلاق والمديرين وجوهر المقترحين كليهما، ولهذا يمنح الأرشيف سجل الثقة درجة A.

• مؤكّد، ولم يحظَ بتغطية كافية: مقال الإطار يسبق المعهد. تحمل صفحته تاريخ 14 يوليو 2026 وتذكر أنه ظهر أولاً على X. القارئ الذي اكتفى بتغطية الإطلاق وحدها سيؤرّخ اقتراح مراجعة الثلاثين يومًا إلى منتصف سبتمبر.

• لم يُثبَت: أن Google أو Alphabet قد تبنّت أيًّا من المقترحين. وينص إخلاء المسؤولية صراحةً على أن المقالتين تعكسان آراء مؤلفيهما، وأن مقال الإطار مكتوب بصيغة الشرط من أوله إلى آخره — فالولايات المتحدة «قد تنشئ» هيئة؛ والإضفاء الرسمي «قد يتبع سريعًا». ولا يصاحب أيًّا من المقالتين أي التزام من الشركة.

• لم يثبت: أي رد حكومي. لا يذكر أي من التغطيات التي روجعت لهذا المقال ردًا من الحكومة الأمريكية أو الكونغرس أو أي جهة تنظيمية أو أي دولة أخرى على اقتراح هيئة المعايير، ولا يسمي المقال أي مسؤول أيده.

• لم يثبت: أن يكون للمعهد أي سلطة خاصة به. فهو ينشر مقالات. ولا يختبر النماذج ولا يعتمدها ولا يُلزم أحدًا بالآليات التي يصفها مساهموه، ولا يشير أي شيء في المواد التي جرى مراجعتها إلى أنه سيفعل ذلك.

• الضرر المسجَّل: لا يوجد. يُصنِّف الأرشيف هذا المُدخل على أنه تطوّر في السياسات بدرجة خطورة «معلومات»، مع عدم تسجيل أي ضرر حقيقي، ولا خلاف عليه، وبدقة على مستوى اليوم. وهذا هو الإطار الصحيح له: فمجموعة من الحجج تدخل السجل العام ليست حادثة، وسبب تسجيلها أصلًا هو أن الآليات الملموسة — مراجعة قبل الإصدار، وحدٌّ أقصى للحساب غير القابل للقراءة — هي ما يصبح لاحقًا قواعد أو لا يصبح.

Self-authored HTML card headed 'Evidence check' with the title 'What the record carries, and what it leaves open' and the subtitle that the archive grades the entry policy, severity info, confidence A, disputed false, with no real harm recorded, at day precision. A timeline strip shows four points: 14 July 2026, the framework essay published, which the site says first appeared on X; 16 September 2026, the institute launches with a founding essay and four further pieces; 24 September 2026, two more essays added; 8 October 2026, a further essay added. A left column headed 'Established' lists the launch date, three directors and Legg as managing editor; the disclaimer that pieces are not Google's official view; the arguments of the framework and transparency essays; and independent reporting by TechCrunch, The Next Web and AI Weekly. A right column headed 'Not established' lists any Google or Alphabet adoption of either proposal; any government response to the standards-body idea; any authority held by the institute itself; and who would set an opaque serial depth limit. Four chips beneath read record, policy development; severity, info; confidence, A; disputed, false. A footer notes the site's index lists eight essays while launch coverage described four further pieces and none of it mentioned the essay the site dates to the same day. The OrcaRouter logo sits in the bottom-right corner.

من الذي يطرح الحجج؟

لا يُعدّ المؤلفون نقادًا خارجيين. فشاه يقود قسم سلامة الذكاء الاصطناعي العام ومواءمته في Google DeepMind، ودراغان هو نائب الرئيس لسلامة الذكاء الاصطناعي وسلوكه فيه؛ وكلاهما يقترح قيودًا على نوع النماذج التي تبنيها جهة عملهما نفسها. وهاسابيس هو شريك مؤسس المختبر ورئيسه. أما المعهد الذي أطلقاه فليس، بحسب إخلاء المسؤولية الخاص به، قناةً للسياسة المؤسسية — وهذا أمر ذو حدّين: فالمقترحات تحمل ثقل مناصب مؤلفيها داخل المختبر، لكنها لا تحمل أيًّا من التزامات التعهد المؤسسي.

أشارت تعليقات ليج العلنية عند الإطلاق إلى الاتجاه نفسه. فقد قال لصحيفة فايننشال تايمز، كما نقل موقع The Next Web في 16 سبتمبر، إنه لا ينبغي لقدرات الذكاء الاصطناعي أن تتجاوز ضوابط السلامة، ووصف دعوة الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء إصدارات النماذج المتقدمة — لا إيقافها مؤقتًا — بأنها "مثيرة للاهتمام من حيث التوجه" و"تستحق النظر". وقال أيضًا إن من السابق لأوانه إعلان تحقق AGI، وظل، وفقًا لذلك التقرير، مرتاحًا لتوقعه بوجود احتمال 50% لتحقق "حد أدنى" من AGI بحلول 2028. ووضعت TechCrunch الإطلاق في الأسبوع نفسه الذي أيد فيه قادة الصناعة عناصر من دعوة أمودي في 12 سبتمبر إلى إبطاء وتيرة التطوير.

يستحق هذا السياق أن يُؤخذ بحذر. فالمقالات لا تُلزم Google بأي شيء، وأقوى قراءة متاحة من الوثائق أضيق مما توحي به التغطية: فقد دوّنت شخصيتان بارزتان في مختبر رائد، علنًا وبالتفصيل، نظام المراجعة وسقف الشفافية الذي تعتقدان بضرورة وجوده، ونشرتاهما في إطار إخلاء مسؤولية يُبقي الشركة على مسافة. أما ظهور مراجعة قبل الإصدار مدتها 30 يومًا أو حد أقصى للعمق التسلسلي غير الشفاف في مشروع قانون أو قاعدة مشتريات أو مجموعة اختبارات معيارية، فهو السؤال الذي يتركه السجل مفتوحًا. وحتى ذلك الحين، فهي مجموعة مقترحات محكمة الحجج ومؤرخة — وهو بالضبط ما يسجله الأرشيف على هذا النحو.