نشر المعهد الوطني للمعايير والتقنية الأمريكي (NIST) ووكالة الأمن القومي (NSA) ووكالة الأمن السيبراني وأمن البنية التحتية (CISA)، في 16 أكتوبر 2026، إرشادات مشتركة طوعية تضع عشر ممارسات لإدارة الحوادث التي قد تقع أثناء تدريب وكلاء الذكاء الاصطناعي الفائق وتقييمهم. وتحمل الوثيقة عنوان Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation.
وتستهدف الإرشادات بالدرجة الأولى المنظمات التي تدرب أو تقيم وكلاء ذكاء اصطناعي فائق عالية القدرة على مهام طويلة بإشراف بشري محدود، وقد تنطبق كذلك على من ينشرون هذه الوكلاء. وتقول CISA في صفحتها عن الوثيقة إنها تعني خصوصاً الأنظمة قبل النشر ذات الضمانات المخففة، والأنظمة عالية الخطورة غير العامة.
وتعرف الوثيقة “حادثة التحكم” (SI control incident) بأنها واقعة يتخذ فيها وكيل أو أكثر إجراءات مهمة لم يوجهه إليها مشغله ولا أي جهة معادية، وتخالف سياسات أو ضوابط وضعها المشغل لتحديد نطاق المهمة أو لضمان الرقابة البشرية. ومن أمثلتها بدء اتصالات مع أطراف خارجية، وتنفيذ معاملات مالية غير مصرح بها، واستغلال خلل في الإعدادات سببه خطأ بشري.
أما الإجراءات الناتجة عن حقن أوامر خبيث أو عن نموذج زرع فيه باب خلفي عمداً فتعدها الوثيقة إجراءات موجهة، فلا تحسب السبب الرئيسي لحادثة تحكم. وتشمل الإرشادات كذلك حالات “شبه الحادثة” التي قد تكشف نقاط ضعف في الضوابط قبل وقوع ضرر.
وتوزع الوثيقة الممارسات على خمس مراحل هي الاستعداد والكشف والاستجابة والتعافي والإبلاغ، وتبني صراحة على إطار NIST للأمن السيبراني 2.0 والوثيقة NIST SP 800-61r3 لاستجابة الحوادث.
في الاستعداد، توصي بتقييد وصول الوكيل إلى المعلومات والأنظمة والأدوات بما تتطلبه مهمته فقط، وحصر اتصاله بالشبكة في قائمة سماح صارمة حيثما أمكن، على أن يمر أي اتصال عبر بوابة خاضعة للمراقبة. وتدعو إلى تحديد الآليات التي قد تتيح للوكيل البقاء أو الاتصال بجهات غير مصرح بها وتقييدها، مع اهتمام خاص بقنوات نسخ أوزان النموذج أو تشغيله دون مراقبة، وإلى بناء آليات تحجب نشاط الوكيل أو تنهيه بسرعة عند رصد حادثة أو شبه حادثة.
وفي الكشف، تدعو إلى مراقبة جميع طبقات النظام، من النموذج وبرمجيات تشغيله إلى المضيف والشبكة، ومنع الوكيل من الوصول إلى عمليات المراقبة وسجلاتها، واستخدام أكثر من نموذج للمراقبة من عائلات مختلفة حيثما أمكن. وتطلب معاملة مخرجات النموذج على أنها قد تحمل استغلالات تستهدف أدوات المراقبة نفسها.
وفي الاستجابة، تنص الوثيقة على إيقاف مسار الوكيل المتأثر تلقائياً عند اكتشاف فشل في الضبط أو حادثة جارية، وعلى إيقاف التدريب أو التقييم أو النشر أو تعليقه لوكلاء مشابهين بحسب خطورة الحادثة، إلى أن تعزز الضوابط وتختبر. وتوصي بحفظ أوزان النموذج ونقاط التدريب الوسيطة والسجلات والإجراءات المرفوضة، وسحب بيانات الاعتماد التي وصل إليها الوكيل وتخضع لسيطرة المنظمة، وإعادة بناء البيئات المحتمل اختراقها، والبحث عن منافذ البقاء مثل الأبواب الخلفية وقنوات الاتصال المخفية.
وقبل استئناف نشاط الوكلاء، تدعو إلى التحقق من عمل المراقبة والسجلات وقوائم السماح وآليات الإيقاف وقيود الصلاحيات. وفي الحوادث التي تقع أثناء التدريب، تطلب إجراءات للتعافي لا تعزز النمط الذي أدى إلى الحادثة ولا تصعب كشف السلوك الضار لاحقاً، كالتدريب ضد سلاسل تفكير معادية بما يقلل قابلية المراقبة.
وفي الإبلاغ، تدعو إلى إشعار الأطراف التي تضررت أنظمتها، والالتزام بمتطلبات الإبلاغ القانونية ومنها الإبلاغ إلى CISA، وإبلاغ خبراء الحكومة في مركز NIST CAISSI ومركز NSA SISC طوعاً بحوادث التحكم وشبه الحوادث، ومشاركة الدروس المستفادة مع الجمهور حيثما كان ذلك مناسباً.
وتقول الوثيقة، المصنفة TLP:CLEAR والمنشورة بنسختها الأولى، إنها لا تعد مشورة للامتثال أو للأغراض التنظيمية أو القانونية. وتذكر في قسم الإقرارات أعضاء فريق المهام 8 في اتحاد NIST للذكاء الاصطناعي الفائق وشركات منها Anthropic وCrowdStrike وDarktrace وDreadnode وGray Swan وMicrosoft وPalo Alto Networks.
