أعلنت Microsoft فتح مصدر أداتين جديدتين تستهدفان إدخال ضوابط الأمان مبكراً في دورة تطوير وكلاء الذكاء الاصطناعي، هما RAMPART، وهو إطار لاختبار الوكلاء بصورة مستمرة، وClarity، وهي أداة لمراجعة افتراضات التصميم قبل بدء التنفيذ البرمجي.
وبحسب ما نشرته Help Net Security في 21 مايو 2026، تأتي الأداتان من فريق Microsoft AI Red Team، الذي يتولى اختبار أنظمة الذكاء الاصطناعي داخل الشركة. وقد استُخدمتا داخلياً قبل إتاحتهما كمشروعات مفتوحة المصدر على GitHub.
تركز RAMPART على تحويل سيناريوهات الاختبار، سواء كانت هجومية أو اعتيادية، إلى اختبارات قابلة للتكرار يمكن تشغيلها داخل خطوط التكامل المستمر. وتُبنى الأداة فوق PyRIT، مكتبة Microsoft مفتوحة المصدر لاختبار أنظمة الذكاء الاصطناعي التوليدي، بما يتيح للمهندسين كتابة اختبارات تصف سيناريوهات مثل حقن الأوامر غير المباشر، ثم تشغيلها تلقائياً مع كل تعديل في الكود.
وتتعامل RAMPART مع طبيعة أنظمة الذكاء الاصطناعي الاحتمالية عبر دعم تكرار الاختبار أكثر من مرة وتحديد عتبة للنجاح، بدلاً من الاكتفاء بنتيجة واحدة. كما أشار رام شانكار سيفا كومار، مؤسس فريق Microsoft AI Red Team، إلى أن الأداة استُخدمت في معالجة ثغرات حقيقية، عبر توليد عشرات النسخ من سيناريو الضعف واختبار فعالية إجراءات المعالجة عليها.
أما Clarity فتعمل في مرحلة أسبق من التطوير، إذ تساعد الفرق على اختبار منطق القرار الهندسي قبل بناء الوكيل. ووفق منشور Microsoft Security Blog الصادر في 20 مايو 2026، تعمل الأداة كتطبيق سطح مكتب أو واجهة ويب أو مكون مدمج داخل وكيل برمجي، وتقود المطورين عبر نقاشات منظمة تشمل توضيح المشكلة، استكشاف الحلول، تحليل الإخفاقات، وتوثيق القرارات.
وتحفظ Clarity مخرجات هذه النقاشات في ملفات Markdown داخل مجلد .clarity-protocol/ في المستودع البرمجي، بما يسمح بمراجعتها ضمن طلبات السحب ومقارنتها مثل الكود. وتستخدم الأداة عدة مسارات تحليلية لفحص النظام من زوايا تشمل الأمن، العوامل البشرية، السيناريوهات العدائية، والاعتبارات التشغيلية.
وتضع Microsoft الأداتين في سياق أوسع يتمثل في تحويل أمان وكلاء الذكاء الاصطناعي من مراجعة دورية أو اختبار لاحق إلى ممارسة هندسية مستمرة. وذكرت CSO Online أن هذا التوجه يرتبط بتوسع الوكلاء من أنظمة محادثة إلى برمجيات تمتلك صلاحيات تشغيلية، مثل الوصول إلى البريد، قراءة سجلات العملاء، تنفيذ التعليمات البرمجية، أو اتخاذ إجراءات عبر أنظمة متصلة.
وتبرز أهمية هذه الأدوات مع اتساع المخاطر الخاصة بالوكلاء، ومنها حقن الأوامر، سوء استخدام الأدوات، التعامل غير الآمن مع البيانات، وتوسيع الصلاحيات بصورة غير مقصودة. وتوضح CyberScoop أن RAMPART تستهدف خصوصاً الاختبارات المتكررة للثغرات المرتبطة بالمحتوى الملوث القادم من مستندات أو رسائل أو تذاكر دعم قد تغير سلوك الوكيل بصورة غير مباشرة.
ولا تقدم الأداتان حلاً كاملاً لمخاطر الذكاء الاصطناعي الوكيلي، لكنها تضيف طبقة عملية إلى سير عمل المطورين: Clarity لتوثيق الافتراضات وتقييم التصميم مبكراً، وRAMPART لتحويل نتائج الاختبار والاستجابة للحوادث إلى تغطية مستمرة ضد التراجع. وبذلك تحاول Microsoft تقريب ممارسات أمان الذكاء الاصطناعي من نموذج هندسة البرمجيات التقليدي، حيث تُعامل نتائج الفشل كأخطاء قابلة للاختبار والإصلاح والمتابعة.
