نشرت وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية CISA، بالتعاون مع المركز الأسترالي للأمن السيبراني ACSC، وثيقة توجيهية جديدة تهدف إلى إرساء مبادئ أمنية لدمج الذكاء الاصطناعي ضمن أنظمة التكنولوجيا التشغيلية في البنى التحتية الحيوية.
يحمل الدليل عنوان “مبادئ الدمج الآمن للذكاء الاصطناعي في التكنولوجيا التشغيلية”، وهو يستهدف بشكل مباشر الجهات المسؤولة عن إدارة أنظمة تتحكم بالخدمات العامة الحيوية، كشبكات الطاقة والمياه والنقل. ويقدم إطاراً عملياً يستند إلى 4 ركائز رئيسية:
- فهم الذكاء الاصطناعي: يشمل تثقيف الموظفين حول المخاطر المرتبطة بالذكاء الاصطناعي، والوعي بدورة تطوير الأنظمة الذكية بطريقة آمنة، وفهم التأثيرات المحتملة لهذه التقنية على العمليات الحيوية.
- تقييم حالات استخدام الذكاء الاصطناعي في الأنظمة التشغيلية: يتطلب الأمر تحليل المبررات التجارية لاستخدام الذكاء الاصطناعي، وإدارة المخاطر المرتبطة ببيانات التكنولوجيا التشغيلية، إلى جانب معالجة التحديات الفورية والممتدة المدى لدمج الذكاء الاصطناعي.
- إرساء حوكمة فعالة للذكاء الاصطناعي: توصي الوثيقة بوضع أطر حوكمة واضحة، مع الالتزام بإجراء اختبارات دورية للنماذج الذكية، وضمان الامتثال للأنظمة والتنظيمات المعمول بها.
- تضمين الأمن والسلامة ضمن جميع مراحل التشغيل: يؤكد الإطار على ضرورة دمج الذكاء الاصطناعي ضمن خطط الاستجابة للحوادث، ومراعاة الشفافية، وتعزيز الرقابة المستمرة على أداء الأنظمة الذكية.
وصرح مدير وكالة CISA بالنيابة، مادهو غوتوموكالا، قائلاً إن أنظمة التكنولوجيا التشغيلية تشكل العمود الفقري للبنى التحتية الوطنية، وبالتالي فإن أي دمج للذكاء الاصطناعي في هذه البيئات يجب أن يتم بحذر قائم على تقييم المخاطر.
تشمل الوثيقة كذلك نماذج من أنظمة الذكاء الاصطناعي المعتمدة على التعلم الآلي والنماذج اللغوية الكبرى، إلى جانب الوكلاء الذكيين، مع التأكيد على أن المبادئ تنطبق أيضاً على الأنظمة المعززة بنماذج رياضية تقليدية أو آلية منطقية.
من جانبه، شدد نِك أندرسن، المدير التنفيذي المساعد للأمن السيبراني في CISA، على أن الذكاء الاصطناعي قد يفتح مسارات جديدة للتهديدات، ويجب على الجهات المسؤولة عن الأنظمة التشغيلية اتباع المبادئ لضمان الاستخدام الآمن والمسؤول لهذه التقنية.
وتجدر الإشارة إلى تطوير هذه المبادئ بالتعاون مع جهات دولية، لتكون مرجعاً عالمياً في تأمين دمج الذكاء الاصطناعي داخل الأنظمة الحيوية، وتحقيق التوازن بين التمكين التشغيلي والحماية السيبرانية.
