أعلنت هيئة حماية البيانات الإسبانية (AEPD) عن تلقيها أول إخطار رسمي يتعلق باختراق بيانات شخصية نفذه بالكامل وكيل ذكاء اصطناعي. وفي حين لا تزال التحقيقات جارية لكشف ملابسات الهجوم وتحديد الجهة المنفذة، تشير المعطيات الأولية إلى أن هذا الوكيل الذكي قد نفذ سلسلة هجومية مستقلة ومتكاملة؛ شملت تجاوز آليات تسجيل الدخول، واكتشاف الثغرات الأمنية، وصولاً إلى الاطلاع على الفواتير وتعديل البيانات الشخصية. وتكمن الخطورة الحقيقية، وفقاً للهيئة، في قدرة المهاجمين على استخدام هذه البرمجيات لربط مراحل الهجوم المتعددة وتنفيذها آلياً ضمن مسار واحد.
ويختلف وكلاء الذكاء الاصطناعي عن الأدوات التقليدية بامتلاكهم مستوى فائقاً من الاستقلالية؛ إذ يكفي تزويدهم بهدف رئيسي ليتولوا بأنفسهم تخطيط المهام الفرعية، واستخدام الأدوات البرمجية، وتنفيذ الأكواد، ومراجعة المصادر.
ولا تقتصر قدراتهم على ذلك، بل تتسع لتشمل تحليل النتائج وتعديل مسار العمليات ذاتياً بناء على ما يكتشفونه لحظياً.
يمثل هذا التطور تحولاً جذرياً في طبيعة التهديدات السيبرانية وسرعة تنفيذها، حيث ننتقل من مرحلة أتمتة المهام المحددة إلى مرحلة ربط الأنشطة الهجومية بشكل ذاتي وبسرعة فائقة.
تحديث آليات إدارة المخاطر وسيناريوهات الاختراق المحتملة
يفرض هذا المشهد المعقد ضرورة ملحة لتحديث منهجيات إدارة المخاطر، بحيث تستوعب التهديدات الناجمة عن وكلاء الذكاء الاصطناعي الهجوميين.
وفي هذا الصدد، تدعو الهيئة إلى تسريع وتيرة الاستجابة للحوادث، وتعزيز حماية الهويات الرقمية وبيانات الاعتماد، إلى جانب تطوير آليات دفاعية قادرة على مواجهة هذه المخاطر وتقليل الاعتماد على التدخل البشري البطيء. ومع ذلك، يظل الإشراف البشري ركيزة أساسية، شريطة أن يكون مدعوماً بأدوات دفاع سيبراني تعتمد هي الأخرى على الذكاء الاصطناعي لضمان سرعة الاكتشاف والاحتواء واتخاذ القرار.
وفي هذا السياق، أوضح سايمون فيليبس، الرئيس التنفيذي للتقنية في شركة CyberVerse، أن الموقف يتطلب حذراً بالغاً نظراً لغياب التفاصيل الفنية الدقيقة حول آلية الهجوم أو طبيعة النموذج المستخدم. وطرح فيليبس ثلاثة سيناريوهات محتملة لتفسير الواقعة؛ يفترض الأول نجاح المهاجمين في كسر حماية أحد نماذج الذكاء الاصطناعي وتوجيهه لاختراق جهة خارجية. ويشير الثاني إلى احتمال خروج اختبارات أمنية تُجريها شركات كبرى مثل OpenAI و Anthropic عن السيطرة، نتيجة تنفيذها في بيئات غير معزولة بشكل كافٍ. أما السيناريو الثالث، فيرجح قيام أحد مختبري الاختراق بتطوير نموذج لغوي كبير مخصص لتنفيذ هذه الهجمات دون الحصول على تصريح مسبق. ويستدعي إثبات أي من هذه السيناريوهات إجراء تحقيقات فنية أعمق لبناء الدفاعات المناسبة.
تكتسب هذه الحادثة أهمية كبرى في ظل التصاعد المستمر للهجمات المدعومة بالذكاء الاصطناعي، والتي تطورت من مجرد عمليات تصيد احتيالي إلى هجمات مؤتمتة ومستقلة بالكامل. ويتماشى هذا التطور في مشهد التهديدات مع التوجهات الاستراتيجية للضوابط الأساسية للأمن السيبراني (ECC-2:2024)، والتي تشدد على أهمية حوكمة الأمن السيبراني، وإدارة هويات الدخول والصلاحيات، وحماية البيانات، فضلاً عن الإدارة الفعالة للثغرات والاستجابة للحوادث. وتعد هذه الضوابط ركائز أساسية تتزايد أهميتها الاستراتيجية يوماً بعد يوم لردع قدرات الوكلاء الأذكياء في بيئات العمل الرقمية.
