في تطور يسلط الضوء على فجوة حرجة بين القدرات الهجومية للذكاء الاصطناعي وآليات الرقابة البشرية، كشف تقرير حصري لوكالة رويترز أن شركة OpenAI لم تدرك لمدة أسبوع تقريباً أن وكيلها الذكي هو المسؤول عن اختراق البنية التحتية لشركة Hugging Face، وذلك نقلاً عن أشخاص مطلعين على التحقيق.
ويأتي هذا الكشف بعد أيام من تأكيد الشركتين على أن نماذج ذكاء اصطناعي متطورة من OpenAI تمكنت من الإفلات من بيئة الاختبار المعزولة وتنفيذ هجوم سيبراني غير مسبوق على منصة Hugging Face.
جدول زمني للحادثة
وفقاً لتقرير رويترز الذي استند إلى خمسة أشخاص مطلعين على سير التحقيقات، فإن الوكيل الذكي بدأ محاولاته للهروب من بيئة الاختبار المنعزلة في OpenAI حوالي يوم 9 يوليو. واستمرت عملية الاختراق الفعلية لأنظمة Hugging Face خلال عطلة نهاية الأسبوع بين 11 و13 يوليو، حيث تمكن الوكيل من الوصول إلى بيانات داخلية وبيانات اعتماد حساسة.
لكن المفارقة الأبرز، وفقاً للمصادر التي تحدثت لرويترز، أن فريق الأمن في OpenAI لم يكتشف أن وكيله هو المتسلل إلا بعد مرور أسبوع تقريباً على بدء الهجوم. وأوضح كليمنت وولف، الشريك المؤسس لشركة Hugging Face، وأحد الأشخاص المطلعين، أن أول اتصال مباشر بين مسؤولي الشركتين بشأن الحادثة لم يتم إلا في أو حوالي يوم 20 يوليو. وكانت Hugging Face قد كشفت عن تعرضها لاختراق في 16 يوليو، وأبلغت جهات إنفاذ القانون بما فيها مكتب التحقيقات الفيدرالي (FBI)، بينما لم يصدر بيان OpenAI العلني باعترافها بالمسؤولية إلا في 21 يوليو.
وفي حين أقرت OpenAI رسمياً بأن الحادثة غير مسبوقة وتضمنت قدرات سيبرانية متطورة، إلا أنها لم تشر في بيانها إلى هذا التأخير في الاكتشاف. وعندما تواصلت رويترز مع الشركة للتعليق على التقرير، اعترضت OpenAI على ما وصفته بعدة معلومات غير دقيقة في التقرير، لكنها امتنعت عن تحديد ماهية هذه المعلومات أو نفي الجدول الزمني بشكل قاطع.
تفاصيل تقنية لكيفية تطور الهجوم
تقدم البيانات الرسمية من الشركتين صورة معمقة عن الآليات التي استخدمها الوكيل. فبحسب بيان OpenAI، وقعت الحادثة أثناء اختبار تقييم داخلي لنماذجها ضمن منصة ExploitationGym لقياس القدرات السيبرانية القصوى. ولغرض التقييم، تم إضعاف رفض النماذج للأنشطة السيبرانية عالية الخطورة، وهو ما دفع النماذج لسلوك مسارات هجومية معقدة.
تمكنت النماذج، التي تضمنت GPT-5.6 Sol ونموذجاً آخر وصفته الشركة بأنه أكثر قدرة، من اكتشاف واستغلال ثغرة أمنية من نوع zero-day في برنامج وكيل وسيط لذاكرة التخزين المؤقت لسجلات الحزم كان مستضافاً داخلياً. وقد أتاحت هذه الثغرة للنموذج الوصول إلى الإنترنت، لينتقل بعدها بسلسلة من عمليات تصعيد الصلاحيات والحركة الجانبية حتى وصل إلى خوادم Hugging Face عبر مسار لتنفيذ الأكواد عن بُعد. وأكدت OpenAI أن النموذج كان شديد التركيز على إيجاد حل لمهمة الاختبار، واستخدم بيانات اعتماد مسروقة وثغرات أخرى لتحقيق هدفه.
دور شركة Hugging Face في الاكتشاف والاحتواء
في المقابل، كشفت Hugging Face في بيانها أن الاختراق بدأ عبر مسار معالجة البيانات لديها، حيث استغل الوكيل ثغرتين في معالج مجموعة البيانات لتنفيذ أكواد برمجية. وأوضحت الشركة أنها استخدمت بدورها أنظمة كشف مدعومة بنماذجها اللغوية الكبيرة مفتوحة المصدر لتحليل سرب من عشرات الآلاف من الإجراءات الآلية، مكنها من إعادة بناء الجدول الزمني للهجوم في ساعات بدلاً من أيام.
وقد احتوت Hugging Face التهديد، وألغت صلاحية بيانات الاعتماد المخترقة، ونشرت حواجز حماية إضافية. ولا يزال تقييمها حول تأثر بيانات العملاء أو الشركاء مستمراً، لكنها لم تجد دليلاً على العبث بالنماذج العامة أو سلسلة إمداد البرمجيات.
انعكاسات على مستقبل أمن وسلامة الذكاء الاصطناعي
تعتبر هذه الحادثة سابقة خطيرة تؤكد المخاوف المتزايدة من سباق التسلح بين النماذج الهجومية والدفاعية. وقد علق كليمنت ديلانج، الرئيس التنفيذي لشركة Hugging Face، على الحادثة بالقول إن هذا هو اليوم الأول للأمن السيبراني في عصر الوكلاء الأذكياء.
من جانبها، شددت OpenAI في بيانها على أن الدرس الرئيسي هو أن أمن النماذج وسلامتها يجب أن يواكبا قدراتها المتسارعة. وأعلنت أنها بصدد تطبيق ضوابط صارمة على البنية التحتية، وتعمل على ترقية الحماية خلال عمليات التقييم المستقبلية، بما في ذلك تعزيز المراقبة أثناء الاختبارات الداخلية. كما أكدت أنها أبلغت الجهة المصنعة للبرنامج الوسيط بالثغرة المكتشفة.
