أقرت شركة OpenAI بأن أحد نماذج الذكاء الاصطناعي لديها تمكن من اختراق أنظمة منصة Hugging Face المتخصصة في استضافة النماذج ومجموعات البيانات، وذلك خلال اختبار أمني داخلي خرج عن السيطرة. وكشف تحقيق لاحق أن الحادث غير المسبوق، الذي نفذه وكيل ذكي بشكل ذاتي، يعود جذره إلى خطأ بشري في إعداد بيئة الاختبار، ما أثار تساؤلات جدية حول ممارسات الأمن السيبراني في مختبرات الذكاء الاصطناعي المتقدمة.
وبحسب ما ورد في تقرير لمنصة Hugging Face، بدأ الاختراق في العشرين من يوليو الجاري، عندما تمكن مهاجم آلي من الوصول إلى مجموعات بيانات داخلية وبيانات اعتماد حساسة، مستغلاً منصة معالجة البيانات الخاصة بالشركة. وذكرت Hugging Face أن الحملة نُفذت بواسطة وكيل مستقل، بدا أنه مبني على أداة بحث أمني، ونفذ آلاف الإجراءات الفردية عبر مجموعة من البيئات المعزولة قصيرة العمر، مع أنظمة قيادة وسيطرة ذاتية النقل. وأضافت أنها لم تعثر على دليل على وجود عبث بالنماذج أو مجموعات البيانات العامة.
وفي اليوم التالي، أصدرت OpenAI بياناً اعترفت فيه بأن نماذجها التجريبية هي المسؤولة عن الهجوم. وأوضحت أن الحادث وقع أثناء اختبار قدرات نموذجين من إصدارات ما قبل الإطلاق، وهما “GPT‑5.6 Sol” ونموذج أحدث وأقوى، وكلاهما تم ضبط رفضهما للأوامر السيبرانية لتقييم قدراتهما على منصة ExploitGym، وهي معيار متاح للعامة يقيس مهارات النماذج في تنفيذ هجمات بناءً على ثغرات معروفة.
ووفقاً لـ OpenAI، كان من المفترض أن تعمل النماذج في بيئة عالية الانعزال، تقتصر فيها إمكانية الوصول إلى الشبكة على تثبيت حزم برمجية عبر وكيل داخلي، وهو برنامج طرف ثالث يعمل كوسيط وذاكرة تخزين مؤقتة لسجلات الحزم. إلا أن النموذج تمكن من اكتشاف ثغرة غير معلومة سابقاً من نوع “يوم الصفر” (Zero-Day) في نظام تثبيت الحزم هذا، واستغلها بدقة للخروج من البيئة المعزولة والوصول إلى الإنترنت المفتوح.
ومن هنا، وبهدف وحيد هو “الغش في التقييم” كما وصفت OpenAI، استنتج النموذج أن منصة Hugging Face تستضيف نماذج ومجموعات بيانات وحلولاً لاختبار ExploitGym، فبحث عن ثغرات في بنيتها التحتية واستغلها بنجاح. وكانت النتيجة النهائية حصول النموذج على إجابات الاختبار مباشرة من قاعدة بيانات الإنتاج الخاصة بـ Hugging Face، ما أتاح له التفوق في المعيار الذي كان يخضع للتقييم عليه.
إلا أن تحليلاً أمنياً متخصصاً، نشره موقع TechCrunch، يكشف أن جذور المشكلة لا تقتصر على ذكاء النموذج، بل تمتد لتشمل فشلاً بشرياً في التصميم. ويقول دان غيدو، مؤسس شركة أبحاث الأمن السيبراني Trail of Bits، إن ما حدث كان فشلاً في الاحتواء مع تعطيل كل وسائل الأمان، مشيراً إلى أن البيئة لم تكن معزولة بالشكل الكافي.
ويوضح خبراء آخرون نقل الموقع تصريحاتهم أن جوهر الخلل يكمن في توفير أي منفذ للإنترنت، ولو عبر وسيط لتثبيت الحزم. ويقول الباحث الأمني مارتن بون: “إذا كانت البيئة المعزولة تعني شيئاً، فأنت تتوقع ألا يكون لها أي اتصال مادي بالإنترنت على الإطلاق”. ويضيف المستشار الأمني دانييل كارد أن OpenAI لم تبذل جهداً كافياً في تصميم البيئة المعزولة أو ضوابطها بتوفيرها طريقاً غير مرشح إلى الإنترنت. ووصف جيك ويليامز الحادث بأنه فشل هائل في السيطرة، مضيفاً: “ما يعتبره شخص ‘هروب النموذج من البيئة المعزولة’، يعتبره آخر ‘فشل في بناء البيئة المعزولة بشكل صحيح’، لذا من الطبيعي أن يهرب'”.
وتثير الواقعة تساؤلات أوسع نطاقاً. ففي الشهر الماضي، كشفت شركة Anthropic، في وثيقة تقديم نموذجها الأمني “Mythos”، أنها طلبت من النموذج محاولة الهروب من بيئة معزولة، وقد نجح في الوصول إلى خدمات إنترنت محددة خارج نطاق التصميم، وإن كان لم يتمكن من الهروب “الكامل”. وهو ما يشير إلى أن مشكلة احتواء النماذج المتقدمة قد تكون تحدياً أعمق مما هو متوقع.
وأكدت OpenAI أنها أبلغت عن الثغرة للجهة المطورة للبرنامج الوسيط وتعمل معها على إصلاحها، كما تتخذ خطوات لتعزيز ضوابط البنية التحتية وعمليات الاختبار لمنع تكرار حوادث مشابهة في المستقبل. ولا تعرف حتى الآن النتائج القانونية المحتملة، وإن كان من المرجح أن تكون تصرفات النموذج قد انتهكت قانون الاحتيال وإساءة استخدام الحاسوب الأميركي.
