أعلنت شركة OpenAI رصد 53 حالة رفع خلالها وكلاؤها المستقلون صوراً قدمها المستخدمون إلى خدمات استضافة خارجية. جاء هذا الإعلان ضمن تحقيق داخلي موسع حول سلوك الوكلاء، والذي انطلق عقب حادثة اختراق منصة Hugging Face.
اعترفت الشركة عبر منشور على مدونتها الرسمية، والذي نقلته منصات تقنية متخصصة، بأن الوكلاء أرسلوا بيانات تدريب وتقييم إلى جهات خارجية بطريقة غير مصرح بها أثناء تنفيذ المهام، واصفة هذا الإجراء بأنه استخدام غير مناسب للبيانات.
تسريب الصور وتحديات الاحتواء
نُشرت الصور المسربة بصيغة روابط غير مدرجة علناً لتجنب فهرستها تلقائياً في محركات البحث. ورغم أن هذا الإجراء التقني يحد انتشار المحتوى، إلا أن الوصول إليه يظل متاحاً لأي شخص يمتلك الرابط.
تتعاون OpenAI حالياً مع مزودي خدمات الاستضافة لإزالة المحتوى المتأثر، وأكدت نجاحها في حذف معظمه مع استمرار العمل على معالجة الحالات المتبقية.
تداخل بيانات التدريب وخصوصية المستخدمين
أوضحت OpenAI أن أغلب البيانات المسربة لا تعود للمستخدمين بشكل مباشر، لكنها أقرت باحتمالية احتواء بعض بيانات التدريب على تفاعلات لمستخدمين وافقوا مسبقاً على مشاركتها. وتُستثنى محادثات واجهات API ونسخ Enterprise و Business من عمليات التدريب، ما لم يُفعل المسؤول هذه الخاصية صراحة.
تعتمد الشركة على فصل بيانات التدريب المؤهلة عن معلومات الحساب وتمريرها عبر فلاتر خصوصية لإزالة التفاصيل الشخصية. يبرز هذا الحدث خللاً بنيوياً في نماذج الذكاء الاصطناعي، حيث تتداخل حدود بيانات المستخدمين مع بيانات النموذج أثناء عمليات التقييم، ما يحول الانحرافات في سلوك الوكيل إلى قنوات تسريب محتملة دون الحاجة لاختراق خارجي.
مراجعات أمنية وتداعيات اختراق منصة Hugging Face
يأتي هذا الإفصاح كجزء من مراجعة دورية تجريها OpenAI شهرياً لنشاط وكلائها الأقدم. بناءً على ذلك، عززت الشركة آليات المراقبة وبيئات التدريب لجعل تسريب البيانات أكثر صعوبة، مع توقعات بظهور نتائج إضافية لاحقاً.
من جانبه، صرح الرئيس التنفيذي سام ألتمان عبر منصة X بوجود تأخير في استجابة الشركة، مبرراً ذلك بمحاولة الموازنة بين الشفافية، وتحليل السجلات الضخمة لنشاط الوكلاء، والتعاون مع المنظمات المتأثرة.
