أعلنت شركة OpenAI إطلاق نسخة المعاينة الأولية لنظام Private Safety Processing المخصص للعملاء الأوائل، بهدف مراقبة سوء الاستخدام المحتمل عبر جلسات متعددة دون الاحتفاظ ببيانات العملاء.
يأتي هذا الإطلاق في ظل احتدام المنافسة مع شركة Anthropic حول سياسات خصوصية بيانات المؤسسات، وتحديداً بعد إقرار الأخيرة سياسة في يوليو الماضي تتيح لها الاحتفاظ ببيانات المستخدمين لمدة 30 يوماً للنماذج المغطاة، مثل فئة نماذج Mythos.
يعتمد النظام الجديد على توسيع نطاق سياسة Zero Data Retention القائمة لدى OpenAI، والتي تضمن لعملاء واجهة برمجة التطبيقات المؤهلين عدم احتفاظ الشركة بالمطالبات أو الردود فور معالجة الطلب. وفي حين اقتصرت سياسة Zero Data Retention سابقاً على مراقبة كل جلسة على حدة، يقدم النظام الجديد مراقبة أمان طويلة الأمد تتيح تحليل الأنماط عبر تفاعلات متعددة ومترابطة.
تتلخص آلية عمل النظام في تحليل آلي لمدخلات ومخرجات عدة محادثات لرصد أي مؤشرات على سوء الاستخدام. وعند اكتشاف خطر محتمل، يرسل النظام إشارات محددة النطاق لموظفي OpenAI توضح نوع النشاط فقط، مع حجب محتوى العميل بالكامل حتى في حال التبليغ.
يُتيح ذلك للعملاء إجراء تحقيقاتهم الخاصة بالاعتماد على المعلومات المتاحة في أنظمتهم، مع إمكانية مشاركة بيانات إضافية طوعاً لدعم التحقيق أو الاستئناف. وتعتزم الشركة نشر ورقة تقنية وتوسيع نطاق النظام بصورة أكبر خلال شهر سبتمبر المقبل.
سياق تنافسي حاد حول خصوصية المؤسسات
تبرز أهمية هذا النظام بالنظر إلى سياسة Anthropic التي تتيح الاحتفاظ بجلسات المستخدمين والمحادثات داخلها لمدة 30 يوماً للنماذج المغطاة والمستقبلية ذات القدرات المشابهة، ما أثار تحفظات المؤسسات التي تتعامل مع بيانات حساسة وتفضل عدم فحصها من قبل مختبرات الذكاء الاصطناعي.
ووفقاً لتقارير منصة TechCrunch، تسمح Anthropic بمراجعة بشرية لبيانات العملاء عبر مسار وصول مضبوط يقتصر على مجموعة صغيرة من المراجعين المعتمدين، مع توثيق العملية في سجل مقاوم للتلاعب لا يمكن تعديله.
في المقابل، تؤكد OpenAI أن نظامها يمنع موظفيها من الوصول إلى محتوى العملاء حتى عند رصد المخاطر.
تعكس هذه السياسات منافسة متصاعدة في سوق الذكاء الاصطناعي المؤسسي، حيث تشير التقارير إلى تباطؤ نمو OpenAI في الربع الثاني مقارنة بنمو Anthropic، التي قُدر معدل إيراداتها السنوية بحوالي 65 مليار دولار مع نقاشات استثمارية حول إمكانية طرحها العام الأولي بقيمة تصل إلى تريليوني دولار، في وقت تحضر فيه OpenAI بدورها لطرح عام أولي.
تفاصيل تقنية وآلية تشغيل
تُبقي عمليات نشر سياسة Zero Data Retention محتوى العملاء ضمن بنية تحتية تخضع لسيطرتهم الكاملة. وتعمل OpenAI على تطوير خيار إضافي يتيح تخزين المحتوى على بنيتها التحتية مع تشفيره بمفاتيح يتحكم فيها العميل حصراً، لضمان عدم امتلاك الشركة أي نسخ من تلك المفاتيح أو وصول للمحتوى الأساسي. في كلتا الحالتين، تحدد الأنظمة الآلية الانتهاكات وترجع إشارات أمان محدودة دون كشف المطالبات أو الردود.
تستهدف هذه الآلية السيناريوهات الأمنية المعقدة التي تتوزع فيها المخاطر عبر جلسات متعددة للتهرب من الكشف، أو تلك التي تشمل تكرار فحص الحواجز الأمنية، وتنسيق الهجمات عبر حسابات متعددة، وإخفاء التهديدات خلف أبحاث روتينية. كما يعالج النظام المخاطر الناجمة عن مهام الوكلاء الأذكياء عند انحرافها عن نية المستخدم ورفضها التوقف.
وعلى الرغم من عدم الكشف علناً عن المعايير الدقيقة التي تحفز النظام على إرسال الإشارات، أوضح سونيل أغراوال، كبير مسؤولي أمن المعلومات في شركة Glean، أن تبني تقنيات الذكاء الاصطناعي مؤسسياً يعتمد على تحكم العميل في بياناته، مؤكداً أن التزام OpenAI بعدم التدريب وسياساتها الصارمة يمنحان الشركات الثقة الكاملة للاعتماد على منصتها.
