تسببت التداعيات المتصاعدة لاستخدام نماذج الذكاء الاصطناعي في قطاع أمن المعلومات بفرض شركة Apple قيوداً صارمة على عدد تقارير الثغرات الأمنية المسموح للباحثين تقديمها عبر منصتها الداخلية. وجاءت هذه الخطوة استجابة لتدفق هائل من البلاغات المولدة آلياً، أسفر عن تأخير الإبلاغ عن ثغرة أمنية حرجة في نظام التشغيل macOS.
وفي تفاصيل الحادثة، أعلنت شركة Bynario الناشئة المتخصصة في الأمن السيبراني، عن استخدامها نموذج ChatGPT من شركة OpenAI لاكتشاف أكثر من 50 خللاً في أحدث إصدارات أجهزة MacBook خلال فترة زمنية لم تتجاوز ثلاثة أسابيع. وتضمنت هذه العيوب سلسلة استغلال لثغرة تصعيد الامتيازات، والتي تُصنف ضمن أخطر أنواع الهجمات السيبرانية نظراً لقدرتها على منح المهاجم سيطرة كاملة على جهاز Mac. وقدرت الشركة القيمة السوقية لهذه الثغرة في أسواق القرصنة الخفية بمبلغ يتراوح بين 100 ألف و200 ألف دولار أمريكي.
وواجهت Bynario عقبة تشغيلية تمثلت في عجزها عن إرسال تقرير الثغرة إلى Apple نتيجة القيود المفروضة على الحد الأقصى للبلاغات المفتوحة لكل باحث. وصرح ألفريدو بيسولي، الرئيس التنفيذي والمؤسس المشارك للشركة، بأن القطاع يمر بمرحلة بالغة الصعوبة، حيث يواجه مسؤولو صيانة البرمجيات والشركات التقنية ضغطاً هائلاً بسبب الكم الكبير من الثغرات المكتشفة.
وردت Apple عبر بيان لصحيفة Financial Times، مؤكدة تواصلها مع Bynario لمراجعة البلاغات غير المقدمة. وبينت الشركة أنها طبقت حداً أقصى لعدد التقارير المفتوحة مقترناً بفترة تهدئة إلزامية تمتد 30 يوماً، مع توفير خيار لتقديم طلبات زيادة الحصة. وأرجعت الشركة هذا التعديل إلى تزايد حجم البلاغات الأمنية المولدة بالذكاء الاصطناعي في القطاع، مشيرة إلى إمكانية طلب الباحثين لزيادة هذا الحد لضمان وصول التقارير العالية الخطورة إلى الفرق الأمنية المتخصصة.
وامتد تأثير هذه النماذج ليشمل فرقاً بحثية أخرى، حيث تمكن باحثون في شركة Calif للأمن السيبراني من تجاوز آلية فرض سلامة الذاكرة (Memory Integrity Enforcement) التي أطلقتها Apple مؤخراً واعتبرتها الترقية الأهم لسلامة الذاكرة في تاريخ أنظمة التشغيل الاستهلاكية، وذلك بالاعتماد على نموذج Mythos المطور من Anthropic. وفي سياق متصل، عالجت Apple في تحديثاتها الأمنية الأخيرة أعداداً من الثغرات تفوق دورات التحديث السابقة بنحو خمسة أضعاف، وأرجعت الفضل في اكتشافها إلى أدوات الذكاء الاصطناعي التابعة لشركتي Anthropic وOpenAI.
وأوضح راف بيلينغ، مدير استخبارات التهديدات في شركة Sophos، أن الذكاء الاصطناعي يفرض تأثيراً مزدوجاً على عمليات صيد الثغرات. فهو يتيح للهواة إرسال بلاغات تخمينية بكثافة، بينما يمكن الباحثين المتخصصين من اكتشاف ثغرات عالية الخطورة. وأضاف بيلينغ أن تحديات برامج مكافآت اكتشاف الثغرات انتقلت من مرحلة العثور على الخلل إلى تحديات التحقق، وترتيب الأولويات، والاستجابة السريعة الآلية.
ولضبط جودة التقارير، طبقت Apple إجراءات عقابية بحق الباحثين الذين يرسلون بلاغات مولدة بالذكاء الاصطناعي بشكل متكرر دون إجراء تحقق بشري دقيق. وتشمل هذه الإجراءات إيقاف حساب الباحث لمدة 180 يوماً، مع احتمالية الحذف النهائي من البرنامج في حال تسجيل أكثر من فترتي إيقاف.
وتتزامن هذه الإجراءات مع قرارات مشابهة اتخذتها مشاريع مفتوحة المصدر، مثل curl وNextcloud، والتي علقت برامج مكافآتها المدفوعة بالكامل إثر تعرضها لموجة من التقارير الآلية ضعيفة الجودة. وتشير التقارير الصادرة عن المنصات التقنية مثل The Decoder وAI Weekly إلى أن هذه التطورات تفرض على قطاع الأمن السيبراني مراجعة شاملة لآليات تلقي وتقييم البلاغات الأمنية.
