أعلنت OpenAI رسمياً إطلاق نموذج آلي جديد مخصص لاختبار الاختراق تحت اسم GPT-Red. يهدف هذا النظام المتطور إلى اكتشاف ثغرات الحقن الموجه في نماذج اللغة الكبيرة، لمواكبة التعقيد المتزايد للهجمات الإلكترونية التي تستهدف الأنظمة الذكية، لا سيما مع توسع الاعتماد عليها في بيئات العمل متعددة الوسائط والوكلاء الأذكياء.
يعمل نموذج GPT-Red بآلية محاكاة تحاكي أسلوب المختبِرين البشريين؛ حيث يرسل استفسارات متتابعة إلى النموذج المستهدف، ويراقب ردوده، ويكرر محاولاته بشكل مستمر لتحقيق أهداف محددة مثل تسريب البيانات أو التلاعب بالمخرجات. وتعتمد طريقة تدريبه على حلقة تعلم ذاتي تعزيزي تجمع بين نموذج هجوم ونماذج دفاعية متعددة تتواجه ضمن سيناريوهات تفاعلية؛ حيث يتلقى المهاجم مكافأة عند نجاحه في إحداث خرق أمني، بينما تُكافأ الدفاعات عند صمودها وإتمام مهامها الأساسية، وهو ما يدفع GPT-Red إلى ابتكار هجمات أكثر قوة وتنوعاً لمواجهة الدفاعات المتطورة.
وقد أشار ديلان هان، الباحث المشارك في تطوير النظام، إلى تفوق النموذج على المختبرين البشريين من حيث الدقة العالية في تحديد الهجوم الأكثر فعالية، والمثابرة في تعميق الثغرات المكتشفة. وأكدت تجارب المقارنة هذا التفوق؛ إذ أعادت OpenAI تنفيذ اختبار من عام 2025 كان يستهدف كشف ثغرات إصدار مبكر من نموذج GPT-5. وفي مواقف خارجة عن نطاق تدريبه المباشر، نجح GPT-Red في اختراق 84% من سيناريوهات الحقن الموجه غير المباشر، في حين عجز المختبرون البشريون عن تحقيق نجاح ملموس في الظروف نفسها، ما يعكس قفزة نوعية في كفاءة الأتمتة الأمنية مع بقاء الحاجة قائمة للمهارات البشرية في مسارات أخرى.
وخلال مراحل التدريب، نجح GPT-Red في رصد ثغرة أمنية جديدة لم تكن معروفة مسبقاً، أطلق عليها الباحثون اسم “سلسلة التفكير المزيفة” (Fake Chain-of-Thought). تعتمد هذه الثغرة على دس مدخلات وهمية في سجل التفكير الداخلي للنموذج المستهدف، مما يوحي له بأنه تحقق مسبقاً من بيانات خاطئة وصادق عليها.
ويوضح الباحث كريس تشوكيت-تشو آلية هذه الثغرة بتقريبها لفكرة إقناع شخص بأن ناتج جمع 1+1 يساوي 3 وأنه تأكد من ذلك بنفسه سابقاً، ما يدفعه للموافقة تلقائياً. وقد تمكنت هذه الثغرة من خداع إصدار GPT-5.1 بنسبة تجاوزت 95%، بينما تراجعت نسبة نجاحها إلى أقل من 10% عند اختبارها على الإصدار الأحدث GPT-5.6 Sol.
ولم تتوقف الاختبارات عند البيئة المغلقة، بل شملت سيناريوهات تشغيلية حية؛ حيث استهدف الفريق وكيلاً ذكياً لآلة بيع تُدعى Vendy تعمل في مكاتب OpenAI، وهو نظام مطور بواسطة شركة Andon Labs. وعقب تدريب النموذج في بيئة محاكاة، نجح GPT-Red في اختراق نظام الآلة وتحقيق ثلاثة أهداف تشغيلية تمثلت في خفض أسعار السلع المخزنة إلى الحد الأدنى البالغ 0.50 دولار، وإدراج سلعة جديدة مرتفعة الثمن وبيعها بالقيمة المنخفضة نفسها، إلى جانب إلغاء طلبية عميل آخر بنجاح. وقد تم إخطار الشركة المطورة بالنتائج لتحديث دفاعاتها الجاري اختبارها حالياً.
وقد انعكست نتائج هجمات GPT-Red إيجاباً على أمن منتجات OpenAI؛ إذ جرى دمج هذه الهجمات في تدريب النماذج الإنتاجية بدءاً من إصدار GPT-5.3، وصولاً إلى نموذج GPT-5.6 Sol الذي يعد الأكثر حصانة ضد هجمات الحقن الموجه حتى الآن. وأظهرت البيانات نجاح هذا النموذج في تقليص معدلات الإخفاق في معايير الحقن المباشر الصعبة بمقدار 6 أضعاف مقارنة بأفضل نموذج سابق قبل أربعة أشهر، ليستقر معدل إخفاقه الحالي عند 0.05% فقط أمام هجمات GPT-Red المباشرة. وفي اختبارات منفصلة للحقن غير المباشر استهدفت أدوات المطورين والتصفح، سجل النموذج دقة دفاعية تجاوزت 97%، دون أن يؤثر ذلك على كفاءة قدراته العامة.
ومع هذه النتائج المتقدمة، لا يمثل GPT-Red بديلاً كاملاً للعنصر البشري؛ إذ لا يزال يواجه صعوبات في تنفيذ الهجمات التي تتطلب حواراً تفاعلياً طويلاً أو استخدام الصور لإيصال نصوص خبيثة. وفي هذا الصدد، ترى جيسيكا جي، المحللة في مركز الأمن والتكنولوجيا الناشئة (CSET) بجامعة جورجتاون، أن الخبرة البشرية ستبقى ركيزة أساسية، مع ضرورة تحديد المجالات الأكثر احتياجاً للتدخل البشري بدقة.
أكدت OpenAI التزامها بإبقاء نموذج GPT-Red للاستخدام الداخلي فقط وحجبه تماماً عن المنتجات التجارية العامة تفادياً لإساءة استغلال قدراته الهجومية. وتعتزم الشركة مواصلة توسيع البنية الحوسبية وتطوير الخوارزميات لترقية قدرات النموذج في الإصدارات المستقبلية بما يضمن تحصين الأجيال القادمة من الذكاء الاصطناعي، تمهيداً لنشر ورقة بحثية تفصيلية خلال الأيام المقبلة.
