أظهرت دراسة مستندة إلى لعبة متصفح تفاعلية وجود ثغرة جوهرية في نموذج “الإنسان في الحلقة” (Human-in-the-loop) المُتبع للإشراف على وكلاء البرمجة.
تتمثل هذه الثغرة في ظاهرة “إرهاق الموافقة” (Consent Fatigue)، حيث بينت البيانات إقرار المستخدمين لنحو ثلث الطلبات الخبيثة الصادرة عن هؤلاء الوكلاء، ما يؤكد هشاشة الاعتماد الحصري على المراجعة البشرية اليدوية كخط دفاع أخير في بيئات التطوير المدعومة بالذكاء الاصطناعي.
صمم اللعبة المطور البلجيكي أليكس فوترز لاختبار قدرة اللاعبين على التمييز بين الأوامر الآمنة والخطيرة الصادرة عن وكيل برمجة افتراضي خلال إطار زمني لا يتجاوز 60 ثانية. واستناداً إلى تدوينة نشرها يوم الأربعاء، كشفت إحصاءات أكثر من 40 ألف جولة لعب أن قرابة 35% من أوامر “تجاوز النطاق” قد نجحت في تخطي رقابة الموافقة البشرية؛ وشملت هذه الأوامر طلبات استخراج ملفات إعداد Kubernetes أو قوائم بيانات اعتماد AWS. وعلى النقيض من ذلك، تمكن اللاعبون من رصد وإيقاف الأوامر التدميرية الصريحة بمعدلات عالية، مثل محاولات حذف مجلد الجذر أو طلب منح صلاحيات القراءة والكتابة والتنفيذ بشكل كامل ومتكرر.
يفسر فوترز هذه الثغرة بالحجم الهائل للطلبات التي يُطالب المطور بالمصادقة عليها، حيث يولد هذا التدفق المستمر “ضجيجاً” يُفضي إلى الإرهاق وتشتت الانتباه. وتتقلص دقة المراجعة تدريجياً مع تزايد عدد الموافقات المطلوبة، وهو استنتاج يتطابق مع القياسات عن بُعد لشركة Anthropic الواردة في تدوينتها المنشورة في مايو الماضي. إذ أشارت الشركة إلى أن مستخدمي أداة Claude Code يوافقون على نحو 93% من طلبات الأذونات، مقرّة بأن “إرهاق الموافقة” يدفع المطورين فعلياً لتبني ممارسة خطيرة تتلخص في الموافقة الجماعية التلقائية.
في سياق الأمثلة المهددة للأمن، أظهرت اللعبة أن ما يقرب من 65% من اللاعبين وافقوا على الأمر البرمجي “npm run analyze”، متجاهلين قدرته على تنفيذ أي حمولة خبيثة مضمنة داخل ملف package.json الخاص بالمشروع. ورغم أن سجل الوكيل في اللعبة يَعرض بوضوح محتوى هذا السكريبت، إلا أن الأغلبية الساحقة أقرت الأمر دون تدقيق معمق.
وتبرز هذه الحالة صعوبة اتخاذ قرارات أمنية حاسمة في ظل سياق محدود، فالأوامر التي تبدو ظاهرية آمنة يمكن تعديلها بسهولة من قبل الوكيل، ما يفرض على المراقب البشري التحقيق الفردي في كل ملف قبل منحه الموافقة؛ وهي عملية تستنزف وقتاً طويلاً يتنافى مع الهدف الأساسي لأتمتة المهام.
للحد من هذه المخاطر، طورت شركة Anthropic ميزة “الوضع التلقائي” (Auto Mode) في أداة Claude Code، والذي ينقل عبء اتخاذ قرارات الموافقة إلى مصنفات تعتمد على نماذج الذكاء الاصطناعي، ليمثل حلاً وسطاً بين التدقيق اليدوي البطيء والإلغاء الشامل للقيود الأمنية. وفقاً لتدوينة الشركة التقنية، يعمل هذا الوضع عبر مستويين متوازيين:
المستوى الأول يفحص مخرجات الوكيل لرصد محاولات حقن الأوامر، بينما يتولى المستوى الثاني استخدام نموذج مخصص لتقييم كل إجراء قبل تنفيذه الفعلي.
ورغم إعلان Anthropic أن هذا الوضع ينجح في التقاط حوالي 83% من السلوكيات المفرطة، إلا أنها اعترفت بأن أي نظام دفاع احتمالي سيحمل بالضرورة معدل خطأ غير صفري، ما يبقي الباب مفتوحاً أمام بعض الثغرات.
تجاوزت مخاطر الاعتماد على المراجعة البشرية حدود النماذج التجريبية لتصل إلى بيئات التشغيل الفعلية. فقد كشف الباحث الأمني أونان غوان (Aonan Guan) مؤخراً عن ثغرة أمنية حرجة في صندوق حماية الشبكة (Network Sandbox) الخاص بأداة Claude Code.
قامت Anthropic بإصلاح هذه الثغرة بصمت تام في الإصدار 2.1.88 دون الإعلان عن معرف CVE مستقل لها. وتكمن خطورة الثغرة في إتاحتها للمهاجمين تجاوز سياسات السماح بالمضيفين عبر استغلال هجوم الحقن بالبايت الفارغ (Null Byte Injection)، الأمر الذي كان سيسمح بتسريب كامل للبيانات الحساسة من بيئة التشغيل في حال دُمجت الثغرة مع هجوم حقن أوامر. يعزز هذا الاكتشاف حقيقة أن النماذج الأمنية يجب ألا ترتكز على يقظة بشرية قابلة للاختراق أو الاستنزاف.
تشير مجمل هذه التطورات إلى أن التوجه المتسارع نحو اعتماد وكلاء البرمجة الذكية يفرض ضرورة ملحة لتطوير نماذج أذونات متدرجة وعالية الأمان. لم يعد نموذج “الإنسان في الحلقة” كافياً كحل وحيد، بل يجب أن يدمج ضمن نظام دفاعي متكامل ومتعدد الطبقات. ومع تحول الصناعة التقنية من مرحلة اقتراح الأسطر البرمجية إلى مرحلة تفويض مهام معمارية معقدة للوكلاء لتنفيذها شبه مستقل، يتحول الاعتماد على انتباه المطور البشري المُرهق إلى مخاطرة تشغيلية وأمنية فادحة.
