أطلقت شركة «ميتا» إطاراً أمنياً مفتوح المصدر يحمل اسم «LlamaFirewall»، يهدف إلى حماية التطبيقات المدعومة بنماذج اللغة الكبيرة (LLMs) من التهديدات المعقدة والمتقدمة. ويأتي هذا الإعلان في وقت تزداد فيه أهمية النماذج اللغوية كمكوّنات حيوية في أنظمة مستقلة ذات طابع حساس وموثوق، مما يجعل تأمينها ضرورة قصوى لا ترفاً اختيارياً.
وقالت ساهانا تشيناباسابا، مهندسة الأمن في «ميتا»، إن التقنيات الحالية لم تُصمم للتعامل مع القدرات المتطورة التي وصلت إليها هذه النماذج، ما أدى إلى بروز ثغرات أمنية خطيرة في البنية التحتية الرقمية. وأوضحت أن أحد أبرز المجالات التي تستدعي القلق هو استخدام نماذج الذكاء الاصطناعي في توليد التعليمات البرمجية، حيث قد تتسبب الوكلاء البرمجيون في إدخال ثغرات أمنية ضمن الأنظمة الإنتاجية دون قصد، أو تنفيذ أوامر تتجاوز نية المستخدم الأصلية نتيجة سوء في تسلسل التفكير أو الانحراف عن الأهداف.
أدوات الحماية في LlamaFirewall
يتضمن «LlamaFirewall» ثلاث أدوات رئيسية تم تطويرها لتلبية احتياجات وكلاء الذكاء الاصطناعي في مجالات الحقن النصي والانحراف عن المهام، وأيضاً إنتاج الشيفرات غير الآمنة. وتتمثل هذه الأدوات في:
- PromptGuard 2: أداة للكشف الفوري والدقيق عن محاولات كسر القيود (Jailbreak) عبر مراقبة مدخلات المستخدم والبيانات غير الموثوقة في الزمن الحقيقي.
- التحقق من توافق الوكيل مع المهمة: أداة تقوم بمراجعة تسلسل التفكير لدى النموذج لاكتشاف محاولات حقن غير مباشرة أو انحراف في الهدف، وتُعد أول أداة مفتوحة المصدر تراقب خط سير التفكير لحماية خطط الوكلاء من التلاعب.
- CodeShield: محرك تحليل ثابت منخفض الكمون يقوم برصد التعليمات البرمجية غير الآمنة التي تنتجها النماذج، ما يقلل من احتمال إدخال ثغرات أمنية إلى الأنظمة.
وإضافة إلى هذه الأدوات، يوفر «LlamaFirewall» إمكانية تخصيص سياسات التحقق عبر أنماط تنظيمية أو باستخدام نماذج اللغة نفسها، مما يتيح تعديلات تتوافق مع طبيعة التهديدات الخاصة بكل تطبيق.
إطار موحد وقابل للتطوير
يتضمن «LlamaFirewall» محركاً موحداً للسياسات، يسمح ببناء خطوط دفاع مخصصة وتحديد استراتيجيات تصحيح مشروطة، مع دعم لإدراج أدوات كشف جديدة. ويقارن فريق التطوير الإطار الجديد بأدوات أمنية مثل «Snort» و«Zeek» و«Sigma» المستخدمة في الأمن السيبراني التقليدي، من حيث قدرته على تفعيل تعاون مجتمعي بين الباحثين والمطورين لتحديث القواعد والاستجابة للتهديدات المستجدة في الوقت الفعلي.
ووفقاً لتشيناباسابا، فإن التصميم المرن لـ«LlamaFirewall» يجعله قابلاً للتكامل مع أي نظام ذكاء اصطناعي، سواء كان مفتوحاً أو مغلقاً، طالما يتيح النظام إدراج آليات حماية إضافية.
نهج مفتوح ومستقبل مرن
يمثل الإطار الجديد ركيزة لحماية التطبيقات الذكية من خلال اعتماد استراتيجية «الدفاع المتعدد الطبقات»، مستفيداً من خبرة «ميتا» في بناء الأنظمة واسعة النطاق. ويُعد الطابع المفتوح للمشروع عنصراً محورياً في بناء الثقة، حيث يسمح بمشاركة المكونات والإضافات والقواعد من المجتمع التقني، ما يعزز الشفافية ويتيح استجابة أسرع لمتغيرات المشهد الأمني.
ويخطط الفريق لتوسيع نطاق «LlamaFirewall» مستقبلاً ليشمل سلوكيات عالية الخطورة مثل تنفيذ التعليمات الخبيثة وسوء استخدام أدوات التنفيذ التلقائي، بهدف تعزيز الحماية الشاملة لوكلاء الذكاء الاصطناعي عبر دورة حياتهم الكاملة.
للوصول لصفحة «LlamaFirewall» الرسمية من ميتا
