تتصاعد التحذيرات من المخاطر المستقبلية المرافقة لتطور أنظمة الذكاء الاصطناعي، وسط انتقادات يوجهها خبراء الأمن السيبراني لشركات التكنولوجيا الكبرى لاستبعادهم من النقاشات المحورية حول خطط السلامة. وتبرز هذه المشكلة في ظل تركيز خطط السلامة الحالية على تقييم سلوك النماذج وقدراتها، وتجاهل المتخصصين في حماية البنى التحتية، رغم ارتباط العديد من المخاطر المحتملة بشكل مباشر بالهجمات والاختراقات السيبرانية.
أشار المتخصصون إلى أن شركات كبرى مثل OpenAI وAnthropic لم تشرك خبراء الدفاع السيبراني بالقدر الكافي؛ وهم الذين يمتلكون خبرات تمتد لسنوات في التصدي للهجمات المعقدة التي تستهدف شبكات المؤسسات والبنى التحتية الحيوية. ويؤكد الخبراء أن معالجة المخاطر المستقبلية تتطلب دمج الأبحاث الخاصة بسلامة النماذج مع الخبرات العملية الميدانية في مجال الأمن السيبراني.
تباين الرؤى بين سلامة النماذج وأمن الأنظمة
تتمحور خطط السلامة التي تتبناها شركات الذكاء الاصطناعي حول المخاطر المرتبطة بقدرات النموذج نفسه وسلوكه. وفي المقابل، يسلط خبراء الأمن السيبراني الضوء على طبقة خطورة موازية تتعلق بآليات اختراق هذه الأنظمة أو إساءة استخدامها فور الوصول إليها. ولا يقتصر التعامل مع النماذج المتقدمة على ضمان أمان تصرفاتها، بل يشمل حماية أصول النموذج، وبياناته، وواجهات الوصول إليه، والبنية التحتية المشغلة له.
وأوضح الخبراء أن خطط السلامة الحالية تهمش قضايا الأمن السيبراني الجوهرية، على الرغم من أن سيناريوهات الهجمات واسعة النطاق التي تطرحها شركات الذكاء الاصطناعي تعتمد في أساسها على قدرات متقدمة لاستغلال الشبكات والأنظمة. وتتزامن هذه المخاوف مع إعلانات قادة القطاع عن ضرورة تعزيز تدابير السلامة. فقد اقترح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، خطة تعتمد على مقيّمين مستقلين داخل المختبرات، وتحديد معايير سلامة مشتركة، وتوسيع التعاون الدولي للحد من المخاطر. وبدوره، دعم Sam Altman، الرئيس التنفيذي لشركة OpenAI، مبدأ تخصيص الوقت الكافي لتطوير آليات السلامة بالتزامن مع وتيرة تقدم النماذج.
ويؤكد الخبراء أن إشراكهم في هذه المرحلة يقدم منظوراً تقييمياً مختلفاً، حيث ترتكز خبرات الدفاع السيبراني على التصدي لسرقة بيانات الاعتماد، واختراق سلاسل الإمداد، واستغلال الثغرات، والهجمات المباشرة على الأنظمة المتصلة بالشبكات.
ضرورة دمج الخبرات السيبرانية ضمن هياكل حوكمة الذكاء الاصطناعي
يتجاوز الأمر مجرد تشكيل فرق للاختبار والتقييم، ليصل إلى صلب هياكل الحوكمة الداخلية. وتعمل الشركات الكبرى على تأسيس لجان مخصصة للسلامة، بينما يستمر الجدل حول مدى تمثيل الخبرات السيبرانية العملية ضمن هذه الكيانات. وتتجه شركات الذكاء الاصطناعي نحو آليات التقييم المستقل، واختبارات القدرات، والإطلاق المرحلي للنماذج للسيطرة على المخاطر. ويشدد الخبراء على ضرورة رفد هذه الإجراءات بخبرات المتخصصين في حماية الأنظمة الواقعية والبنى التحتية الحيوية.
ويكتسب هذا النقاش أهمية مضاعفة مع توظيف الذكاء الاصطناعي في المهام السيبرانية. وقد أطلقت شركات تقنية وأمنية تحذيرات خلال الأشهر الماضية حول تقلص الإطار الزمني المتاح لتعزيز الدفاعات لمواجهة هجمات مدعومة بالذكاء الاصطناعي، مطالبة المؤسسات برفع جاهزيتها لحماية البنية التحتية الحيوية من تهديدات متطورة.
ويبرز هنا الاحتياج الفعلي لربط حوكمة الذكاء الاصطناعي بالممارسات السيبرانية القياسية، والتي تشمل إدارة المخاطر، وحماية البيانات، وإدارة الثغرات، ومراقبة الأحداث الأمنية، وإدارة الحوادث والتهديدات؛ وهي مجالات تشكل الأساس المعتمد في الأطر الوطنية للأمن السيبراني. وتحدد ضوابط الأمن السيبراني للحوسبة السحابية متطلبات حماية الأنظمة عبر إدارة الأصول، وإدارة هويات الدخول والصلاحيات، واختبار الاختراق، وحماية البيانات، ومراقبة الأحداث وإدارتها. وتوفر هذه الضوابط قاعدة عملية متينة لتقييم المخاطر السيبرانية لأنظمة الذكاء الاصطناعي.
ومع احتدام سباق تطوير النماذج المتقدمة، يستمر النقاش حول آليات دمج أبحاث السلامة مع الخبرات السيبرانية. ويخلص الخبراء إلى أن مواجهة المخاطر المستقبلية تحتم التعامل مع نموذج الذكاء الاصطناعي كعنصر ضمن منظومة تقنية متكاملة تشمل البنية التحتية، والبيانات، والشبكات، والمستخدمين، مما يجعل الأمن السيبراني ركيزة حتمية في أي خطة شاملة لسلامة الذكاء الاصطناعي.
