كشفت دراسة شملت 1000 من كبار مسؤولي تقنية المعلومات والعمليات والتحول أن 40% من الشركات الكبرى واجهت خلال الأشهر الاثني عشر الماضية مشكلة مرتبطة بالامتثال أو حوكمة الذكاء الاصطناعي. وأظهرت النتائج أن مشكلات الإجراءات وسير العمل كانت عاملاً في 84% من هذه الحالات.
ويربط الباحثون جانباً كبيراً من هذه المخاطر بإجراءات عمل صممت في الأصل على أساس تدخل الموظفين في مراحل الموافقة وتسليم المهام والاستثناءات اليدوية. ومع إدخال الذكاء الاصطناعي إلى هذه الإجراءات، قد تنتقل نقاط التحقق إلى مواقع غير مناسبة، فيما تفتقر بعض العمليات إلى توثيق واضح يحدد كيفية انتقال العمل أو الأساس الذي استند إليه القرار.
تبرز هذه المشكلة بشكل خاص عند الحاجة إلى تفسير قرار اتخذ بمساعدة الذكاء الاصطناعي أمام جهات التدقيق، إذ قد لا تتوافر السجلات والأدلة اللازمة لتوضيح كيفية الوصول إلى القرار.
وأشار البحث إلى حالتين توضحان حجم المخاطر المحتملة. ففي إحدى الحالات، أدى استخدام وكيل برمجي إلى حذف قاعدة بيانات إنتاجية لشركة ناشئة، بما في ذلك النسخ الاحتياطية، خلال تسع ثوان فقط. وفي حالة أخرى، تمكنت نماذج للذكاء الاصطناعي خضعت لتقييم سيبراني من الخروج من بيئة الاختبار والعمل على بنية تحتية حية لمدة أربعة أيام ونصف قبل اكتشاف الأمر.
مخاوف الامتثال تعرقل إعادة بناء الإجراءات
شملت الدراسة كذلك 5000 موظف يستخدمون الذكاء الاصطناعي أو الأتمتة في بيئة العمل، وأظهرت أن غالبية المشاركين يشعرون بالقلق من أن يؤدي استخدامهم لهذه التقنيات إلى مشكلات في الامتثال.
ويلجأ بعض الموظفين إلى تجاوز الأدوات المعتمدة أو إعادة تنفيذ المهام يدوياً عندما لا يستطيعون معرفة كيفية وصول النظام إلى نتيجة معينة. كما أفاد عدد من الموظفين بأنهم لم يشاركوا بصورة كافية في تحديد كيفية دمج الذكاء الاصطناعي في مهامهم اليومية.
ويرى الباحثون أن هذه الممارسات قد تجعل مؤشرات تبني الذكاء الاصطناعي لدى الإدارات لا تعكس بالضرورة حجم الاستخدام الفعلي للتقنية داخل المؤسسات، في وقت يرى فيه المسؤولون التنفيذيون تأثيراً أكبر للذكاء الاصطناعي في الإنتاجية مقارنة بما يراه الموظفون.
وتظهر النتائج أن معظم المسؤولين يرون حاجة إلى إعادة بناء إجراءات العمل حول الذكاء الاصطناعي للحفاظ على القدرة التنافسية، إلا أن ثلثي المشاركين أفادوا بأن مخاوف الامتثال تؤخر هذه الخطوات.
ويقدر المسؤولون أن تكييف الإجراءات الأكثر أهمية في مؤسساتهم سيستغرق أربع سنوات في المتوسط، فيما تتركز النفقات الحالية بصورة أكبر على البنية التحتية والتراخيص والنماذج، مع تخصيص حصة محدودة لإعادة تصميم الإجراءات.
وقدرت الدراسة متوسط تكلفة مشروعات الذكاء الاصطناعي التي فشلت نتيجة مشكلات مرتبطة بالإجراءات بنحو 1.55 مليون دولار لكل مؤسسة. كما أظهرت أن إضافة الذكاء الاصطناعي إلى إجراءات العمل القائمة تواجه اعتراضات داخلية أقل من إعادة تصميم الإجراءات بصورة شاملة، ما يدفع بعض المؤسسات إلى تفضيل مسار الدمج التدريجي.
ويعكس ذلك تحدياً متزايداً أمام المؤسسات التي تسعى إلى توسيع استخدام الذكاء الاصطناعي، إذ ترتبط فعالية الحوكمة بقدرة الشركات على توثيق القرارات، وتحديد المسؤوليات، وإعادة تنظيم نقاط المراجعة والرقابة بما يتناسب مع طبيعة الأنظمة الجديدة.
