إدارة مخاطر الذكاء الاصطناعي

إدارة مخاطر الذكاء الاصطناعي هي العمل المنسق لتحديد وتقييم ومعالجة ومراقبة المخاطر التي تنشأ عن تطوير أو الحصول على أو نشر أو استخدام أنظمة الذكاء الاصطناعي. وهي تربط القرارات المتعلقة بنظام الذكاء الاصطناعي بالأشخاص والعمليات والضوابط التي يمكنها منع الضرر أو الاستجابة عند تغير الظروف.

إنها توسع نطاق إدارة المخاطر المؤسسية (ERM) بدلاً من استبدالها. تظل التخصصات الحالية مثل الشؤون القانونية والأمن والخصوصية والمرونة التشغيلية والتدقيق الداخلي ذات صلة. يضيف الذكاء الاصطناعي أسئلة قد لا تتناسب تماماً مع ضوابط التكنولوجيا المعمول بها: هل النظام مناسب لهذا الغرض؟ ما مدى موثوقية سلوكه في الظروف المتغيرة؟ من المسؤول عن مخرجاته، وماذا يحدث إذا فشلت المراجعة البشرية؟

طبقات العمل

يعمل البرنامج المفيد على أكثر من مستوى. يحدد العمل الاستراتيجي الاتجاه، ويقيم ما إذا كان الذكاء الاصطناعي مطلوباً، ويؤسس لتحمل المخاطر، ويخصص حقوق اتخاذ القرار. يقوم العمل التشغيلي بتقييم كل حالة استخدام ونظامها الكامل، بما في ذلك النماذج والبيانات والموردين والواجهات والمهام البشرية. يستعد عمل المرونة للاضطرابات أو الأحداث ذات التأثير العالي التي لا تتناسب مع التصنيفات الحالية. تربط هذه الطبقات بين خيارات مستوى مجلس الإدارة والاختبار والضوابط اليومية.

إدارة المخاطر مستمرة. يمكن أن تصبح المراجعة التي يتم إجراؤها قبل النشر قديمة عندما يتغير النموذج أو البيانات أو المستخدمون المقصودون أو العملية المحيطة. تحتاج المؤسسات إلى محفزات محددة لإعادة التقييم، وسجلات للقرارات، ومسارات للحوادث، والقدرة على إيقاف نظام مؤقتاً أو سحبه. يجب أن يعكس مستوى الجهد التأثير المحتمل والتعرض وعدم اليقين لكل استخدام.

كيف تختلف الأطر الرئيسية

EW-AiRM™ هو إطار عمل مفتوح على مستوى المؤسسة يربط بين الطبقات الاستراتيجية والتشغيلية وطبقات المرونة، وقد صُمم لتعزيز إدارة مخاطر المؤسسات (ERM) الحالية. يُعد إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي توجيهاً طوعياً يركز على إدارة المخاطر عبر دورات حياة أنظمة الذكاء الاصطناعي، مع وظائف للحوكمة، والتعيين، والقياس، والإدارة. تحدد مواصفة ISO/IEC 42001 متطلبات نظام إدارة الذكاء الاصطناعي الذي يمكن للمؤسسة تنفيذه والحصول على شهادة اعتماده. أما قانون الذكاء الاصطناعي للاتحاد الأوروبي فهو تشريع: يفرض واجبات وقيوداً قانونية على ممارسات وفئات مخاطر محددة للذكاء الاصطناعي. لهذه الأطر أغراض مختلفة، لذا قد تستخدم المؤسسات العديد منها معاً بدلاً من التعامل معها كبدائل لبعضها البعض.

تتمثل نقطة البداية العملية في إنشاء جرد لاستخدامات الذكاء الاصطناعي، وتسمية مالك مسؤول عن كل نظام يتم نشره، وتسجيل الغرض والأثر، وربط كل خطر مادي بضابط ومسار تصعيد. تساعد لغة الإطار في هيكلة هذا العمل، لكنها لا تتخذ قراراً نيابة عن المؤسسة. لا تزال المساءلة تعتمد على الأشخاص الذين يمتلكون السلطة والأدلة والوقت لاتخاذ الإجراءات اللازمة.