حوكمة الذكاء الاصطناعي

حوكمة الذكاء الاصطناعي هي مجموعة حقوق اتخاذ القرار، والمساءلة، والسياسات، وترتيبات الرقابة التي توجه كيفية تطوير المؤسسة للذكاء الاصطناعي وشرائه واستخدامه. وهي توضح من يمكنه الموافقة على الاستخدام، وما هي الحدود المطبقة، وكيف يتم تصعيد المخاوف طوال دورة حياة النظام.

تبدأ الحوكمة الجيدة قبل اختيار النظام. يجب على القادة أن يسألوا عما إذا كان الذكاء الاصطناعي مناسباً للمهمة، وما هي الأشخاص أو الخدمات التي قد تتأثر، وما إذا كانت المؤسسة قادرة على إدارة المخاطر الناتجة. تشكل الإجابات الغرض المسموح به، ومستوى المخاطر المقبول، ومتطلبات المراجعة، وشروط إيقاف الاستخدام. يجب أن تأخذ الحوكمة في الاعتبار أيضاً الأنظمة التي يتم شراؤها من الموردين والأدوات التي يقدمها الموظفون بشكل غير رسمي.

المساءلة تحتاج إلى شخص

يمكن للجان وضع السياسات ومراجعة الأدلة وحل المشكلات، ولكن لا يمكن أن تقع المسؤولية على عاتق لجنة. يجب أن يكون لكل نظام ذكاء اصطناعي يتم نشره شخص بشري مسمى يمتلك حق استخدامه. يحتاج هذا المالك إلى سلطة كافية للتشكيك في الأداء، وطلب التغييرات، وتعليق الاستخدام، والتأكد من وصول الحوادث إلى الأشخاص المناسبين. إن تسمية شخص ما دون منحه حق الوصول إلى الأدلة أو سلطة اتخاذ القرار لا يخلق سوى مساءلة صورية على الورق.

على المستوى التنظيمي، يظل مجلس الإدارة مسؤولاً في نهاية المطاف عن الرقابة على المخاطر. ويقوم التنفيذيون بترجمة هذه المسؤولية إلى هيكل حوكمة قابل للتطبيق: من يوافق على الاستخدام عالي التأثير، ومن يراقب الامتثال للسياسة الداخلية، ومن يتحقق من الأداء الفني، ومن يمكنه التدخل. لا يُتوقع من مالك النظام القيام بكل مهمة شخصياً، ولكن يجب أن يعرف الفرق التي تؤديها ويظل مسؤولاً عن تشغيل النظام.

الحوكمة والامتثال

يسأل الامتثال عما إذا كانت المؤسسة تلبي متطلبات قانونية أو سياساتية معينة. أما الحوكمة فهي أوسع نطاقاً؛ إذ تحدد أهداف المؤسسة، وشهيتها للمخاطر، وحقوق اتخاذ القرار، والرقابة على الذكاء الاصطناعي، بما في ذلك المجالات التي تكون فيها القواعد غير مكتملة أو التي ينطبق فيها أكثر من قانون. يمكن لأدلة الامتثال أن تدعم الحوكمة، لكن قائمة التحقق المكتملة لا تثبت أن النظام مناسب أو عادل أو خاضع لرقابة فعالة.

الحوكمة المفيدة هي التي تتسم بالتناسب وترتبط بقرارات حقيقية. فهي تسجل سبب استخدام النظام، والمخاطر التي تم قبولها، ومن يمكنه تغيير غرضه، والإشارات التي تستدعي المراجعة. كما أنها تمنح العاملين وسيلة للإبلاغ عن السلوك غير المتوقع دون الحاجة إلى إثبات الضرر أولاً. عندما تكون المسؤوليات والعتبات ومسارات التصعيد واضحة، تكون المؤسسة في وضع أفضل للتعلم والاستجابة مع تغير النظام أو سياقه.