الرقابة البشرية على الذكاء الاصطناعي

الإشراف البشري على الذكاء الاصطناعي هو قدرة الأشخاص ذوي السلطة والمعرفة المناسبة على فهم ومراقبة والتدخل في استخدام نظام الذكاء الاصطناعي. يمنح الإشراف الفعال للإنسان فرصة ذات مغزى للتشكيك في النتيجة أو تغييرها، بدلاً من مطالبته بالموافقة على قرار لا يمكنه تقييمه.

هناك وصفان شائعان هما الإشراف البشري داخل الحلقة والإشراف البشري خارج الحلقة. في ترتيب الإشراف البشري داخل الحلقة، يتوقف النظام مؤقتاً للحصول على مدخلات أو موافقة بشرية قبل اتخاذ إجراء محدد. في ترتيب الإشراف البشري خارج الحلقة، يعمل النظام ضمن حدود محددة بينما يراقب الشخص تشغيله ويمكنه التدخل. لا يضمن أي من التسميتين إشرافاً جيداً: فتفاصيل السلطة والتوقيت والمعلومات وعبء العمل تحدد ما إذا كان بإمكان الشخص إحداث فرق.

اجعل التدخل عملياً

يحتاج الأشخاص إلى معرفة الغرض من النظام، وما لا يمكنه القيام به بشكل موثوق، والحالات التي تتطلب اهتماماً، والأدلة التي تدعم المخرجات. إنهم بحاجة إلى وقت كافٍ لمراجعة تلك المعلومات ووسيلة للاعتراض على النظام أو تجاوز قراراته. إذا كانت الواجهة تخفي عدم اليقين، أو كان حجم قائمة الانتظار كبيراً جداً، أو كانت الإدارة تكافئ السرعة وحدها، فقد تصبح خطوة الموافقة الاسمية مجرد إجراء روتيني شكلي.

يجب أن يتناسب تصميم الرقابة مع تأثير الإجراء وقابليته للتراجع. يمكن التحقق من الاقتراح منخفض التأثير من خلال قواعد أخذ العينات والتصعيد. أما القرار الذي قد يحرم شخصاً من فرصة أو يؤثر على السلامة فقد يتطلب مراجعة فردية، وأسباباً يمكن فحصها، ومساراً لإعادة النظر في النتيجة. يجب على المؤسسة اختبار ما إذا كانت تلك الضوابط تعمل تحت ضغط زمني واقعي وعندما يكون النظام مخطئاً.

الإنسان المسؤول

يجب أن يكون لكل نظام ذكاء اصطناعي مُنشر مالك بشري مُسمى. يتحمل المالك المسؤولية عن غرضه وعملياته المعتمدة، ويعرف الفرق التي تقوم بالاختبار والمراقبة، ولديه السلطة لطلب مراجعة أو إيقاف استخدامه. لا يمكن تعيين هذا الدور بشكل غامض للجنة. يمكن للجان وضع السياسات وتحدي الأدلة، ولكن يجب أن يمتلك شخص محدد كل نظام وأن يتصرف عند تجاوز حد معين.

يجب أن يحظى هذا المالك بدعم من متخصصين تقنيين، وفرق قانونية وفرق إدارة المخاطر، والمستخدمين في الخطوط الأمامية، والأشخاص المتأثرين عند الاقتضاء. يجب توثيق المسؤوليات عبر دورة حياة النظام: من يوافق على النشر، ومن يراقب الأداء، ومن يتعامل مع الحوادث، ومن يقرر ما إذا كان يمكن استئناف النظام بعد التوقف. يحتاج المالك أيضًا إلى نائب مُسمى أو خطة استمرارية في حالة غيابه.

الإشراف البشري ليس بديلاً للتصميم الموثوق أو الحدود المناسبة. يمكن للناس ارتكاب الأخطاء، أو الاعتماد مفرطاً على الأتمتة، أو افتقار السياق اللازم التعرف على الخطأ. تجمع الحوكمة الجيدة بين التقدير البشري واختبار الأنظمة، والحدود الواضحة، والجلات، ومسارات التصعيد، وسلطة التدخل. الهدف هو جعل المسؤولية حقيقية والحفاظ على إمكانية الطعن في القرارات عندما تكون العواقب مهمة.