تصنيف مخاطر الذكاء الاصطناعي هو طريقة منظمة لتجميع وتسمية المخاطر المرتبطة بالذكاء الاصطناعي. وهو يوفر للأشخاص مفردات مشتركة لتحديد المخاطر ومقارنتها ومناقشتها، مع مساعدة المؤسسات على رؤية أين قد تكون هناك فجوات في تقييماتها.

التصنيف هو خريطة، وليس تقييماً كاملاً للمخاطر. يمكن للفئة أن تشير إلى نوع الضرر أو السبب، لكنها لا تستطيع تحديد مدى احتمالية حدوث الخطر في استخدام معين، أو مدى خطورة تأثيره، أو أي إجراء تحكم سينجح. تعتمد هذه الأسئلة على السياق: الغرض من النظام، والأشخاص المتأثرين، وبيئة النشر، ونطاق التشغيل، وعناصر التحكم الموجودة بالفعل.

مستودع مخاطر الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا (MIT)

يتم الحفاظ على مستودع مخاطر الذكاء الاصطناعي (AI Risk Repository) بواسطة MIT FutureTech كمرجع حي للمخاطر المستمدة من أطر وتصنيفات الذكاء الاصطناعي الحالية. تحتوي قاعدة بياناته على أكثر من 1,700 خطر مصنف. تصنف تصنيفاته للمجالات (Domain Taxonomy) المخاطر إلى سبعة مجالات و24 مجالاً فرعياً، بينما يساعد تصنيف سببي منفصل في وصف كيفية ومتى ولماذا تنشأ المخاطر. المستودع مرخص بموجب رخصة المشاع الإبداعي (Creative Commons Attribution 4.0 (CC BY 4.0))، والتي تسمح بإعادة الاستخدام مع نسب العمل إلى مؤلفه بشكل مناسب.

هذا الاتساع يجعل المستودع مفيداً للاكتشاف والتحليل المشترك. يمكن للفرق استخدامه لمقارنة سجلات المخاطر الخاصة بهم مع مجموعة أوسع من المخاوف المنشورة، أو للعثور على لغة لمشكلة يتم وصفها بشكل غير متسق. كما يمكنه دعم الأبحاث وعمليات التدقيق والمناقشات عبر الأدوار التقنية والسياساتية والتنظيمية.

استكشف مستودع مخاطر الذكاء الاصطناعي من MIT.

استخدام الفئات بمسؤولية

يمكن للمخزونات الكبيرة أن تخلق شعوراً زائفاً بالاكتمال. فقد يندرج خطر ما تحت فئات متعددة، كما يمكن لاستخدامات أو مجموعات جديدة من الأنظمة أن تخلق انكشافات لم تكن متوقعة عند تجميع التصنيف. لذا، ينبغي على الفريق تسجيل السيناريو الملموس وراء كل عنصر مختار: ما الذي يمكن أن يحدث، ومن أو ما الذي قد يتأثر، وتحت أي ظروف.

ومن هناك، يمكن للمؤسسة تقييم الأثر والاحتمالية، واختيار ضوابط متناسبة، وتحديد مالك للمخاطر. تتطلب بعض المخاطر اختباراً تقنياً؛ بينما تتطلب أخرى تغييرات في التدريب، أو تصميم العمليات، أو المراجعة البشرية، أو ترتيبات الموردين. يساعد التصنيف في تنظيم هذا العمل، لكنه لا ينبغي أن يحل محل التقدير المحلي أو المراقبة بعد النشر.

بالنسبة للمؤسسة، تكمن القيمة في ربط التصنيفات بالقرارات. يمكن لسجل المخاطر الذي يستخدم تصنيفاً مشتركاً أن يدعم إعداد التقارير عبر الفرق، مع الاحتفاظ بتفاصيل كافية لتعكس الأنظمة الفردية. راجع السجل عند تغير الغرض أو النموذج أو البيانات أو مجموعة المستخدمين أو بيئة التشغيل، وقم بتسجيل أي مخاطر جديدة لا تصفها الفئات الحالية بشكل جيد.