# Ai Black Swan
**Source:** https://ar.airisks.net/ai-black-swan
**Language:** Arabic

---

البجعة السوداء للذكاء الاصطناعي هي حدث محتمل وعالي التأثير يتعلق بالذكاء الاصطناعي ويقع خارج تصنيف المخاطر التشغيلية الحالي للمؤسسة. إنها ليست تنبؤاً؛ بل تصف فئة من عدم اليقين قد لا تشملها قوائم المخاطر العادية، لذا فإن الاستجابة للمجهولات غير المعروفة تكون من خلال المرونة بدلاً من التنبؤ.

يستند المصطلح إلى الفكرة الأوسع للأحداث النادرة ذات العواقب التي يصعب توقعها من خلال الخبرات السابقة. في مجال الذكاء الاصطناعي، يمكن أن يتحول خطر مألوف إلى مصدر قلق من نوع "البجعة السوداء" عندما يغير النطاق أو السرعة أو التفاعل من تأثيره، أو عندما تخلق قدرة جديدة نمط فشل لا تعالجه الضوابط الحالية. الحدود ليست ثابتة: فمع تراكم الأدلة، قد يصبح سيناريو غير مألوف سابقاً خطراً تشغيلياً يمكن تقييمه وإدارته بشكل أكثر مباشرة.

## ثماني فئات لتخطيط المرونة

هذه الفئات هي محفزات لتخطيط السيناريوهات. وهي ليست تنبؤات أو كتالوجاً شاملاً أو دليلاً على أن حدثاً معيناً سيقع.

- **القدرة الناشئة:** يطور النظام أو يكشف عن قدرة لم تكن متوقعة من الاختبار، مما يغير عواقب استخدامه.
- **التركز النظامي:** الاعتماد على عدد صغير من النماذج أو المزودين أو طبقات البنية التحتية يخلق نقطة فشل مشتركة.
- **فشل المحاذاة:** يسعى النظام باستمرار لتحقيق هدف بطرق تتعارض مع النوايا البشرية أو القيود التنظيمية.
- **تكامل الوسائط المتعددة:** يؤدي الجمع بين مدخلات النص والصور والصوت والفيديو أو المستشعرات إلى خلق تفاعلات وثغرات لم يتم اكتشافها في الاختبارات المنفصلة.
- **الاختراق العدائي:** طريقة هجوم أو تلاعب جديدة تتجاوز الضوابط التي بدت قوية.
- **ثغرة في سلسلة التوريد:** فشل أو اختراق في نموذج أو مجموعة بيانات أو مكون أو مورد يؤثر على خدمات الذكاء الاصطناعي المعتمدة عليه.
- **ظهور الوكلاء المتعددين:** تنتج الوكلاء المتفاعلون نتائج لا يمكن تفسيرها بسهولة من خلال سلوك أي وكيل بمفرده.
- **الانتقال إلى التشفير الكمي:** التقدم في الحوسبة الكمية يقوض التشفير الذي يحمي بيانات أو نماذج أو بنية تحتية للذكاء الاصطناعي قبل نشر البدائل بالكامل.

## استعد دون ادعاء التنبؤ

يتساءل تخطيط المرونة عما ستحتاج المنظمة إلى ملاحظته وقراره وفعله إذا بدأ سيناريو ما في التكشف. ويشمل ذلك مراقبة الإشارات الضعيفة، ومسارات التصعيد الواضحة، والسلطة المختبرة لإيقاف نظام ما، وعمليات النسخ الاحتياطي، وخطط التعافي. يمكن للتمارين اختبار ما إذا كان الموظفون يعرفون من يمكنه اتخاذ قرار عاجل وما إذا كانت الخدمات الحيوية يمكن أن تستمر بدون قدرة الذكاء الاصطناعي المتأثرة.

هذه الاستعدادات لا تقضي على عدم اليقين. فهي تقلل الاعتماد على صحة توقع واحد وتحسن قدرة المنظمة على التكيف عندما تتغير الأدلة. يكون تفكير البجعة السوداء أكثر فائدة عندما يوسع الجاهزية مع الحفاظ على تركيز الضوابط اليومية على المخاطر التي يمكن ملاحظتها وتقييمها بالفعل.

## مصطلحات ذات صلة

- تصنيف مخاطر الذكاء الاصطناعي
- مخاطر الذكاء الاصطناعي الوكيل
- المخاطر الكمومية على أنظمة الذكاء الاصطناعي

تعمق أكثر: إطار عمل EW-AiRM™