الذكاء الاصطناعي الخفي هو استخدام أدوات أو أنظمة الذكاء الاصطناعي داخل المؤسسة دون علم أو موافقة أو إشراف الأشخاص المسؤولين عن حوكمة هذا الاستخدام. وهو غير خاضع للحوكمة بحكم تعريفه، حتى عندما يكون غرض الموظف مشروعاً أو تبدو الأداة منخفضة المخاطر.

تشمل الأمثلة قيام الموظفين بإدخال معلومات العمل في روبوت محادثة عام، أو استخدام خدمة نسخ ذكاء اصطناعي غير معتمدة، أو ربط نموذج بملفات الشركة دون مراجعة. قد تكون الأداة مجانية، أو مدمجة في منتج آخر، أو يتم الوصول إليها من خلال حساب شخصي، لذا قد تغفل عنها سجلات المشتريات التقليدية. يعتمد حجم التعرض للمخاطر على المعلومات التي تتم مشاركتها، وما يفعله النظام بها، وكيفية استخدام مخرجاته.

لماذا يعتبر هذا الأمر مهماً

يمكن أن يؤدي الاستخدام غير المرئي إلى كشف معلومات سرية أو شخصية أو خاضعة للتنظيم لمزود الخدمة بموجب شروط غير واضحة. وقد يؤدي أيضًا إلى إدخال مخرجات غير دقيقة في القرارات، أو إعادة إنتاج التحيز، أو انتهاك حقوق الطبع والنشر، أو تسجيل البيانات في أماكن لا يمكن للمؤسسة تدقيقها. إذا تم استخدام أداة ذكاء اصطناعي لمهمة ذات عواقب، فقد لا يكون هناك من تحقق مما إذا كانت مناسبة أو حدد المسؤولية عن آثارها.

نادراً ما يحل الحظر الشامل الطلب الأساسي. قد يستمر الأشخاص في استخدام الأدوات بهدوء إذا كانت الخيارات المعتمدة غير متوفرة أو بطيئة أو يصعب فهمها. الاستجابة الفعالة تجعل المسارات الآمنة عملية، وتوضح المعلومات التي يجب عدم إدخالها في الخدمات غير المعتمدة، وتمنح الموظفين طريقة لطلب تقييم أداة ما.

اكشف عن الاستخدام قبل اتخاذ قرار بشأن ما يجب فعله

يمكن للمؤسسات الجمع بين عدة طرق للاكتشاف: مراجعة سجلات شراء البرمجيات والنفقات، واستشارة فرق تكنولوجيا المعلومات والأمن، واستطلاع آراء الموظفين، وتقييم إشارات المتصفح والشبكة حيثما كان ذلك قانونياً، وطلب من وحدات الأعمال تحديد المهام التي يساعد فيها الذكاء الاصطناعي بالفعل. الهدف هو فهم الاستخدام وتدفقات البيانات، وليس افتراض أن كل مستخدم يتصرف بتهور.

لكل استخدام محدد، قم بتسجيل الأداة، والغرض، والمستخدمين، والبيانات المعنية، وتأثير القرار، وأي اتصالات خارجية. ثم قم بتصنيف مستوى التعرض واختر استجابة: إيقاف استخدام ضار، أو نقله إلى خدمة معتمدة، أو إضافة ضمانات، أو الموافقة عليه بحدود واضحة ومالك محدد. حافظ على قناة مفتوحة للإبلاغ عن الاستخدامات الجديدة، لأن الأدوات والميزات تتغير بسرعة.

بمجرد أن تفهم المؤسسة النمط، يمكن للحوكمة سد الفجوات العملية من خلال قوائم الأدوات المعتمدة، والتدريب، ومراجعة المشتريات، والضوابط التقنية. أعد فحص هذه التدابير مع إضافة المنتجات لميزات الذكاء الاصطناعي وتغير ممارسات العمل. الظل الذكاء الاصطناعي (Shadow AI) ليس مجرد مشكلة تتعلق بجرد التكنولوجيا؛ بل هو علامة على أن السلوك الفعلي والحوكمة الرسمية ربما تباعدا.