حوكمة الذكاء الاصطناعي في الأبناك والتأمين بالمغرب

الاستعمالات المعنية#

ما يقوله القانون 09.08#

تمنع المادة 11 بناء قرار ذي آثار قانونية تجاه شخص على مجرد نتيجة معالجة آلية تهدف إلى تحديد ملفه أو تقييم بعض جوانب شخصيته. وينص القانون على استثناءات، خاصة عندما يُتخذ القرار في إطار عقد ويتمكن الشخص من تقديم ملاحظاته.

عملياً، رفض قرض بناءً على تنقيط آلي فقط، دون تدخل بشري ودون إمكانية للعميل لعرض وجهة نظره، يعرّض البنك للمساءلة. كما يقتضي حقا الولوج والتعرض في القانون 09.08 القدرة على تفسير منطق التنقيط الذي ينتج آثاراً على الشخص بعبارات مفهومة.

ما يقوله القانون الأوروبي#

يصنّف الملحق الثالث من القانون الأوروبي ضمن الأنظمة عالية المخاطر:

• الأنظمة الموجهة لتقييم الملاءة الائتمانية للأشخاص الذاتيين أو تحديد تنقيطهم الائتماني، باستثناء تلك المستعملة لرصد الاحتيال؛
• الأنظمة الموجهة لتقييم المخاطر والتسعير بالنسبة للأشخاص الذاتيين في التأمين على الحياة والصحة.

تُطبَّق هذه الالتزامات ابتداءً من 2 دجنبر 2027. ويكون البنك المغربي معنياً عندما تُنتج هذه الأنظمة نتائج تُستعمل داخل الاتحاد الأوروبي، مثلاً عبر فروع أو أنشطة موجهة لعملاء مقيمين هناك. ويجب تحليل كل حالة على حدة.

الممارسات الجيدة في الحوكمة#

• جرد النماذج المستعملة في القرارات المتعلقة بالعملاء، مع مسؤول لكل نموذج.
• مراجعة بشرية لكل قرار سلبي مهم، مع قناة تتيح للعميل تقديم ملاحظاته.
• اختبارات التحيز على معطيات تمثل العملاء المغاربة، حسب الجهة والسن والجنس ونوع الدخل.
• القابلية للتفسير: القدرة على إخبار العميل بالعوامل التي أثرت في القرار.
• مراقبة انحراف النماذج وإعادة المصادقة عليها دورياً.
• تأطير النماذج التي يقدمها الأغيار: التوثيق، نتائج الاختبارات، شروط الاستعمال.
• الإدماج في منظومة المراقبة الداخلية وتدبير المخاطر التي يفرضها بنك المغرب على مجموع أنشطة البنك.

اطلع أيضاً على دورة حياة نظام الذكاء الاصطناعي.