الذكاء الاصطناعي ومعالجة الشكايات: الفرز الآلي والردود المولَّدة وضمانات الحماية

ما يمكن أن يقوم به الذكاء الاصطناعي في مصلحة الشكايات#

تنتشر أربعة استعمالات، بمستويات مخاطر مختلفة:

• الفرز والتوجيه: رصد أن رسالة ما شكاية، وتقييم استعجالها، وتوجيهها إلى الفريق المناسب.
• التصنيف: إسناد موضوع ومرحلة من المسار وسبب مفترض، وفق تصنيف المقاولة.
• التلخيص: تلخيص سجل طويل (مراسلات، مكالمات مفرَّغة، وثائق) للمستشار أو للجنة.
• التحرير: اقتراح مسودة رد انطلاقاً من الملف والقواعد الداخلية.

إذا أُحسن استعماله، يحرر الذكاء الاصطناعي وقتاً للتحليل ويتيح رصد الدوافع المتكررة بشكل أسرع، كما يصفها دليلنا حول معالجة أسباب الشكايات. وإذا أُسيء تأطيره، فإنه ينقل الأخطاء إلى مواضع لا يراها فيها أحد.

الخطر رقم 1: شكاية تنظيمية مصنَّفة خطأً#

في بنك مغربي، يحدد منشور بنك المغرب رقم 10/W/16 إشعاراً فورياً بالتوصل، ورداً داخل 40 يوم عمل، وبياناً فصلياً موزَّعاً حسب الموضوع والوضعية (انظر الشكايات البنكية). فإذا صنّف النموذج اعتراضاً على اقتطاع كـ«طلب معلومات»، يخرج الملف من المسار: لا إشعار، ولا أجل متتبَّع، ولا سطر في التقارير.

هذا الخطر صامت. فالنموذج الدقيق جداً في المتوسط قد يبدو ممتازاً بينما تنصبّ أخطاؤه النادرة بالضبط على الشكايات الحساسة. وقاعدة الحذر هي: في حالة الشك، يصنّف النظام الرسالة شكاية، وليس العكس أبداً.

الخطر رقم 2: الرد الذي يُلزم المقاولة#

قد يختلق نموذج توليدي قاعدة أو أجلاً أو بادرة تجارية. والعميل الذي يتلقى «سنرد لكم الرسوم» سيعتبر الوعد مكتسباً. ويذكّر دليلنا حول الذكاء الاصطناعي في خدمة العملاء بالقرار الكندي لسنة 2024 الذي حُمّلت فيه شركة طيران مسؤولية المعلومة الخاطئة التي قدّمها روبوت المحادثة التابع لها. وفي مصلحة الشكايات، حيث يمكن تقديم كل رد أمام وسيط، يتضاعف هذا الخطر.

الخطر رقم 3: الانحيازات واللغات#

النموذج المدرَّب أساساً على الفرنسية المعيارية قد يصنّف بشكل أقل جودة الرسائل المكتوبة بالعربية أو بالدارجة أو التي تمزج عدة لغات، أو يقلل من تقدير استعجال رسالة مكتوبة ببساطة. والنتيجة معالجة غير متكافئة حسب ملف العميل. لذا يجب قياس الأداء بشكل منفصل حسب اللغة والقناة قبل أي تشغيل.

وإذا كانت الأداة تحلل النبرة أو المشاعر، فالتمييز مهم: تحليل النص المكتوب ليس تعرفاً على المشاعر بمفهوم قانون الذكاء الاصطناعي الأوروبي، لأنه لا يقوم على معطيات بيومترية؛ أما تحليل الصوت فهو كذلك. انظر تحليل المشاعر في مراكز الاتصال.

الخطر رقم 4: المعطيات الشخصية#

تتضمن الشكاية في الغالب الأعم معطيات شخصية، مالية في كثير من الأحيان، وحساسة أحياناً. وفي المغرب، يُطبَّق القانون 09.08: غاية محددة، تصريح أو إذن لدى اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي، إخبار العملاء، وتأطير كل نقل نحو مزوّد ذكاء اصطناعي مستضاف بالخارج (المادتان 43 و44). كما تؤطّر مادته 11 القرارات المنتِجة لآثار قانونية المتخذة على أساس معالجة آلية فقط تهدف إلى تحديد سمات الشخص؛ وتحوّطاً، يجب أن يصادق مستشار على كل قرار في غير صالح العميل. انظر نقل المعطيات نحو الخارج وحماية المعطيات في الأبناك.

ما ينص عليه قانون الذكاء الاصطناعي الأوروبي#

يُطبَّق قانون الذكاء الاصطناعي الأوروبي (اللائحة (الاتحاد الأوروبي) 2024/1689، المعدَّلة باللائحة (الاتحاد الأوروبي) 2026/1744) على المزوّدين والجهات المستخدِمة المقيمة خارج الاتحاد عندما تُستعمل نتائج النظام داخل الاتحاد (المادة 2). وبالنسبة لمؤسسة مغربية تخدم عملاء مقيمين في أوروبا، هناك نقطتان يجب التحقق منهما:

• المادة 50، المطبَّقة منذ 2 غشت 2026: يجب أن يُصمَّم النظام الذي يتفاعل مباشرة مع الأشخاص، مثل مساعد محادثة لإيداع الشكايات، بحيث يُخبرهم بأنهم يتحاورون مع ذكاء اصطناعي، إلا إذا كان ذلك واضحاً. ويجب تقديم هذه المعلومة على أبعد تقدير عند التفاعل الأول. انظر واجب إخبار العميل.
• دور المقاولة: مزوّد أو مستخدِم، حسب ما إذا كانت تطوّر الأداة باسمها أو تستعملها. انظر تحديد دورك.

قد يعاقَب على الإخلال بالمادة 50 بغرامة قد تصل إلى 15 مليون يورو أو 3٪ من رقم المعاملات العالمي (المادة 99). ويُعرض الإطار العام في دليلنا حول قانون الذكاء الاصطناعي الأوروبي ومراكز الاتصال المغربية.

تصميم الإنسان داخل الحلقة#

1. المستشار يصادق على كل رد قبل الإرسال؛ الذكاء الاصطناعي يقترح ولا يقرر.
2. الفئات التنظيمية محمية: كل رسالة قد تندرج ضمن الشكايات تتبع المسار التنظيمي، ولو أعاد إنسان تصنيفها لاحقاً.
3. المسودات تستند إلى قاعدة قواعد مصادَق عليها ومؤرخة، ولا يمكن للنظام اقتراح بادرة تجارية خارج هذه القاعدة.
4. المستشار يرى لماذا صنّف النظام الرسالة على هذا النحو (عناصر الرسالة المعنية) ويمكنه التصحيح بنقرة واحدة.
5. التصحيحات تغذّي تحسين النموذج، تحت مراقبة مسؤول معيَّن.
6. تُراجَع عيّنة من الملفات كل شهر من طرف شخص مستقل عن فريق المعالجة.

جدول الضوابط#

قائمة التحقق قبل التشغيل#

• الاستعمالات المأذون بها للذكاء الاصطناعي محددة كتابةً (الفرز، التلخيص، المسودة)، وكذلك الاستعمالات المستبعدة.
• قاعدة «في حالة الشك، شكاية» مُعدَّة ومختبَرة.
• اختبارات منجزة بالفرنسية والعربية والدارجة.
• مصادقة بشرية إلزامية قبل أي إرسال.
• إجراءات اللجنة الوطنية وعمليات النقل متحقَّق منها.
• إخبار العملاء مُعَدّ، خاصة بالنسبة للمقيمين داخل الاتحاد الأوروبي.
• مسؤول عن النموذج معيَّن، ومؤشرات متتبَّعة، وتسجيل السجلات مفعَّل.