الذكاء الاصطناعي في خدمة العملاء: المخاطر وضمانات الحماية

قضية أصبحت مرجعاً#

في فبراير 2024، ألزمت محكمة كندية شركة Air Canada بتعويض عميل قدّم له روبوت المحادثة التابع للشركة معلومة خاطئة حول سياسة الاسترداد. وكانت الشركة تحتج بأن روبوت المحادثة مسؤول عن أجوبته. فردّت المحكمة بأن المقاولة تبقى مسؤولة عن كل المعلومات المنشورة على موقعها، سواء جاءت من صفحة ثابتة أو من روبوت محادثة.

والدرس صالح في كل مكان: ما يقوله ذكاؤك الاصطناعي، تقوله مقاولتك.

المخاطر الستة الرئيسية#

1. الأجوبة غير الدقيقة. قد يُنتج الذكاء الاصطناعي التوليدي جواباً مقنعاً لكنه خاطئ: سعر، أجل، شرط تعاقدي.
2. التحيز. قد يعامل النظام بعض العملاء بشكل مختلف حسب لغتهم أو اسمهم أو ملفهم، دون أن يقصد أحد ذلك.
3. الغموض. العميل الذي يجهل أنه يتحدث مع آلة، أو لا يفهم سبب رفض طلبه، يفقد ثقته.
4. تسريب المعطيات. مستشارون ينسخون معطيات العملاء في أداة ذكاء اصطناعي موجهة للعموم، أو أداة مستضافة في الخارج دون إطار، يعرّضون المقاولة للخطر.
5. غياب التحويل إلى موظف بشري. العميل العالق في حلقة آلية عميل ضائع.
6. الضعف اللغوي. قد يفشل نظام فعّال بالفرنسية الفصيحة أمام الدارجة أو في محادثة تمزج بين اللغات.

ضمانات الحماية الأساسية#

ما تقوله النصوص#

• القانون 09.08: المحادثات تتضمن معطيات شخصية. يجب التصريح بالمعالجة لدى اللجنة الوطنية، وإخبار العملاء، واحترام قواعد النقل (المادتان 43 و44) عند إرسال أي معطيات إلى مزوّد ذكاء اصطناعي في الخارج. كما تمنع المادة 11 بناء قرار ذي آثار قانونية على مجرد نتيجة معالجة آلية للتنميط.
• قانون الذكاء الاصطناعي الأوروبي: إذا تعلقت المحادثات بأشخاص داخل الاتحاد الأوروبي، يجب أن يُعلن روبوت المحادثة أنه ذكاء اصطناعي منذ 2 غشت 2026.
• ISO/IEC 42001: تنص المواصفة خاصة على الإشراف البشري، وتسجيل الأحداث، وخطة للتواصل بشأن الحوادث مع المستعملين.

قياس ما يهم#

لا يكفي معدل الأتمتة (نسبة الطلبات المعالَجة دون مستشار). فروبوت محادثة «يعالج» طلبات كثيرة بإحالتها إلى طريق مسدود يُضعف التجربة. تابع أيضاً معدل الحل الفعلي، ومعدل التحويل إلى موظف بشري، والرضا بعد المحادثة مع الذكاء الاصطناعي، وعدد الشكايات المرتبطة بجواب خاطئ. اطلع على مؤشرات تجربة العميل.

لائحة تحقق قبل الإطلاق#

• نطاق الأسئلة المسموح بها محدد كتابةً.
• قاعدة معارف مصادَق عليها ومؤرَّخة.
• رسالة إخبار باستعمال الذكاء الاصطناعي.
• التحويل إلى موظف بشري مختبَر.
• اختبارات منجزة بالفرنسية والعربية والدارجة.
• إجراء مودَع لدى اللجنة الوطنية ونقل المعطيات متحقَّق منه.
• تسجيل العمليات مفعَّل ومسطرة الحوادث محرَّرة.