تحليل المشاعر في مراكز الاتصال: ما يحظره قانون الذكاء الاصطناعي الأوروبي

القاعدة: المادة 5(1)(f)، السارية منذ 2 فبراير 2025#

يحظر قانون الذكاء الاصطناعي الأوروبي طرح واستعمال أنظمة الذكاء الاصطناعي الموجهة لاستنتاج مشاعر الأشخاص الذاتيين في مكان العمل وفي مؤسسات التعليم، إلا عندما يستجيب الاستعمال لأسباب طبية أو أمنية. ويُعدّ هذا الحظر من أولى الأحكام التي دخلت حيز التطبيق، في 2 فبراير 2025.

ويحدد تعريفان واردان في المادة 3 نطاق القاعدة:

• نظام التعرف على المشاعر يحدد أو يستنتج مشاعر الأشخاص أو نواياهم انطلاقاً من معطياتهم البيومترية (المادة 3(39))؛
• المعطيات البيومترية ناتجة عن معالجة تقنية خاصة للخصائص الجسدية أو الفيزيولوجية أو السلوكية (المادة 3(34))، وهو ما يشمل الصوت الذي يُحلَّل لهذا الغرض.

ولم تمسّ اللائحة (الاتحاد الأوروبي) 2026/1744، المعروفة بالحزمة الرقمية الشاملة (Digital Omnibus)، هذا الحظر.

المستشارون أم العملاء: الخط الفاصل#

تقدّم إرشادات المفوضية بشأن الممارسات المحظورة، المعتمدة في 4 فبراير 2025، مثالين يعنيان مراكز علاقة العملاء مباشرة. فالمركز الذي يتتبع، عبر كاميرا الويب أو التعرف الصوتي، مشاعر مستخدَميه (الغضب مثلاً) يقع تحت طائلة الحظر. أما المركز الذي يستعمل التعرف الصوتي لتتبع مشاعر عملائه فلا تشمله المادة 5(1)(f).

النص أم الصوت: لماذا تغيّر الوسيلة كل شيء#

يقوم المفهوم على المعطيات البيومترية. وتستخلص الإرشادات من ذلك نتيجة عملية: استنتاج شعور ما انطلاقاً من نص مكتوب لا يدخل في التعرف على المشاعر، في حين أن الاستنتاج انطلاقاً من نبرة الصوت أو إيقاعه أو تنغيمه يدخل فيه.

وبالنسبة لمركز مغربي، يعني ذلك أن مزوّد التحليلات نفسه قد يقترح وحدة مسموحاً بها (تحليل المشاعر في النصوص المكتوبة أو في النسخ الكتابية للمكالمات) ووحدة محظورة عندما تُطبَّق على المستشارين (شعور مُستنتَج من الخصائص الصوتية). لذلك يجب تصنيف كل وظيفة على حدة، لا الأداة ككل.

فخ أدوات تحليل المحادثات#

كثيراً ما تعالج منصات التحليل الصوتي التسجيل الكامل، بالصوتين معاً. وإذا أنتجت الأداة، انطلاقاً من الصوت أو الصورة، مؤشراً لمشاعر المستشار («مستشار متوتر»، «مستشار منزعج»)، فإنها تدخل في نطاق الحظر، حتى وإن كان الهدف المعلن هو جودة خدمة العملاء. نقاط يجب التحقق منها مع الناشر:

1. هل تفصل الأداة بين قناة العميل وقناة المستشار؟
2. هل يمكن تعطيل المؤشرات العاطفية الخاصة بالمستشار، لا مجرد إخفائها؟
3. هل تعرض لوحات القيادة الخاصة بالإشراف مؤشرات مشاعر لكل مستشار؟
4. هل تُحذف المعطيات التاريخية المنتَجة سابقاً بعد التعطيل؟
5. هل الإعداد المعتمد موثَّق ومؤرَّخ؟

إخفاء مؤشر على الشاشة لا يكفي إذا استمر النظام في احتسابه.

تحليل مشاعر العملاء: ما يبقى مطلوباً#

عدم الحظر لا يعني الحرية المطلقة. فبالنسبة لتحليل مشاعر العملاء:

• منذ 2 غشت 2026، يجب على الجهة المستخدِمة إخبار الأشخاص المعرَّضين، على أبعد تقدير عند أول اتصال، ومعالجة المعطيات وفق النظام الأوروبي RGPD (المادتان 50(3) و50(5)). ويمكن لرسالة الترحيب أن تقول ذلك ببساطة: «لتحسين خدمتنا، يتم تحليل هذه المكالمة بواسطة أداة آلية، بما في ذلك نبرة الصوت.» انظر أمثلتنا على رسائل الإخبار.
• ابتداءً من 2 دجنبر 2027، يصبح الاستعمال عالي المخاطر (الملحق الثالث، النقطة 1(c)). وسيتعين على الجهة المستخدِمة على الخصوص اتباع تعليمات المزوّد، وإسناد الإشراف إلى أشخاص مكوَّنين ومؤهَّلين، ومراقبة الاشتغال، والتبليغ عن الحوادث الخطيرة، وحفظ السجلات لمدة ستة أشهر على الأقل، واستعمال المعلومات التي يقدّمها المزوّد في تقييم الأثر الخاص بها (المادة 26).
• في المغرب، يُطبَّق القانون 09.08 على التسجيلات وتحليلاتها: إخبار الأشخاص والقيام بالإجراءات لدى اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP). ويتوقف النظام الدقيق على المعالجة؛ ويصف دليلنا حول الامتثال لمتطلبات اللجنة الوطنية المسار المتبع.

ويبقى السؤال الجوهري: هل يقدّم التحليل العاطفي معلومة لا توفرها أصلاً النسخة الكتابية للمكالمة ودواعي الاتصال؟ في الغالب، الإشارات السلوكية (معاودة الاتصال، التصعيد، فسخ العقود) تقول أكثر، بمخاطر أقل.

الاستثناء الطبي أو الأمني#

الاستثناء ضيق. وتذكر الإرشادات رصد الألم أو التعب، لدى الطيارين مثلاً. أما الإنتاجية أو الجودة المُدرَكة أو الوقاية من التغيب فليست أسباباً أمنية. والمركز الذي يحتج بالاستثناء يجب أن يكون قادراً على إثبات خطر أمني حقيقي، وغياب بديل أقل تدخلاً، واقتصار الاستعمال على هذا الغرض.

وماذا لو لم يُطبَّق قانون الذكاء الاصطناعي الأوروبي مباشرة؟#

يستهدف القانون الأوروبي المزوّدين والجهات المستخدِمة في البلدان الثالثة عندما تُستعمل نتائج النظام داخل الاتحاد. وقد يخرج من النطاق، حسب الوقائع، تحليل مشاعر المستشارين الذي تبقى نتائجه في المغرب. ومع ذلك، هناك ثلاثة أسباب تدعو إلى استبعاده:

• كثيراً ما تتلقى الجهات المتعاقدة الأوروبية تقارير جودة صادرة عن هذه الأدوات، مما يقرّب الاستعمال من نطاق اللائحة؛
• أصبحت هذه الجهات تحظر هذه الممارسة تعاقدياً بشكل متزايد وتسأل عنها في عمليات التدقيق، كما يبيّن تدبير مخاطر الأغيار من جهة المشتري؛
• تطرح المراقبة العاطفية للأجراء، بمعزل عن القانون الأوروبي، مسائل تتعلق بالتناسب في ضوء القانون 09.08.

ومن جهة أخرى، عندما يُطبَّق قانون الذكاء الاصطناعي الأوروبي، سيتعيّن على المشغّل الذي يستعمل نظاماً عالي المخاطر في مكان العمل، ابتداءً من 2 دجنبر 2027 بالنسبة لأنظمة الملحق الثالث، أن يُخبر ممثلي الأجراء والأجراء المعنيين قبل تشغيله (المادة 26(7)).

العقوبات#

• ممارسة محظورة (المادة 5): حتى 35 مليون يورو أو 7٪ من رقم المعاملات السنوي العالمي.
• الإخلال بالتزامات الجهة المستخدِمة أو بالتزامات الشفافية (المادتان 26 و50): حتى 15 مليون يورو أو 3٪.
• يُطبَّق المبلغ الأعلى، إلا بالنسبة للمقاولات الصغرى والمتوسطة والمقاولات الناشئة، التي يُطبَّق عليها الأدنى.

قائمة تحقق لتدقيق أدوات التحليل لديك#

1. جرد كل الأدوات التي تعالج الصوت أو الصورة أو نص المكالمات والمحادثات.
2. تحديد الوظائف التي تستنتج شعوراً أو نية في كل أداة.
3. التمييز بين المصادر: نص مكتوب، نسخة كتابية، خصائص صوتية، صورة.
4. تعطيل كل استنتاج عاطفي يستهدف المستشارين وحذف السجل التاريخي.
5. بالنسبة للعملاء، تقرير ما إذا كان الاستعمال مبرَّراً؛ وإذا كان كذلك، تحرير رسالة الإخبار.
6. تحضير ملف الأنظمة عالية المخاطر قبل 2 دجنبر 2027: التعليمات، الإشراف، السجلات.
7. تحيين الإجراءات لدى اللجنة الوطنية والعقود مع الناشر والجهات المتعاقدة.
8. إخبار ممثلي الأجراء وإشراكهم.