Analyse des Émotions en Centre d'Appels : ce que l'AI Act Interdit

La règle : article 5(1)(f), en vigueur depuis le 2 février 2025#

L'AI Act interdit la mise sur le marché et l'utilisation de systèmes d'IA destinés à déduire les émotions de personnes physiques sur le lieu de travail et dans les établissements d'enseignement, sauf lorsque l'usage répond à des raisons médicales ou de sécurité. Cette interdiction fait partie des premières dispositions entrées en application, le 2 février 2025.

Deux définitions de l'article 3 délimitent la règle :

• le système de reconnaissance des émotions identifie ou déduit les émotions ou intentions de personnes à partir de leurs données biométriques (article 3(39)) ;
• les données biométriques résultent d'un traitement technique spécifique de caractéristiques physiques, physiologiques ou comportementales (article 3(34)), ce qui inclut la voix analysée à cette fin.

Le règlement (UE) 2026/1744, dit Digital Omnibus, n'a pas touché à cette interdiction.

Conseillers ou clients : la ligne de partage#

Les lignes directrices de la Commission sur les pratiques interdites, adoptées le 4 février 2025, donnent deux exemples qui parlent directement aux centres de relation client. Un centre qui suit, par webcam ou reconnaissance vocale, les émotions de ses employés (la colère par exemple) tombe sous l'interdiction. Un centre qui utilise la reconnaissance vocale pour suivre les émotions de ses clients n'est pas visé par l'article 5(1)(f).

Texte ou voix : pourquoi la modalité change tout#

La notion repose sur les données biométriques. Les lignes directrices en tirent une conséquence pratique : déduire une émotion à partir d'un texte écrit ne relève pas de la reconnaissance des émotions, alors que l'inférence à partir du ton, du rythme ou de l'intonation de la voix en relève.

Pour un centre marocain, cela signifie qu'un même fournisseur d'analytique peut proposer un module autorisé (sentiment sur les verbatims écrits ou sur les transcriptions) et un module interdit lorsqu'il est appliqué aux conseillers (émotion déduite de l'acoustique). Il faut donc qualifier chaque fonction, pas l'outil en bloc.

Le piège des outils d'analyse de conversation#

Les plateformes d'analyse vocale traitent souvent l'enregistrement complet, les deux voix mêlées. Si l'outil produit, à partir de la voix ou de l'image, un indicateur d'émotion pour le conseiller (« agent stressé », « agent agacé »), il entre dans l'interdiction, même si l'objectif affiché est la qualité du service client. Points à vérifier avec l'éditeur :

1. L'outil sépare-t-il les canaux client et conseiller ?
2. Les indicateurs émotionnels côté conseiller peuvent-ils être désactivés, et pas seulement masqués ?
3. Les tableaux de bord de supervision affichent-ils des scores d'émotion par conseiller ?
4. Les données historiques déjà produites sont-elles supprimées après désactivation ?
5. La configuration retenue est-elle tracée et datée ?

Masquer un indicateur à l'écran ne suffit pas si le système continue à le calculer.

Analyser les émotions des clients : ce qui reste exigé#

Ne pas être interdit ne veut pas dire être libre. Pour l'analyse des émotions des clients :

• Depuis le 2 août 2026, le déployeur doit informer les personnes exposées, au plus tard au premier contact, et traiter les données conformément au RGPD (article 50(3) et 50(5)). Le message d'accueil peut le dire simplement : « Pour améliorer notre service, cet appel est analysé par un outil automatisé, y compris le ton de la voix. » Voir nos exemples de messages d'information.
• À partir du 2 décembre 2027, l'usage est à haut risque (annexe III, point 1(c)). Le déployeur devra notamment suivre les instructions du fournisseur, confier la supervision à des personnes formées et habilitées, surveiller le fonctionnement, signaler les incidents graves, conserver les journaux au moins six mois et utiliser les informations du fournisseur pour son analyse d'impact (article 26).
• Au Maroc, la loi 09-08 s'applique aux enregistrements et à leurs analyses : information des personnes et formalités auprès de la CNDP. Le régime précis dépend du traitement ; notre guide sur la mise en conformité CNDP décrit la démarche.

La question de fond reste : l'analyse émotionnelle apporte-t-elle une information que la transcription et les motifs d'appel ne donnent pas déjà ? Souvent, les signaux comportementaux (rappels, escalades, résiliations) disent plus, avec moins de risque.

L'exception médicale ou de sécurité#

L'exception est étroite. Les lignes directrices citent la détection de la douleur ou de la fatigue, par exemple chez des pilotes. La productivité, la qualité perçue ou la prévention de l'absentéisme ne sont pas des raisons de sécurité. Un centre qui invoquerait l'exception devrait pouvoir démontrer un risque de sécurité réel, l'absence d'alternative moins intrusive et un usage limité à ce but.

Et si l'AI Act ne s'applique pas directement ?#

L'AI Act vise les fournisseurs et déployeurs de pays tiers lorsque les résultats du système sont utilisés dans l'Union. Une analyse des émotions des conseillers dont les résultats restent au Maroc peut, selon les faits, sortir du champ. Trois raisons conduisent pourtant à l'écarter :

• les donneurs d'ordre européens reçoivent souvent des rapports de qualité issus de ces outils, ce qui rapproche l'usage du champ du règlement ;
• ils interdisent de plus en plus cette pratique par contrat et l'interrogent dans leurs audits, comme le montre la gestion du risque tiers côté acheteur ;
• la surveillance émotionnelle des salariés pose, indépendamment de l'AI Act, des questions de proportionnalité au regard de la loi 09-08.

Par ailleurs, lorsque l'AI Act s'applique, l'employeur qui utilise un système à haut risque sur le lieu de travail devra, à partir du 2 décembre 2027 pour les systèmes de l'annexe III, informer les représentants du personnel et les salariés concernés avant sa mise en service (article 26(7)).

Sanctions#

• Pratique interdite (article 5) : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial.
• Manquement aux obligations du déployeur ou de transparence (articles 26 et 50) : jusqu'à 15 millions d'euros ou 3 %.
• Le montant le plus élevé s'applique, sauf pour les PME et start-up, pour lesquelles c'est le plus bas.

Checklist d'audit de vos outils d'analyse#

1. Lister tous les outils qui traitent la voix, l'image ou le texte des appels et chats.
2. Pour chacun, identifier les fonctions qui déduisent une émotion ou une intention.
3. Distinguer la source : texte écrit, transcription, acoustique de la voix, image.
4. Désactiver toute inférence émotionnelle visant les conseillers et purger l'historique.
5. Pour les clients, décider si l'usage est justifié ; si oui, rédiger le message d'information.
6. Préparer le dossier haut risque pour le 2 décembre 2027 : instructions, supervision, journaux.
7. Mettre à jour les formalités CNDP et les contrats avec l'éditeur et les donneurs d'ordre.
8. Informer et associer les représentants du personnel.