IA dans le Service Client : Risques et Garde-fous

Un cas qui a fait jurisprudence#

En février 2024, un tribunal canadien a condamné Air Canada à indemniser un client auquel le chatbot de la compagnie avait donné une information erronée sur une politique de remboursement. La compagnie soutenait que le chatbot était responsable de ses propres réponses. Le tribunal a répondu que l'entreprise reste responsable de toutes les informations publiées sur son site, qu'elles viennent d'une page statique ou d'un chatbot.

La leçon vaut partout : ce que dit votre IA, c'est votre entreprise qui le dit.

Les six risques principaux#

1. Les réponses inexactes. Une IA générative peut produire une réponse plausible mais fausse : un tarif, un délai, une condition contractuelle.
2. Les biais. Un système peut traiter différemment certains clients selon leur langue, leur nom ou leur profil, sans que personne ne l'ait voulu.
3. L'opacité. Un client qui ignore qu'il parle à une machine, ou qui ne comprend pas pourquoi sa demande est refusée, perd confiance.
4. La fuite de données. Des conseillers qui copient des données clients dans un outil d'IA grand public, ou un outil hébergé à l'étranger sans cadre, exposent l'entreprise.
5. L'absence de relais humain. Un client bloqué dans une boucle automatisée est un client perdu.
6. La faiblesse linguistique. Un système performant en français standard peut échouer en darija ou dans un échange qui mélange les langues.

Les garde-fous essentiels#

Ce que disent les textes#

• Loi 09-08 : les conversations contiennent des données personnelles. Le traitement doit être déclaré à la CNDP, les clients informés, et tout envoi de données vers un fournisseur d'IA situé à l'étranger doit respecter les règles de transfert (articles 43 et 44). L'article 11 interdit en outre de fonder une décision produisant des effets juridiques sur le seul résultat d'un traitement automatisé de profilage.
• AI Act : si les échanges concernent des personnes dans l'Union européenne, le chatbot doit informer qu'il est une IA depuis le 2 août 2026.
• ISO/IEC 42001 : la norme prévoit notamment une supervision humaine, une journalisation des événements et un plan de communication des incidents aux utilisateurs.

Mesurer ce qui compte#

Le taux d'automatisation (part des demandes traitées sans conseiller) ne suffit pas. Un chatbot qui « traite » beaucoup de demandes en les renvoyant vers une impasse dégrade l'expérience. Suivez aussi le taux de résolution réelle, le taux de transfert vers un humain, la satisfaction après échange avec l'IA et le nombre de réclamations liées à une réponse erronée. Voir les indicateurs de l'expérience client.

Checklist avant mise en ligne#

• Périmètre de questions autorisées défini par écrit.
• Base de connaissances validée et datée.
• Message d'information sur l'usage de l'IA.
• Relais humain testé.
• Tests réalisés en français, en arabe et en darija.
• Formalité CNDP déposée et transferts de données vérifiés.
• Journalisation active et procédure d'incident rédigée.