IA et Réclamations : Tri Automatique, Réponses Générées et Garde-fous

Ce que l'IA peut faire dans un service réclamations#

Quatre usages se répandent, avec des niveaux de risque différents :

• Le tri et le routage : détecter qu'un message est une réclamation, évaluer son urgence et l'adresser à la bonne équipe.
• La classification : attribuer un objet, un moment du parcours et une cause présumée, selon la taxonomie de l'entreprise.
• La synthèse : résumer un historique long (courriers, appels transcrits, pièces) pour le conseiller ou pour le comité.
• La rédaction : proposer un brouillon de réponse à partir du dossier et des règles internes.

Bien utilisée, l'IA libère du temps pour l'analyse et permet de repérer plus vite les motifs récurrents décrits dans notre guide sur le traitement des causes des réclamations. Mal encadrée, elle déplace les erreurs vers des endroits où personne ne les voit.

Risque n° 1 : une réclamation réglementaire mal classée#

Dans une banque marocaine, la circulaire de Bank Al-Maghrib n° 10/W/16 fixe un accusé de réception immédiat, une réponse sous 40 jours ouvrables et un état trimestriel ventilé par objet et par statut (voir les réclamations bancaires). Si le modèle classe une contestation de prélèvement comme une « demande d'information », le dossier sort du circuit : pas d'accusé, pas de délai suivi, pas de ligne dans le reporting.

Ce risque est silencieux. Un modèle très précis en moyenne peut sembler excellent alors que ses rares erreurs portent précisément sur les réclamations sensibles. La règle de prudence : en cas de doute, le système classe en réclamation, jamais l'inverse.

Risque n° 2 : la réponse qui engage l'entreprise#

Un modèle génératif peut inventer une règle, un délai ou un geste commercial. Le client qui reçoit « nous vous remboursons les frais » considérera la promesse comme acquise. Notre guide sur l'IA dans le service client rappelle la décision canadienne de 2024 dans laquelle une compagnie aérienne a été tenue responsable de l'information erronée donnée par son chatbot. Dans un service réclamations, où chaque réponse peut être produite devant un médiateur, ce risque est accru.

Risque n° 3 : biais et langues#

Un modèle entraîné surtout sur du français standard peut moins bien classer les messages en arabe, en darija ou mêlant plusieurs langues, ou sous-estimer l'urgence d'un message écrit simplement. Le résultat serait un traitement inégal selon le profil du client. Il faut mesurer la performance séparément par langue et par canal avant toute mise en service.

Si l'outil analyse le ton ou l'émotion, la distinction compte : l'analyse du texte écrit n'est pas de la reconnaissance des émotions au sens de l'AI Act, car elle ne repose pas sur des données biométriques ; l'analyse de la voix, elle, l'est. Voir l'analyse des émotions en centre d'appels.

Risque n° 4 : les données personnelles#

Une réclamation contient presque toujours des données personnelles, souvent financières, parfois sensibles. Au Maroc, la loi 09-08 s'applique : finalité déterminée, déclaration ou autorisation auprès de la CNDP, information des clients, et encadrement de tout transfert vers un fournisseur d'IA hébergé à l'étranger (articles 43 et 44). Son article 11 encadre en outre les décisions produisant des effets juridiques prises sur le seul fondement d'un traitement automatisé destiné à définir le profil de la personne ; par prudence, toute décision défavorable au client doit être validée par un conseiller. Voir le transfert de données à l'étranger et la protection des données dans la banque.

Ce que dit l'AI Act européen#

L'AI Act (règlement (UE) 2024/1689, modifié par le règlement (UE) 2026/1744) s'applique aux fournisseurs et déployeurs établis hors de l'Union lorsque les résultats du système sont utilisés dans l'Union (article 2). Pour un établissement marocain qui sert des clients résidant en Europe, deux points sont à vérifier :

• L'article 50, applicable depuis le 2 août 2026 : un système qui interagit directement avec des personnes, comme un assistant conversationnel de dépôt de réclamation, doit être conçu pour les informer qu'elles échangent avec une IA, sauf si c'est évident. L'information doit être donnée au plus tard lors de la première interaction. Voir l'obligation d'informer le client.
• Le rôle de l'entreprise : fournisseur ou déployeur, selon qu'elle développe l'outil sous son nom ou l'utilise. Voir identifier votre rôle.

Un manquement à l'article 50 peut être sanctionné d'une amende pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial (article 99). Le cadre général est présenté dans notre guide sur l'AI Act et les BPO marocains.

Concevoir l'humain dans la boucle#

1. Le conseiller valide toute réponse avant envoi ; l'IA propose, elle ne décide pas.
2. Les catégories réglementaires sont protégées : un message pouvant relever d'une réclamation suit le circuit réglementaire, quitte à être reclassé ensuite par un humain.
3. Les brouillons s'appuient sur une base de règles validée et datée, et le système ne peut pas proposer de geste commercial hors de cette base.
4. Le conseiller voit pourquoi le système a classé ainsi (éléments du message en cause) et peut corriger en un clic.
5. Les corrections nourrissent l'amélioration du modèle, sous contrôle d'un responsable désigné.
6. Un échantillon de dossiers est revu chaque mois par une personne indépendante de l'équipe de traitement.

Tableau des contrôles#

Checklist avant mise en service#

• Usages autorisés de l'IA définis par écrit (tri, synthèse, brouillon), et usages exclus.
• Règle « dans le doute, réclamation » paramétrée et testée.
• Tests réalisés en français, en arabe et en darija.
• Validation humaine obligatoire avant tout envoi.
• Formalités CNDP et transferts vérifiés.
• Information des clients prévue, en particulier pour ceux résidant dans l'Union européenne.
• Responsable du modèle nommé, indicateurs suivis, journalisation active.