Un chatbot IA pour le service client : transparence, responsabilité et données
En bref
Si vous déployez un chatbot IA pour vos clients, ceux-ci doivent savoir depuis le 2 août 2026 qu’ils parlent à une IA, sauf si c’est déjà évident. Vous répondez de ce que dit le chatbot : en 2024, Air Canada a dû indemniser un client pour une information erronée de son chatbot. Faites donc répondre le chatbot à partir de vos propres informations à jour, avec un accès clair à un humain, et gardez les données clients dans votre propre environnement.
Transparence : les clients doivent savoir que c’est une IA
L’article 50 de l’AI Act impose que les systèmes d’IA qui interagissent directement avec des personnes soient conçus de façon à ce que celles-ci sachent qu’elles ont affaire à une IA, sauf si c’est évident pour une personne raisonnablement informée. Cette obligation s’applique depuis le 2 août 2026.
En pratique : indiquez dès le début de la conversation que le client échange avec un assistant IA, et ne donnez pas à l’assistant un nom et une photo humains qui suggèrent le contraire. Celui qui construit le chatbot ou le met en service sous son propre nom est souvent le fournisseur au sens de cette obligation.
Vous répondez de ce que dit le chatbot
Dans l’affaire Moffatt c. Air Canada (février 2024), le chatbot de la compagnie aérienne a indiqué à un client qu’il pouvait demander après coup un tarif réduit pour un voyage lié à un décès. C’était contraire à la politique tarifaire. Air Canada a soutenu que le chatbot était une entité distincte, responsable de ses propres propos. Le tribunal canadien a rejeté cet argument : l’entreprise n’avait pas pris de précautions raisonnables pour que le chatbot fournisse des informations exactes, et a dû indemniser le client.
La leçon vaut aussi en Europe : un client peut se fier à ce qu’indique votre site, même lorsqu’un modèle de langage le formule. Voir Les hallucinations de l’IA.
Bien mettre en place un chatbot de service client
- Des réponses issues de vos sources. Faites répondre le chatbot à partir de vos conditions, tarifs et procédures à jour, pas de la mémoire du modèle. Voir L’IA sur vos propres documents.
- Des limites de sujets. Pour les questions de montants, de contrats, de réclamations ou de droit, le chatbot renvoie vers un conseiller.
- Toujours un accès à un humain. Rendez visible la façon de joindre un conseiller.
- Des données limitées. Ne demandez que le nécessaire et ne conservez pas les conversations plus longtemps que nécessaire.
- Tester et mesurer. Testez avec de vraies questions, y compris difficiles et trompeuses. Mesurez la fréquence des réponses erronées et des clients qui appellent malgré tout.
Les conversations clients sont des données clients
Les clients confient toutes sortes de choses à un chatbot : adresses, numéros client, réclamations, parfois leur santé ou leur situation financière. Si le chatbot tourne chez un service d’IA externe, ces conversations y sont stockées. Cela exige un contrat de sous-traitance, une évaluation des transferts et souvent une AIPD. Voir L’AIPD pour l’IA générative.
Avec werqly, le modèle de langage de votre service client tourne sur un nœud dédié. Les conversations clients et la connexion à votre CRM restent dans votre environnement, et le journal d’audit montre quelle source correspondait à quelle réponse. Voir Qu’est-ce que l’IA privée ?
Questions fréquentes
Questions sur ce sujet
Dois-je indiquer que mon chatbot est une IA ?
Oui. Depuis le 2 août 2026, les personnes qui interagissent directement avec un système d’IA doivent savoir qu’il s’agit d’une IA, sauf si c’est évident pour une personne raisonnablement informée (article 50 de l’AI Act). Indiquez-le dès le début de la conversation.
Suis-je responsable si mon chatbot dit quelque chose de faux ?
En règle générale, oui. Dans l’affaire Moffatt c. Air Canada (2024), la compagnie a été tenue responsable des informations erronées de son chatbot. Les clients peuvent se fier à l’exactitude des informations de votre site, même lorsqu’un modèle de langage les formule.
Comment éviter que le chatbot invente des choses ?
Faites-le répondre à partir de vos propres documents à jour avec citation des sources, limitez les sujets sur lesquels il répond seul, et renvoyez vers un conseiller pour les montants, les contrats et les réclamations.
Un chatbot peut-il conserver des données clients ?
Seulement ce qui est nécessaire à la finalité, pas plus longtemps que nécessaire, et avec une base légale au titre du RGPD. Si le chatbot tourne chez un service externe, il vous faut un contrat de sous-traitance et une évaluation des transferts.
Sources
- Artificialintelligenceact.eu — Article 50: Transparency obligations
- CBC — Air Canada found liable for chatbot’s bad advice on bereavement rates (2024)
- American Bar Association — BC Tribunal confirms companies remain liable for information provided by AI chatbot
Cet article est une information générale, pas un conseil juridique. Les règles et les recommandations évoluent ; en cas de doute, consultez les sources citées ou votre juriste ou DPO.