Hallucinations de l’IA : pourquoi les modèles inventent et qui est responsable
En bref
Une hallucination de l’IA est une réponse convaincante mais fausse : un fait, une source ou une décision inventés. Elle survient parce qu’un modèle de langage prédit un texte probable, pas un texte vrai. Qui utilise un résultat d’IA en reste responsable, comme deux avocats américains l’ont appris en 2023, sanctionnés pour une jurisprudence inventée par ChatGPT. On limite le risque avec des sources issues de ses propres documents et une relecture humaine.
Pourquoi les modèles de langage inventent-ils ?
Un modèle de langage est entraîné à prédire le mot suivant le plus probable. Il ne consulte aucune base de faits et ne sait pas quand il ignore quelque chose. Demandez-lui une source, il produit quelque chose qui ressemble à une source.
Les hallucinations sont plus fréquentes avec :
- des faits précis : noms, dates, montants, articles de loi, décisions ;
- des sujets peu présents dans les données d’entraînement, comme une réglementation locale ;
- des demandes de sources ou de citations ;
- des réponses longues, où les erreurs passent inaperçues.
Ce que cela a coûté en pratique
L’exemple le plus connu est l’affaire Mata v. Avianca (2023). Des avocats new-yorkais ont déposé des écritures citant une jurisprudence inventée par ChatGPT. En juin 2023, le juge les a sanctionnés et leur a ordonné d’informer chaque juge présenté à tort comme auteur d’une décision inexistante.
Les juridictions européennes sont aussi concernées. Aux Pays-Bas, un juge cantonal de Gueldre a utilisé ChatGPT en 2024 comme source pour une estimation dans un litige de voisinage sur des panneaux solaires. Le tribunal a souligné que cela n’avait pas pesé sur l’issue, mais l’affaire a suscité un large débat.
Pour les organisations, le risque est moins visible mais comparable : un montant erroné dans un devis, une clause inexistante dans une consultation, une posologie fausse dans un courrier au patient.
Qui est responsable ?
Celui qui utilise le résultat. Un avocat reste responsable de ses écritures, un médecin de son courrier, une organisation de ce qu’elle envoie à ses clients. Les conditions des fournisseurs d’IA excluent en général toute responsabilité quant à l’exactitude des résultats.
Les instances professionnelles le rappellent. Le guide du CNB insiste sur la compétence et la prudence : l’avocat vérifie ce que produit l’IA et en répond. Voir IA et avocats. Et la Commission européenne cite expressément le risque d’hallucination comme sujet de la maîtrise de l’IA. Voir Maîtrise de l’IA.
Comment maîtriser le risque
- Faire travailler le modèle sur vos propres sources. Avec le RAG, le modèle répond à partir de vos documents et cite la source, que chacun peut vérifier. Voir L’IA sur vos documents internes.
- Ne pas demander de faits à la mémoire du modèle. Utilisez l’IA pour résumer, reformuler et structurer un texte que vous fournissez.
- Une relecture humaine pour tout ce qui sort ou fonde une décision, avec une attention particulière aux noms, chiffres et citations.
- Choisir le modèle selon la tâche. Un modèle plus grand pour le travail de précision ; un plus petit suffit pour classer.
- Former les salariés à repérer et signaler les hallucinations.
Avec werqly, les modèles et les connexions à vos documents tournent sur votre propre nœud. Les réponses renvoient à la source interne, et le journal d’audit enregistre quelle source a servi à quelle réponse. Voir Qu’est-ce que l’IA privée ?
Questions fréquentes
Questions sur ce sujet
Qu’est-ce qu’une hallucination de l’IA ?
Une réponse d’un modèle de langage qui semble convaincante mais est fausse : un fait, une source, une citation ou une décision inventés. Elle naît du fait que le modèle prédit un texte probable, pas un texte vrai.
Peut-on éviter totalement les hallucinations ?
Non, mais on peut fortement les réduire. Faites répondre le modèle à partir de vos documents avec citation des sources, utilisez-le surtout pour retravailler un texte fourni, et vérifiez les résultats qui fondent une décision.
Le fournisseur d’IA est-il responsable des erreurs ?
En général non : ses conditions excluent la responsabilité quant à l’exactitude des résultats. Celui qui utilise le résultat, avocat, médecin ou organisation, en reste responsable.
Quelles tâches sont les plus sujettes aux hallucinations ?
Les questions portant sur des faits précis, des sources, des citations, de la jurisprudence et des chiffres, surtout sur des sujets rares dans les données d’entraînement. Résumer et reformuler un texte fourni est bien plus fiable.
Sources
- Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y. 2023)
- CNB — Le CNB adopte un guide sur la déontologie et l’intelligence artificielle
- Commission européenne — AI Literacy: Questions & Answers (anglais)
Cet article est une information générale, pas un conseil juridique. Les règles et les recommandations évoluent ; en cas de doute, consultez les sources citées ou votre juriste ou DPO.