L’IA sur vos documents internes : fonctionnement du RAG et sécurité
En bref
Le RAG (retrieval-augmented generation) permet à un modèle de langage de répondre à partir de vos propres documents : à chaque question, le système recherche d’abord les passages pertinents et les transmet au modèle. Vous obtenez des réponses sourcées, sans réentraîner le modèle. Le principal risque n’est pas le modèle mais les droits d’accès : l’IA ne doit utiliser que les documents que la personne qui pose la question peut elle-même ouvrir.
Comment fonctionne le RAG ?
Un modèle de langage ne sait rien de votre organisation. Il ne connaît ni vos contrats, ni vos procédures, ni vos dossiers. Le RAG règle ce problème sans réentraînement, en trois étapes :
- Indexation. Les documents sont découpés en extraits convertis en embeddings : des suites de nombres qui capturent le sens. Ils sont stockés dans une base de données vectorielle.
- Recherche. Pour une question, le système trouve les extraits les plus proches par le sens.
- Génération. Le modèle reçoit la question et les extraits, et rédige une réponse qui cite la source.
L’avantage : les documents nouveaux ou modifiés sont exploitables immédiatement, et chacun peut vérifier d’où vient une réponse.
Où le RAG apporte de la valeur
- répondre aux questions à partir des politiques, procédures et manuels ;
- aider le support avec des réponses tirées des tickets et articles de connaissance ;
- retrouver et résumer les passages pertinents d’un dossier volumineux ;
- comparer des clauses à vos contrats types ;
- interroger les protocoles et recommandations en santé.
Ce qui peut mal tourner : quatre risques
1. Les droits d’accès sont contournés. La base vectorielle contient des extraits de tous les documents indexés. Sans contrôle, un collaborateur peut obtenir via l’IA des informations d’un dossier RH ou d’une note de direction qu’il ne peut pas ouvrir. C’est le risque principal ; l’OWASP cite explicitement les faiblesses des stockages vectoriels et d’embeddings dans son top 10 pour les applications LLM.
2. L’index est une copie de vos données sensibles. Embeddings et extraits forment une nouvelle collection de données, souvent hors de la sécurité d’origine. Si l’index est chez un service externe, une copie de vos documents y est aussi.
3. Des informations obsolètes. Un document retiré mais pas supprimé de l’index continue d’être utilisé.
4. Des réponses convaincantes mais fausses. Même avec des sources, un modèle peut mal résumer. Les sources permettent le contrôle, elles ne le remplacent pas.
Mettre en place un RAG sécurisé
- Une recherche qui respecte les droits : reprenez les droits d’accès du système source et filtrez à chaque question selon ce que l’utilisateur peut voir.
- Index et modèle dans votre environnement, pour qu’aucune copie de vos documents ne soit chez un tiers. Voir Un serveur LLM sur site.
- Une synchronisation avec le système source, pour que les documents supprimés ou modifiés disparaissent aussi de l’index.
- Des sources obligatoires dans chaque réponse, et un contrôle humain pour les décisions.
- Une journalisation : quelle source pour quelle question, par qui.
werqly exécute les modèles et les connexions à vos sources sur votre propre nœud. Dans werqly AI Control, vous définissez par rôle quelles sources une équipe peut interroger via l’IA, et le journal d’audit enregistre quelle source a servi à quelle réponse. Les automatisations qui s’y appuient découlent généralement du TIMA Scan. Voir aussi Qu’est-ce que l’IA privée ?
Questions fréquentes
Questions sur ce sujet
Quelle différence entre le RAG et l’entraînement d’un modèle sur ses données ?
Avec le RAG, le modèle ne change pas ; il reçoit les extraits pertinents à chaque question. Avec l’entraînement ou le fine-tuning, les connaissances sont intégrées au modèle. Le RAG se met à jour plus vite, cite ses sources et permet de respecter les droits de chaque utilisateur.
Le RAG fonctionne-t-il avec des modèles open-weight ?
Oui. Le RAG fonctionne avec tout modèle de langage, y compris des modèles open-weight comme Llama, Mistral et Qwen sur votre propre matériel. Le modèle d’embeddings et la base vectorielle peuvent aussi tourner en local, pour que toute la chaîne reste chez vous.
Comment éviter qu’un salarié voie des documents confidentiels via l’IA ?
En appliquant, lors de la recherche, les droits d’accès du système source : l’IA ne cherche que dans les documents que la personne peut elle-même ouvrir. Testez-le explicitement, par exemple avec un compte de test sans accès à un dossier RH.
Un index RAG est-il un traitement de données personnelles ?
Si les documents contiennent des données personnelles, oui. L’index est alors une nouvelle collection de données personnelles, avec ses propres exigences de sécurité, de conservation et de suppression. Inscrivez-le au registre et, si nécessaire, dans l’AIPD.
Sources
- Lewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020)
- OWASP — Top 10 for LLM Applications
- vLLM — documentation
Cet article est une information générale, pas un conseil juridique. Les règles et les recommandations évoluent ; en cas de doute, consultez les sources citées ou votre juriste ou DPO.