IA et sécurité des systèmes d’information : référentiels, preuves et un nœud dans votre réseau
En bref
Pour la sécurité des systèmes d’information, un environnement d’IA est un système comme un autre : vous le classifiez, prenez des mesures et en rendez compte. Trois éléments sont nouveaux : les modèles et leur provenance, les connexions aux applications métier, et les requêtes et résultats comme nouveau flux de données. Si le nœud est dans votre réseau, il relève de votre segmentation, de votre journalisation et de votre supervision.
Le cadre dans lequel vous l’inscrivez
Les administrations s’appuient sur un référentiel de sécurité et en rendent compte régulièrement : en France, les recommandations de l’ANSSI et la politique de sécurité applicable à l’entité ; aux Pays-Bas, les communes rendent compte chaque année via ENSIA sur la base de la Baseline Informatiebeveiliging Overheid.
Pour l’IA, cela signifie : pas de référentiel distinct, mais les mêmes questions que pour tout autre système, avec trois sujets nouveaux.
Ce qui est nouveau avec un environnement d’IA
| Sujet | Ce que vous consignez |
|---|---|
| Modèles et provenance | Quels modèles tournent, quelle version, sous quelle licence, et qui valide un changement |
| Connexions | Quelles applications métier l’IA peut interroger, avec quels droits et quelle journalisation |
| Requêtes et résultats | Où ils sont stockés, combien de temps, qui peut les consulter et quand s’appliquent les règles d’archivage |
| Droits | Des rôles issus de votre fournisseur d’identité, pour suivre arrivées et départs. Voir Gestion des accès pour l’IA |
| Détournement | Protection contre la manipulation par du texte entrant. Voir L’injection de prompt |
Les mesures à prendre dans tous les cas
- Cloisonnement. Le nœud IA dans une zone réseau dédiée, avec uniquement les connexions nécessaires à l’administration et aux mises à jour.
- Journalisation vers votre SIEM. Usage, actions d’administration et connexions, avec une durée conforme à votre politique.
- Correctifs et mises à jour de modèles. Un rythme défini, avec scénario de retour arrière, car un nouveau modèle change les résultats.
- Accès d’administration. Une petite équipe nommée, avec validation à deux pour les changements sensibles.
- Sauvegarde et reprise. Configuration, automatisations et index de sources, pas seulement les données.
- Sécurité physique. Baie, accès et climatisation, ou une baie fermée en centre de données. Voir Le matériel d’un serveur d’IA interne.
Pourquoi l’exploitation interne raccourcit la démonstration
Avec un service d’IA externe, vous devez expliquer où a lieu le traitement, quels sous-traitants interviennent, quel droit leur est applicable et comment vous le vérifiez. Avec un nœud dans votre réseau, cette partie disparaît : le traitement se situe dans votre zone, sous vos mesures.
Avec werqly, le nœud se trouve dans votre salle serveur ou dans une baie fermée en centre de données, avec des journaux exportables vers votre supervision. Voir L’IA pour les collectivités.
Questions fréquentes
Questions sur ce sujet
Faut-il traiter l’IA à part dans notre sécurité des SI ?
Il n’existe pas de référentiel de sécurité propre à l’IA. Un environnement d’IA est un système d’information que vous classifiez et protégez comme les autres. Les nouveautés portent sur les modèles, les connexions métier et le traitement des requêtes et résultats.
Quelles mesures sont propres à l’IA ?
Consigner quelle version de modèle tourne et qui valide un changement, limiter les applications métier interrogeables, journaliser usage et connexions, et se protéger contre la manipulation par du texte entrant.
Un nœud interne est-il plus sûr qu’un service d’IA en cloud ?
Pas automatiquement : un nœud interne doit aussi être mis à jour, cloisonné et supervisé. La différence tient au périmètre de votre démonstration : le traitement reste dans votre zone et sous vos mesures.
Combien de temps conserver les journaux ?
Selon votre politique de sécurité ; pour les usages à haut risque, l’AI Act impose de conserver au moins six mois les journaux générés automatiquement. Fixez la durée explicitement pour chaque usage.
Sources
Cet article est une information générale, pas un conseil juridique. Les règles et les recommandations évoluent ; en cas de doute, consultez les sources citées ou votre juriste ou DPO.