KI und Informationssicherheit in der Verwaltung: Grundschutz, Nachweise und ein Node im eigenen Netz
Kurz gesagt
Für die Informationssicherheit ist eine KI-Umgebung schlicht ein Informationssystem: Sie stufen es ein, treffen Maßnahmen und weisen sie nach. Neu sind drei Dinge: die Modelle und ihre Herkunft, die Anbindungen an Fachverfahren sowie Prompts und Ergebnisse als neuer Datenfluss. Steht der Node in Ihrem eigenen Netz, fällt er unter Ihre bestehende Segmentierung, Protokollierung und Überwachung.
Der Rahmen, in den Sie es stellen
Behörden arbeiten mit einem Sicherheitsrahmen und weisen ihn regelmäßig nach. In Deutschland ist das meist der BSI IT-Grundschutz, ergänzt um Vorgaben der Länder; niederländische Kommunen berichten jährlich über ENSIA auf Basis der Baseline Informatiebeveiliging Overheid.
Für KI heißt das: kein eigenes Normenwerk, sondern dieselben Fragen wie bei jedem anderen System, ergänzt um drei neue Themen.
Was an einer KI-Umgebung neu ist
| Thema | Was Sie festhalten |
|---|---|
| Modelle und Herkunft | Welche Modelle laufen, welche Version, unter welcher Lizenz, und wer eine Änderung freigibt |
| Anbindungen | Welche Fachverfahren die KI abfragen darf, mit welchen Rechten und welcher Protokollierung |
| Prompts und Ergebnisse | Wo sie gespeichert werden, wie lange, wer sie einsehen kann und wann Aufbewahrungspflichten greifen |
| Rechte | Rollen aus Ihrem Identity Provider, damit Rechte Ein- und Austritten folgen. Siehe Zugriffsverwaltung für KI |
| Missbrauch | Schutz vor Manipulation durch eingehenden Text. Siehe Prompt Injection |
Maßnahmen, die Sie ohnehin treffen
- Segmentierung. Der KI-Node in einer eigenen Netzzone, mit nur den Verbindungen, die Verwaltung und Updates brauchen.
- Protokollierung ins SIEM. Nutzung, Verwaltungsaktionen und Anbindungen, mit einer zu Ihrer Richtlinie passenden Frist.
- Patchen und Modellupdates. Ein fester Rhythmus mit Rückfallszenario, denn ein neues Modell verändert Ergebnisse.
- Administrationszugang. Ein kleines, benanntes Team, mit Vier-Augen-Freigabe für sensible Änderungen.
- Sicherung und Wiederherstellung. Konfiguration, Automatisierungen und Quellindizes, nicht nur die Daten.
- Physische Sicherheit. Rack, Zutritt und Klima, oder ein abgeschlossenes Rack im Rechenzentrum. Siehe Hardware für einen eigenen KI-Server.
Warum Eigenbetrieb die Nachweise verkürzt
Bei einem externen KI-Dienst müssen Sie darlegen, wo verarbeitet wird, welche Unterauftragsverarbeiter mitwirken, welches Recht für sie gilt und wie Sie das prüfen. Bei einem Node im eigenen Netz entfällt dieser Teil: Die Verarbeitung liegt in Ihrer Zone, unter Ihren Maßnahmen.
Mit werqly steht der Node in Ihrem Serverraum oder in einem abgeschlossenen Rack im Rechenzentrum, mit Protokollen, die Sie in Ihr Monitoring exportieren. Siehe KI für Kommunen und Verwaltung.
Häufige Fragen
Fragen zu diesem Thema
Müssen wir KI gesondert nachweisen?
Es gibt kein eigenes KI-Normenwerk für die Informationssicherheit. Eine KI-Umgebung ist ein Informationssystem, das Sie einstufen und absichern wie andere auch. Neu sind vor allem Modelle, Anbindungen an Fachverfahren sowie Prompts und Ergebnisse.
Welche Maßnahmen sind KI-spezifisch?
Festhalten, welche Modellversion läuft und wer Änderungen freigibt, begrenzen, welche Fachverfahren die KI abfragen darf, Nutzung und Anbindungen protokollieren und vor Manipulation durch eingehenden Text schützen.
Ist ein eigener Node sicherer als ein KI-Clouddienst?
Nicht automatisch: Auch ein eigener Node muss gepatcht, segmentiert und überwacht werden. Der Unterschied liegt im Umfang Ihrer Nachweise: Die Verarbeitung bleibt in Ihrer Zone und unter Ihren Maßnahmen.
Wie lange bewahren wir Protokolle auf?
Nach Ihrer Sicherheitsrichtlinie, und bei Hochrisiko-Anwendungen verlangt die KI-Verordnung, automatisch erzeugte Protokolle mindestens sechs Monate aufzubewahren. Legen Sie die Frist je Anwendung ausdrücklich fest.
Quellen
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.