KI-Sicherheit im Gesundheitswesen: was ISO 27001, § 391 SGB V und B3S von einer KI-Umgebung verlangen
Kurz gesagt
Krankenhäuser müssen nach § 391 SGB V angemessene Maßnahmen der IT-Sicherheit treffen, orientiert am branchenspezifischen Sicherheitsstandard B3S und an ISO 27001; größere Häuser fallen zusätzlich unter KRITIS. KI bringt neue Risiken in dieses System: einen zusätzlichen Auftragsverarbeiter, Ausgaben, die in der Akte landen, breiteren Datenzugriff und Protokollierung, die zur Zugriffsprotokollierung passen muss. Eine KI-Umgebung im Gesundheitswesen gehört deshalb in das Managementsystem hinein, nicht daneben.
Der Rahmen in Kürze
§ 391 SGB V (bis März 2024 § 75c) verpflichtet Krankenhäuser, nach dem Stand der Technik angemessene organisatorische und technische Vorkehrungen zur IT-Sicherheit zu treffen; der branchenspezifische Sicherheitsstandard B3S der Deutschen Krankenhausgesellschaft konkretisiert das, und ISO 27001 ist die Grundlage für ein Managementsystem. Krankenhäuser über der KRITIS-Schwelle weisen ihre Maßnahmen gegenüber dem BSI nach. In den Niederlanden gilt für alle Einrichtungen die Norm NEN 7510, die seit Dezember 2024 auf ISO 27001:2022 aufbaut; die Logik ist dieselbe.
Keiner dieser Rahmen nennt KI. Aber jede KI-Anwendung, die Patientendaten verarbeitet, fällt darunter wie jedes andere System. Siehe KI im Gesundheitswesen: Patientendaten und DSGVO für die Datenschutzseite; hier geht es um die Sicherheit.
Was KI dem Risikoregister hinzufügt
| Risiko | Woher es kommt | Maßnahme |
|---|---|---|
| Auftragsverarbeiter außer Sicht | Mitarbeitende nutzen einen öffentlichen KI-Dienst für einen Brief oder eine Zusammenfassung | Richtlinie, Schulung und eine eigene Umgebung, die besser funktioniert als die öffentliche |
| Ausgabe in der Akte | Eine KI-Zusammenfassung oder ein KI-Bericht wird ungeprüft übernommen | Prüfung durch die Fachkraft, Quellenangabe, Kennzeichnung von KI-Ausgaben |
| Zu breiter Zugriff | Ein Assistent durchsucht mehr Akten, als die Person sehen darf | Zugriff pro Rolle, der dem KIS folgt; siehe Zugriffskontrolle für KI |
| Keine Protokollierung | Niemand kann nachvollziehen, wer welche Akte von KI lesen ließ | Audit-Log pro Frage und Antwort, anschlussfähig an die Zugriffsprotokollierung |
| Manipulation | Ein Dokument oder eine E-Mail enthält versteckte Anweisungen für das Modell | KI nur lesen und vorschlagen lassen, nie selbstständig handeln |
| Anbieter als Kette | Das Modell läuft bei einem Anbieter, manchmal außerhalb der EU | Ein Node, der der Einrichtung gehört, oder ein dedizierter Node in einem europäischen Rechenzentrum |
Anforderungen an eine KI-Umgebung im Gesundheitswesen
- Im Managementsystem. Die KI-Umgebung steht im Risikoregister, hat eine Eigentümerin und ist Teil des internen Audits.
- Zugang über die bestehende Identität. Anmeldung mit denselben Konten und Rollen wie im KIS, keine separaten Passwörter.
- Nachvollziehbare Protokollierung. Wer, wann, welche Akte, welche Frage. Aufbewahrung nach eigener Richtlinie, exportierbar ins SIEM.
- Kein Training mit Ihren Daten. Nachweisbar: bei Open-Weight-Modellen auf eigener Hardware ein Fakt, bei einem Dienst eine Vertragsklausel, die Sie prüfen müssen.
- Kontinuität. Was passiert, wenn Verbindung oder Anbieter ausfallen? Ein Node im eigenen Haus arbeitet weiter.
- Vorfallprozess. Eine falsche Antwort, die in einer Akte landet, ist ein Vorfall. Siehe Notfallplan bei einer Datenpanne mit KI.
So weisen Sie es nach
Aufsicht und Zertifizierer wollen keine Versprechen, sondern Belege: das Risikoregister mit der KI-Anwendung, den Auftragsverarbeitungsvertrag oder die eigene Hardware, die Rollenmatrix, einen Export des Audit-Logs und die Auswertung des Pilots. Halten Sie je KI-Anwendung fest, welche Daten hineingehen, wer die Ausgabe prüft und wann die Anwendung neu bewertet wird. Das ist dieselbe Akte, die die KI-Verordnung verlangen wird; Sie machen die Arbeit einmal.
Wie werqly dazu passt
werqly läuft auf einem eigenen Node der Einrichtung, im eigenen Serverraum oder als dedizierter Node in einem europäischen Rechenzentrum, mit Open-Weight-Modellen, die nicht aus Ihren Daten lernen. werqly AI Control liefert Rollen, Quellen pro Rolle und ein Audit-Log, das an Ihre Zugriffsprotokollierung anschließt und in Ihr Monitoring exportierbar ist. Siehe KI für das Gesundheitswesen.
Häufige Fragen
Fragen zu diesem Thema
Sagen B3S oder ISO 27001 etwas über KI?
Nicht wörtlich. Aber jede KI-Anwendung, die Patientendaten verarbeitet, fällt unter das Managementsystem wie jedes andere System: Risikobewertung, Zugriff, Protokollierung, Dienstleistersteuerung und Vorfallbehandlung.
Was verlangt § 391 SGB V?
Dass Krankenhäuser nach dem Stand der Technik angemessene Vorkehrungen zur IT-Sicherheit treffen, alle zwei Jahre angepasst. Der B3S der Deutschen Krankenhausgesellschaft beschreibt, wie das aussieht.
Ist ein KI-Dienst in der Cloud im Krankenhaus erlaubt?
Das hängt vom Auftragsverarbeitungsvertrag, dem Speicherort, dem Ausschluss von Training und der Protokollierung ab. Ein Node, der allein der Einrichtung gehört, macht diese Fragen leichter zu beantworten als ein geteilter Dienst.
Wie schließt KI-Protokollierung an die Zugriffsprotokollierung an?
Zugriffe auf die Patientenakte müssen nachvollziehbar sein. Ein KI-Assistent, der Akten liest, muss deshalb pro Frage festhalten, wer, wann und welche Akte, und dieses Protokoll muss aufbewahrt und durchsuchbar sein.
Quellen
- SGB V, § 391 IT-Sicherheit in Krankenhäusern
- NEN — Informationssicherheit im Gesundheitswesen (NEN 7510, Niederländisch)
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.