Datenpanne über einen KI-Chatbot: Notfallplan für die ersten 72 Stunden
Kurz gesagt
Hat jemand personenbezogene Daten in einen öffentlichen KI-Chatbot eingegeben, werten Datenschutzbehörden das als Datenpanne. Ab Kenntnis haben Sie 72 Stunden, um zu prüfen, ob Sie melden müssen. Stellen Sie fest, was geteilt wurde, begrenzen Sie den Schaden (Chat löschen, Anbieter um Löschung bitten), bewerten Sie das Risiko für die Betroffenen, melden Sie bei Risiko an die zuständige Aufsichtsbehörde, und dokumentieren Sie alles.
Stunde 0 bis 4: feststellen und eindämmen
- Reagieren Sie ohne Schuldzuweisung. Wer es selbst meldet, gibt Ihnen die beste Chance, rechtzeitig zu handeln. Bedanken Sie sich.
- Stellen Sie fest, was geteilt wurde. Welches Tool, welches Konto (privat oder geschäftlich), welche Daten, von wie vielen Personen und wann? Sichern Sie den Chat per Screenshot, bevor er gelöscht wird.
- Begrenzen Sie den Schaden. Löschen Sie den Chat und hochgeladene Dateien. Prüfen Sie, ob das Konto einen Verlauf speichert oder Daten für das Training nutzt, und schalten Sie das ab. Bei einem Geschäftsvertrag: Bitten Sie den Anbieter schriftlich um Löschung.
- Informieren Sie den Datenschutzbeauftragten und, falls es auch ein Sicherheitsvorfall ist, Ihr Security-Team.
Stunde 4 bis 48: das Risiko bewerten
Nicht jede Datenpanne ist meldepflichtig. Entscheidend ist, ob sie voraussichtlich zu einem Risiko für die Rechte und Freiheiten der Betroffenen führt. Wägen Sie unter anderem ab: Wann die ChatGPT-Nutzung eine Datenpanne ist, lesen Sie in ChatGPT und DSGVO: wann es zur Datenpanne wird.
| Faktor | Höheres Risiko, wenn… |
|---|---|
| Art der Daten | Gesundheitsdaten, Daten zu Straftaten, Finanzdaten oder Ausweisnummern betroffen sind |
| Umfang | Viele Personen betroffen sind, etwa ein ganzer Kundenbestand |
| Identifizierbarkeit | Namen, Adressen oder Aktenzeichen enthalten waren |
| Kontrolle | Sie die Löschung nicht veranlassen können, etwa bei einem privaten Konto |
| Schutzbedürftigkeit | Kinder, Patienten oder andere schutzbedürftige Gruppen betroffen sind |
Stunde 48 bis 72: melden und dokumentieren
- Meldung an die zuständige Datenschutzaufsichtsbehörde, in der Regel die Landesbehörde Ihres Sitzes, binnen 72 Stunden nach Kenntnis, wenn ein Risiko besteht (Art. 33 DSGVO). Wissen Sie noch nicht alles, melden Sie das Bekannte und ergänzen Sie später.
- Betroffene benachrichtigen, wenn das Risiko hoch ist (Art. 34 DSGVO), in klarer Sprache: was geschehen ist, welche Folgen möglich sind und was sie tun können.
- Dokumentieren, auch wenn Sie nicht melden, mit Ihrer Abwägung (Art. 33 Abs. 5 DSGVO).
- NIS2: Fällt Ihre Organisation unter das NIS2-Umsetzungsgesetz und ist es ein erheblicher Sicherheitsvorfall, gilt zusätzlich eine Erstmeldung an das BSI binnen 24 Stunden. Siehe NIS2 und KI.
Danach: Wiederholung vermeiden
Eine Datenpanne über KI ist fast nie böse Absicht. Es ist jemand, der Hilfe bei der Arbeit gesucht hat. Die niederländische Stadt Eindhoven stellte 2025 fest, dass dies in großem Umfang geschah. Siehe Schatten-KI. Strukturelle Lösungen:
- eine freigegebene KI-Umgebung, in der dieselben Aufgaben möglich sind, auch mit sensiblen Daten;
- Safeguards, die Steuer-IDs, IBANs und Aktenzeichen aufhalten, bevor sie ein Modell erreichen;
- Sperren für öffentliche KI-Dienste, sobald die Alternative steht;
- eine KI-Richtlinie und Schulung. Siehe KI-Richtlinie erstellen.
Mit werqly läuft diese Umgebung auf einem eigenen Node in Ihrem Serverraum. Was dort eingegeben wird, verlässt Ihre Organisation nicht: Kein externer KI-Anbieter erhält unbefugt Zugang, also entsteht auch keine Datenpanne dieser Art.
Häufige Fragen
Fragen zu diesem Thema
Ist die Eingabe personenbezogener Daten in ChatGPT immer eine Datenpanne?
Wenn jemand das eigenmächtig und entgegen den Vorgaben tut, werten Datenschutzbehörden das als Datenpanne: Der Anbieter erhält unbefugt Zugang. Ob Sie melden müssen, hängt vom Risiko für die Betroffenen ab.
Innerhalb welcher Frist muss ich melden?
Binnen 72 Stunden, nachdem Sie von der Datenpanne Kenntnis erlangt haben, wenn sie voraussichtlich ein Risiko für die Betroffenen bedeutet. Fehlen noch Informationen, melden Sie das Bekannte und ergänzen Sie später.
Kann ich OpenAI um Löschung bitten?
Bei einem Geschäftsvertrag können Sie die Löschung verlangen, und die Speicherdauer ist oft geregelt. Bei einem privaten Konto kann die Person den Chat löschen, aber die Organisation hat keinen vertraglichen Zugriff.
Sollte die Person bestraft werden?
Meist ist das kontraproduktiv: Wird das Melden bestraft, bleiben die nächsten Vorfälle verborgen. Beseitigen Sie die Ursache: eine freigegebene Alternative, klare Regeln und Schulung.
Quellen
- DSGVO (Verordnung (EU) 2016/679), Art. 33 und 34
- Datenschutzkonferenz — Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)
- Autoriteit Persoonsgegevens — Caution: use of AI chatbot may lead to data breaches (2024)
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.