Datenschutz-Folgenabschätzung für generative KI: wann Pflicht und wie?
Kurz gesagt
Eine Datenschutz-Folgenabschätzung (DSFA) ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen birgt. Bei generativer KI ist das oft der Fall: Sie ist neue Technologie, es gehen viele und teils sensible Informationen hinein, und die Ausgaben können falsch sein. Die DSFA beschreibt die Verarbeitung, prüft Notwendigkeit und Verhältnismäßigkeit, bewertet die Risiken und hält die Maßnahmen fest. Wo das Modell läuft, bestimmt einen großen Teil des Ergebnisses.
Wann ist eine DSFA Pflicht?
Art. 35 DSGVO verlangt eine DSFA, wenn eine Verarbeitung „voraussichtlich ein hohes Risiko“ zur Folge hat. Die europäischen Datenschutzbehörden haben neun Kriterien ausgearbeitet; erfüllt eine Verarbeitung zwei oder mehr, ist eine DSFA in der Regel erforderlich. Bei generativer KI treffen diese am häufigsten zu:
- Neue Technologie: generative KI gilt als innovative Anwendung.
- Umfangreiche Verarbeitung: viele Beschäftigte, viele Dokumente, viele Betroffene.
- Besondere oder sensible Daten: Gesundheit, Strafverfahren, Finanzdaten.
- Systematische Überwachung: wenn die Nutzung durch Beschäftigte protokolliert und ausgewertet wird.
- Bewertung oder Scoring: wenn KI zur Beurteilung von Personen dient.
Die deutschen Aufsichtsbehörden haben zudem mit der DSK-Muss-Liste festgelegt, für welche Verarbeitungen eine DSFA immer durchzuführen ist.
Die Schritte einer DSFA für eine KI-Anwendung
- Verarbeitung beschreiben. Welche KI-Anwendung, zu welchem Zweck, welche Daten gehen hinein, wer nutzt sie, wo läuft das Modell, welche Beteiligten gibt es und wie lange wird was gespeichert (Prompts, Ausgaben, Protokolle)?
- Notwendigkeit und Verhältnismäßigkeit prüfen. Lässt sich der Zweck mit weniger Daten erreichen? Können Namen weggelassen werden? Gibt es eine Rechtsgrundlage?
- Risiken bewerten, für die Betroffenen, nicht für die Organisation. Siehe die KI-spezifischen Risiken unten.
- Maßnahmen festhalten, die die Risiken senken, mit einer verantwortlichen Person je Maßnahme.
- Rat des Datenschutzbeauftragten einholen und dokumentieren.
- Entscheiden und überprüfen. Bleibt nach den Maßnahmen ein hohes Risiko, müssen Sie vorab die Aufsichtsbehörde konsultieren (Art. 36 DSGVO). Überprüfen Sie die DSFA bei jeder wesentlichen Änderung, etwa einem neuen Modell oder einer neuen Datenquelle.
Risiken, die typisch für generative KI sind
| Risiko | Mögliche Maßnahme |
|---|---|
| Daten werden zum Training von Modellen genutzt | Vertraglich ausschließen oder ein Modell nutzen, das auf eigener Infrastruktur läuft und nicht mit Ihren Eingaben trainiert |
| Übermittlung außerhalb der EU | Verarbeitung in der EU; möglichst kein externer Beteiligter in der Verarbeitung |
| Falsche Ausgaben über Personen | Menschliche Kontrolle, bevor Ausgaben für Entscheidungen genutzt werden |
| Zu viele Daten in Prompts | Safeguards, die identifizierende Muster aufhalten; Anweisungen pro Abteilung |
| Unbefugter Zugriff über die KI | Rechte pro Rolle; die KI sieht nur Quellen, auf die die Person Zugriff hat |
| Protokolle als neue Sammlung personenbezogener Daten | Kurze Speicherdauer, begrenzter Zugriff, in der Richtlinie festgelegt |
Wie die Wahl des Hostings die DSFA bestimmt
Ein großer Teil der Risiken in einer KI-DSFA betrifft den externen Anbieter: Was macht er mit den Daten, wo liegen sie, wer hat Zugriff, welches Recht gilt? Bei einem KI-Dienst eines US-Anbieters müssen Sie unter anderem die Übermittlung und den CLOUD Act bewerten. Siehe Der CLOUD Act und Ihre europäischen Daten.
Läuft das Modell auf einem eigenen Node in Ihrem Serverraum, fallen diese Fragen weitgehend weg: kein externer Verarbeiter der Inhalte, keine Übermittlung, kein Training mit Ihren Daten. Die DSFA konzentriert sich dann auf das, was Sie selbst regeln: Zugriff, Safeguards, Speicherfristen und menschliche Kontrolle. Mit werqly legen Sie das in werqly AI Control fest, mit einem Audit-Log als Nachweis. Siehe auch Ist ChatGPT DSGVO-konform?
Häufige Fragen
Fragen zu diesem Thema
Ist eine DSFA für ChatGPT Pflicht?
Oft ja, wenn Beschäftigte damit personenbezogene Daten verarbeiten. Generative KI gilt als neue Technologie, und zusammen mit etwa umfangreicher Nutzung oder sensiblen Daten erfüllen Sie schnell zwei oder mehr Kriterien, die eine DSFA verpflichtend machen.
Wer führt die DSFA durch?
Die Organisation, die die KI einsetzt, als Verantwortlicher. In der Praxis übernimmt das die Prozessverantwortung zusammen mit Datenschutz- und Sicherheitsfachleuten. Der Datenschutzbeauftragte berät, führt die DSFA aber nicht selbst durch.
Was ist der Unterschied zwischen DSFA und Grundrechte-Folgenabschätzung?
Eine DSFA betrifft Risiken für den Schutz personenbezogener Daten. Die Grundrechte-Folgenabschätzung ist nach der KI-Verordnung für bestimmte Betreiber von Hochrisiko-KI Pflicht, etwa öffentliche Stellen. Beide lassen sich in einem Verfahren verbinden.
Muss die DSFA wiederholt werden, wenn wir das KI-Modell wechseln?
Wenn die Änderung die Risiken verändert, ja: ein anderes Modell bei einem anderen Anbieter, eine neue Datenquelle oder ein anderer Zweck. Eine neue Version desselben Modells auf derselben eigenen Infrastruktur erfordert meist nur eine kurze Prüfung.
Quellen
- Datenschutzkonferenz — Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (Muss-Liste)
- Artikel-29-Datenschutzgruppe / EDSA — Leitlinien zur DSFA (WP248 rev.01)
- DSGVO (Verordnung (EU) 2016/679), Art. 35 und 36
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.