Ist ChatGPT DSGVO-konform für Ihr Unternehmen?

Worauf es ankommt

Die DSGVO verbietet keine KI. Sie verlangt, dass Sie wissen, welche personenbezogenen Daten Sie verarbeiten, warum, bei wem, und dass Sie das nachweisen können. Die Frage „Ist ChatGPT DSGVO-konform?“ ist deshalb eigentlich eine andere: Können Sie nachweisen, dass die Verarbeitung personenbezogener Daten über ChatGPT rechtmäßig, sicher und begrenzt ist?

Die deutschen Aufsichtsbehörden haben dafür in der Orientierungshilfe der Datenschutzkonferenz (DSK) zu KI und Datenschutz vom Mai 2024 eine Checkliste vorgelegt. Für die meisten Organisationen hängt die Antwort davon ab, welche Version genutzt wird und von wem: von der Organisation, mit Vereinbarungen, oder von Mitarbeitenden, auf eigene Faust.

Kostenlos, Plus oder Business: der Unterschied nach der DSGVO

Eine Business-Version löst also vieles: Sie haben einen Vertrag, einen Auftragsverarbeitungsvertrag und eine Verwaltung. Was sie nicht löst: Ein Dritter verarbeitet Ihre Daten, mit einer Muttergesellschaft in den Vereinigten Staaten. Für Übermittlungen in die USA stützen sich viele Organisationen auf das EU-US Data Privacy Framework. Das Gericht der EU hat dieses Abkommen im September 2025 bestätigt, doch das Verfahren liegt im Rechtsmittel beim Gerichtshof. Wer seine KI-Nutzung darauf baut, baut auf einen Rahmen, dessen Zukunft noch nicht feststeht.

Wann ist ChatGPT-Nutzung eine Datenpanne?

Die niederländische Datenschutzbehörde (Autoriteit Persoonsgegevens) hat das 2024 deutlich gemacht. Sie berichtete von mehreren Datenpannen, bei denen Mitarbeitende personenbezogene Daten in einen KI-Chatbot eingegeben hatten. Eine Mitarbeiterin einer Hausarztpraxis hatte medizinische Daten von Patienten eingegeben; bei einem Telekommunikationsunternehmen ging es um eine Datei mit unter anderem Kundenadressen.

Die Begründung: Gibt ein Mitarbeitender auf eigene Faust und entgegen den Vorgaben personenbezogene Daten in einen Chatbot ein, erhält der Anbieter unbefugt Zugang zu diesen Daten. Das ist eine Verletzung des Schutzes personenbezogener Daten. Dann gilt die Meldepflicht nach Art. 33 DSGVO: innerhalb von 72 Stunden an die zuständige Aufsichtsbehörde, wenn ein Risiko für die Betroffenen besteht, und bei hohem Risiko auch an die Betroffenen selbst.

In der Praxis heißt das: Jede eingefügte Kundendatei, jeder Aktenauszug und jede E-Mail mit Namen kann eine meldepflichtige Datenpanne sein. Und meist wissen Sie es nicht, weil es in privaten Konten geschieht, die Sie nicht sehen. Wie Sie damit umgehen, steht in Schatten-KI: was tun, wenn Mitarbeitende selbst ChatGPT nutzen.

Was müssen Sie regeln, wenn Sie ChatGPT erlauben?

Wenn Sie ChatGPT geschäftlich einsetzen wollen, regeln Sie mindestens:

1. Einen Geschäftsvertrag und einen Auftragsverarbeitungsvertrag (Art. 28 DSGVO). Ohne diesen Vertrag dürfen Sie keine personenbezogenen Daten verarbeiten lassen.
2. Eine Datenschutz-Folgenabschätzung, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt, etwa bei besonderen Kategorien von Daten, umfangreicher Verarbeitung oder neuer Technologie (Art. 35 DSGVO). Bei generativer KI ist das oft der Fall.
3. Eine KI-Richtlinie, die festlegt, welche Daten in das Tool dürfen und welche nicht, mit konkreten Beispielen pro Abteilung.
4. Regelungen zur Übermittlung außerhalb der EU und eine Bewertung der Risiken.
5. Die Sperrung privater Konten im Netzwerk, sonst geht die alte Nutzung einfach weiter.
6. KI-Kompetenz: Mitarbeitende müssen verstehen, was sie in ein Modell eingeben dürfen und was nicht. Die KI-Verordnung verlangt, dass Sie das fördern. Siehe KI-Verordnung 2026.

Beziehen Sie den Betriebsrat früh ein: Ein KI-Tool, das Verhalten oder Leistung von Beschäftigten erfassen kann, ist in Deutschland regelmäßig mitbestimmungspflichtig.

Die Alternative: KI, die Ihre Organisation nicht verlässt

Für einen Teil Ihrer Arbeit reicht ein Business-Abonnement mit guten Vereinbarungen. Für Daten, die Sie nicht bei einem Dritten haben wollen (Patientendaten, Mandatsakten, Personaldaten, Kundenbestände), ist der vertretbare Weg, dass die KI zu den Daten kommt, nicht umgekehrt.

Mit privater KI läuft das Sprachmodell auf einem eigenen Node in Ihrem Serverraum. Kein externer KI-Anbieter ist an der Verarbeitung beteiligt, also keine Übermittlung und kein Auftragsverarbeiter mit Zugriff auf die Inhalte. In werqly AI Control legt Ihre IT-Abteilung fest, welche Daten blockiert werden, wer welches Modell nutzt und was protokolliert wird. Mitarbeitende bekommen, was sie in ChatGPT gesucht haben, und Sie behalten den nötigen Überblick.