Schatten-KI in der Kommune: Mitarbeitende nutzen längst ChatGPT. Was jetzt?
Kurz gesagt
Mitarbeitende, die einen Brief durch ChatGPT laufen lassen oder ein Protokoll von einem kostenlosen Werkzeug zusammenfassen lassen, tun das, weil es funktioniert und weil es keine Alternative gibt. Die Datenschutzkonferenz hat 2024 klargestellt, was Behörden beim Einsatz von KI beachten müssen, und öffentliche Dienste ohne Vertrag erfüllen das nicht. Ein Verbot allein verlagert die Nutzung aufs private Handy. Was funktioniert: messen, klare Regeln, und binnen Wochen eine eigene Umgebung, die mindestens so gut ist.
Die Wirklichkeit
Fragen Sie in einer Teamsitzung, und die Hälfte hebt die Hand. Eine Beschlussvorlage kürzen, eine E-Mail an einen verärgerten Bürger glätten, eine Ratsanfrage übersetzen, eine Satzung zusammenfassen: Das alles läuft über öffentliche Werkzeuge, oft auf einem persönlichen Konto, manchmal mit Name und Adresse einer Bürgerin darin. Nicht aus bösem Willen, sondern weil es funktioniert. Was das rechtlich bedeutet, steht in Ist ChatGPT DSGVO-konform?
Die Orientierungshilfe der Datenschutzkonferenz vom Mai 2024 verlangt von Behörden, KI-Anwendungen datenschutzkonform auszuwählen, einzuführen und zu nutzen: Rechtsgrundlage, Auftragsverarbeitung, keine Nutzung der Eingaben zum Training, geschlossene Systeme. Ein öffentlicher Chatbot auf einem Privatkonto erfüllt davon nichts. Die niederländische Zentralregierung ließ 2024 eine DSFA zu Microsoft 365 Copilot durchführen, fand vier hohe Risiken und erklärte erst nach Nachbesserungen im September 2025 einen verantwortbaren Einsatz für möglich. Das ist die Messlatte.
Zuerst messen
- Netzwerk und Proxy. Der Verkehr zu den bekannten KI-Domains zeigt, wie viel und aus welchen Ämtern. Keine Namen, nur Zahlen.
- Fragen. Eine kurze anonyme Umfrage: welche Werkzeuge, wofür, wie oft, mit welchen Daten. Menschen sind ehrlich, wenn es kein Verhör ist.
- Auf die Ergebnisse schauen. Dokumente mit den Stilmerkmalen eines Sprachmodells sind leicht zu erkennen. Das zeigt, wo es schon im Kernprozess steckt.
Das Ergebnis lautet meist: viel mehr Nutzung als gedacht, konzentriert bei Pressestelle, Rechtsamt, Stabsstellen und Bürgerservice.
Dann drei Regeln
| Regel | Was sie bedeutet |
|---|---|
| Keine personenbezogenen Daten oder vertraulichen Dokumente in öffentlichen Werkzeugen | Keine Namen, Adressen, Akten, Bescheidentwürfe oder internen Vorlagen. Das ist DSGVO und Dienstrecht, keine Hausregel. |
| Öffentliche Werkzeuge nur für öffentliches Material | Eine Pressemitteilung umformulieren oder einen veröffentlichten Bericht zusammenfassen ist in Ordnung, bis es eine eigene Umgebung gibt. |
| Alles Dienstliche in die eigene Umgebung | Sobald sie da ist, entfällt die Ausnahme und die Regel wird durchsetzbar. |
Koppeln Sie die Regeln an eine kurze Schulung pro Rolle; siehe KI-Kompetenz in der Kommune nach Rolle. Und nehmen Sie sie ins Informationssicherheitskonzept auf; siehe Informationssicherheit und KI in der Kommune.
Und eine Alternative, die besser ist
Die Regel hält nur, wenn die Alternative mindestens so gut ist wie das, was die Leute heute nutzen: schnell, im Browser, mit den eigenen Dokumenten dabei. Genau das kann eine eigene Umgebung bieten und ein öffentliches Werkzeug nicht: Satzungen, Richtlinien und die Akte als Quelle, mit Antworten, die darauf verweisen. Siehe Einen KI-Assistenten in der Kommune ausrollen.
werqly liefert diese Umgebung als eigenen Node, im Gebäude oder in der werqly Cloud, mit Open-Weight-Modellen und werqly AI Control für Rollen, Quellen und Protokollierung. Die Einführung dauert Wochen, nicht Quartale, und damit kann das Verbot öffentlicher Werkzeuge auch wirklich greifen. Siehe KI für Kommunen.
Häufige Fragen
Fragen zu diesem Thema
Dürfen Verwaltungsmitarbeitende ChatGPT nutzen?
Für öffentliches Material ohne personenbezogene Daten ist es nicht verboten, aber die Orientierungshilfe der Datenschutzkonferenz stellt Anforderungen, die öffentliche Werkzeuge ohne Vertrag für dienstliche Nutzung praktisch ausschließen. Mit personenbezogenen Daten oder vertraulichen Dokumenten ist es ein Verstoß gegen die DSGVO.
Funktioniert ein Verbot?
Nur, wenn es eine Alternative gibt. Ohne Alternative wandert die Nutzung aufs private Handy, wo Sie sie nicht mehr sehen. Erst messen, drei klare Regeln aufstellen und binnen Wochen eine eigene Umgebung anbieten.
Ist Microsoft Copilot dann erlaubt?
Die niederländische Zentralregierung fand im Dezember 2024 vier hohe Risiken; nach Nachbesserungen durch Microsoft gilt seit September 2025 ein verantwortbarer Einsatz als möglich, wenn Konfiguration, Richtlinie und bewusste Nutzung stimmen. Das erfordert dieselbe DSFA und dieselben Regeln wie jede andere Anwendung.
Wie bringt man Mitarbeitende in die eigene Umgebung?
Machen Sie sie besser: die eigenen Dokumente als Quelle, Antworten mit Verweis, dieselbe Geschwindigkeit. Holen Sie die ersten Nutzer aus den Ämtern, in denen die Schattennutzung am höchsten war; sie wissen, was ihnen fehlt.
Quellen
- Datenschutzkonferenz — Orientierungshilfe KI und Datenschutz (Mai 2024)
- Niederländische Regierung — DPIA und FRAIA Microsoft 365 Copilot (Dezember 2024, Niederländisch)
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.