Generative KI in Kommunen und Verwaltung: was erlaubt ist und wie man sie einrichtet
Kurz gesagt
Behörden dürfen generative KI nutzen, aber unter strengeren Bedingungen als Unternehmen. Die KI-Verordnung verlangt von öffentlichen Stellen, die Hochrisiko-KI einsetzen, eine Grundrechte-Folgenabschätzung und die Registrierung der Nutzung. Nationale Vorgaben kommen hinzu: Die Niederlande etwa erlauben seit April 2025 eine breitere Nutzung nach Risikoanalyse, mit verlässlichen Modellen und geschulten Beschäftigten, und bevorzugen europäische, quelloffene und eigene Lösungen.
Von zurückhaltend zu offener: das niederländische Beispiel
Im Dezember 2023 war der vorläufige Standpunkt der niederländischen Zentralregierung streng: nicht vertraglich abgesicherte Anwendungen wie öffentliche Chatbots waren grundsätzlich nicht erlaubt, und jede Anwendung erforderte vorab eine Risikoanalyse. In der Praxis wurde das oft als zu restriktiv empfunden.
Der verwaltungsweite Standpunkt vom April 2025 ersetzt ihn. Er gilt auch für Kommunen, Provinzen und Wasserverbände und gibt Beschäftigten mehr Spielraum, etwa um Genehmigungen schneller zu bearbeiten oder Fragen von Bürgerinnen und Bürgern schneller zu beantworten. Die Bedingungen bleiben: eine klare Risikoanalyse, verlässliche Modelle und verantwortungsvoller Einsatz.
Was eine Behörde regeln muss
- Risikoanalyse je Anwendung, mit einer DSFA, wo personenbezogene Daten verarbeitet werden. Siehe DSFA für generative KI.
- KI-Kompetenz: Beschäftigte wissen, was das Modell kann und wo es danebenliegt. Siehe KI-Kompetenz.
- Überblick: welche KI-Anwendungen es gibt, wofür und mit welchen Daten. Siehe Ein KI-Register aufbauen.
- KI-Verordnung: öffentliche Stellen, die Hochrisiko-KI einsetzen, müssen eine Grundrechte-Folgenabschätzung durchführen und die Nutzung in der EU-Datenbank registrieren.
- Sicherheit und Akten: KI-Nutzung fällt unter die Vorgaben zur Informationssicherheit der Verwaltung, und Unterhaltungen und Ergebnisse können unter Informationsfreiheits- und Archivrecht fallen.
Eigene Kontrolle und europäische Modelle
Der niederländische Standpunkt nennt eine Präferenz für europäische und quelloffene Lösungen sowie für eigene, kontrollierte Alternativen zu öffentlichen Chatbots, etwa den internen Assistenten der Provinz Südholland. Das passt zur Sorge über ausländischen Zugriff auf Verwaltungsdaten. Siehe Der CLOUD Act und Ihre europäischen Daten.
Eine eigene KI-Umgebung mit Open-Weight-Modellen erfüllt beide Wünsche: Die Modelle sind nachvollziehbar, und die Daten der Bürgerinnen und Bürger bleiben in der eigenen Infrastruktur.
werqly für Behörden
werqly betreibt einen eigenen KI-Node in Ihrem Serverraum oder in einem abgeschlossenen Rack in einem Rechenzentrum, mit Open-Weight-Modellen unter anderem europäischer Hersteller. In werqly AI Control legen Sie je Fachbereich fest, welche Quellen und Automatisierungen verfügbar sind, und das Audit-Log liefert den Überblick, den Risikoanalyse, Register und Rechenschaft brauchen. Siehe KI für Kommunen und Verwaltung.
Häufige Fragen
Fragen zu diesem Thema
Dürfen Beschäftigte in Behörden ChatGPT nutzen?
Das hängt von den Vorgaben des Landes und der Behörde ab. Die KI-Verordnung verbietet es nicht, verlangt aber für Hochrisiko-Anwendungen zusätzliche Pflichten. Nationale Richtlinien wie die niederländische setzen eine Risikoanalyse, verlässliche Modelle und verantwortungsvollen Einsatz voraus.
Welche Pflichten hat eine Behörde nach der KI-Verordnung?
Setzt sie Hochrisiko-KI ein, muss sie unter anderem eine Grundrechte-Folgenabschätzung durchführen, die Nutzung in der EU-Datenbank registrieren und menschliche Aufsicht sicherstellen. Für alle KI-Nutzung gelten zudem KI-Kompetenz und Transparenzpflichten.
Muss eine interne Schreibhilfe registriert werden?
Meist nicht in der EU-Datenbank, weil sie in der Regel keine Hochrisiko-KI ist. In das eigene KI-Register der Behörde gehört sie aber, damit klar ist, welche Daten verarbeitet werden und wer verantwortlich ist.
Warum wählen Behörden eigene KI-Umgebungen?
Weil Vorgaben wie der niederländische Standpunkt europäische, quelloffene und eigene Lösungen bevorzugen, und weil die Daten der Bürgerinnen und Bürger dann nicht ausländischem Recht oder den Bedingungen eines externen Anbieters unterliegen.
Quellen
- Rijksoverheid — Overheid verruimt standpunt inzet generatieve AI (22. April 2025, niederländisch)
- Algoritmeregister der niederländischen Regierung
- KI-Verordnung — Verordnung (EU) 2024/1689, Artikel 27 und 49
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.