KI-Agenten im Unternehmen: was sie sind und wie Sie die Kontrolle behalten
Kurz gesagt
Ein KI-Agent ist ein Sprachmodell, das nicht nur antwortet, sondern selbst handelt: ein System abfragen, ein Dokument erstellen, eine E-Mail senden. Das ermöglicht echte Automatisierung, aber auch echten Schaden, wenn sich das Modell irrt oder manipuliert wird. Behalten Sie die Kontrolle mit minimalen Rechten pro Agent, menschlicher Bestätigung unumkehrbarer Aktionen, einer eigenen Identität je Agent und einem vollständigen Audit-Log.
Vom Chatbot zum Agenten
Ein Chatbot liefert Text; ein Mensch entscheidet, was damit geschieht. Ein KI-Agent bekommt Werkzeuge: Zugriff auf Systeme und die Möglichkeit, Aktionen auszuführen. Er kann eine Aufgabe in Schritte zerlegen, Informationen suchen, etwas erstellen und das Ergebnis weitergeben.
Beispiele aus Unternehmen:
- eingehende Rechnungen lesen, mit der Bestellung abgleichen und zur Freigabe vorbereiten;
- eine Kundenanfrage mit Daten aus dem CRM beantworten und einen Antwortentwurf bereitstellen;
- eine Akte durcharbeiten und eine erste Fassung eines Berichts erstellen;
- ein Service-Desk-Ticket klassifizieren, ergänzen und zuweisen.
Was schiefgehen kann
| Risiko | Beispiel |
|---|---|
| Zu viele Rechte | Ein Agent, der Rechnungen lesen soll, kann auch Zahlungen vorbereiten oder Kundendaten exportieren |
| Manipulation | Eine eingehende E-Mail enthält versteckte Anweisungen, denen der Agent folgt. Siehe Prompt Injection |
| Fehler im großen Maßstab | Eine falsche Auslegung passiert nicht einmal, sondern hundertmal am Tag |
| Unklare Verantwortung | Niemand weiß, wer eine Aktion freigegeben hat oder warum der Agent sie ausgeführt hat |
| Daten verlassen das Haus | Ein Agent bei einem externen KI-Dienst sendet bei jedem Schritt Kontext an diesen Dienst |
OWASP zählt „übermäßige Handlungsfreiheit“ zu den wichtigsten Risiken von LLM-Anwendungen, gerade weil Agenten immer mehr können.
Fünf Grenzen für jeden Agenten
- Minimale Rechte. Jeder Agent erhält nur die Systeme, Aktionen und Daten, die seine Aufgabe erfordert. Lesezugriff, wo Lesen genügt.
- Eine eigene Identität. Lassen Sie einen Agenten nicht unter dem Konto eines Mitarbeiters arbeiten, sondern mit einem eigenen Dienstkonto, damit Sie Rechte getrennt verwalten und Aktionen nachvollziehen können. Siehe Zugriffsverwaltung für KI.
- Mensch in der Schleife bei unumkehrbaren Aktionen. Zahlen, nach außen senden, löschen, etwas endgültig machen: Ein Mitarbeiter bestätigt.
- Vollständige Protokollierung. Welcher Agent hat was getan, mit welchen Daten, auf Grundlage welcher Anweisung, und wer hat es freigegeben.
- Ein Not-Aus. Ein Agent muss sofort gestoppt werden können, pro Rolle oder für das ganze Unternehmen.
Klein anfangen, dann ausbauen
Beginnen Sie mit Agenten, die vorbereiten statt ausführen: ein Entwurf, ein Vorschlag, eine vorbereitete Aufgabe, die ein Mensch abschließt. Messen Sie, wie oft der Mitarbeiter den Vorschlag ändert. Erst wenn das selten vorkommt, ist es Zeit, einen weiteren Schritt abzugeben. Siehe auch Wo beginnt man mit KI-Automatisierung?
Mit werqly laufen Agenten und Automatisierungen auf einem eigenen Node in Ihrem Serverraum, angebunden an Ihre Systeme über Verbindungen, die Sie selbst verwalten. In werqly AI Control legen Sie pro Rolle fest, wer welche Automatisierungen starten darf, und das Audit-Log hält jeden Schritt fest. Bei keinem Schritt geht Kontext an einen externen KI-Dienst. Siehe Was ist Private AI?
Häufige Fragen
Fragen zu diesem Thema
Was ist der Unterschied zwischen einem Chatbot und einem KI-Agenten?
Ein Chatbot gibt eine Antwort, und ein Mensch entscheidet, was damit geschieht. Ein KI-Agent kann selbst handeln: Systeme abfragen, Dokumente erstellen, Nachrichten senden. Dadurch kann er mehr Arbeit übernehmen, bei einem Fehler aber auch mehr Schaden anrichten.
Darf ein KI-Agent selbstständig Entscheidungen treffen?
Technisch ist das möglich, aber es ist ratsam, unumkehrbare oder wichtige Aktionen von einem Menschen bestätigen zu lassen. Für Entscheidungen über Personen gelten zudem die DSGVO und bei Hochrisiko-Anwendungen die Anforderungen der KI-Verordnung an menschliche Aufsicht.
Wie verhindere ich, dass ein KI-Agent zu viel kann?
Geben Sie jedem Agenten eine eigene Identität mit nur den Rechten, die seine Aufgabe erfordert, lassen Sie sensible Aktionen bestätigen, protokollieren Sie alles und sorgen Sie dafür, dass der Agent sofort gestoppt werden kann.
Wer ist verantwortlich für das, was ein KI-Agent tut?
Das Unternehmen, das den Agenten einsetzt. Legen Sie für jeden Agenten fest, wem er gehört, welche Aktionen er ausführen darf und wer sie freigibt. Ein vollständiges Audit-Log zeigt im Nachhinein, was passiert ist und warum.
Quellen
- OWASP — Top 10 for LLM Applications 2025 (LLM06 Excessive Agency)
- KI-Verordnung — Verordnung (EU) 2024/1689, Artikel 14 (menschliche Aufsicht)
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.