Ein KI-Chatbot für den Kundenservice: Transparenz, Haftung und Daten
Kurz gesagt
Setzen Sie einen KI-Chatbot für Kunden ein, müssen diese seit dem 2. August 2026 wissen, dass sie mit KI sprechen, sofern das nicht ohnehin offensichtlich ist. Sie haften für das, was der Chatbot sagt: Air Canada musste 2024 einen Kunden für falsche Auskünfte seines Chatbots entschädigen. Lassen Sie den Chatbot daher aus Ihren eigenen, aktuellen Informationen antworten, mit einem klaren Weg zu einem Menschen, und halten Sie Kundendaten in Ihrer eigenen Umgebung.
Transparenz: Kunden müssen wissen, dass es KI ist
Artikel 50 der KI-Verordnung verlangt, dass KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sind, dass Menschen wissen, dass sie mit KI zu tun haben, sofern das für eine angemessen informierte Person nicht offensichtlich ist. Diese Pflicht gilt seit dem 2. August 2026.
In der Praxis: Weisen Sie zu Beginn des Gesprächs darauf hin, dass der Kunde mit einem KI-Assistenten spricht, und geben Sie dem Assistenten keinen menschlichen Namen und kein Foto, die das Gegenteil nahelegen. Wer den Chatbot selbst baut oder unter eigenem Namen in Betrieb nimmt, ist für diese Pflicht häufig der Anbieter.
Sie haften für das, was der Chatbot sagt
Im Fall Moffatt v. Air Canada (Februar 2024) teilte der Chatbot der Fluggesellschaft einem Kunden mit, er könne nachträglich einen Trauerfall-Rabatt beantragen. Das widersprach den Richtlinien. Air Canada argumentierte, der Chatbot sei eine eigenständige Einheit und für seine Aussagen selbst verantwortlich. Das kanadische Tribunal wies das zurück: Das Unternehmen habe nicht angemessen dafür gesorgt, dass der Chatbot korrekte Informationen gibt, und musste den Kunden entschädigen.
Die Lehre gilt auch in Europa: Ein Kunde darf darauf vertrauen, dass stimmt, was auf Ihrer Website steht, auch wenn ein Sprachmodell es formuliert. Siehe KI-Halluzinationen.
So richten Sie einen Kundenservice-Chatbot richtig ein
- Antworten aus eigenen Quellen. Lassen Sie den Chatbot auf Grundlage Ihrer aktuellen Bedingungen, Tarife und Abläufe antworten, nicht aus dem Gedächtnis des Modells. Siehe KI auf eigenen Dokumenten.
- Grenzen bei Themen. Bei Fragen zu Beträgen, Verträgen, Beschwerden oder rechtlichen Fragen verweist der Chatbot an einen Mitarbeiter.
- Immer ein Weg zu einem Menschen. Machen Sie sichtbar, wie ein Kunde einen Mitarbeiter erreicht.
- Datensparsamkeit. Fragen Sie nur ab, was nötig ist, und speichern Sie Gespräche nicht länger als erforderlich.
- Testen und messen. Testen Sie mit echten Fragen, auch schwierigen und irreführenden. Messen Sie, wie oft Antworten falsch sind und wie oft Kunden trotzdem anrufen.
Kundengespräche sind Kundendaten
Kunden erzählen einem Chatbot alles Mögliche: Adressen, Kundennummern, Beschwerden, manchmal Gesundheit oder finanzielle Lage. Läuft der Chatbot bei einem externen KI-Dienst, liegen diese Gespräche dort. Das erfordert einen Auftragsverarbeitungsvertrag, eine Prüfung von Drittlandübermittlungen und oft eine DSFA. Siehe DSFA für generative KI.
Mit werqly läuft das Sprachmodell für Ihren Kundenservice auf einem eigenen Node. Kundengespräche und die Anbindung an Ihr CRM bleiben in Ihrer Umgebung, und das Audit-Log zeigt, welche Quelle zu welcher Antwort gehörte. Siehe Was ist Private AI?
Häufige Fragen
Fragen zu diesem Thema
Muss ich angeben, dass mein Chatbot KI ist?
Ja. Seit dem 2. August 2026 müssen Menschen, die direkt mit einem KI-System interagieren, wissen, dass es KI ist, sofern das für eine angemessen informierte Person nicht offensichtlich ist (Artikel 50 KI-Verordnung). Weisen Sie zu Beginn des Gesprächs darauf hin.
Hafte ich, wenn mein Chatbot etwas Falsches sagt?
In der Regel ja. Im Fall Moffatt v. Air Canada (2024) wurde die Fluggesellschaft für falsche Auskünfte ihres Chatbots haftbar gemacht. Kunden dürfen darauf vertrauen, dass Informationen auf Ihrer Website stimmen, auch wenn ein Sprachmodell sie formuliert.
Wie verhindere ich, dass der Chatbot Dinge erfindet?
Lassen Sie ihn aus Ihren eigenen aktuellen Dokumenten mit Quellenangabe antworten, begrenzen Sie die Themen, zu denen er selbstständig antwortet, und verweisen Sie bei Beträgen, Verträgen und Beschwerden an einen Mitarbeiter.
Darf ein Chatbot Kundendaten speichern?
Nur was für den Zweck nötig ist, nicht länger als erforderlich und mit einer Rechtsgrundlage nach der DSGVO. Läuft der Chatbot bei einem externen Dienst, brauchen Sie einen Auftragsverarbeitungsvertrag und müssen Übermittlungen prüfen.
Quellen
- Artificialintelligenceact.eu — Article 50: Transparency obligations
- CBC — Air Canada found liable for chatbot’s bad advice on bereavement rates (2024)
- American Bar Association — BC Tribunal confirms companies remain liable for information provided by AI chatbot
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.