KI-Governance im Kundenservice: Wie man KI steuert, ohne das Kundenerlebnis zu beeinträchtigen

Seit dem 2. August 2026 muss ein Kunde, der mit Ihrem Konversationsassistenten interagiert, darüber informiert werden, dass er mit einer Maschine spricht. Dies ist eine europäische Vorgabe, deren Nichteinhaltung sanktioniert wird.

‍

Doch Transparenz ist nur die sichtbare Seite der Medaille: Die eigentliche Frage für Verantwortliche im Kundenservice lautet: Wie weit darf KI bei einem Kundenanliegen agieren, auf welche Daten darf sie zugreifen und unter welcher Kontrolle steht sie?. Genau das umfasst die KI-Governance im Kundenservice.

KI-Governance im Kundenservice: Was bedeutet das genau?

Eine operative Definition

KI-Governance im Kundenservice bezieht sich auf alle Regeln, Berechtigungen, Kontrollen und Verantwortlichkeiten, die den Einsatz künstlicher Intelligenz in der Kundenbeziehung steuern. Sie beantwortet vier einfache Fragen: Was darf die KI tun, auf welche Daten darf sie zugreifen, unter welcher menschlichen Aufsicht steht sie und wer trägt die Verantwortung, wenn etwas schiefgeht?

Dies ist keine Compliance-Übung, die losgelöst vom Tagesgeschäft stattfindet. Ist sie schlecht kalibriert, schränkt sie risikoarme Anwendungsfälle unnötig ein. Fehlt sie, kann ein KI-Agent dem Unternehmen ungewollt kommerzielle Zugeständnisse abverlangen oder falsche Informationen verbreiten.

Vom Chatbot über den Copiloten zum KI-Agenten: Vier Stufen der Autonomie

Jeden KI-Anwendungsfall gleich zu behandeln, ist der häufigste Fehler. Ein Assistent, der ein Ticket zusammenfasst, und ein Agent, der eine Rückerstattung auslösen kann, haben kein identisches Risikoprofil:

‍

• Der skriptbasierte Bot und Voicebot folgen einer vordefinierten Journey.
• Der Advisor Copilot schlägt eine Antwort, Zusammenfassung oder Übersetzung vor, ohne diese selbst zu versenden;
• Generative KI mit Anbindung an eine Wissensdatenbank (RAG) erstellt eine Antwort auf Basis Ihrer Inhalte, wodurch das Risiko auf die Qualität und Aktualität der Quellen verlagert wird;
• Der KI-Agent nutzt Tools, fragt Systeme ab oder bearbeitet Vorgänge und erhält so die echte Befugnis zum Handeln.

‍

Der Übergang von Text zu Aktion verändert die Art des Problems. Eine ungenaue Antwort lässt sich korrigieren; eine unbefugte Aktion hinterlässt jedoch Spuren in Ihren Systemen und bei Ihren Kunden.

Welche Risiken birgt KI in der Kundenbetreuung?

‍

• Eine falsche, veraltete oder erfundene Antwort an den Kunden;
• Fehlerhafte Anwendung einer Geschäftsrichtlinie oder Garantiebedingung;
• Offenlegung personenbezogener Daten gegenüber einem unbefugten System oder Dritten;
• Ungleichbehandlung verschiedener Kundenprofile;
• Fehlerhafter Umgang mit einem schutzbedürftigen Kunden oder einer sensiblen Situation;
• Eine unbefugte Aktion, die an einem Fall oder Konto durchgeführt wurde;
• Unfähigkeit, im Nachhinein nachzuvollziehen, wie eine Antwort zustande kam;
• Rechtliche Risiken, Reputationsrisiken und Verwaltungssanktionen.

KI-Governance im Kundenservice: Was der AI Act und die DSGVO seit August 2026 fordern

Seit dem 2. August 2026 muss sich Ihr Assistent zu erkennen geben.

Artikel 50 der Verordnung (EU) 2024/1689 legt Transparenzpflichten für KI-Systeme fest, die direkt mit Menschen interagieren. Diese Verpflichtungen gelten seit dem 2. August 2026, zwei Jahre nach Inkrafttreten der Verordnung. In der Praxis bedeutet dies: Eine Person, die mit einem Chatbot, Sprachassistenten oder Konversations-Agenten interagiert, muss darüber informiert werden, dass sie es mit einer KI zu tun hat, es sei denn, dies ist offensichtlich, und diese Information muss spätestens zum Zeitpunkt der ersten Interaktion erfolgen.

Verstöße gegen Artikel 50 fallen unter die Sanktionsstufe gemäß Artikel 99 des AI Act: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Eine separate, höhere Obergrenze bleibt den verbotenen Praktiken gemäß Artikel 5 vorbehalten; diese beiden Stufen sollten nicht verwechselt werden.

‍

KI-Governance und DSGVO-Anforderungen für Kundendaten in Einklang bringen

Der AI Act ersetzt die DSGVO nicht: beide gelten gleichzeitig, sobald das System personenbezogene Daten verarbeitet. Die CNIL hat Empfehlungen zur Anwendung der DSGVO auf KI-Systeme veröffentlicht, die Unternehmen insbesondere daran erinnern, dass sie ihre Rolle (Verantwortlicher, gemeinsam Verantwortlicher oder Auftragsverarbeiter) festlegen müssen, bevor sie weitere Entscheidungen treffen.

‍

Zu definierende Punkte für den Kundenservice:

• der genaue Zweck jedes KI-Anwendungsfalls und die zugehörige Rechtsgrundlage;
• Minimierung der Daten, die an das Modell übermittelt werden;
• Information der betroffenen Personen und Ausübung ihrer Rechte;
• vertraglicher Rahmen für den KI-Anbieter und etwaige Unterauftragsverarbeiter;
• Aufbewahrungsfristen für Konversationen, Prompts und Protokolle;
• eine Folgenabschätzung sofern der Kontext dies erfordert.

‍

Ein oft übersehener Punkt: Der Hinweis, dass es sich bei einem Assistenten um eine KI handelt, entbindet nicht von der Pflicht, den Kunden über die Verarbeitung seiner personenbezogenen Daten zu informieren. Dies sind zwei getrennte Verpflichtungen.

‍

‍

KI-Governance im Kundenservice: Berechtigungen für Ihre KI-Agenten festlegen

Dies ist der Kern des Problems und der Teil, den die meisten allgemeinen Governance-Frameworks nur unzureichend abdecken, da sie in abstrakten Risikokategorien statt in kundenbezogenen Anwendungsfällen denken.

Beobachten, vorschlagen, nach Freigabe handeln und innerhalb von Grenzen autonom agieren

Statt einer pauschalen Autorisierung sollten Sie abgestufte Berechtigungsebenen verwenden:

• Beobachten: Die KI liest, analysiert, klassifiziert oder fasst zusammen, ohne Inhalte für den Kunden zu erstellen;
• Vorschlagen: Die KI schlägt einem Berater eine Antwort oder Aktion vor, wobei dieser die Entscheidungsgewalt behält;
• Handeln nach Freigabe: Die KI bereitet einen Vorgang vor, der vor der Ausführung von einem Menschen freigegeben werden muss;
• Innerhalb eines autorisierten Rahmens handeln: Die KI handelt eigenständig, jedoch nur bei gelisteten, begrenzten und protokollierten Aktionen.

Situationen, die immer einen Menschen erfordern

‍

• Finanzielle Verpflichtungen: Rückerstattung, Gutschrift, Entschädigung, Preisausnahme;
• Ausnahme von einer geschäftlichen oder vertraglichen Richtlinie;
• Rechtliche Beschwerde oder Haftungsanspruch;
• Meldungen bezüglich Gesundheit, Sicherheit oder schutzbedürftiger Kunden;
• Sicherheitsvorfall oder Betrugsverdacht;
• Unsichere, widersprüchliche oder fehlende Informationen in der Wissensdatenbank;
• Ein Kunde, der ausdrücklich darum bittet, mit einem Menschen zu sprechen.

‍

Diese letzte Situation sollte als absolute Regel und nicht als Ausweichoption behandelt werden. Eine Eskalation zu verweigern oder sie unnötig zu erschweren, schadet der Kundenzufriedenheit weitaus mehr als eine unvollkommene Antwort.

Daten und Wissensdatenbank: Das Fundament der KI-Governance

KI-Zugriff auf das absolut Notwendige beschränken

Der natürliche Instinkt ist es, dem Modell „für alle Fälle“ den größtmöglichen Zugriff zu gewähren. Das ist genau das Gegenteil von dem, was getan werden sollte. Ein Routing-Assistent benötigt keine Zahlungsinformationen; ein Antwort-Copilot braucht keine vollständige medizinische oder finanzielle Historie.

‍

Erforderliche Kontrollmechanismen: Zugriffskontrolle nach Rollen und Aufgaben, Maskierung oder Pseudonymisierung sensibler Felder, strikte Trennung zwischen notwendigen und lediglich verfügbaren Daten sowie Aufbewahrungsfristen für Konversationen, Prompts und Protokolle.

Die Wissensdatenbank steuern, die Antworten speist

Bei einem RAG-System hängt die Qualität der Antworten in erster Linie von der Qualität der Quellen ab. Checkliste vor der Anbindung einer Quelle an die KI:

‍

• Dokumentenherkunft und benannter Verantwortlicher;
• Datum der letzten Aktualisierung und Aktualisierungsfrequenz;
• Verbreitungsumfang (intern, öffentlich, auf bestimmte Teams beschränkt);
• Versionsverwaltung und effektives Löschen veralteter Inhalte;
• Die Fähigkeit des Systems, die Quelle zu nennen, die die Antwort generiert hat;
• Regelmäßige Überprüfung von System-Prompts und Tonalitätsrichtlinien;
• Ein Notfallverfahren zur Entfernung fehlerhafter Inhalte.

‍

Eine unkontrollierte Wissensdatenbank liefert mit absoluter Sicherheit falsche Antworten. Sie ist die Hauptursache für Produktionsvorfälle, noch vor Problemen, die direkt mit dem Modell zusammenhängen.

Wie Sie die Governance für KI im Kundenservice langfristig etablieren

Die 6-Schritte-Methode

‍

1. Erfassen Sie alle Ihre KI-Anwendungsfälle, einschließlich der KI-Funktionen, die in Ihre bestehenden SaaS-Tools integriert sind. Oft werden hierbei drei oder vier bisher nicht deklarierte Systeme entdeckt.
2. ‍Dokumentieren Sie jeden Anwendungsfall: Zweck, betroffener Kanal, verwendete Daten, Grad der Autonomie und potenzielle Auswirkungen auf den Kunden.
3. Weisen Sie eine Berechtigungsstufe zu für jeden Anwendungsfall nach der Logik: beobachten / vorschlagen / mit Genehmigung handeln / innerhalb eines autorisierten Rahmens handeln.
4. Bestimmen Sie für jeden Anwendungsfall einen Verantwortlichenund formalisieren Sie die Verantwortlichkeitsmatrix sowie das Verfahren für Vorfälle.
5. Sorgen Sie für die Compliance Ihrer Schnittstellen: KI-Hinweis auf jedem Kanal, Informationen zur Datenverarbeitung sowie ein sichtbarer und funktionaler Eskalationspfad zu einem menschlichen Mitarbeiter.
6. Monitoring implementieren bevor Sie das System für die Öffentlichkeit freigeben, und erweitern Sie den Umfang schrittweise statt alles auf einmal.

Parallel zu verfolgende Indikatoren

Kundenseite: Lösungsquote beim ersten Kontakt, Erstantwortzeit, Eskalationsrate an einen Berater, Zufriedenheit nach einer automatisierten Interaktion und Rate der wiederholten Kontaktaufnahmen.

‍

Governance- und Risikoseite: Anteil der von Beratern korrigierten KI-Vorschläge, Antworten ohne Quellenbezug, durch Sicherheitsmechanismen blockierte Aktionen, erteilte Ausnahmen, durchschnittliche Aktualität der Wissensdatenbank sowie gemeldete Vorfälle und deren Wiederholungsrate.

Kontrollen mit zunehmender Autonomie der Agenten weiterentwickeln

Das Leitprinzip ist einfach: je mehr Autonomie, Datenzugriff und Handlungsvollmacht ein KI-Agent erhält, desto strenger müssen Berechtigungen, Genehmigungsprozesse und Prüfpfade gestaltet sein. Eine Governance, die bei zunehmender Autonomie unverändert bleibt, ist reine Fiktion. Planen Sie eine Überprüfung immer dann ein, wenn der Anwendungsbereich erweitert wird, nicht zu einem festen Datum.

‍

‍

Wie Alcmeon die KI-Governance für Ihren Kundenservice unterstützt

‍

Alcmeon ist die Conversational-Plattform, die von führenden französischen und europäischen B2C-Marken genutzt wird, darunter SNCF Connect, Carrefour, Fnac, Darty und Le Bon Marché, um Kundeninteraktionen in großem Maßstab zu verwalten. Governance ist keine nachträglich hinzugefügte Ebene: Sie ist fest in die Gestaltung der Customer Journeys integriert.

‍

Automatisierung und Übergabe an Mitarbeiter gezielt steuern

‍

Ein visueller Journey-Editor ermöglicht es Ihnen, kanalgenau festzulegen, was automatisiert wird, was dem Berater vorgeschlagen wird und was systematisch eine Übergabe an einen menschlichen Mitarbeiter auslöst. Die KI-Funktionen von Alcmeon umfassen Antwortvorschläge, Gesprächszusammenfassungen und Übersetzungen, wobei der Berater stets die letzte Entscheidung trifft.

Kontrolle über Daten, Kontext und Überwachungsumfang

Die Plattform anonymisiert sensible Daten, bevor sie an KI-Engines gesendet werden, und setzt auf souveränes Hosting in Frankreich und der Europäischen Union – ein entscheidendes Kriterium für Großunternehmen und öffentliche Dienste.

‍

Native CRM connectors make it possible to expose to AI only the information needed to handle the request. Die zentrale Beraterkonsole bündelt schließlich mehr als fünfzehn Kanäle: Eine KI-Governance ist unmöglich aufrechtzuerhalten, wenn Konversationen über verschiedene Tools verstreut bleiben, wie in unserem Leitfaden zur Zentralisierung von Kundenkonversationenerläutert.

‍

Fordern Sie eine Alcmeon-Demo an und erfahren Sie, wie Sie die Autonomie Ihrer KI-Agenten definieren, ohne Ihre Teams auszubremsen.