KI im Callcenter ist kein Pilotthema mehr. Drei Daten sind entscheidend – und eines davon gilt bereits seit August 2026.

KI im Callcenter ist längst kein Pilotthema mehr – und damit ist auch die Frage nicht mehr theoretisch, welche Regeln dafür gelten. Der AI Act wirkt nicht auf einen Schlag, sondern in Stufen. Für den Servicebetrieb sind drei Zeitpunkte relevant, und der wichtigste davon liegt bereits hinter uns.

Seit Februar 2025: Emotionserkennung bei Mitarbeitenden ist verboten

Seit dem 2. Februar 2025 gelten die Verbote des AI Act. Dazu gehört ausdrücklich das Ableiten von Emotionen am Arbeitsplatz. Ausgenommen sind ausschließlich medizinische Gründe und Gründe der Sicherheit.

Für den Betrieb heißt das konkret: Systeme, die während des Gesprächs die Stimmung, den Stress oder die Motivation der Agentinnen und Agenten bewerten, sind kein Graubereich mehr. Sie sind untersagt. Das betrifft auch Funktionen, die als Fürsorge verkauft werden – etwa eine Anzeige, die vor Überlastung warnen soll.

Die Analyse der Kundenseite ist rechtlich eine andere Frage und nicht pauschal verboten, bringt aber eigene Pflichten mit sich. Wer beides im selben System betreibt, sollte genau wissen, welche Auswertung auf wen zielt.

Seit August 2026: Menschen müssen wissen, dass sie mit KI sprechen

Die Transparenzpflichten gelten seit dem 2. August 2026. Wer mit einem KI-System interagiert, muss das erkennen können. Für Sprachbots und Chat bedeutet das: die Offenlegung gehört an den Anfang des Kontakts, nicht in eine Fußnote auf der Website.

In der Praxis ist das weniger eine juristische als eine gestalterische Aufgabe. Ein Satz wie „Sie sprechen mit einem automatischen Assistenten, ich verbinde Sie jederzeit weiter“ erfüllt die Pflicht und beantwortet gleichzeitig die Frage, die der Anrufer ohnehin stellen würde.

Verschoben auf Dezember 2027: die Hochrisiko-Pflichten

Die Anforderungen an Hochrisiko-Systeme nach Anhang III waren ursprünglich ebenfalls für August 2026 vorgesehen. Mit dem Digital Omnibus, der am 27. Juli 2026 in Kraft getreten ist, wurden sie auf den 2. Dezember 2027 verschoben; für KI, die in Produkte eingebettet ist, auf den 2. August 2028. Grund war, dass die harmonisierten Normen nicht rechtzeitig vorlagen.

Mehr Zeit ist aber nicht dasselbe wie kein Handlungsbedarf. Dokumentation, menschliche Aufsicht und Protokollierung lassen sich nicht kurz vor dem Stichtag nachrüsten – sie entstehen mit dem System oder gar nicht.

Was das für den Servicebetrieb praktisch heißt

Der erste Schritt ist keine Rechtsfrage, sondern eine Bestandsaufnahme: An welchen Stellen berührt KI tatsächlich ein Kundengespräch? Häufig sind es mehr Stellen als erwartet – Routing, Zusammenfassung, Vorschlagstexte, Qualitätsbewertung, Wissenssuche.

Für jede dieser Stellen sind drei Fragen zu klären: Wer ist betroffen, Kunde oder Mitarbeitender? Wird das Ergebnis dem Menschen nur vorgeschlagen oder ersetzt es seine Entscheidung? Und gibt es einen Weg zurück zum Menschen, der nicht erst gesucht werden muss?

Diese Übersicht ist auch dann nützlich, wenn keine Frist drängt. Sie zeigt in der Regel zuerst, wo KI eingesetzt wird, ohne dass jemand den Nutzen je gemessen hat.

Kein reines Rechtsthema

Die Offenlegungspflicht verändert die Gesprächsführung, das Verbot der Emotionserkennung verändert die Qualitätssteuerung. Beides landet am Ende in der Prozessbeschreibung und im Coaching, nicht nur in einer Akte.

Dieser Beitrag beschreibt den Stand aus Sicht des Servicebetriebs und ersetzt keine Rechtsberatung. Die Fristen des AI Act wurden bereits einmal angepasst – vor größeren Investitionen lohnt der Blick auf den aktuellen Stand.