Regulierungsbehörden stehen KI-Chatbots im Kundenservice kritisch gegenüber

Der Mangel an menschlicher Interaktion im Kundenservice gilt laut einer aktuellen Studie der niederländischen Verbraucher- und Marktbehörde (ACM) als eines der größten Ärgernisse. Chatbots lieferten teilweise „schlechte oder sogar falsche Antworten“. Dies führe häufig dazu, dass Menschen angesprochen würden, ohne ihnen tatsächlich weiterzuhelfen.

Straßensprache und Witze

Darüber hinaus ist nicht immer klar, ob Verbraucher mit einem Chatbot oder einem echten Mitarbeiter interagieren. Dies liegt daran, dass der Computer manchmal Witze, Fehler, Slang und Emojis verwendet, um menschlicher zu wirken. Chatbots werden manchmal auch als Kundendienstmitarbeiter bezeichnet und reagieren absichtlich verzögert, wodurch der falsche Eindruck entsteht, dass eine echte Person tippt.

Wenn Verbraucher einmal in ein Gespräch mit einem Chatbot verwickelt sind, ist es nicht immer möglich, anschließend mit einem Menschen zu sprechen.

Der Mensch bleibt wichtig

„Es ist weiterhin sehr wichtig, dass der Kundendienst so organisiert ist, dass immer jemand erreichbar ist“, sagt Edwin van Houten, Direktor für Verbraucherangelegenheiten bei der niederländischen Verbraucher- und Marktbehörde (ACM), gegenüber RTL Z. Er erwähnt Dutzende von Beschwerden in der „jüngsten Zeit“.

„Der Einsatz von KI ist in Ordnung, Chatbots können sehr gut für die Zugänglichkeit und die Beantwortung einfacher Fragen geeignet sein, aber als Organisation müssen Sie immer sicherstellen, dass Sie von einem Menschen vertreten werden“, fährt er fort.

Die Regulierungsbehörden erklären, dass Unternehmen nach dem Verbraucherschutzgesetz verpflichtet seien, direkt, effektiv und präzise mit ihren Kunden zu kommunizieren. „Das gehört zu den Qualitätsstandards, die Sie als Verbraucher vom Kundenservice erwarten können“, fügt Van Houten hinzu.

Gesetz über digitale Dienste

Seine Organisation und die niederländische Datenschutzbehörde (AP) stellen jedoch fest, dass diese Regelungen noch nicht für jedes Unternehmen ausreichend klar sind. „Diese Klarheit besteht dank der Digital Services Regulation (DSA) (Anmerkung der Redaktion) bereits für sogenannte ‚Vermittlungsdienste‘ wie soziale Medien, Marktplätze und Online-Plattformen“, so ACM und AP.

In dieser Regelung heißt es ausdrücklich, dass die Möglichkeit bestehen muss, „direkte und effiziente Kommunikationsmittel zu wählen, die nicht ausschließlich auf automatisierte Tools angewiesen sind“. Ein solcher Zusatz fehlt im Verbraucherrecht und sollte nach Ansicht der Regulierungsbehörden auch hier gesetzlich verankert werden.

Strengere Regeln

Zudem wird darauf hingewiesen, dass die europäischen Vorschriften im nächsten Jahr strenger werden. Unternehmen müssen dann bereits bei der ersten Interaktion deutlich machen, dass sie über einen KI-Chatbot kommunizieren.

Allerdings könnten ACM und AP die Regeln noch strenger finden. Auch hinsichtlich des Datenschutzes gebe es Bedenken. „Chatbots sind eine Form generativer KI, die mit großen Mengen an Informationen und Daten trainiert wird. Dazu können auch vertrauliche Daten und Dokumente gehören.“

„Dies könnte es beispielsweise böswilligen Akteuren ermöglichen, dass der Chatbot mehr Informationen preisgibt, als nötig sind, um ‚normale‘ Kundenfragen zu beantworten, und diese vertraulichen Informationen stiehlt. Dies gefährdet die Datensicherheit und könnte sogar zu Datenlecks führen“, schreibt die AP.

Die Menschen sind nicht immer besser

Die niederländische Verbraucher- und Marktaufsichtsbehörde (ACM) und die niederländische Datenschutzbehörde (AP) führen derzeit Gespräche mit Unternehmen. Der Kundenserviceverband (KSF), dem mehrere große Unternehmen angehören, unterstützt die Forderung und „arbeitet gerne mit den Regulierungsbehörden zusammen“. Man arbeite an der Entwicklung von Richtlinien für den ethisch verantwortungsvollen Einsatz von KI, schreibt der Verband .

Wenn man keinen Kundendienstmitarbeiter erreichen kann, kann das zu ziemlich drastischen Szenarien führen, wie Mart bemerkte:

Die KSF ist nicht in allen Punkten einer Meinung mit den Regulierungsbehörden. Mehr Regulierung führe nicht automatisch zu einem besseren Kundenservice, so der Verband. „Regulierungen tendieren dazu, zum Selbstzweck zu werden“, sagt KSF-Direktor Roel Masselink. „Was wirklich hilft, ist Transparenz und eine intelligente Zusammenarbeit zwischen Mensch und Technologie. Es sollte darum gehen, ob der Kunde angemessen bedient wird.“

Besser mit dem Computer bedient?

Er sagt weiter, dass der Einsatz von KI-Technologie im Kundenkontakt aufgrund der schrumpfenden Erwerbsbevölkerung, der steigenden Kundennachfrage und des zunehmenden Kostendrucks unumgänglich sei.

Van Houten befürchtet nicht, dass die Aussage von AP und „seinem“ ACM von der Zeit überholt wird. Schließlich könne man argumentieren, dass KI immer intelligenter und besser werde, was bedeute, dass Computer auch Kunden besser unterstützen könnten. Er sagt, er sei sehr an der Entwicklung von Chatbots interessiert, aber man sei derzeit zu dem Schluss gekommen, dass diese noch nicht gut genug seien. „Und selbst jetzt muss der Kundenservice stimmen.“