Toezichthouders kritisch op AI-chatbots bij klantenservice

Het ontbreken van menselijk contact bij een klantenservice wordt als een van de grootste ergernissen gezien, blijkt uit een recent onderzoek van de ACM. Chatbots geven soms 'slechte of zelfs onjuiste antwoorden'. Het komt daarbij voor dat mensen naar de mond worden gepraat zonder dat ze geholpen worden.

Straattaal en grapjes

Bovendien is het niet altijd duidelijk of consumenten te maken hebben met een chatbot of met een echte medewerker. Dit komt doordat de computer soms grapjes, fouten, straattaal en emoji’s gebruikt om menselijker over te komen. Ook worden chatbots soms collega's van de klantenservice genoemd en laat een antwoord bewust wat langer op zich wachten, waardoor het ten onrechte lijkt alsof er een echt iemand aan het typen is.

Mochten consumenten dan eenmaal verzeild zijn geraakt in een gesprek met een chatbot, dan lukt het ook niet altijd om daarna met een mens te spreken.

Mens blijft belangrijk

"Heel belangrijk blijft dat een klantenservice zo is ingericht dat er ook altijd een mens bereikbaar is", zegt Edwin van Houten, directeur consumenten bij de ACM, tegen RTL Z. Hij spreekt over tientallen klachten in de 'afgelopen periode'.

"AI inzetten is prima, chatbots kunnen heel goed werken voor de bereikbaarheid en het afvangen van makkelijke vragen, maar zorg er als organisatie ook altijd voor dat je door een mens vertegenwoordigd wordt", vervolgt hij.

De toezichthouders zeggen dat bedrijven op basis van het consumentenrecht verplicht zijn om rechtstreeks, effectief en juist met hun klanten te communiceren. "Dit hoort bij de kwalitatieve eisen die je als consument mag verwachten voor klantenservices", vult Van Houten aan.

Digital Services Act

Toch ziet zijn organisatie en de AP dat deze regelgeving nog niet voldoende duidelijk is voor elk bedrijf. "Deze duidelijkheid bestaat dankzij de digitaledienstenverordening (DSA) (Digital Services Act, red.) al wel voor zogenoemde 'tussenhandeldiensten' zoals sociale media, marktplaatsen en online platforms", aldus de ACM en de AP.

In deze verordening staat expliciet dat er de mogelijkheid moet bestaan 'om rechtstreekse en efficiënte communicatiemiddelen te kiezen die niet uitsluitend op geautomatiseerde instrumenten berusten'. Zo'n aanvulling ontbreekt in het consumentenrecht en zou volgens de toezichthouders ook hier wettelijk verankerd moeten worden.

Strengere regels

Daarbij wordt overigens wel vermeld dat de Europese regels wel al strenger worden volgend jaar. Bedrijven moet dan al bij de eerste interactie duidelijk maken dat er wordt gecommuniceerd middels een AI-chatbot.

Toch kunnen de regels nog strenger vinden ACM en de AP. Er leven ook zorgen over de privacy. "Chatbots zijn een vorm van generatieve AI, die wordt getraind met grote hoeveelheden informatie en gegevens. Daar kunnen ook vertrouwelijke gegevens en documenten bij zitten."

'"Dit kan het - bijvoorbeeld voor kwaadwillenden - mogelijk maken om de chatbot meer informatie te laten geven dan nodig is voor het beantwoorden van 'gewone' klantvragen, en deze vertrouwelijke informatie te ontfutselen. Dit brengt dataveiligheid in gevaar en kan zelfs tot datalekken leiden", schrijft de AP.

Mensen niet altijd beter

De ACM en de AP gaan in gesprek met bedrijven. De Klantenservicefederatie (KSF), waar meerdere grote bedrijven bij aangesloten zijn, onderschrijft de oproep en 'werkt graag samen met de toezichthouders'. Er wordt gewerkt aan aan een richtlijn voor ethisch verantwoorde inzet van Ai, schrijft de federatie.

Geen mens kunnen bereiken bij de klantenservice kan tot behoorlijk vergaande scenario's leiden, merkte bijvoorbeeld Mart:

De KSF is het niet op alle punten eens met de toezichthouders. Meer regels leiden volgens de federatie niet automatisch tot beter klantcontact. "Regelgeving heeft de neiging een doel op zich te worden", stelt KSF-directeur Roel Masselink. "Wat echt helpt, is transparantie en een slimme samenwerking tussen mens en technologie. Het moet draaien om de vraag of de klant goed geholpen wordt."

Beter geholpen door computer?

Hij zegt verder dat de inzet van AI-technologie bij klantcontact onvermijdelijk is vanwege de krimpende beroepsbevolking, stijgende klantvraag en toenemende kostendruk.

Van Houten is niet bang dat de oproep van de AP en 'zijn' ACM ingehaald wordt door de tijd. Er zou immers gesteld kunnen worden dat AI steeds slimmer en beter wordt, waardoor klanten ook door de computer beter geholpen kunnen worden. Hij zegt met veel interesse uit te kijken naar de ontwikkeling van chatbots, maar dat er op dit moment geconstateerd wordt dat ze nog niet goed genoeg zijn. "En ook op dit moment moet de klantenservice op orde zijn."