Les régulateurs critiquent les chatbots IA dans le service client

Le manque d'interaction humaine dans le service client est considéré comme l'un des plus grands désagréments, selon une étude récente de l'Autorité néerlandaise des consommateurs et des marchés (ACM). Les chatbots fournissent parfois des réponses médiocres, voire erronées. Il arrive donc souvent que des personnes soient contactées sans être réellement aidées.

Langage de la rue et blagues

De plus, il n'est pas toujours évident de savoir si les consommateurs interagissent avec un chatbot ou un véritable employé. En effet, l'ordinateur utilise parfois des blagues, des erreurs, de l'argot et des émojis pour paraître plus humain. Les chatbots sont aussi parfois appelés représentants du service client, et les réponses sont volontairement retardées, donnant la fausse impression qu'une personne est en train de taper.

Une fois que les consommateurs sont impliqués dans une conversation avec un chatbot, il n’est pas toujours possible de parler à un humain par la suite.

Les gens restent importants

« Il est primordial que le service client soit organisé de manière à ce qu'une personne soit toujours disponible », explique à RTL Z Edwin van Houten, directeur de la consommation à l'Autorité néerlandaise des consommateurs et des marchés (ACM). Il évoque des dizaines de plaintes ces dernières années.

« Utiliser l’IA est une bonne chose, les chatbots peuvent très bien fonctionner pour l’accessibilité et répondre à des questions faciles, mais en tant qu’organisation, assurez-vous toujours d’être représenté par un être humain », poursuit-il.

Les régulateurs affirment que, en vertu du droit de la consommation, les entreprises sont tenues de communiquer directement, efficacement et précisément avec leurs clients. « Cela fait partie des normes de qualité que vous, en tant que consommateur, êtes en droit d'attendre du service client », ajoute Van Houten.

Loi sur les services numériques

Cependant, son organisation et l'Autorité néerlandaise de protection des données (AP) constatent que cette réglementation n'est pas encore suffisamment claire pour toutes les entreprises. « Cette clarté existe déjà, grâce au Règlement sur les services numériques (DSA) (NDLR), pour les services dits intermédiaires tels que les réseaux sociaux, les places de marché et les plateformes en ligne », selon l'ACM et l'AP.

Ce règlement stipule explicitement qu'il doit être possible de « choisir des moyens de communication directs et efficaces qui ne reposent pas exclusivement sur des outils automatisés ». Cet ajout est absent du droit de la consommation et, selon les régulateurs, devrait également y être inscrit dans la loi.

Des règles plus strictes

Il est également à noter que la réglementation européenne deviendra plus stricte l'année prochaine. Les entreprises devront alors indiquer clairement, dès la première interaction, qu'elles communiquent via un chatbot IA.

Cependant, l'ACM et l'AP pourraient juger les règles encore plus strictes. Des inquiétudes existent également concernant la confidentialité. « Les chatbots sont une forme d'IA générative, entraînée avec de grandes quantités d'informations et de données. Cela peut également inclure des données et des documents confidentiels. »

« Cela pourrait permettre, par exemple à des acteurs malveillants, au chatbot de fournir plus d'informations que nécessaire pour répondre aux questions « habituelles » des clients et de voler ces informations confidentielles. Cela compromet la sécurité des données et pourrait même entraîner des fuites de données », écrit l'AP.

Les gens ne sont pas toujours meilleurs

L'Autorité néerlandaise des consommateurs et des marchés (ACM) et l'Autorité néerlandaise de protection des données (AP) sont en discussion avec des entreprises. La Fédération du service client (KSF), qui compte plusieurs grandes entreprises parmi ses membres, soutient cet appel et « est heureuse de coopérer avec les régulateurs ». Des travaux sont en cours pour élaborer des lignes directrices pour une utilisation éthiquement responsable de l'IA, indique la fédération .

Ne pas pouvoir joindre un représentant du service client peut conduire à des scénarios assez dramatiques, comme l'a noté Mart :

La KSF n'est pas d'accord avec les régulateurs sur tous les points. Selon elle, davantage de réglementations n'entraîne pas automatiquement un meilleur service client. « La réglementation tend à devenir une fin en soi », explique Roel Masselink, directeur de la KSF. « Ce qui est vraiment utile, c'est la transparence et une collaboration intelligente entre les personnes et la technologie. Il faut avant tout s'assurer que le client est bien servi. »

Mieux servi par ordinateur ?

Il ajoute que l’utilisation de la technologie de l’IA dans le contact avec les clients est inévitable en raison de la diminution de la population active, de la demande croissante des clients et de la pression croissante sur les coûts.

Van Houten ne craint pas que l'avis de l'AP et de « son » ACM soit dépassé par le temps. Après tout, on pourrait soutenir que l'IA devient de plus en plus intelligente et performante, ce qui signifie que les ordinateurs peuvent également mieux assister les clients. Il se dit très intéressé par le développement des chatbots, mais estime actuellement qu'ils ne sont pas encore assez performants. « Et même maintenant, le service client doit être amélioré. »