Reguladores criticam chatbots de IA no atendimento ao cliente

A falta de interação humana no atendimento ao cliente é considerada um dos maiores incômodos, de acordo com um estudo recente da Autoridade Holandesa para Consumidores e Mercados (ACM). Os chatbots às vezes fornecem "respostas ruins ou até mesmo incorretas". Isso muitas vezes faz com que as pessoas sejam atendidas sem que elas realmente sejam atendidas.

Linguagem de rua e piadas

Além disso, nem sempre fica claro se os consumidores estão interagindo com um chatbot ou com um funcionário real. Isso ocorre porque o computador às vezes usa piadas, erros, gírias e emojis para parecer mais humano. Os chatbots também são às vezes chamados de representantes de atendimento ao cliente, e as respostas são deliberadamente atrasadas, dando a falsa impressão de que uma pessoa real está digitando.

Depois que os consumidores se envolvem em uma conversa com um chatbot, nem sempre é possível falar com um humano depois.

As pessoas continuam importantes

"Continua sendo muito importante que o atendimento ao cliente seja organizado de forma que haja sempre uma pessoa disponível", diz Edwin van Houten, diretor de assuntos do consumidor da Autoridade Holandesa para Consumidores e Mercados (ACM), à RTL Z. Ele menciona dezenas de reclamações no "período recente".

"Usar IA é ótimo, chatbots podem funcionar muito bem para acessibilidade e para responder perguntas fáceis, mas, como organização, certifique-se sempre de que você seja representado por um ser humano", ele continua.

Os reguladores afirmam que as empresas são obrigadas, pela legislação do consumidor, a se comunicar de forma direta, eficaz e precisa com seus clientes. "Isso faz parte dos padrões de qualidade que você, como consumidor, pode esperar do atendimento ao cliente", acrescenta Van Houten.

Lei de Serviços Digitais

No entanto, sua organização e a Autoridade Holandesa de Proteção de Dados (AP) observam que essas regulamentações ainda não são suficientemente claras para todas as empresas. "Essa clareza já existe, graças ao Regulamento de Serviços Digitais (DSA) (Nota do editor), para os chamados 'serviços intermediários', como mídias sociais, marketplaces e plataformas online", segundo a ACM e a AP.

Essa regulamentação estabelece explicitamente que deve haver a opção de "escolher meios de comunicação diretos e eficientes que não dependam exclusivamente de ferramentas automatizadas". Tal adição não consta na legislação do consumidor e, segundo os reguladores, também deveria estar legalmente consagrada aqui.

Regras mais rígidas

Também é importante destacar que as regulamentações europeias se tornarão mais rigorosas no próximo ano. As empresas terão então que deixar claro, desde a primeira interação, que estão se comunicando por meio de um chatbot de IA.

No entanto, a ACM e a AP podem considerar as regras ainda mais rigorosas. Há também preocupações com a privacidade. "Chatbots são uma forma de IA generativa, que é treinada com grandes quantidades de informações e dados. Isso também pode incluir dados e documentos confidenciais."

"Isso poderia permitir — por exemplo, que agentes mal-intencionados — que o chatbot fornecesse mais informações do que o necessário para responder a perguntas 'normais' de clientes e roubasse essas informações confidenciais. Isso compromete a segurança dos dados e pode até levar a vazamentos de dados ", escreve a AP.

As pessoas nem sempre são melhores

A Autoridade Holandesa para Consumidores e Mercados (ACM) e a Autoridade Holandesa de Proteção de Dados (AP) estão em negociações com empresas. A Federação de Atendimento ao Cliente (KSF), que conta com diversas grandes empresas como membros, apoia o apelo e "está disposta a cooperar com os reguladores". A federação afirma que estão em andamento trabalhos para desenvolver diretrizes para o uso eticamente responsável da IA.

Não conseguir falar com um representante de atendimento ao cliente pode levar a alguns cenários bastante drásticos, como Mart observou:

A KSF não concorda com os reguladores em todos os pontos. Segundo a federação, mais regulamentações não levam automaticamente a um melhor atendimento ao cliente. "As regulamentações tendem a se tornar um fim em si mesmas", afirma Roel Masselink, diretor da KSF. "O que realmente ajuda é a transparência e a colaboração inteligente entre pessoas e tecnologia. O importante é saber se o cliente está sendo atendido adequadamente."

Melhor atendido pelo computador?

Ele ainda diz que o uso da tecnologia de IA no contato com o cliente é inevitável devido à redução da população trabalhadora, ao aumento da demanda dos clientes e ao aumento da pressão de custos.

Van Houten não está preocupado que a decisão da AP e do "seu" ACM seja superada pelo tempo. Afinal, pode-se argumentar que a IA está se tornando cada vez mais inteligente e aprimorada, o que significa que os computadores também podem atender melhor os clientes. Ele diz estar muito interessado no desenvolvimento de chatbots, mas que, atualmente, concluiu-se que eles ainda não são bons o suficiente. "E mesmo agora, o atendimento ao cliente precisa estar em ordem."