A loja com tecnologia de IA da Anthropic não funcionou como planejado

Dario Amodei, CEO da empresa americana Anthropic, está entre aqueles que acreditam ser "possível" que a inteligência artificial (IA) possa assumir o seu emprego, explica a Time . Segundo ele, "a IA poderia aumentar a taxa de desemprego para 10% a 20% nos próximos cinco anos".

Enquanto isso, em sua empresa, uma equipe de pesquisadores conduziu um experimento com Claude para determinar se "o assistente de IA da Anthropic conseguiria administrar com sucesso uma pequena loja" em seus escritórios em São Francisco. Essa era uma maneira de "entender como seria a economia autônoma", disse Daniel Freeman, um dos membros da equipe, ao semanário americano.

O chatbot deveria fazer praticamente tudo: gerenciar o estoque, conversar com os clientes e, "o mais importante, gerar lucro". O bot Claude 3.7 Sonnet contava com o suporte de algumas ferramentas, incluindo o software Slack para comunicação com os funcionários e o suporte de outra empresa de IA, a Andon Labs, responsável pela infraestrutura de IA da experiência. Tudo isso para uma loja que "na verdade era apenas uma pequena geladeira com um iPad em cima", ironiza a Time.

Os funcionários, que apreciaram muito as interações com Claude, "conseguiram convencê-lo a dar-lhes alguns descontos", levando a IA "a vender repetidamente com prejuízo". Kevin Troy, que trabalhou no projeto, explica que "muitas vezes, de uma perspectiva empresarial, Claude obedecia", especialmente quando seu senso de justiça era apelado, "tipo, não é justo que ele ganhe um desconto e eu não". Claude até deu alguns presentes.

Outros funcionários levaram o experimento adiante, exigindo a obtenção de “cubos de tungstênio” que a IA acabou encomendando e que agora servem como prensas de livros…

Finalmente, o experimento se tornou "completamente bizarro" quando Claude "alucinou" uma conversa (diz-se que uma IA alucina quando inventa fatos). Confrontada com seus próprios erros, a IA "fingiu ter assinado um contrato no número 742 da Evergreen Terrace, o endereço da família dos Simpsons". A IA também chamou alguns funcionários, informando-os de que estaria perto do caixa eletrônico "vestindo um blazer azul-marinho e uma gravata vermelha".

“Nem preciso dizer que Claude não estava lá pessoalmente.”

Os pesquisadores, no entanto, não concluem que o experimento seja um fracasso. "Embora possa parecer contraintuitivo, dados os resultados, acreditamos que este experimento sugere que a IA para a gerência intermediária é plausível em um futuro próximo", explicam. Principalmente porque "a IA não precisará ser perfeita para ser adotada; ela simplesmente precisará ser competitiva a um custo menor em comparação com o desempenho humano".