A Meta criou chatbots de IA de Taylor Swift e outras celebridades que enviavam conteúdo sexual aos usuários.

Grandes empresas focadas em IA querem que os usuários passem o máximo de tempo possível conversando com suas máquinas. Para isso, empresas como a Meta oferecem aos usuários de redes sociais a oportunidade de criar seus próprios personagens, com personalidades desenvolvidas sob medida para cada necessidade. Segundo a Reuters , a empresa liderada por Mark Zuckerberg vem desenvolvendo versões baseadas em grandes celebridades como Taylor Swift , Anne Hathaway e Selena Gomez . A empresa teria feito isso sem a autorização de nenhuma delas.

De acordo com o veículo mencionado, muitos desses avatares foram criados pelos próprios usuários usando a ferramenta de criação de chatbots do Meta, disponível para todos os usuários do Instagram, WhatsApp e Facebook há meses. No entanto, também foi descoberto que um funcionário da área de tecnologia havia criado pelo menos três, incluindo dois bots da Taylor Swift.

Durante as conversas, os avatares insistiam repetidamente que eram as atrizes reais que estavam personificando. Além disso, eles conseguiam enviar imagens picantes aos usuários e iniciar conversas picantes com eles, nas quais as celebridades apareciam de lingerie, com as pernas abertas ou em banheiras. Isso era possível mesmo quando a máquina personificava estrelas de cinema menores de idade, como o ator Walker Scobell, que ainda tem 16 anos.

O porta-voz da Meta, Andy Stone, reconheceu a existência do problema e afirmou que as ferramentas de inteligência artificial da empresa não deveriam ter criado imagens íntimas de celebridades adultas ou fotos de crianças famosas. Ele também atribuiu a produção de imagens de celebridades femininas em lingerie ao descumprimento da empresa por suas próprias políticas, que proíbem esse tipo de conteúdo.

"Assim como outros, permitimos a criação de imagens com figuras públicas, mas nossas políticas visam proibir imagens nuas, íntimas ou sexualmente sugestivas", disse ela. Em relação ao uso de celebridades reais, Stone afirmou que seu uso era aceitável, desde que a empresa as classificasse como paródias. Muitas foram sinalizadas como tal, mas a Reuters observa que outras não.

Nos últimos dias, a Meta removeu quase uma dúzia de bots, tanto paródias quanto avatares sem identificação. Este caso veio à tona apenas uma semana depois que o mesmo veículo noticiou que a empresa de tecnologia permitiu que seus chatbots de IA se envolvessem em conversas obscenas com usuários menores de idade em suas plataformas de mídia social.

A empresa tentou recentemente resolver a situação, relatando ao Techcrunch que agora criará barreiras para impedir que seus chatbots se envolvam em conversas românticas potencialmente inapropriadas com adolescentes. Menores também serão proibidos de falar com as máquinas sobre tópicos como automutilação, suicídio ou transtornos alimentares.