Vídeos racistas feitos com Inteligência Artificial vistos por milhões no TikTok e YouTube

A ferramenta de geração de vídeos com Inteligência Artificial da Google Veo 3 foi usada para criar vídeos racistas que conseguiram milhões de visualizações no TikTok e no YouTube, denuncia a Media Matters. A organização de vigilância revela que os vídeos ostentam a marca d’água Veo no canto e que um deles recebeu mesmo 14,2 milhões de visualizações. Alguns utilizadores listam hashtags, legendas ou mesmo nomes de utilizador que pertencem ao Veo 3.

Os clipes de vídeo têm todos oito segundos ou são compostos por múltiplos clipes com apenas oito segundos, o que se alinha com o limite do gerador de vídeos Veo 3, explica o The Verge.

A solução da Google, lançada em maio, refere que “bloqueia pedidos nocivos e os resultados” e também a TikTok refere que nas suas regras que a plataforma “não recomenda conteúdo que contenham estereótipos negativos sobre uma pessoa ou grupo com atributos protegidos”. Assim sendo, não se percebe ainda como é que os vídeos foram, em primeiro lugar, gerados pela ferramenta da Google e, em segundo lugar, aprovados para estarem visíveis na plataforma chinesa.

A porta-voz da TikTok Ariane de Selliers revelou que “proactivamente aplicamos regras robustas contra discurso de ódio e comportamentos e removemos as contas identificadas no relatório, muitas das quais estavam já banidas antes da publicação do relatório”. A Google ainda não reagiu oficialmente ao relatório, mas sabe-se que vídeos semelhantes foram descobertos no YouTube e no Instagram.