“Minha voz foi clonada com IA”: quando a tecnologia confunde a linha entre fato e ficção

Hoje, é possível criar um clone de voz em segundos, capaz de falar por você com uma precisão impressionante. Anthony Morel testou essa tecnologia no set: bastam alguns segundos de gravação para obter uma reprodução quase perfeita de sua voz.

“Como você pode ver, eu nunca disse essas palavras… É o meu clone de voz falando por mim”, explica Anthony Morel. O jornalista contratou uma startup francesa, a Silencesilence.ai , para gerar uma cópia digital da sua voz.

O princípio é simples: você fornece um pequeno clipe de som, às vezes dez segundos são suficientes. A inteligência artificial analisa o timbre, o espectro e a entonação para criar uma impressão vocal. Em seguida, basta digitar um texto no seu computador ou smartphone: a voz clonada o lê instantaneamente.

Soluções como Heygen, ElevenLabs e Chatterbox já permitem que o público em geral teste essa tecnologia. A renderização às vezes permanece um pouco robótica, principalmente ao reproduzir emoções ou sarcasmo, mas o progresso é impressionante.

Embora a demonstração possa parecer ridícula, o potencial é imenso. "O desafio é, acima de tudo, devolver a voz àqueles que a perderam", diz Anthony Morel. Mais de 500 milhões de pessoas em todo o mundo sofrem de um distúrbio de voz associado a uma doença neurológica ou afonia. Graças a uma amostra sonora, é possível restaurar a voz, pelo menos por meio de um teclado — antes, talvez, de controlá-la diretamente pelo pensamento, usando fones de ouvido ou implantes cerebrais.

As aplicações não param por aí:

• audiolivros lidos na voz de um pai ou ator famoso,
• aulas traduzidas instantaneamente para todos os idiomas com a voz do professor,
• figuras históricas que “voltam à vida” num museu ou parque de diversões,
• jogos de vídeo personalizados onde o herói fala com sua própria voz.

No entanto, essa inovação apresenta sérias preocupações com a segurança. "Imagine seus avós recebendo uma ligação do neto pedindo dinheiro... A voz é perfeita, eles reconhecem o timbre imediatamente", ilustra Anthony Morel.

Esses golpes, já conhecidos como "golpes do CEO" nas empresas, estão se tornando muito mais difíceis de detectar. Nesse tipo de fraude, o golpista imita a voz do chefe para solicitar uma transferência urgente de um funcionário.

Outro risco: a segurança dos dados. Um jornalista americano clonou a própria voz para... acessar sua própria conta bancária, protegida por identificação de voz. Isso levanta temores de um futuro em que a linha entre a verdade e a mentira se tornará cada vez mais tênue.

Especialistas concordam: dada a proliferação desses clones de voz, será necessário desenvolver ferramentas capazes de detectar automaticamente se uma voz foi gerada por IA. Enquanto isso, a vigilância continua essencial: nunca confie apenas na voz de um interlocutor.