Os ossos dela contam a história de Gaza, mas Grok acha que é o Iêmen: O chatbot de Musk é sinalizado por falsas alegações sobre foto de menina faminta - A IA pode ser confiável?

Uma imagem angustiante capturada em Gaza, mostrando uma menina gravemente desnutrida nos braços de sua mãe, se tornou o mais recente ponto crítico na batalha em curso sobre a verdade, a tecnologia e a guerra entre Israel e o Hamas. A foto, tirada em 2 de agosto de 2025 pelo fotojornalista da AFP Omar al-Qattaa, documenta a estrutura frágil e esquelética de Mariam Dawwas, de nove anos, em meio a crescentes temores de fome generalizada no enclave palestino sitiado. O bloqueio israelense à Faixa de Gaza cortou a ajuda humanitária essencial, levando mais de dois milhões de moradores à beira da fome. Mas quando os usuários recorreram ao chatbot de IA de Elon Musk, Grok, no X para verificar a imagem, a resposta foi surpreendentemente equivocada. Grok insistiu que a foto foi tirada no Iêmen em 2018, alegando que mostrava Amal Hussain, uma menina de sete anos cuja morte por inanição virou manchete global durante a guerra civil no Iêmen. Essa resposta não estava apenas incorreta — era perigosamente enganosa. Quando a IA se torna uma máquina de desinformação A identificação incorreta de Grok se espalhou rapidamente pela internet, semeando confusão e alimentando a dúvida. O parlamentar de esquerda francês Aymeric Caron, que compartilhou a imagem em solidariedade aos palestinos, foi rapidamente acusado de disseminar desinformação, embora a imagem fosse autêntica e atual. "Essa imagem é real, assim como o sofrimento que ela representa", disse Caron, refutando as acusações. A controvérsia destaca uma tendência profundamente perturbadora: à medida que mais usuários confiam em ferramentas de IA para verificar fatos de conteúdo, os erros da tecnologia não são apenas enganos — eles são catalisadores para desacreditar a verdade. Uma tragédia humana, enterrada sob erro algorítmico Mariam Dawwas, que já foi uma criança saudável, pesando 25 quilos antes do início da guerra em outubro de 2023, agora pesa apenas nove. "O único alimento que ela recebe é leite", disse sua mãe, Modallala, à AFP, "e mesmo isso nem sempre está disponível". Sua imagem se tornou um símbolo do agravamento da crise humanitária em Gaza. Mas o erro de Grok a reduziu a um ponto de dados no arquivo errado, uma alucinação de IA com consequências no mundo real. Mesmo após ser questionado, Grok inicialmente reforçou: "Eu não espalho notícias falsas; baseio minhas respostas em fontes verificadas". Embora o chatbot tenha eventualmente reconhecido o erro, ele repetiu a atribuição incorreta ao Iêmen no dia seguinte.