Movimento global para proteger crianças online alimenta uma onda de tecnologia de segurança de IA

O movimento global de segurança online abriu caminho para uma série de produtos com inteligência artificial, projetados para manter as crianças longe de coisas potencialmente perigosas na internet.

No Reino Unido, uma nova legislação chamada Lei de Segurança Online impõe o dever de cuidado às empresas de tecnologia para proteger as crianças de materiais impróprios para a idade, discurso de ódio, bullying, fraude e material de abuso sexual infantil (CSAM). As empresas podem enfrentar multas de até 10% de sua receita anual global por violações.

Mais adiante, regulamentações históricas destinadas a manter as crianças mais seguras online estão tramitando rapidamente no Congresso dos EUA. Um projeto de lei, conhecido como Lei de Segurança Online para Crianças , tornaria as plataformas de mídia social responsáveis ​​por impedir que seus produtos prejudiquem crianças — semelhante à Lei de Segurança Online do Reino Unido.

Essa pressão dos reguladores está causando uma reconsideração crescente em diversas grandes empresas de tecnologia. O Pornhub e outros gigantes da pornografia online estão bloqueando o acesso de todos os usuários aos seus sites, a menos que passem por um sistema de verificação de idade.

Mas sites pornográficos não foram os únicos a tomar medidas para verificar a idade dos usuários. Spotify, Reddit e X implementaram sistemas de garantia de idade para evitar que crianças sejam expostas a materiais sexualmente explícitos ou inapropriados.

Tais medidas regulatórias foram recebidas com críticas pela indústria de tecnologia — principalmente devido às preocupações de que elas possam infringir a privacidade dos usuários da internet.

No centro de todas essas medidas de verificação de idade está uma empresa: Yoti.

A Yoti produz tecnologia que captura selfies e usa inteligência artificial para verificar a idade de alguém com base em suas características faciais. A empresa afirma que seu algoritmo de IA, treinado em milhões de rostos, consegue estimar a idade de jovens de 13 a 24 anos com precisão de dois anos.

A empresa já firmou parceria com os Correios do Reino Unido e espera capitalizar a iniciativa mais ampla de cartões de identificação digitais emitidos pelo governo no Reino Unido. A Yoti não está sozinha no mercado de software de verificação de identidade — outros players incluem Entrust, Persona e iProov. No entanto, a empresa tem sido a fornecedora mais proeminente de serviços de garantia de idade sob o novo regime do Reino Unido.

"Há uma corrida para que provedores de tecnologia e serviços de segurança infantil conquistem confiança", disse Pete Kenyon, sócio do escritório de advocacia Cripps, à CNBC. "Os novos requisitos, sem dúvida, criaram um novo mercado, e os provedores estão se esforçando para deixar sua marca."

No entanto, o surgimento de métodos de identificação digital também gerou preocupações sobre violações de privacidade e possíveis violações de dados.

"Problemas substanciais de privacidade surgem com o uso dessa tecnologia", disse Kenyon. "A confiança é fundamental e só será conquistada com o uso de procedimentos técnicos e de governança rigorosos e eficazes, adotados para manter os dados pessoais seguros."

Rani Govender, gerente de políticas de segurança infantil online na instituição de caridade britânica de proteção à criança NSPCC, disse que a tecnologia "já existe" para autenticar usuários sem comprometer sua privacidade.

"As empresas de tecnologia devem fazer escolhas éticas e deliberadas, escolhendo soluções que protejam as crianças de danos sem comprometer a privacidade dos usuários", disse ela à CNBC. "A melhor tecnologia não apenas preenche requisitos; ela constrói confiança."

A onda de novas tecnologias que estão surgindo para evitar que crianças sejam expostas a danos online não se limita apenas ao software.

No início deste mês, a fabricante finlandesa de celulares HMD Global lançou um novo smartphone chamado Fusion X1, que usa IA para impedir que crianças filmem ou compartilhem conteúdo nu ou visualizem imagens sexualmente explícitas na câmera, na tela e em todos os aplicativos.

O telefone usa tecnologia desenvolvida pela SafeToNet, uma empresa britânica de segurança cibernética focada na segurança infantil.

"Acreditamos que mais precisa ser feito nessa área", disse James Robinson, vice-presidente da vertical familiar da HMD, à CNBC. Ele ressaltou que a HMD criou o conceito para dispositivos infantis antes da Lei de Segurança Online entrar em vigor, mas observou que era "ótimo ver o governo tomando medidas mais drásticas".

O lançamento do telefone da HMD para crianças segue o forte impulso do movimento "sem smartphone" , que incentiva os pais a evitar que seus filhos tenham um smartphone.

No futuro, o governador da NSPCC diz que a segurança infantil se tornará uma prioridade significativa para gigantes digitais como Google e Meta.

As gigantes da tecnologia vêm sendo acusadas há anos de agravar a saúde mental de crianças e adolescentes devido ao aumento do bullying online e do vício em mídias sociais. Em contrapartida, elas argumentam que tomaram medidas para resolver esses problemas por meio de controles parentais mais rigorosos e recursos de privacidade mais rigorosos.

"Durante anos, as gigantes da tecnologia permaneceram impassíveis enquanto conteúdo nocivo e ilegal se espalhava por suas plataformas, deixando os jovens expostos e vulneráveis", disse ela à CNBC. "Essa era de negligência precisa acabar."