Novas regras da UE sobre grandes modelos de IA estão em andamento

Compartilhamento de informações, conformidade com direitos autorais e transparência: estas são as novas obrigações que as empresas que desenvolvem modelos de IA de uso geral (GPAI) terão que cumprir na Europa a partir de hoje. Um ano após a entrada em vigor da Lei de Inteligência Artificial , após as proibições de práticas de IA proibidas e a introdução de treinamento obrigatório , agora é a vez das regras para grandes modelos de IA.

O que é um GPAI?

Trata-se de modelos treinados com grandes quantidades de dados e capazes de executar uma ampla gama de tarefas, frequentemente integrados a outros sistemas de IA. Nas diretrizes do GPAI , a Comissão esclareceu que um algoritmo se enquadra nessa categoria se tiver sido treinado com recursos computacionais superiores a 10^23 FLOPs e for capaz de gerar linguagem (na forma de texto ou áudio), imagens ou vídeos a partir de texto.

O modelo também deve apresentar generalidade significativa e ser capaz de executar uma ampla gama de tarefas distintas com competência. Portanto, as GPAIs incluem modelos de linguagem treinados com o poder computacional indicado, e não aqueles projetados para jogar xadrez ou videogames, ou para melhorar a resolução de fotos.

Há também modelos de risco sistêmico, para os quais a Lei da IA prevê obrigações adicionais. Trata-se de algoritmos capazes de ter um impacto significativo no mercado europeu. Nesse caso, o limite a ser considerado é de 10^25 FLOPs, e a Comissão tem o poder de designá-los ex officio.

Obrigações de transparência

Em primeiro lugar, os fornecedores precisam ser mais transparentes. A Lei de IA exige que eles preparem e mantenham documentação técnica relacionada ao modelo, incluindo detalhes do processo de treinamento, que podem então fornecer às autoridades mediante solicitação.

As empresas também terão que fornecer informações e documentação aos fornecedores posteriores — aqueles que pretendem integrar um GPAI em um sistema de IA — para ajudá-los a entender as capacidades e limitações do modelo e cumprir com suas obrigações legais.

A Lei de IA lista as informações mínimas a serem coletadas. Além disso, o Código de Conduta do GPAI publicou um modelo padrão e fácil de usar para atender a esses requisitos.

Proteção de direitos autorais

A lei também exige que os provedores implementem políticas eficazes para cumprir a lei europeia de direitos autorais, usando tecnologias de ponta para detectar e aplicar reservas de direitos.

O Código de Conduta também lista uma série de soluções práticas para atender a essa nova obrigação.

Relatório de treinamento do modelo

As empresas de IA também devem publicar um resumo suficientemente detalhado do conteúdo usado para treinar o algoritmo. Para ajudar os provedores a cumprir, a Comissão publicou um modelo que as empresas podem usar como referência e que também permitirá que cidadãos e detentores de direitos autorais se informem e se protejam.

Regras em caso de risco sistémico

A partir de hoje, requisitos adicionais também devem ser atendidos para modelos com risco sistêmico. Os provedores devem realizar uma avaliação do modelo utilizando protocolos padronizados e ferramentas de ponta. Os potenciais riscos sistêmicos decorrentes desses modelos também devem ser avaliados e mitigados, e incidentes graves devem ser reportados às autoridades.

Essas empresas também são obrigadas a garantir proteção cibernética adequada, tanto para o modelo quanto para sua infraestrutura física, para evitar roubo, uso indevido ou consequências generalizadas resultantes de mau funcionamento.

O Código de Conduta dedica um capítulo inteiro aos modelos de IA com risco sistêmico, listando práticas concretas para gerenciar esses riscos.