A medida foi aprovada na sessão plenária do PE, em Estrasburgo, com 423 votos a favor, 57 contra e 174 abstenções, e visa alterar certas regras atualmente em vigor no âmbito da legislação europeia em matéria de IA.

O PE afirmou que, caso receba o «visto favorável» definitivo do Conselho da UE, a lei proibirá «sistemas de IA que gerem material de abuso sexual infantil ou que criem imagens, vídeos e áudios que retratem partes íntimas de uma pessoa identificável, ou atividades sexualmente explícitas, sem o seu consentimento», de acordo com um comunicado.

«Os fornecedores não poderão colocar estes sistemas no mercado da UE, a menos que disponham de salvaguardas técnicas adequadas para impedir a criação deste material. A proibição aplica-se também aos utilizadores que recorram a estes sistemas para estes fins», indicou o PE.

A instituição acrescentou que as empresas têm agora até 2 de dezembro para atualizar os seus sistemas e garantir que cumprem estas novas regras relativas a imagens de caráter sexual.

Esta proposta já tinha sido acordada pelo PE e pelo Conselho da UE, que representa os governos dos 27 Estados-Membros.

No entanto, para entrar em vigor, a medida terá de ser formalmente adotada pelo Conselho da UE.

A proposta surgiu depois de a Comissão Europeia ter decidido, em janeiro, abrir uma investigação sobre o Grok, uma ferramenta de IA da rede social X, por divulgar imagens sexualmente explícitas, incluindo conteúdos que poderiam constituir abuso sexual infantil.

De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) e do jornal americano The New York Times, em janeiro, o Grok terá inundado essa rede com aproximadamente três milhões de imagens sexualizadas ao longo de 11 dias, incluindo 23 000 de crianças e 1,8 milhões de mulheres.

Para além da proibição de sistemas de IA que geram imagens sexualmente explícitas, esta alteração à legislação europeia inclui também medidas para simplificar o quadro regulamentar atualmente aplicado à IA.

Assim, a proposta prevê agora a possibilidade, tanto em sistemas de IA de uso geral como de alto risco, «de tratar dados pessoais sempre que estritamente necessário para detetar e corrigir preconceitos, com salvaguardas adequadas».

Elimina também a «sobreposição de requisitos de IA aplicáveis a máquinas, componentes e acessórios», com a lei da IA a esclarecer que «estes apenas têm de cumprir a legislação setorial, assegurando simultaneamente um nível equivalente de saúde e segurança».