A medida foi aprovada na sessão plenária do PE em Estrasburgo, com 423 votos a favor, 57 contra e 174 abstenções, e visa alterar certas regras atualmente em vigor ao abrigo da legislação europeia sobre IA.

O PE disse que, se receber a “luz verde” final do Conselho da UE, a lei proibirá “sistemas de IA que geram material de abuso sexual infantil ou que criam imagens, vídeos e áudios representando partes íntimas de uma pessoa identificável, ou atividades sexualmente explícitas, sem seu consentimento”, de acordo com um comunicado.

“Os fornecedores não poderão colocar esses sistemas no mercado da UE, a menos que tenham salvaguardas técnicas adequadas para impedir a criação desse material. A proibição também se aplica aos usuários que recorrem a esses sistemas para esses fins”, indicou o PE.

A instituição acrescentou que as empresas agora têm até 2 de dezembro para atualizar seus sistemas e garantir que cumpram essas novas regras sobre imagens sexuais.

Essa proposta já havia sido acordada pelo PE e pelo Conselho da UE, que representa os governos dos 27 estados membros.

No entanto, para entrar em vigor, a medida terá que ser formalmente adotada pelo Conselho da UE.

A proposta surgiu depois que a Comissão Europeia decidiu, em janeiro, abrir uma investigação sobre a Grok, uma ferramenta de IA da rede social X, por disseminar imagens sexualmente explícitas, incluindo conteúdo que poderia constituir abuso sexual infantil.

De acordo com um relatório do Center for Combating Digital Hate (CCDH) e do jornal americano The New York Times, em janeiro, Grok supostamente inundou essa rede com aproximadamente três milhões de imagens sexualizadas em 11 dias, incluindo 23.000 de crianças e 1,8 milhão de mulheres.

Além da proibição de sistemas de IA que geram imagens sexualmente explícitas, essa mudança na legislação europeia também inclui medidas para simplificar a estrutura regulatória atualmente aplicada à IA.

Assim, a proposta agora prevê a possibilidade, tanto em sistemas de IA de uso geral quanto de alto risco, “de processar dados pessoais sempre que estritamente necessário para detectar e corrigir preconceitos, com salvaguardas adequadas”.

Também elimina a “sobreposição de requisitos de IA aplicáveis a máquinas, componentes e acessórios”, com a lei de IA esclarecendo que “eles só precisam cumprir a legislação setorial, garantindo um nível equivalente de saúde e segurança”.