La misura è stata approvata durante la sessione plenaria del Parlamento europeo a Strasburgo, con 423 voti a favore, 57 contrari e 174 astensioni, e mira a modificare alcune norme attualmente in vigore nell'ambito della legislazione europea sull'intelligenza artificiale.

Il Parlamento europeo ha dichiarato che, se riceverà il "via libera" definitivo dal Consiglio dell’UE, la legge vieterà «i sistemi di intelligenza artificiale che generano materiale pedopornografico o che creano immagini, video e registrazioni audio che ritraggono parti intime di una persona identificabile, o attività sessualmente esplicite, senza il suo consenso», secondo quanto riportato in una dichiarazione.

"I fornitori non potranno immettere questi sistemi sul mercato dell'UE a meno che non dispongano di adeguate garanzie tecniche per impedire la creazione di questo materiale. Il divieto si applica anche agli utenti che ricorrono a questi sistemi per tali scopi", ha indicato il PE.

L'istituzione ha aggiunto che le aziende hanno ora tempo fino al 2 dicembre per aggiornare i propri sistemi e garantire la conformità a queste nuove norme sulle immagini a carattere sessuale.

Questa proposta era già stata concordata dal PE e dal Consiglio dell'UE, che rappresenta i governi dei 27 Stati membri.

Tuttavia, per entrare in vigore, la misura dovrà essere adottata formalmente dal Consiglio dell’UE.

La proposta è stata presentata dopo che, a gennaio, la Commissione europea aveva deciso di avviare un’indagine su Grok, uno strumento di intelligenza artificiale del social network X, per la diffusione di immagini sessualmente esplicite, compresi contenuti che potrebbero costituire abuso sessuale su minori.

Secondo un rapporto del Centre for Combating Digital Hate (CCDH) e del quotidiano americano The New York Times, a gennaio Grok avrebbe inondato quel social network con circa tre milioni di immagini a sfondo sessuale nell’arco di 11 giorni, tra cui 23.000 di bambini e 1,8 milioni di donne.

Oltre al divieto di sistemi di IA che generano immagini sessualmente esplicite, questa modifica della legislazione europea include anche misure volte a semplificare il quadro normativo attualmente applicato all’IA.

Pertanto, la proposta prevede ora la possibilità, sia nei sistemi di IA per uso generico che in quelli ad alto rischio, "di trattare i dati personali ogniqualvolta sia strettamente necessario per individuare e correggere i pregiudizi, con adeguate garanzie".

Elimina inoltre la "sovrapposizione dei requisiti di IA applicabili a macchine, componenti e accessori", con la legge sull'IA che chiarisce che "devono solo conformarsi alla legislazione settoriale, garantendo al contempo un livello equivalente di salute e sicurezza".