Förslaget godkändes vid Europaparlamentets plenarsammanträde i Strasbourg med 423 röster för, 57 emot och 174 nedlagda röster, och syftar till att ändra vissa regler som för närvarande gäller enligt EU:s lagstiftning om artificiell intelligens.

Europaparlamentet uppgav i ett uttalande att lagen, om den får det slutgiltiga ”gröna ljuset” från EU-rådet, kommer att förbjuda ”AI-system som genererar material som visar sexuella övergrepp mot barn eller som skapar bilder, videor och ljudinspelningar som visar intima delar av en identifierbar person eller sexuellt explicita aktiviteter utan dennes samtycke”.

”Leverantörer kommer inte att tillåtas att släppa ut dessa system på EU-marknaden om de inte har adekvata tekniska skyddsåtgärder för att förhindra skapandet av detta material. Förbudet gäller även användare som använder dessa system för dessa ändamål”, angav Europaparlamentet.

Institutionen tillade att företagen nu har fram till den 2 december på sig att uppdatera sina system och se till att de följer dessa nya regler om sexuella bilder.

Detta förslag hade redan godkänts av Europaparlamentet och EU-rådet, som företräder regeringarna i de 27 medlemsstaterna.

För att träda i kraft måste åtgärden dock antas formellt av EU-rådet.

Förslaget kom efter att Europeiska kommissionen i januari beslutade att inleda en utredning av Grok, ett AI-verktyg från det sociala nätverket X, för spridning av sexuellt explicit material, inklusive innehåll som kan utgöra sexuella övergrepp mot barn.

Enligt en rapport från Centre for Combating Digital Hate (CCDH) och den amerikanska tidningen The New York Times ska Grok i januari ha översvämmat nätverket med cirka tre miljoner sexualiserade bilder under 11 dagar, däribland 23 000 av barn och 1,8 miljoner av kvinnor.

Utöver förbudet mot AI-system som genererar sexuellt explicita bilder innehåller denna ändring av den europeiska lagstiftningen även åtgärder för att förenkla det regelverk som för närvarande tillämpas på AI.

Förslaget föreskriver därför nu möjligheten, både i AI-system för allmänna ändamål och i högrisk-AI-system, att ”behandla personuppgifter när det är absolut nödvändigt för att upptäcka och korrigera partiskhet, med adekvata skyddsåtgärder”.

Det eliminerar också ”överlappningen av AI-krav som gäller för maskiner, komponenter och tillbehör”, där AI-lagen klargör att ”de endast behöver följa sektorslagstiftningen, samtidigt som en likvärdig nivå av hälsa och säkerhet säkerställs”.