UE anuncia acordo para proibir IA que cria imagens sexuais falsas

Os países membros da União Europeia e o Parlamento Europeu chegaram a um consenso nesta quinta-feira (7) para proibir o uso de ferramentas de Inteligência Artificial (IA) que geram imagens sexuais falsas sem o consentimento das pessoas envolvidas.

Essa decisão foi motivada após o lançamento, há alguns meses, de uma função no Grok, assistente de IA da xAI, empresa fundada por Elon Musk, que possibilita a criação de imagens hiper-realistas (deepfakes) de adultos e crianças a partir de fotos reais, sem autorização dos retratados.

O recurso causou grande repercussão negativa em diversos países, levando à abertura de uma investigação na União Europeia.

A primeira-ministra italiana, Giorgia Meloni, criticou a criação de imagens falsas com sua imagem gerada por IA e qualificou essa ferramenta como perigosa.

De acordo com o Parlamento Europeu, a nova proibição inclui sistemas que criam imagens, vídeos e conteúdos pedopornográficos, exibem partes íntimas identificáveis ou mostram pessoas em situações sexuais sem consentimento.

A regulamentação entrará em vigor em 2 de dezembro de 2026, data a partir da qual os serviços de IA deverão adotar medidas de segurança para impedir a geração desse tipo de material.

Essa iniciativa faz parte de uma atualização nas leis europeias de IA, legislação pioneira aprovada há dois anos.

Além disso, os 27 estados membros e os parlamentares concordaram em adiar a implementação das novas normas que regulam sistemas de IA considerados de alto risco, que operam em áreas sensíveis como segurança, saúde e direitos fundamentais.