Autoridades exigem respostas sobre imagens sexualizadas geradas por IA Grok

A União Europeia (UE) e o Reino Unido uniram-se, nesta segunda-feira (5), para manifestar críticas crescentes em nível internacional contra o Grok, a inteligência artificial (IA) de Elon Musk, por produzir imagens falsas e sexualizadas de mulheres e menores de idade.

As preocupações emergiram após o lançamento de uma função de ‘editar imagens’ no Grok, que permite aos usuários modificar imagens online com comandos como ‘coloque-a de biquíni’ ou ‘tire a roupa dela’.

A Comissão Europeia declarou que está avaliando com muita seriedade as denúncias contra a IA da startup de Musk, a xAI, que está integrada à rede social X.

Thomas Regnier, porta-voz da Comissão Europeia para assuntos digitais, afirmou: “O Grok agora inclui um ‘modo picante’ que apresenta conteúdo sexual explícito, parte dele gerado com imagens que aparentam ser infantis. Isso é ilegal e inaceitável.”

A União Europeia soma-se ao Reino Unido, França, Índia e Malásia, que também pediram ações corretivas.

A agência reguladora de comunicações do Reino Unido, Ofcom, comunicou que já contatou a X e a xAI para entender como estão cumprindo suas responsabilidades legais para proteger os usuários britânicos.

Na França, a promotoria informou que a investigação iniciada em julho de 2025 contra a X agora incluirá acusações relacionadas ao uso do Grok para produzir e disseminar pornografia infantil.

Na Índia, as autoridades deram um prazo de 72 horas para que o X retirasse o conteúdo, mas até o momento não há confirmação de resposta.

A Comissão de Comunicações e Multimídia da Malásia também demonstrou preocupação recentemente.

Enquanto isso, as usuárias aguardam posicionamento oficial.

Azira Aziz, advogada da Malásia, declarou estar chocada após um usuário solicitar ao Grok a transformação de “sua foto de perfil em uma de biquíni”.

“O uso da IA como ferramenta para violência de gênero contra mulheres e crianças, sem seu consentimento, deve ser incondicionalmente combatido”, afirmou Aziz à AFP.

Em resposta às preocupações, a xAI enviou uma mensagem automática afirmando que “a mídia tradicional distorce os fatos”.

O Grok publicou em sua conta X que identificou falhas de segurança e está trabalhando rapidamente para corrigi-las.