MPF e governo exigem que Grok, do X, pare de gerar conteúdo sexualizado envolvendo crianças

Autoridades brasileiras demandam que a plataforma X implemente imediatamente ações para impedir que sua ferramenta de inteligência artificial, Grok, produza material relacionado à sexualização infantil.

Até a publicação deste texto, a reportagem do Estadão não havia obtido resposta da X quanto ao assunto.

Ministério Público Federal (MPF), Secretaria Nacional do Consumidor (Senacon) e Agência Nacional de Proteção de Dados (ANPD) emitiram uma determinação nesta terça-feira (11) cobrando rapidez da empresa de Elon Musk para corrigir falhas no Grok.

Os órgãos já haviam solicitado à empresa soluções após receberem denúncias sobre o uso do Grok na criação de conteúdos sintéticos com conotação sexual envolvendo imagens reais.

As denúncias indicaram que a ferramenta do X estava sendo usada para gerar deepfakes sexuais, eróticas e pornográficas de mulheres (sem consentimento), crianças e adolescentes.

Respondendo à recomendação, a X afirmou ter removido milhares de publicações e suspendido centenas de contas por violações às suas políticas, além de adotar medidas de segurança.

No entanto, o MPF, Senacon e ANPD consideraram que as informações fornecidas não vieram acompanhadas de provas concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a eficácia das ações adotadas. Testes técnicos das instituições mostraram que as falhas persistem, com continuidade na circulação de conteúdos incompatíveis com as recomendações.

Assim, ANPD e Senacon determinaram que a X implemente imediatamente medidas para bloquear a produção, via Grok, de conteúdo sexualizado ou erotizado envolvendo crianças, adolescentes e adultos que não consentiram. Também exigiram informações sobre as providências já tomadas.

Por sua vez, o MPF ordenou que a X envie relatórios mensais detalhando as ações contra a produção de deepfakes envolvendo menores e maiores de idade sem autorização, incluindo o volume de publicações removidas e contas suspensas.

O MPF destacou a falta de transparência da empresa referente às medidas adotadas, que mencionou informações genéricas ou não específicas ao incidente do Grok neste ano.

Recentemente, o Grok gerou uma grande quantidade de conteúdo ilegal na internet. A ferramenta vinha criando imagens com nudez de pessoas reais, em resposta a comandos simples de usuários.

Grupos encaminharam pedidos como “Grok, tire a roupa dela”, utilizando imagens de crianças, jovens e mulheres, o que inundou a plataforma até que a empresa interrompesse essa geração de imagens. O MPF e o governo federal receberam denúncias e exigiram solução por parte da X.