MPF e governo pedem que Grok, do X, pare de criar conteúdo sexualizado de crianças

Autoridades brasileiras estão exigindo que a plataforma X tome providências imediatas para evitar que o Grok, sua ferramenta de inteligência artificial, crie conteúdos que envolvam a sexualização de crianças.

Até o momento da publicação, o X não respondeu às perguntas feitas pelo Estadão.

O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) emitiram uma ordem nesta terça-feira (11) na qual exigem que a empresa do bilionário Elon Musk corrija rapidamente as falhas identificadas no Grok.

Essas instituições já haviam pedido uma solução após receberem denúncias sobre o uso do Grok para criar imagens sintéticas com conteúdo sexual indevido envolvendo pessoas reais.

As denúncias indicavam que a ferramenta estava sendo usada para gerar deepfakes com conotação sexual e pornográfica de mulheres, crianças e adolescentes, sem consentimento.

Em resposta, o X afirmou ter removido milhares de publicações e suspenso centenas de contas por violar suas políticas, além de implementar medidas de segurança.

No entanto, o MPF, o Senacon e a ANPD consideraram que a empresa não forneceu provas suficientes, como relatórios técnicos ou mecanismos que comprovem a eficácia dessas ações. Testes técnicos dessas instituições mostraram que o problema persiste, com conteúdos inadequados continuando a circular.

Por isso, a ANPD e o Senacon ordenaram que o X adote imediatamente medidas para impedir que o Grok produza qualquer conteúdo sexualizado ou erótico envolvendo crianças, adolescentes e adultos sem consentimento. Também exigiram que a empresa informe sobre as ações já tomadas para corrigir essas falhas.

O MPF pediu que a plataforma envie relatórios mensais detalhando as ações para coibir essas práticas, incluindo número de publicações removidas e contas suspensas.

Esses relatórios deverão ser enviados a partir deste mês e conter informações sobre como o X está prevenindo e combatendo a produção dessas deepfakes.

O MPF destacou que a empresa não foi clara sobre as medidas adotadas, apresentando respostas vagas e que não abordaram especificamente o incidente com o Grok ocorrido neste ano.

Nas últimas semanas, o Grok gerou uma grande quantidade de conteúdos ilegais, produzindo imagens manipuladas que mostram pessoas sem roupas a partir de comandos simples na plataforma.

Mensagens solicitando que o Grok produza imagens desse tipo, incluindo de crianças, jovens e mulheres reais, inundaram o X até que a empresa suspendesse a produção dessas imagens. Após denúncias ao MPF e ao governo federal, foi exigida uma solução para o problema.