Governo e MP pedem que X bloqueie conteúdos sexualizados do Grok

Agência Nacional de Proteção de Dados (ANDP), Secretaria Nacional do Consumidor (Senacom) e Ministério Público Federal (MPF) emitiram recomendações para a empresa responsável pela plataforma digital X, solicitando que a ferramenta de inteligência artificial Grok seja controlada para evitar a criação e a disseminação de conteúdos sexualizados inadequados.

O documento divulgado na terça-feira (20) indica que, em até 30 dias, devem ser criados processos técnicos e operacionais para identificar, revisar e remover tais conteúdos gerados pelo Grok a partir de comandos dos usuários.

Além disso, as instituições recomendam a suspensão imediata das contas envolvidas na produção de imagens sexuais ou eróticas, que envolvam crianças, adolescentes e adultos, sem autorização, geradas com o uso do Grok.

Outro pedido é a implementação de um mecanismo transparente, acessível e eficaz para que os titulares dos dados possam exercer seus direitos, incluindo o envio de denúncias quanto ao uso irregular ou ilegal de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados sem consentimento, com respostas apropriadas em prazos razoáveis.

Estas recomendações surgem após denúncias de usuários sobre a produção de conteúdos sintéticos sexualizados baseados em imagens reais, além de reportagens nacionais e internacionais e testes que evidenciam o uso da ferramenta para a fabricação de deepfakes com conteúdo pornográfico envolvendo mulheres, crianças e adolescentes.

As organizações alertam que essas práticas afetam a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e diversos direitos coletivos e individuais, principalmente de mulheres, crianças e adolescentes.

“É fundamental implementar medidas imediatas para impedir que o Grok gere novas imagens, vídeos ou áudios sexualizados ou eróticos representando crianças e adolescentes”, afirmam as instituições.

As orientações também visam impedir a criação de conteúdos que retratem pessoas adultas identificadas ou identificáveis em contextos sexualizados sem autorização.

Embora o artigo 19 do Marco Civil da Internet determine que provedores de aplicação não são responsáveis pelo conteúdo de terceiros, salvo decisão judicial, a retirada dos conteúdos deve ocorrer, pois as deepfakes sexualizadas são produzidas pela interação entre usuários e a IA do X, fazendo da empresa coautora e não apenas intermediária.

Recentemente, o Supremo Tribunal Federal (STF) declarou parcialmente inconstitucional o artigo 19 por não garantir proteção suficiente a direitos constitucionais relevantes, fixando que provedores da internet têm dever especial de zelar para evitar a propagação de crimes graves, como os praticados contra mulheres, inclusive conteúdos que promovam ódio.

Além disso, a política da plataforma X proíbe o compartilhamento e a produção de imagens explícitas sem consentimento, bem como a manipulação e disseminação de imagens com teor sexual envolvendo o Grok, o que reforça a necessidade de filtros rigorosos para evitar condutas ilícitas.

Caso as recomendações não sejam cumpridas ou atendidas de forma inadequada, as instituições poderão adotar outras medidas administrativas e judiciais para garantir a proteção dos cidadãos, sobretudo de mulheres, crianças e adolescentes.