Idec solicita à ANPD suspensão do Grok no Brasil por gerar imagens impróprias

Instituto Brasileiro de Defesa do Consumidor (Idec) apresentou, nesta quarta-feira, 14, uma denúncia formal à Autoridade Nacional de Proteção de Dados (ANPD) contra o chatbot de inteligência artificial de Elon Musk, conhecido como Grok.

O pedido feito pela entidade é pela suspensão imediata do serviço no Brasil, alegando que a ferramenta permite a criação massiva de imagens sexualizadas sem consentimento e deepfakes pornográficos, colocando em risco principalmente mulheres, crianças e adolescentes.

No final de dezembro, usuários na plataforma X perceberam que o Grok aceitava comandos para alterar fotos alheias, gerando imagens sexualizadas sem autorização, inclusive envolvendo menores de idade.

A ferramenta passou a modificar fotos, inserindo biquínis, roupas transparentes, mudando ângulos para deixar imagens sugestivas e até acrescentando objetos sexuais às imagens.

Diferentes países já investigam, restringem ou suspendem o serviço, como Indonésia, Malásia, União Europeia, Reino Unido, França e Índia. No Brasil, a deputada federal Erika Hilton (Psol-SP) acionou a ANPD e entrou com uma representação no Ministério Público Federal (MPF) contra o Grok.

O documento do Idec destaca que manter uma ferramenta capaz de gerar e disseminar imagens sexualizadas de crianças, adolescentes e mulheres viola diretamente a ordem constitucional, criando responsabilidade por ações ou omissões, e justifica a suspensão enquanto riscos graves persistirem.

A denúncia também ressalta que essa prática infringe o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet. O Idec espera que a ANPD atue com rigor e urgência para proteger as vítimas cujos dados estão sendo usados de forma ilegal e abusiva.

A ANPD informou que acompanha as reportagens sobre o Grok e já recebeu denúncias sobre possível violação da LGPD pela ferramenta, estando em análise junto a outros órgãos públicos.

A denúncia ainda menciona decisão do Supremo Tribunal Federal que reconheceu a inconstitucionalidade parcial do artigo 19 do Marco Civil da Internet, responsabilizando plataformas digitais pela remoção de conteúdos ilegais, principalmente quando a tecnologia contribui para o dano.

O Idec aponta falhas de segurança da plataforma, que não exige consentimento dos envolvidos, não bloqueia o uso indevido de fotos de menores e não impede comandos abusivos ou ilegais, privilegiando engajamento e liberdade à custa da proteção de direitos.

Em resposta a reclamações mundiais, a xAI, empresa dona do Grok, desativou a criação de imagens para usuários gratuitos, mas o Idec argumenta que isso é insuficiente para prevenir danos, já que os riscos sistêmicos permanecem na arquitetura da ferramenta. Políticas internas que proíbem conteúdos pornográficos não impediram abusos.

Segundo análise da ONG AI Forensics com mais de 20 mil imagens geradas pelo Grok, mais da metade mostrava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentavam ser menores de idade.

Um estudo da consultoria Genevieve registrou que entre 5 e 6 de janeiro o Grok gerou 6.700 imagens por hora de conteúdo sexualizado ou nú, enquanto outras ferramentas similares criaram média de 79 imagens por hora. Estima-se que 85% das imagens do Grok sejam sexualizadas.

Julia Abad, pesquisadora do programa de telecomunicações e direitos digitais do Idec, afirmou que a denúncia foi feita pois ninguém deve ter sua imagem usada para humilhação ou sexualização, e o risco é maior com crianças e adolescentes. A especialista destacou que a ferramenta continua sendo usada indevidamente, gerando lucro, enquanto suas políticas são ineficazes para impedir ou punir abusos.

O X não respondeu à denúncia, apesar de afirmar em janeiro que tomava medidas contra conteúdos ilegais, principalmente pornografia infantil, suspendendo contas e colaborando com autoridades locais.

Elon Musk defendeu que usuários do Grok que criarem conteúdo ilegal sofrerão as mesmas consequências que publicar conteúdo ilegal direto. O bilionário também criticou políticos que pedem bloqueios, alegando que querem suprimir a liberdade de expressão.

Ao lançar o Grok em dezembro, Musk disse que o chatbot busca a verdade máxima, é politicamente incorreto, e tem uma “veia rebelde” para tratar de temas polêmicos que outros evitam, incluindo temas controversos.

Julia Abad concluiu que a experiência prévia com plataformas foi ineficaz, pois elas só agem sob pressão ou obrigação legal, levando o Idec a acionar órgãos de controle para proteger as vítimas.