App Grok, de Elon Musk, gera imagens inapropriadas apesar das restrições

O Grok, chatbot de inteligência artificial (IA) desenvolvido por Elon Musk, ainda apresenta a capacidade de desnudar mulheres e crianças mesmo depois de a xAI anunciar na semana passada que implementou medidas de segurança no sistema. Desde o início do mês, a empresa tem enfrentado críticas mundiais por permitir a criação não autorizada de “nudes digitais” utilizando IA, apesar das tentativas de bloqueio, o recurso continua acessível no aplicativo.

Na última quarta-feira (14), a empresa declarou: “Adotamos tecnologias para impedir que o Grok edite imagens reais de pessoas com roupas reveladoras, como biquínis.” Contudo, o GLOBO conseguiu obter esse tipo de imagem por meio do aplicativo independente. O Grok está fortemente integrado com a plataforma X, permitindo despir pessoas em postagens na rede social, e também funciona como app para iOS e Android, similar ao ChatGPT da OpenAI, requerendo uma conta vinculada ao X para uso.

Para testar, a reportagem utilizou ferramentas de IA de outras companhias, como ChatGPT e Gemini do Google, para gerar imagens de mulheres e crianças em roupas de trabalho e escolares, evitando exposição de pessoas reais. Essas imagens foram carregadas na versão mais recente do app do Grok para iOS, e com determinados comandos, foi possível adicionar biquínis e lingeries às mulheres nas imagens.

No caso de crianças, a ferramenta recusou a maioria dos pedidos de alteração, mas em uma situação conseguiu colocar roupas de banho que mostravam mais do que a imagem original. Experimentos similares com ChatGPT e Gemini bloquearam esses resultados. A reportagem tentou contato com a xAI para comentários, sem sucesso até o momento.

Fóruns como Reddit e redes sociais como TikTok contêm instruções para gerar fotos sugestivas de mulheres via IA — em dezembro, a revista “Wired” identificou no Reddit orientações para despir mulheres reais, posteriormente removidas.

No Brasil, a legislação proíbe produzir ou divulgar conteúdo com nudez ou atos sexuais sem autorização dos envolvidos, conforme o artigo 216-B do Código Penal, que prevê detenção de seis meses a um ano e multa.

Renato Opice Blum, coordenador de inovação e IA na Comissão de Inovação de IA da OAB/SP, destaca que divulgar tais imagens incorre em punição mais severa, conforme o artigo 218-C, com pena de quatro a dez anos e multa.

Nudez digital não consentida em evidência

O Grok não é a primeira IA capaz de modificar fotos para criar imagens sexualizadas sem autorização, mas é acusado de popularizar essa prática. Pesquisa da ONG AI Forensics, analisando mais de 20 mil imagens geradas pelo Grok, identificou que mais da metade apresentava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores de idade.

Levantamento da consultoria Genevieve, realizado entre 5 e 6 de janeiro, apontou que o Grok produzia 6,7 mil imagens por hora com conteúdo sexual ou nudez, muito superior aos outros cinco principais geradores de imagens por IA, que em média produziam 79 imagens por hora.

A controvérsia provocou investigações, restrições ou suspensões do serviço em países como Indonésia, Malásia, União Europeia, Reino Unido, França e Índia. No Brasil, a deputada federal Erika Hilton acionou a Agência Nacional de Proteção de Dados e entrou com representação no Ministério Público Federal contra a ferramenta. O Instituto de Defesa do Consumidor (Idec) apresentou denúncia à Autoridade Nacional de Proteção de Dados (ANPD), solicitando a suspensão do serviço no país.

As denúncias alegam que o aplicativo infringe o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet.

Inicialmente, o X limitou a geração e edição de imagens a assinantes, mas ampliou as proibições, desativando o recurso para criação de imagens sexualizadas de pessoas reais para todos os usuários. Porém, assinantes premium ainda podem usar o Grok para editar imagens geradas por IA, desde que estejam em conformidade com os termos de serviço.

A empresa também bloqueou a criação de imagens de pessoas reais com biquínis e roupas íntimas em países onde tal prática é ilegal.

Recentemente, Elon Musk afirmou que não há conhecimento de imagens de nudez de menores geradas pelo Grok e que o sistema responde apenas a solicitações dos usuários. Disse que a ferramenta se recusa a produzir conteúdos ilegais e que seguem as leis vigentes de cada local. Eventuais falhas causadas por ataques adversariais nos comandos são corrigidas assim que identificadas.