Jovens processam empresa de Elon Musk por imagens impróprias criadas por IA

Três jovens do Tennessee, Estados Unidos, moveram nesta segunda-feira (16) um processo contra a xAI, alegando que o chatbot Grok criou imagens impróprias usando fotos reais delas. O caso, apresentado em um tribunal federal em San José, Califórnia, pode envolver mais de mil vítimas menores.

Segundo a agência France Presse, a ação ocorre após um escândalo global no final de 2025, quando imagens hiper-realistas, conhecidas como deepfakes, mostraram mulheres e crianças nuas. Isso provocou investigações em vários países e especificamente na Califórnia.

A denúncia relata que um indivíduo, agora preso, usou o Grok para transformar fotos comuns de adolescentes, retiradas de redes sociais e álbuns escolares, em imagens sexualizadas com aparência realista. Essas imagens foram compartilhadas em plataformas como X (anteriormente Twitter), Discord e Telegram, antes de circularem na “dark web”, onde foram trocadas por outros materiais ilegais, conforme as advogadas que representam as jovens.

“Ver minha filha em pânico ao descobrir que essas imagens foram feitas e distribuídas sem chance de remoção foi devastador”, disse a mãe de uma das vítimas, em comunicado divulgado pelos representantes legais.

As advogadas afirmam que a empresa criou o sistema intencionalmente para produção de conteúdos explícitos visando lucro, sem implementar medidas de segurança adotadas por outras empresas do setor.

O processo se baseia, entre outros dispositivos, na lei Masha, que permite indenizações para vítimas de exploração sexual infantil, e na legislação federal contra o tráfico de pessoas.

As autoras pedem reparação financeira e que a empresa seja proibida de permitir a criação desse tipo de conteúdo. Apesar da ampla proteção legal nos EUA para conteúdos postados por usuários, a advogada Annika K. Martin, do escritório Lieff Cabraser, argumenta que, “sem a xAI, esses conteúdos ilegais não existiriam”.

Dados do Center for Countering Digital Hate destacam a gravidade do problema. Um estudo revelou que o Grok teria gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no fim de 2025, incluindo aproximadamente 23 mil com menores.

Em resposta à pressão pública, a empresa introduziu em janeiro restrições no uso do sistema, limitando a geração de imagens a assinantes pagos e bloqueando conteúdos sexualizados em locais onde são ilegais. Elon Musk, conhecido por suas frequentes manifestações no X, critica regulações governamentais, afirmando que elas podem limitar a liberdade de expressão.

Este caso intensifica a discussão sobre os limites éticos da inteligência artificial e a responsabilidade das empresas sobre os conteúdos produzidos por suas ferramentas, especialmente envolvendo menores.