Adolescentes processam empresa de IA nos EUA por imagens sexualizadas

Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a empresa de inteligência artificial (IA) xAI, fundada por Elon Musk. Elas alegam que o chatbot da empresa criou imagens pornográficas delas usando fotos reais.

O caso está relacionado ao surgimento em massa, no final do ano passado, de deepfakes de mulheres e crianças nuas. Essas imagens, compartilhadas em redes sociais, geraram indignação mundial e atraíram investigações em vários países, incluindo o estado americano da Califórnia.

O processo menciona um indivíduo, já preso, que utilizou o chatbot Grok para transformar fotos simples das adolescentes, obtidas de redes sociais ou outras fontes, em imagens sexualizadas hiper-realistas.

Essas montagens foram distribuídas em plataformas como X, Discord e Telegram, e posteriormente chegaram à dark web, onde foram usadas como moeda de troca para pornografia infantil, conforme detalhado na ação judicial movida em um tribunal federal em San José.

A mãe de uma das adolescentes, do Tennessee, relatou: “Foi horrível ver minha filha tendo um ataque de pânico ao descobrir que essas imagens haviam sido criadas e divulgadas, sem nenhuma possibilidade de removê-las”.

Uma das jovens envolvidas sofre de pesadelos constantes, enquanto outra necessita de medicamentos para dormir e tem receio de participar de sua cerimônia de formatura.

As advogadas afirmam que a xAI projetou intencionalmente o Grok para gerar conteúdo sexual explícito visando lucro, sem aplicar as proteções contra pornografia infantil que outras grandes empresas de IA adotam.

De acordo com uma análise do Center for Countering Digital Hate (CCDH), o Grok criou aproximadamente 3 milhões de imagens sexualizadas em apenas 11 dias no final de 2025, das quais 23.000 mostravam menores de idade. Como resposta ao escândalo, a xAI limitou, em janeiro, a geração de imagens pelo Grok somente para assinantes.