X adota medidas para barrar imagens falsas sexualizadas pelo Grok

A plataforma X, liderada por Elon Musk, revelou nesta quarta-feira (14) iniciativas para evitar que seu chatbot de inteligência artificial, Grok, converta fotografias reais em imagens com conotação sexual, após críticas internacionais sobre a criação desse tipo de conteúdo envolvendo mulheres e crianças.

A rede social afirmou que “bloqueará regionalmente a capacidade” de todos os usuários do Grok e da própria X para gerar imagens de pessoas vestindo “biquínis, roupas íntimas e itens semelhantes” em locais onde tais práticas são ilegais.

“Adotamos tecnologias para assegurar que a conta do Grok não permita a edição de fotos de pessoas reais com vestimentas reveladoras, como biquínis”, declarou a equipe de segurança do X em nota.

“Esta restrição abrange todos os usuários, inclusive os assinantes do serviço pago”, complementou.

O anúncio acontece após o procurador-geral da Califórnia, Rob Bonta, iniciar uma investigação contra a xAI, empresa de IA de Musk, por “facilitar a produção massiva de montagens íntimas não autorizadas (deepfakes), usadas para acosso de mulheres e meninas online, principalmente via rede social X”, conforme comunicado oficial.

“Temos tolerância zero para a criação e divulgação, por meio de IA, de imagens íntimas não consentidas ou conteúdo pedopornográfico”, acrescentou o procurador-geral, que investigará se e como a xAI infringiu a legislação.

Ameaça às vítimas

A rejeição internacional cresceu nas últimas semanas contra o Grok e a função que permite modificar imagens, sobretudo as compartilhadas na rede social X.

Essa funcionalidade possibilitava que usuários criassem deepfakes sexualizados de mulheres e menores usando comandos como “coloque-a de biquíni” ou “remova a roupa dela”.

Na semana anterior, o Grok tentou responder às críticas com uma nova política de monetização, anunciando na X que a geração e edição de imagens ficariam “reservadas a assinantes do serviço pago”.

Entretanto, essa decisão provocou mais indignação: o gabinete do primeiro-ministro britânico, Keir Starmer, repudiou a medida, considerando-a uma afronta às vítimas e “não uma solução”. Já o órgão regulador britânico Ofcom iniciou uma investigação para avaliar possíveis violações da legislação local referente às imagens sexualizadas.

Indonésia e Malásia bloquearam o uso do Grok, enquanto a Índia notificou que o X removeu milhares de publicações e contas após suas reclamações.

A comissária francesa para a infância, Sarah El Hairy, encaminhou as imagens criadas pelo Grok ao Ministério Público, ao regulador de mídia Arcom e à União Europeia, que solicitou a suspensão total da criação desse conteúdo.

Uma análise de mais de 20 mil imagens geradas pelo Grok, realizada recentemente pela organização AI Forensics, com sede em Paris, indicou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% aparentavam ser menores de idade.