X limita criação de imagens sexualizadas no Grok

A plataforma X, controlada por Elon Musk, anunciou na quarta-feira (14) novas ações para impedir que seu chatbot de inteligência artificial Grok produza imagens sexualizadas ilegais a partir de fotos reais, especialmente após críticas globais sobre a criação desse tipo de material envolvendo mulheres e menores.

O anúncio ocorre após o procurador-geral da Califórnia, Rob Bonta, iniciar uma investigação sobre a xAI, empresa de IA de Musk, por facilitar a fabricação em larga escala de montagens íntimas não consentidas, conhecidas como deepfakes, usadas para assediar mulheres e meninas online, principalmente na rede social X.

Rob Bonta declarou ter tolerância zero em relação à criação e difusão de imagens íntimas não autorizadas ou material pedopornográfico gerado por IA, ressaltando que a investigação definirá se a xAI violou alguma legislação.

Já o governador da Califórnia, Gavin Newsom, classificou como repugnante a decisão da xAI de permitir a disseminação desses deepfakes sexualmente explícitos, pedindo que o procurador-geral responsabilize a empresa.

A rede social informou que bloqueará geograficamente a função que permite aos usuários do Grok e do próprio X criar imagens de pessoas usando biquínis e roupas íntimas nas regiões onde isso é ilegal.

Uma equipe de segurança do X afirmou em comunicado que foram implementadas tecnologias para impedir que a conta do Grok edite fotos de pessoas usando roupas reveladoras, e essa restrição vale para todos os usuários, inclusive assinantes pagos.

Como medida extra de proteção, as funcionalidades de criação e edição de imagens via conta Grok no X ficaram disponíveis somente para assinantes pagos.

A gravidade do problema

Um estudo recente da ONG AI Forensics analisou mais de 20.000 imagens criadas pelo Grok e verificou que mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores de idade.

O descontentamento global cresceu nas últimas semanas em relação ao Grok e sua capacidade de modificar imagens, especialmente as que são compartilhadas na rede social X, permitindo que usuários criem deepfakes sexualizados usando comandos como “coloque-a de biquíni” ou “tire a roupa dela”.

Embora o Grok tenha tentado amenizar as críticas limitando a geração e edição de imagens a assinantes pagos, essa medida foi vista como insuficiente. O governo britânico, por exemplo, criticou a iniciativa, consideranto-a um desrespeito às vítimas, e o órgão regulador de mídia do Reino Unido, Ofcom, abriu investigação para avaliar se a rede X está violando as leis locais sobre imagens sexualizadas.

Além disso, uma coalizão de 28 organizações da sociedade civil enviou cartas abertas aos CEOs da Apple e Google solicitando a proibição do Grok e X em suas lojas de aplicativos, diante do aumento de imagens sexualizadas.

Países como Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia informou que o X removeu milhares de publicações e contas após suas reclamações. As Filipinas anunciaram a suspensão do acesso ao Grok.

A comissária francesa para a infância, Sarah El Hairy, encaminhou as imagens produzidas pelo Grok às autoridades competentes da França, incluindo a promotoria, o órgão regulador de mídia Arcom e a União Europeia, que solicitou a interrupção total da geração desse tipo de conteúdo.