Investigação na Califórnia contra Grok por imagens impróprias

O Procurador-Geral da Califórnia, Rob Bonta, anunciou na quarta-feira (14) o início de uma investigação contra a empresa xAI, pertencente a Elon Musk, devido à propagação de imagens sexualmente explícitas de mulheres e menores geradas pela ferramenta de inteligência artificial Grok.

Esta investigação se soma a outras iniciativas jurídicas em diversos países que visam a xAI após a circulação de imagens falsas de natureza pornográfica criadas com o Grok.

Rob Bonta destacou em comunicado que a xAI aparentemente permite a produção em massa de montagens íntimas não autorizadas (deepfakes), que são usadas para assediar mulheres e meninas principalmente na rede social X.

O gabinete do procurador vai apurar se a xAI descumpriu as leis vigentes e de que maneira isso ocorreu.

Em suas declarações, Rob Bonta pediu que a xAI tome medidas urgentes para impedir novos incidentes, enfatizando que existe tolerância zero para a criação e distribuição de imagens íntimas não autorizadas ou material pedopornográfico por meio de inteligência artificial.

Recentemente, um movimento global expressou forte oposição ao Grok e suas funções de alteração de imagens, especialmente no X, que também pertence a Elon Musk.

Usuários mal-intencionados utilizaram o recurso para criar imagens falsas hiper-realistas de mulheres aparecendo em trajes de banho, mediante comandos específicos.

Desde o dia 9 de janeiro, a funcionalidade de criação de imagens foi bloqueada para usuários gratuitos da plataforma, que afirmou agir para remover conteúdo ilícito e suspender contas envolvidas.

Um estudo realizado pela organização sem fins lucrativos AI Forensics, com sede em Paris, analisou mais de 20 mil imagens geradas pelo Grok e constatou que mais da metade retratava pessoas com pouca roupa, predominantemente mulheres. Aproximadamente 2% das imagens pareciam apresentar menores de 18 anos.