Imagens sexuais geradas pelo Grok no X causam polêmica com Elon Musk

A revolta mundial aumenta contra o Grok, o assistente de inteligência artificial (IA) da rede social X, que possibilita a criação, a partir de fotos reais, de imagens sexuais de mulheres e menores.

Este é o cerne de mais uma controvérsia envolvendo a plataforma de Elon Musk.

De biquíni

Grok, o chatbot desenvolvido pela empresa americana xAI, possui sua própria conta na rede social X, permitindo que usuários interajam diretamente com ele.

Até a semana passada, qualquer pessoa podia mencionar o bot em suas postagens para solicitar a criação ou alteração de imagens, que recebiam como resposta.

Alguns usaram esse recurso para postar ou responder com fotos de mulheres, acompanhadas de comandos como “Coloque um biquíni nela”, recebendo em troca uma montagem ultrarrealista (deepfake).

Desde 9 de janeiro, a função de criação de imagens foi desabilitada para usuários que não são assinantes pagantes da plataforma.

Embora já existam ferramentas para criar imagens íntimas não consensuais com IA, o Grok foi o primeiro a popularizar essa função integrada diretamente numa rede social.

O problema se agravou com o surgimento de imagens adulteradas envolvendo menores.

Alguns usuários também geraram imagens sexualizadas das vítimas do incêndio em Crans-Montana, Suíça, e da mulher morta pela polícia migratória em Minneapolis no início de janeiro.

Uma análise da ONG AI Forensics sobre mais de 20 mil imagens criadas pelo Grok mostrou que mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores.

Reações dos governos

Indonésia e Malásia suspenderam o acesso, enquanto a Índia informou ter removido milhares de conteúdos e excluído centenas de contas.

No Reino Unido, o órgão regulador de segurança digital iniciou uma investigação contra a rede social na segunda-feira (12), que pode levar a uma multa de até 10% do faturamento mundial da empresa. O órgão também pode buscar judicialmente o bloqueio da plataforma.

O primeiro-ministro britânico, Keir Starmer, declarou que “se o X não consegue controlar o Grok, nós o faremos, e faremos isso rapidamente”. Para ele, tornar esse recurso acessível apenas para assinantes pagantes “transforma em um serviço premium a criação de imagens ilegais” e representa “uma ofensa às vítimas de misoginia e violência sexual”.

Na França, a ministra responsável pelos assuntos digitais, Anne Le Hénanff, criticou a decisão como “insuficiente e hipócrita”, afirmando que “se o X pode desativar essa funcionalidade para não assinantes, então pode fazê-lo para todos”.

A União Europeia anunciou ter imposto uma medida cautelar contra o X após a polêmica.

A presidente da Comissão Europeia, Ursula von der Leyen, advertiu: “Não delegaremos a proteção infantil e o consentimento ao Vale do Silício. Se eles não agirem, nós o faremos”.

Resposta do X

Em início de janeiro, a plataforma afirmou que está tomando medidas contra conteúdos ilegais, especialmente pornografia infantil, removendo-os, suspendendo permanentemente contas e colaborando com autoridades locais.

Elon Musk declarou na semana passada pelo X que qualquer usuário criando conteúdo ilegal com o Grok enfrentará as mesmas penalidades de quem publica conteúdo ilegal diretamente.

O bilionário também criticou políticos que pedem bloqueios, alegando que estes opositores do X e Grok “simplesmente querem censurar a liberdade de expressão”.