UE inicia investigação contra Grok, de Musk, por imagens sexuais falsas geradas por IA

A União Europeia começou uma investigação nesta segunda-feira (26) contra a plataforma X, de Elon Musk, por preocupações de que seu chatbot de IA, Grok, possa estar divulgando imagens deepfake de natureza sexual que podem ser classificadas como material abusivo infantil.

A Comissão Europeia, órgão executivo da UE, declarou que a investigação examinará se a plataforma avaliou e tomou medidas apropriadas para controlar os riscos relacionados à divulgação de conteúdo ilegal nos 27 países do bloco, incluindo imagens sexualmente explícitas manipuladas sem consentimento, característica do material abusivo infantil.

Henna Virkkunen, comissária europeia de tecnologia, afirmou que “deepfakes sexuais não consensuais envolvendo mulheres e crianças são um tipo de violação grave e inaceitável”.

Este caso está enquadrado dentro da Lei de Serviços Digitais (DSA), que impõe regras rígidas para combater material ilegal e prejudicial na internet dentro da UE.

Ao anunciar a investigação, a presidente da Comissão Europeia, Ursula von der Leyen, ressaltou que a Europa não aceitará abusos online contra mulheres e crianças.

“O dano causado por esses conteúdos ilegais é muito sério. Na Europa, não permitiremos atos insensatos como a exposição digital não consensual de mulheres e crianças”, comunicou a presidente da comissão.

Ela acrescentou: “Não podemos permitir que empresas de tecnologia violem o consentimento e a proteção das crianças para lucro. Já tomamos medidas, mas precisamos avançar mais para proteger nossa população, tanto no ambiente virtual quanto fora dele.”

Nos últimos dias, as críticas ao Grok aumentaram após usuários de diversos países relatarem que o chatbot estava criando e compartilhando imagens sexualizadas indiscriminadamente na rede social X, o que provocou reação rápida dos reguladores e defensores da segurança infantil.

O regulador britânico de comunicações, Ofcom, iniciou investigação para apurar possível violação da Lei de Segurança Online. França e Índia, por sua vez, acusaram o Grok de fabricar ilegalmente imagens sexualizadas sem permissão das pessoas.

A X, parte da xAI, reafirmou seu compromisso de eliminar conteúdo ilegal, suspender contas infratoras e colaborar com autoridades quando necessário.

“Continuamos dedicados a tornar a X um espaço seguro para todos, adotando tolerância zero com exploração sexual infantil, nudez não consensual e conteúdo sexual ofensivo”, disse a empresa.

Essa investigação vem logo após a aplicação de multa de €120 milhões à X pela UE, motivada por irregularidades relacionadas ao selo azul pago, dificultação de acesso de pesquisadores a dados e falhas no repositório de publicidade, conforme as regras do DSA.

De acordo com essa lei, em vigor desde 2023, a UE pode aplicar multas de até 6% da receita global anual das plataformas que não combatem conteúdo ilegal, desinformação ou descumprem normas de transparência.

Antes dessa recente sanção, o vice-presidente dos EUA, JD Vance, expressou sua crítica na X, dizendo que a União Europeia deveria defender a liberdade de expressão em vez de prejudicar empresas norte-americanas com acusações infundadas.