Grok gerou milhões de imagens impróprias, revela estudo

O chatbot Grok, desenvolvido pela empresa xAI de Elon Musk, produziu aproximadamente três milhões de imagens impróprias envolvendo mulheres e menores de idade em poucos dias, conforme revelado por pesquisadores nesta quinta-feira (22). O volume de conteúdo explícito gerado causou grande preocupação internacional.

Integrado à rede social X, o Grok permitia que usuários modificassem fotos reais com comandos simples, como “vista-a com biquíni” ou “tire a roupa dela”.

Um grande número de imagens falsas hiper-realistas, conhecidas como ‘deepfakes’, rapidamente se espalhou na internet, o que levou diversos países a proibirem o uso do Grok e gerou críticas severas de órgãos reguladores e das vítimas.

Segundo o Centro de Combate ao Ódio Digital, que monitora os efeitos nocivos da desinformação online, a ferramenta de IA Grok criou cerca de três milhões de imagens impróprias, incluindo 23 mil que parecem mostrar menores, em um período de apenas 11 dias, o que representa uma média de 190 imagens por minuto. O relatório não detalha quantas dessas imagens foram geradas sem o consentimento das pessoas retratadas.

Foram identificadas imagens impróprias de figuras públicas como a atriz Selena Gomez, as cantoras Taylor Swift e Nicki Minaj, além de personalidades políticas como a vice-primeira-ministra da Suécia, Ebba Busch, e a ex-vice-presidente dos Estados Unidos, Kamala Harris.

“Os dados são claros: o Grok de Elon Musk funciona como uma fábrica de produção de material abusivo sexualmente explícito”, afirmou Imran Ahmed, diretor executivo do Centro de Combate ao Ódio Digital.

A plataforma X ainda não se pronunciou sobre os resultados da investigação. Quando questionada pela AFP por e-mail, a xAI respondeu apenas com uma mensagem automática: “Mentiras da mídia tradicional”.

Recentemente, a rede social anunciou que irá desabilitar essa funcionalidade para todos os usuários, nas regiões onde a produção de tais imagens seja ilegal.

Países como Filipinas, Malásia e Indonésia já proibiram o uso do Grok, enquanto Reino Unido e França continuam pressionando a empresa por medidas mais rigorosas.

O procurador-geral da Califórnia iniciou uma investigação sobre a xAI em relação à geração de material sexualmente explícito, e outras nações também abriram suas próprias apurações sobre o caso.