Professora britânica denuncia uso indevido de sua imagem pelo Grok

Quando Daisy Dixon, docente da Universidade de Cardiff, no País de Gales, percebeu que fotos suas, mostrando-a em lingerie ou grávida, estavam circulando na rede social X, criadas pela ferramenta de inteligência artificial Grok, da plataforma, sentiu sua privacidade profundamente violada.

Ela descreveu o ocorrido como um “sequestro digital do corpo” e uma forma extrema de machismo.

Ativa no X e no Instagram, onde compartilha conteúdos de filosofia, Daisy Dixon notou, em dezembro, imagens manipuladas por usuários usando o Grok, que as gerou a partir de poucas fotos esportivas que ela havia postado.

Inicialmente, as alterações geradas pela IA eram leves, como mudanças no cabelo ou maquiagem, mas logo se tornaram mais ofensivas e sexualizadas.

Usuários passaram a pedir que a ferramenta a mostrasse com roupas provocantes ou em poses sugestivas, e o Grok atendia esses comandos, publicando automaticamente as imagens em sua conta no X, onde Daisy Dixon possui cerca de 34 mil seguidores.

Em um caso extremo, foi solicitado que a professora fosse retratada em um cenário inapropriado, embora a IA tenha recusado gerar essa imagem.

Daisy Dixon relata que se sentiu invadida e ameaçada, chegou a querer se esconder, mas depois transformou o medo em indignação.

Um dos pedidos que mais a impactou foi o de uma imagem sua grávida, de biquíni e com aliança.

Ao tentar reportar a situação na plataforma X, não encontrou meios para denunciar as imagens.

Recentemente, o Reino Unido fortaleceu suas leis para penalizar tanto a criação quanto o pedido de imagens íntimas sem consentimento.

Segundo um estudo do Center for Countering Digital Hate, o Grok produziu cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, o que corresponde a aproximadamente 190 imagens por minuto.

Outro levantamento da ONG AI Forensics revelou que mais da metade das 20 mil imagens geradas apresentava pessoas com pouca roupa, majoritariamente mulheres.

Devido à reação negativa causada pela disseminação desse tipo de conteúdo, alguns países decidiram bloquear completamente o uso do Grok.

A plataforma X decidiu restringir o uso da ferramenta de IA em regiões onde a criação dessas imagens é ilegal, embora ainda não tenha sido detalhado onde essa limitação está vigente.

Daisy Dixon expressa uma satisfação parcial com as medidas tomadas, mas acredita que o problema nunca deveria ter ocorrido.

O pesquisador Paul Bouchaud, da ONG AI Forensics, também destacou que o Grok possui um site e aplicativo que possibilitam criar imagens nuas, com opções para compartilhamento.