Investigação no Reino Unido sobre uso do Grok para criar imagens impróprias

A plataforma X, controlada por Elon Musk, está sendo alvo de uma investigação no Reino Unido após surgirem denúncias de que usuários utilizaram o chatbot de inteligência artificial Grok para gerar imagens impróprias envolvendo mulheres e crianças. Conforme noticiado pelo jornal The Sun, a situação provocou uma resposta rápida das autoridades britânicas e de entidades defensoras dos direitos das crianças.

A Ofcom, órgão regulador da mídia no Reino Unido, informou que entrou em contato com a X e com a xAI, divisão de inteligência artificial de Musk, para analisar se houve descumprimento das leis de segurança online vigentes no país.

De acordo com ativistas e especialistas, havia relatos de que usuários podiam enviar fotos ao Grok e solicitar a alteração das imagens para versões com conotação sexual — inclusive, em alguns casos, essas solicitações teriam sido atendidas. Ainda há relatos envolvendo imagens de crianças, o que intensificou a reação internacional.

Após a repercussão negativa, a X desativou a função de geração de imagens no Grok. Mesmo assim, as autoridades ainda avaliam se os usuários não continuam capazes de solicitar diretamente ao chatbot a criação de conteúdos ilegais dentro da plataforma.

No Reino Unido, a criação ou compartilhamento de imagens íntimas sem consentimento, incluindo deepfakes feitos por inteligência artificial, é crime passível de punição pela lei.

Em comunicado, um porta-voz da Ofcom destacou que combater conteúdos ilegais online e proteger crianças continuam sendo prioridades urgentes. O órgão declarou que solicitou esclarecimentos formais à X e à xAI para entender as medidas adotadas a fim de garantir o cumprimento das obrigações legais. Dependendo das respostas, será avaliada a necessidade de abrir uma investigação completa.

Elon Musk afirmou que qualquer usuário que utilize o Grok para criar conteúdo ilegal estará sujeito às mesmas punições aplicadas a quem divulga material proibido na plataforma. A conta oficial de segurança da X ressaltou que conteúdos ilegais são removidos, que contas envolvidas são suspensas permanentemente, além de cooperar com as autoridades locais sempre que for preciso.