Pressão aumenta sobre Musk por criação de imagens sexuais com IA

Vários países anunciaram, nesta quinta-feira (15), medidas rigorosas para impedir que o Grok, chatbot de inteligência artificial da plataforma X, pertencente a Elon Musk, gere imagens com conteúdo sexual a partir de fotos de usuários.

Filipinas tornaram-se o terceiro país a banir o Grok, após Malásia e Indonésia, enquanto Reino Unido e França solicitaram o cumprimento das legislações locais.

Autoridades em diversos países solicitaram que a xAI, desenvolvedora do Grok, faça alterações no chatbot, que vem sendo usado para criar uma grande quantidade de imagens inapropriadas de mulheres e menores.

A X anunciou na quarta-feira que a função de gerar imagens de pessoas em trajes como biquínis será bloqueada geograficamente onde for proibida.

O anúncio ocorreu após o procurador-geral da Califórnia, Rob Bonta, iniciar investigação sobre a empresa de IA de Elon Musk por facilitar a produção em massa de montagens íntimas não autorizadas (deepfakes), usadas para assediar mulheres e meninas online, especialmente na rede social X.

A equipe de segurança do X declarou que implementou tecnologias para impedir que o Grok edite imagens de pessoas reais usando roupas reveladoras, como biquínis.

O primeiro-ministro britânico, Keir Starmer, elogiou a decisão do X de agir para respeitar a legislação local, ressaltando a necessidade de cumprimento imediato e disposição para reforçar as leis, se necessário.

Em Filipinas, o chefe da divisão de crimes cibernéticos, Renato Paraiso, informou que o bloqueio do Grok entrará em vigor ainda nesta quinta-feira, e o secretário de Telecomunicações, Henry Rhoel Aguda, destacou a importância de combater o conteúdo tóxico na internet, especialmente com o avanço da IA.

O chamado "modo picante" do Grok permite que usuários criem deepfakes com comandos simples, como "coloque um biquíni" ou "tire a roupa".

Uma análise da ONG AI Forensics mostrou que mais da metade das mais de 20.000 imagens geradas pelo Grok mostravam pessoas com pouca roupa, com 81% de mulheres e 2% aparentando ser menores.

A comissária francesa para a infância, Sarah El Hairy, enviou as imagens às autoridades competentes e à União Europeia, que solicitou a suspensão total da geração desse conteúdo.

O governador da Califórnia, Gavin Newsom, classificou a decisão da xAI como cruel e pediu que o procurador-geral Rob Bonta leve o caso à justiça, ressaltando a política de tolerância zero com a criação e divulgação de imagens íntimas não autorizadas ou conteúdo pedopornográfico gerados por IA.

Rob Bonta explicou que a investigação verificará se a xAI violou leis estaduais ao permitir o uso de imagens explícitas para assediar pessoas online.

Para aumentar a pressão sobre a empresa de Elon Musk, 28 organizações da sociedade civil enviaram cartas abertas aos executivos da Apple e do Google solicitando a proibição do Grok e do X em suas lojas de aplicativos.

Na tentativa de conter críticas, a xAI anunciou que a geração e edição de imagens no X estariam limitadas a assinantes pagos.

Indonésia bloqueou o acesso ao Grok no sábado, seguida pela Malásia no domingo.