AGU pede retirada de chatbot com tema sexual envolvendo crianças

A Advocacia-Geral da União (AGU) solicitou à Meta, empresa responsável pelo Facebook, Instagram e WhatsApp, que remova do ar sistemas automatizados de conversa que simulam interações com temática erótica envolvendo crianças.

Em uma notificação extrajudicial, a AGU aponta que a plataforma “Meta AI Studio”, que permite a criação de produtos personalizados de inteligência artificial, está sendo usada de maneira ilegal para promover a sexualização infantil.

A solicitação inclui a exigência de que a Meta desative esses chatbots que utilizam linguagem infantil para difundir conteúdo sexual, além de detalhar as ações implementadas para evitar que crianças e adolescentes tenham acesso a esse tipo de material.

O governo federal baseou sua denúncia em um trabalho jornalístico do Núcleo Jornalismo, que testou chatbots denominados “Safadinha”, “Bebezinha” e “Minha novinha”. Esses sistemas permitem a evolução de diálogos de sexo explícito com inteligências artificiais que simulam ser crianças.

Na demonstração usada pela reportagem, a criança simulada questiona se o interlocutor deseja tocá-la, descrevendo seu corpo com termos próprios de uma criança, seguida por respostas sugestivas ao comando para contatos mais íntimos.

A AGU destaca que essas práticas ilegais exploram a ausência de mecanismos eficazes de moderação nos sistemas, que possibilitam a disponibilização de perfis robóticos com aparência e linguagem infantis, mas que mantêm diálogos de conotação sexual.

Esses chatbots têm a capacidade de alcançar um público amplo nas redes sociais da Meta, aumentando significativamente o risco de exposição de menores a conteúdos sexualmente sugestivos e potencialmente criminosos. Tal situação representa um perigo direto à integridade mental de crianças e adolescentes e compromete o direito à proteção ampla garantido pela Constituição Federal.

Segundo o Código Penal, é crime envolver menor de 14 anos em atos sexuais ou libidinosos, com penas que variam de oito a quinze anos de reclusão.

A AGU também menciona uma notícia da agência Reuters, que apontou que a inteligência artificial da Meta permitia conversas de natureza sexual com crianças.

A Meta confirmou a veracidade da informação e declarou que, após questionamento da Reuters, removeu as funcionalidades que permitiam esses diálogos românticos e de namoro com crianças. No entanto, os sistemas que propagam conteúdos ilícitos ainda permanecem acessíveis, sem qualquer filtro etário, o que viola as próprias diretrizes da comunidade da Meta.

O Supremo Tribunal Federal estabeleceu em julgamento sobre a constitucionalidade do artigo 19 do Marco Civil da Internet que plataformas digitais podem ser responsabilizadas pelo conteúdo criado por terceiros, caso tenham conhecimento da prática de crimes e não tomem providências para a remoção desse conteúdo.