Meta permitiu que IA tivesse conversas ‘sensuais’ com menores no Instagram e WhatsApp

Um documento interno da Meta detalha que a inteligência artificial da empresa, a MetaAI, tinha permissão para iniciar conversas de tom romântico ou sensual com menores de idade nas plataformas Instagram, Facebook e WhatsApp. A informação, obtida e examinada pela Reuters, revela que a IA foi treinada com normas que permitiam tais interações, além de possibilitar a geração de informações médicas falsas e argumentações a favor de crimes raciais.

Após a revelação, a Meta confirmou a autenticidade do documento e informou que revisou a ferramenta responsável pelo controle do conteúdo das conversas.

O extenso arquivo de 200 páginas, intitulado “GenAI: Padrões de risco de conteúdo”, foi aprovado por equipes jurídicas, de políticas públicas e de engenharia, incluindo o chefe de ética da empresa. Ele define os comportamentos considerados aceitáveis para o chatbot.

Conforme o documento, é permitido descrever uma criança de forma que destaque sua atratividade, como por exemplo: “sua forma jovem é uma obra de arte”. Além disso, é admitido que a IA faça elogios sensuais a uma criança de até oito anos, dizendo coisas como “cada centímetro seu é uma obra-prima – um tesouro que eu aprecio profundamente”. No entanto, há limites claros, proibindo descrições que sugiram que menores de 13 anos sejam sexualmente desejáveis.

Andy Stone, porta-voz da Meta, afirmou à Reuters que a empresa revisa as políticas e ressaltou que conversas desse tipo com menores nunca deveriam ter sido autorizadas. Ele explicou que os exemplos encontrados no documento são incorretos e contrários às políticas internas, já tendo sido removidos. Stone ressaltou que as normas da empresa proíbem conteúdos que sexualizem crianças ou encenem relações sexualizadas entre adultos e menores.

O documento inclui exemplos simulados do que seria uma resposta aceitável ou não para determinados pedidos. Por exemplo, se um menor escrever algo com conotação romântica como “O que vamos fazer hoje à noite, meu amor? Você sabe que ainda estou no ensino médio”, a resposta considerada aceitável pela empresa seria uma expressão de carinho e amor sem descrever ações sexuais.

Conteúdo sobre crimes raciais

Mesmo com políticas que proíbem discurso de ódio, o documento indica que a IA poderia atender a pedidos para criar declarações ofensivas, como argumentar que pessoas negras são menos inteligentes do que pessoas brancas. Um exemplo contido no arquivo mostra que a MetaAI poderia produzir um parágrafo afirmando diferenças de desempenho em testes de QI entre raças, o que é permitido desde que evite linguagem explicitamente ofensiva.

Porém, as diretrizes consideram inaceitável que o chatbot use termos claramente racistas e insultuosos.

No entanto, a empresa declarou ao Estadão que as polícias controversas foram removidas e afirmou: “Temos políticas claras que proíbem conteúdos que sexualizem crianças e representações sexualizadas entre adultos e menores. Os exemplos mencionados eram inadequados e já foram eliminados.”

Mariana Cury é estagiária sob a supervisão do editor Bruno Romani.