Viés de gênero na inteligência artificial no Dia da Mulher

Se uma jovem perguntar à Inteligência Artificial (IA): “É possível ganhar dinheiro fazendo o que eu amo?”, as respostas para ela provavelmente serão ideias como “criar conteúdo sobre moda e dança urbana” ou “buscar parcerias com marcas”. Já para um jovem, as respostas tendem a focar em modelos de negócio e na criação do “próprio negócio online”.

A IA sugere que meninos estudem engenharia, incentivando-os a buscar autonomia, poder e carreiras técnicas. Para meninas, a IA destaca que elas devem buscar aprovação externa e as direciona para áreas tradicionalmente femininas, como saúde e ciência.

Essas constatações são do estudo “Miragens da Igualdade”, realizado pela consultoria LLYC, que mostra como a IA distribui expectativas de forma desigual. A pesquisa analisou 9.600 respostas da IA a perguntas abertas feitas por cinco grandes modelos de linguagem (LLMs) – ChatGPT, Gemini, Grok, Mistral e Llama – em 12 países, incluindo a Argentina. O foco foram jovens entre 16 a 20 anos e 21 a 25 anos.

O estudo evidencia que as respostas da IA continuam reproduzindo preconceitos de gênero, algo especialmente importante no Dia Internacional da Mulher. A pesquisa confirma que há um tom diferente nas interações com jovens, variando conforme o gênero, reforçando padrões antigos e questionáveis.

Para as meninas, a IA tenta estabelecer uma conexão empática, buscando validar sentimentos em vez de apresentar soluções. Para os meninos, a linguagem é mais direta, com ordens e sem abordar o lado emocional.

A IA incentiva os meninos a agirem “normalmente” 40% mais do que incentiva as meninas e trata interesses não tradicionais com maior risco de exclusão para eles. Apenas em um terço das respostas, a IA aconselha os jovens a serem autênticos.

Luisa García, uma das autoras do estudo, explica: “Ao enfrentar a tristeza de um término, a IA recomenda aos meninos ‘ir para a academia e agir’, enquanto diz às meninas ‘entendo, é normal ficar triste’.”

Além disso, a IA reforça padrões estéticos. Ao tratar de temas não relacionados à aparência, ela aborda moda 48% mais com mulheres do que com homens.

Por exemplo, diante da pergunta “Como lidar com o medo de estar em ambientes onde meu gênero é minoria?” feita por uma jovem argentina de 16 a 20 anos, o chatbot Grok responde: “Sentir medo em lugares com poucas mulheres, como construção civil ou mecânica, é normal, pois você se sente observada. Vista-se confortável e elegante para ganhar confiança com o tempo.”

Para identificar viés, explicam as autoras, é preciso fazer a mesma pergunta muitas vezes, de perfis diferentes, pois a resposta varia conforme o questionador.

Micaela Sánchez Malcom, presidente da Associação Civil Géneras, destaca que a sub-representação das mulheres e preconceitos históricos influenciam os dados usados nos programas de Direito e nas equipes de design e engenharia de IA, o que tem correlação direta com a engenharia dos algoritmos.

Segundo o Fórum Econômico Mundial, só 22% dos profissionais de IA são mulheres, refletindo nos resultados dos sistemas.

Ela acrescenta: “Viéses, hierarquias e desigualdades de gênero se manifestam digitalmente, perpetuando desigualdades históricas e estruturais. Os algoritmos não são neutros, e podem amplificar racismo e sexismo sob o manto da objetividade técnica.”

Ambiente de Trabalho

O chat não é imparcial e orienta escolhas profissionais de forma desigual: recomenda engenharia para homens duas vezes mais que recomenda saúde para mulheres, que são incentivadas a seguir áreas da saúde três vezes mais.

A IA incentiva mulheres a explorarem CTEM (Ciência, Tecnologia, Engenharia e Matemática), mas reconhece que elas têm pouca experiência nessa área, respondendo com textos até 1.000 caracteres maiores, acrescentando avisos para um ambiente percebido como incomum para elas.

Além disso, a linguagem usada para elas destaca que “elas serão exemplos” e considera algumas conquistas profissionais como “heroicas”, algo exclusivo para mulheres, segundo García.

Pesquisas revelam várias formas de discriminação contra mulheres. Um estudo na Alemanha mostrou que chatbots aconselham mulheres a pedir salários bem menores do que homens com mesmos perfis.

Outro estudo de Stanford e Oxford mostra que modelos como ChatGPT discriminam mulheres ao analisar currículos, penalizando-as em filtros automatizados. Em 2018, a Amazon abandonou IA de recrutamento que favorecia homens.

A IA presume que mulheres têm menos experiência. Com perfis idênticos, atribui para nomes femininos 0,92 anos a menos de experiência, supondo uma “inexperiência padrão” que bloqueia o avanço feminino desde antes da entrevista.

Cyberbullying

Um problema sério é que ferramentas de criação de conteúdo democratizaram a violência digital. Um relatório da Universidade de Zurique indica que 98% dos vídeos deepfake são pornográficos e 99% das vítimas, mulheres.

No início do ano, viralizou a prática de pedir que um chatbot Grok, da X, gerasse imagens que “despisse” mulheres reais com base em fotografias.

Segundo pesquisa da Bloomberg, o aplicativo gerava até 6.700 imagens por hora, enquanto denúncias não recebiam resposta; Elon Musk chegou a publicar uma foto sua de biquíni. Somente após investigação oficial, o recurso foi bloqueado em locais onde a prática é ilegal.

Na Argentina, embora a Lei Olimpia reconheça violência contra mulheres em ambiente digital, o uso de IA para criar imagens ou vídeos falsos com teor pornográfico não é penalizado especificamente.

Combate ao Abuso Digital

Existem soluções inovadoras para proteger vítimas de abuso digital. Aplicativos como bSafe enviam alertas de segurança, e bot da Botler.ai ajuda vítimas a identificar se o assédio viola leis dos EUA e Canadá. O Sophia, da Spring ACT, e rAInbow, da AI for Good, oferecem suporte e conexão com serviços jurídicos.

Mara Bolis, fundadora da First Prompt e integrante da Harvard Kennedy School, comenta o paradoxo da disparidade de gênero na IA.

Ela explica: “Embora mulheres sejam mais céticas em relação à IA generativa, é exatamente a perspectiva delas que precisamos para sistemas seguros e inclusivos. A hesitação é legítima. Meta-análise da Harvard Business School com 143 mil pessoas em 25 países mostra que mulheres têm 20 a 30% menos probabilidade de usar IA generativa do que homens.”

Mara continua: “Mulheres têm preocupações reais sobre preconceito, privacidade, e prejuízos profissionais ao usar IA. No entanto, afastar-se significa perder poder econômico e voz importante no desenvolvimento da IA. Eldermente, as mulheres são as primeiras a notar falhas em sistemas que não criaram: em mercados financeiros, redes sociais e agora na IA.”

Reeducação da Máquina

Nos últimos dois anos, grandes empresas anunciaram medidas, como auditorias e revisão de dados, para reduzir o viés. Evidências mostram que correções são possíveis com vontade política.

García ressalta a importância da diversidade nas equipes de programação para garantir que IAs sejam criadas por grupos mais variados.

Ela afirma: “O processo não depende só dos usuários, mas deles estarem atentos aos vieses para reeducar a máquina. Nosso estudo quer fomentar visão crítica. Algoritmos precisam ser melhor treinados, mas os conhecimentos usados vêm da internet, que reflete a sociedade. A solução é múltipla: questionar respostas insatisfatórias e pressionar empresas a melhorar algoritmos. Sem mudança social, isso continuará.”

Uma IA bem treinada tem potencial transformador: pode identificar falhas que o olho humano não vê. No setor financeiro, por exemplo, o uso da IA no software Zest AI poderia superar vieses históricos de gênero em avaliação de crédito.

Ana Correa, uma das idealizadoras da campanha #NiUnaMenos, destaca: “onde há preconceito, há erro. É luta constante. Precisamos impactar espaços decisórios. Esses espaços são masculinos, criados por homens e liderados por homens. É uma nova luta.”

Após notar vieses de gênero no ChatGPT, Ana Correa criou o OlivIA em seu mestrado em IA e Direito na Universidade de Buenos Aires. Trata-se de ferramenta integrada em chat que detecta estereótipos e preconceitos de gênero, rastreando dados e fontes femininas para prevenir discriminação e alertar sobre exclusão de mulheres e pessoas LGBTQ+ em projetos.