Celebridades falecidas revivem com IA e causam reações variadas

Em um universo alternativo, a rainha Elizabeth II elogia bolinhos de queijo em um mercado, Saddam Hussein armado invade um ringue de luta livre para se mostrar, e o papa João Paulo II tenta andar de skate.

Vídeos ultra-realistas de celebridades falecidas, criados com programas de inteligência artificial (IA) simples de usar, como o Sora da OpenAI, estão tomando conta das redes sociais, gerando um debate sobre o direito de controlar a imagem dos mortos.

O aplicativo da OpenAI, lançado em setembro e reconhecido por muitos como uma ferramenta de “deepfakes” (conteúdos falsificados hiper-realistas gerados por IA), produziu diversos vídeos com figuras históricas, incluindo Winston Churchill, além de ícones como Michael Jackson e Elvis Presley.

Em um vídeo no TikTok analisado pela AFP, a rainha Elizabeth II, usando sua coroa e colar de pérolas, chega de scooter em um combate de luta livre, pula uma corda e salta sobre um lutador. Em outro vídeo no Facebook, a rainha elogia bolinhos de queijo em um supermercado e aparece jogando futebol em um terceiro.

No entanto, nem todos os conteúdos gerados pelo Sora 2 provocaram diversão.

Em outubro passado, a empresa de IA bloqueou usuários de seu aplicativo que tentavam criar vídeos com a imagem de Martin Luther King Jr., após protestos de seus herdeiros. Alguns vídeos mostravam o líder dos direitos civis agindo de formas insultuosas e ofensivas, incluindo comentários racistas.

“Estamos entrando no vale da estranheza”, explicou Constance de Saint Laurent, professora da Universidade de Maynooth, Irlanda, referindo-se à teoria que diz que quanto mais um objeto parece humano ou realista, maior é a sensação de desconforto e inquietação que provoca.

“Receber vídeos de entes queridos falecidos pode ser traumático”, declarou à AFP. “Esses vídeos têm impactos reais.”

Recentemente, os filhos do ator Robin Williams e do ativista Malcolm X criticaram o uso do Sora para criar vídeos dos seus pais já falecidos.

Zelda Williams, filha do ator, pediu no Instagram para que parassem de enviar clipes do pai feitos por IA, dizendo ser “angustiante”.

Um representante da OpenAI afirmou que, embora haja um forte interesse em representar figuras históricas pela liberdade de expressão, as personalidades públicas e suas famílias devem ter o controle final sobre sua imagem.

Para personalidades falecidas recentemente, representantes autorizados podem pedir que suas imagens não sejam usadas no Sora, acrescentou.

Hany Farid, cofundador da empresa de segurança digital GetReal Security e professor na Universidade da Califórnia em Berkeley, criticou dizendo que a OpenAI lançou uma ferramenta que claramente faz o oposto do controle de imagem.

“Ainda que tenham bloqueado vídeos de Martin Luther King Jr., não impediram a apropriação da identidade de muitas outras celebridades”, lamentou.

Segundo ele, enquanto a OpenAI implementa certas restrições, outros modelos de IA que não fazem isso podem surgir, piorando o problema.

Após o assassinato recente do diretor Rob Reiner, verificadores da AFP encontraram vídeos com sua imagem feitos por IA circulando online.

Com o avanço das tecnologias de IA, a vulnerabilidade não está mais restrita a figuras públicas: pessoas comuns falecidas também correm o risco de terem seus nomes, imagens e falas distorcidas para manipulação.

Especialistas alertam que a disseminação descontrolada desse tipo de conteúdo sintético — chamado de “conteúdo lixo de IA” — pode acabar afastando as pessoas das redes sociais.

“O problema da desinformação não é tanto que as pessoas acreditem nela — muitas não acreditam”, disse Saint Laurent. “O problema é que as pessoas veem informações reais e não confiam mais em sua veracidade”. Ferramentas como o Sora vão aumentar bastante esse fenômeno.