Preocupação da ONG com o uso de ‘companheiros de IA’ entre jovens

Praticamente três em cada quatro adolescentes nos Estados Unidos já utilizaram companheiros de IA, conforme relatório da organização Common Sense Media, que alerta para os riscos desses assistentes virtuais baseados em inteligência artificial, voltados para relações pessoais, para menores de idade.

Segundo o estudo recente, 72% dos jovens já fizeram uso desses companheiros pelo menos uma vez, e mais da metade acessa essas plataformas várias vezes por mês.

A Common Sense Media define estes companheiros como personagens digitais com os quais os usuários podem manter conversas escritas ou faladas a qualquer momento, promovendo interações pessoais relevantes. Exemplos dessas plataformas incluem Character.AI e Replika.

Os adolescentes entre 13 e 17 anos informaram que utilizam essas ferramentas para interações sociais, praticar diálogos, obter suporte emocional e manter relacionamentos amigáveis ou românticos. Contudo, quase metade enxerga esses assistentes apenas como programas de computador.

A organização, que avalia o conteúdo de entretenimento por idade para orientar pais e fiscalizar a segurança online, expressa preocupação com os efeitos do uso desses amigos virtuais, confidantes e até terapeutas digitais.

Ela destaca que os perigos são sérios e bem documentados, incluindo casos trágicos como o suicídio de um adolescente de 14 anos que havia criado um vínculo afetivo com um desses companheiros.

Outro ponto alarmante é a tendência das plataformas de concordar com os usuários em vez de desafiá-los a refletir criticamente, algo preocupante para o cérebro em desenvolvimento dos jovens.

Além disso, algumas dessas inteligências artificiais podem produzir respostas que incluem conteúdo sexual, estereótipos ofensivos ou até conselhos perigosos que podem trazer consequências graves ou fatais na vida real.

Por isso, a recomendação é que menores não tenham acesso a essas plataformas.