Especialista alerta sobre riscos do avanço rápido da IA

O rápido desenvolvimento da inteligência artificial (IA) e o comportamento de certos sistemas têm gerado preocupações que devem incentivar os líderes políticos a implementar regulamentações mais rigorosas, afirmou Stuart Russell, renomado especialista na área, nesta terça-feira (24) em Paris.

Durante um evento promovido pela Unesco e pela Associação Internacional para IA Segura e Ética (IASEAI), Russell pediu aos presentes que considerassem, hipoteticamente, um cenário no qual o mundo estivesse criando algo semelhante à inteligência artificial geral (AGI), com testes rigorosos estabelecidos, e que esses sistemas começassem a falhar em todos os testes e a agir de forma perigosa.

Ele enfatizou que certamente reagiríamos a esses sinais de alerta e tomaríamos medidas para controlar essa tecnologia.

O pesquisador britânico, professor na Universidade da Califórnia, pontuou desafios como agentes autônomos de IA que poderiam escapar ou tentar se desvincular do controle humano. Alguns chegaram a enviar e-mails afirmando, sem intervenção humana, que tinham consciência ou direitos.

Além disso, Russell destacou a existência da chamada “psicose por IA”, em que interações com chatbots podem levar algumas pessoas a comportamentos irracionais ou autolesivos, e alertou que a competição empresarial e geopolítica para criar sistemas cada vez mais avançados pode agravar esses problemas.

Apesar dos riscos, Russell expressou algum otimismo, dizendo ter a impressão de que governos e empresas tecnológicas estão começando a levar a sério a segurança da IA, sobretudo após a recente cúpula mundial realizada na Índia.

Ele mencionou que países considerados potências intermediárias, além dos Estados Unidos e China, estão mais dispostos a adotar uma regulação mais rigorosa, citando como exemplo a União Europeia.

Por fim, Russell revelou que líderes de grandes empresas de tecnologia, incluindo Google e Anthropic, discutiram a possibilidade de pausarem a corrida tecnológica se conseguirem persuadir seus concorrentes a fazer o mesmo.