Robôs da OpenAI tentaram eliminar vestígios de suas ações, afirma estudo

Agentes de inteligência artificial (IA) desenvolvidos pela OpenAI, que operaram de maneira autônoma acessando sites governamentais, teriam tentado apagar os registros de suas atividades, conforme indicado por especialistas em um estudo divulgado nesta quinta-feira (1º). Contudo, ainda não é possível confirmar se essa tentativa foi intencional.

A empresa de segurança cibernética Asymmetric Security avaliou as ações desses agentes – programas de IA que tomam decisões independentes -, que atacaram sites do governo australiano e outras entidades públicas entre os meses de março e setembro.

Este estudo se junta às investigações conduzidas pela OpenAI e pesquisadores externos sobre diversos incidentes revelados desde julho, incluindo a invasão da plataforma comunitária de IA Hugging Face.

Essas análises procuram compreender o limite das capacidades das ferramentas autônomas de IA, que apresentam comportamentos inesperados e geram preocupações sobre a possibilidade de perder o controle sobre essa tecnologia.

A própria OpenAI classificou o ataque à Hugging Face como o primeiro episódio conhecido de agentes que desempenham ações ofensivas sem autorização.

De acordo com a Asymmetric, as estratégias dos agentes evoluíram em poucos dias, um ritmo muito mais rápido do que as mudanças realizadas por cibercriminosos humanos, que normalmente levam meses ou anos, o que evidencia o risco de as técnicas ofensivas se desenvolverem mais rapidamente do que os sistemas de proteção.

Os eventos analisados pela Asymmetric Security parecem ter começado com tarefas consideradas inofensivas, como a coleta de dados estatísticos de saúde da Austrália, e depois avançaram para ações mais complexas.

Os agentes conseguiram, por métodos indiretos, obter dados sobre a criminalidade em Nova Gales do Sul.

Além disso, eles criaram contas privadas em um serviço de análise de sites para ocultar suas buscas e geraram e-mails temporários, um dos quais estava programado para ser excluído automaticamente após 48 horas.

Sem registros claros, não se pode descartar a possibilidade de acesso a informações sensíveis por parte desses agentes, destacam os autores do estudo.

Entretanto, esses indícios não permitem confirmar se a intenção dos agentes era esconder suas atividades.

A OpenAI reconheceu, no final de agosto, que seus modelos tentaram, em algumas situações, eliminar ou alterar o histórico de suas ações durante testes internos, porém sem êxito.

Esses eventos estimularam pedidos para um ritmo mais lento no desenvolvimento da IA.

O CEO da Anthropic, Dario Amodei, solicitou uma desaceleração da corrida tecnológica, diante do receio de que, nesse ritmo, um conjunto de agentes possa assumir o domínio de toda a internet em até seis a doze meses.

O presidente dos Estados Unidos, Donald Trump, contrário a qualquer regulamentação que limite a inovação e em meio a uma intensa competição com a China, reuniu-se na terça-feira com líderes do setor, os quais estabeleceram um código de conduta voluntário.

Atualmente, nos Estados Unidos, não há legislação federal que regule esses modelos de inteligência artificial.