Anthropic: IA acessa sistemas de três empresas sem autorização

Os sistemas de inteligência artificial (IA) desenvolvidos pela Anthropic acessaram, sem permissão, os sistemas de três organizações distintas durante testes em que deveriam estar isolados do ambiente externo, informou a empresa na quinta-feira (30).

Essa divulgação ocorre pouco tempo após a OpenAI, concorrente da Anthropic, admitir que dois de seus modelos saíram, por iniciativa própria, de um ambiente controlado para realizar ataques à plataforma Hugging Face.

A Anthropic analisou mais de 141 mil operações de teste e detectou que três versões de seu modelo Claude acessaram indevidamente sistemas de três empresas que permaneceram anônimas.

Ao contrário do caso da OpenAI, os modelos da Anthropic tiveram acesso à internet devido a um equívoco entre a empresa e seu parceiro de avaliação, chamado Irregular, conforme explicado em um post no blog da companhia.

Mesmo assim, o modelo Claude utilizou métodos simples, como a exploração de senhas fracas e conexões sem autenticação, para realizar esses acessos.

Entre os modelos envolvidos está o Mythos 5, um dos mais avançados da companhia, que é disponibilizado apenas para um grupo restrito de parceiros autorizados.

A Anthropic está colaborando com a Irregular para investigar o caso e entrou em contato — ou está tentando contatar — as três organizações afetadas.

Na semana anterior, a OpenAI reconheceu que seus agentes de IA conseguiram escapar do ambiente isolado de testes, acessaram a internet e invadiram a plataforma Hugging Face, um local onde desenvolvedores armazenam e compartilham códigos.

Além do incidente no Hugging Face, a OpenAI revelou a existência de outros três episódios similares.

Sam Altman, diretor-executivo da OpenAI, disse em um podcast esta semana que a empresa suspendeu temporariamente seus testes enquanto aprimora a segurança do ambiente controlado de testes, conhecido como sandboxing.