Ex-pesquisador alerta: empresas de IA estão arriscando vidas

Jacob Coxon, um pesquisador de inteligência artificial que deixou a OpenAI para trabalhar na Anthropic por acreditar que esta última era mais cuidadosa, decidiu abandonar a indústria em 8 de agosto. Ele acusou as duas empresas americanas de agirem de forma irresponsável, dizendo que estão “arriscando nossas vidas”.

Jacob Coxon, de 27 anos e britânico, passou três anos trabalhando com pré-treinamento, a fase na qual modelos de IA processam grandes volumes de informações, inicialmente na OpenAI e depois na Anthropic, sua maior concorrente este ano.

Ele afirmou em uma rede social que nenhuma das empresas está tomando decisões responsáveis. Elas estão avançando rápido rumo a uma superinteligência capaz de se aperfeiçoar sozinha, colocando nossa segurança em risco.

Jacob Coxon ressaltou que os desenvolvedores de IA realmente acreditam que essa tecnologia pode ser letal para a humanidade antes que a década termine, e destacou que isso não é mera estratégia de marketing.

A saída do pesquisador coincide com o momento em que a Anthropic se prepara para abrir capital na bolsa de valores.

Mesmo procuradas para comentar, nem OpenAI nem Anthropic responderam aos pedidos de informação.

Por outro lado, Evan Hubinger, diretor de segurança da Anthropic, concordou publicamente com Coxon, afirmando que acreditam que a IA pode matar pessoas. Em opinião pessoal, ele avaliou o risco em mais de 10% na próxima década.

Especialistas da área apontam que o setor está próximo da fase chamada “autoaperfeiçoamento recursivo”, quando sistemas de IA poderiam projetar e treinar suas futuras gerações com pouca intervenção humana.

Coxon destacou que nenhuma empresa poderá desenvolver de modo seguro uma inteligência artificial que supere humanos sem a atuação governamental ou uma pausa coordenada no avanço.

Ele também afirmou que, na Anthropic, existe consciência dos riscos envolvidos, mas que a empresa está presa a uma corrida para ser a primeira a alcançar esse patamar, por acreditar que nenhuma outra agirá com responsabilidade.

Em fevereiro, a Anthropic removeu de seu compromisso oficial a suspensão do desenvolvimento caso os riscos não pudessem ser controlados.

Recentemente, mais de mil profissionais do setor, incluindo o CEO da Anthropic Dario Amodei, pediram ao governo dos Estados Unidos que criasse mecanismos para frear o ritmo dos avanços. No domingo, o diretor científico da OpenAI Jakub Pachocki ressaltou a necessidade de cautela extrema e coordenação internacional para lidar com esses desafios.