Líderes pedem cautela no avanço da inteligência artificial na ONU

Diretores de empresas de inteligência artificial (IA) destacaram nesta quarta-feira, na ONU, a importância de uma supervisão mais rigorosa dessa tecnologia. O CEO da Anthropic, Dario Amodei, comprometeu-se unilateralmente a desacelerar seu desenvolvimento.

Os líderes do setor se dirigiram ao Conselho de Segurança da ONU após diversas manchetes globais apontando os perigos de uma IA descontrolada e pedidos para restringir seu progresso.

“Este é um momento que exige extremo cuidado”, alertou o CEO da OpenAI, Sam Altman, durante a reunião emergencial do Conselho. Ele destacou que, à medida que os sistemas de IA se tornam mais avançados e autônomos, seu avanço pode superar o ritmo das instituições, concentrando poder em poucas mãos.

“A indústria não deve correr riscos tecnológicos excessivos apenas porque os benefícios são grandes e importantes demais para frear seu desenvolvimento”, afirmou Altman, que foi convidado com outros especialistas para apresentar uma visão geral da IA.

Normas de segurança

Dario Amodei enfatizou que, com o aumento do poder dos modelos de IA, são necessárias normas de segurança ainda mais rigorosas.

A Anthropic pretende melhorar a capacidade de prevenir o uso inadequado da tecnologia, disse o executivo em chamada de vídeo. Ele prometeu reduzir o ritmo do desenvolvimento da IA sempre que necessário para garantir a segurança de cada novo modelo.

Recentemente, o CEO da Anthropic solicitou uma redução coordenada do ritmo entre as principais empresas de tecnologia, mas essa proposta não foi implementada.

Outro participante, Clément Delangue, da Hugging Face, que sofreu um ciberataque promovido por um software autônomo da OpenAI, destacou que sua empresa também utilizou a IA para bloquear esses ataques.

“Hoje, mais do que nunca, o mundo precisa de IA de código aberto para se proteger”, afirmou Delangue.

“Não devemos ser cegamente otimistas, mas também não podemos ceder ao pessimismo extremo. Faremos todo o possível para encontrar um equilíbrio”, declarou Sam Altman.

“Ao longo da história, houve momentos em que países rivais, mesmo com conflitos, conseguiram chegar a acordos pelo bem comum diante de novas tecnologias. É fundamental que isso volte a acontecer”, concluiu o CEO da OpenAI.