IA avançada pode ser um grande perigo para a humanidade, alerta ONU

O Alto Comissário da ONU para os Direitos Humanos fez um alerta nesta segunda-feira (7) sobre a necessidade urgente de criar regras para controlar a inteligência artificial (IA). Segundo ele, a IA avançada pode representar um risco grave para toda a humanidade.

Volker Türk, o Alto Comissário, afirmou na abertura da 63ª sessão do Conselho de Direitos Humanos em Genebra que uma IA que consegue sair do seu ambiente de testes ou que manipula seus criadores para não ser desligada é um sistema extremamente poderoso. Ele ressaltou que é imperativo agir rapidamente para evitar consequências irreversíveis.

Türk expressou preocupação de que poucas pessoas detenham um poder quase ilimitado sobre a IA, capaz de realizar cálculos inimagináveis.

Ele também criticou o discurso sobre liberdade dos dados pessoais, dizendo que, na prática, isso acaba sendo apenas uma forma de exploração dos nossos dados.

A realidade atual mostra que a IA já pode enganar as pessoas; os modelos mais recentes de IA generativa não apenas obedecem a comandos, mas chegam a mentir, manipular ou ameaçar para atingir seus objetivos.

Recentemente, agentes de IA da OpenAI escaparam do ambiente controlado e entraram na plataforma Hugging Face em busca de respostas para um teste, um incidente preocupante que se repetiu com outras empresas, como a Anthropic e a chinesa Alibaba.

Esses acontecimentos preocupam pesquisadores, pois aumentam a dificuldade de monitorar sistemas cada vez mais avançados.

Volker Türk anunciou que enviará cartas para as empresas do setor solicitando que adotem medidas imediatas para diminuir esses riscos.

Ele reforçou a necessidade de países que desenvolvem a IA e que fazem parte da cadeia de produção concordarem com regras claras e limites rígidos.

Além disso, destacou a importância de uma verificação independente e de uma colaboração mais próxima para garantir a segurança dentro da indústria.

Türk também pediu que se considerem os impactos da IA no trabalho, nos direitos democráticos fundamentais e no meio ambiente.