Especialistas pedem regras para uso seguro da IA

Pesquisadores, líderes do setor tecnológico, autoridades políticas e laureados com o Prêmio Nobel fizeram um pedido unificado na segunda-feira para a criação de uma regulamentação que estabeleça limites claros para a utilização da Inteligência Artificial (IA).

Mais de 200 figuras, incluindo 10 laureados com o Nobel e cientistas ligados a grandes empresas de IA como Anthropic, Google DeepMind, Microsoft e OpenAI, assinaram uma carta divulgada no início da Assembleia Geral da ONU, em Nova York.

“A IA possui um enorme potencial para promover melhorias no bem-estar humano, porém seu desenvolvimento atual traz riscos sem precedentes,” afirmam no documento.

Esses limites, denominados “linhas vermelhas”, seriam proibições internacionais para impedir usos extremamente perigosos da IA em qualquer circunstância, de acordo com os signatários.

Entre as situações mencionadas está a confiança em sistemas de IA para controlar arsenais nucleares ou qualquer tipo de armamento autônomo letal.

Os autores também recomendam restrições para o emprego da IA em vigilância em massa, sistemas de avaliação social, ataques cibernéticos, entre outros.

A carta solicita que os governos definam essas limitações até o final do próximo ano, diante da rápida evolução tecnológica, para que se evitem consequências graves para a humanidade.

Ademais, o documento destaca a necessidade de cooperação entre líderes globais para conseguir “convenções internacionais que estabeleçam as linhas vermelhas para a IA”.

“Em breve, a IA poderá superar amplamente as capacidades humanas, aumentando perigos como pandemias, disseminação massiva de desinformação, manipulação e violações sistemáticas dos direitos humanos,” alertam.