Setor global de IA não cumpre normas de segurança, aponta relatório

A empresa americana de inteligência artificial (IA) Anthropic alcançou a maior pontuação em uma avaliação semestral de segurança, mas, globalmente, o setor ainda não consegue prevenir riscos graves, conforme apontado em um relatório divulgado nesta terça-feira (7).

O Future of Life Institute, um centro de estudos americano focado na segurança da IA, analisou nove das principais companhias de IA do mundo e estabeleceu um ranking baseado em dados públicos e informações fornecidas pelas próprias empresas.

Essas nove empresas estão falhando em conter ameaças críticas, como o desenvolvimento de sistemas com inteligência semelhante à humana, chamados de “inteligência artificial geral” (AGI), conforme destacado no relatório.

Foram avaliados os esforços em seis áreas: análise de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, e compartilhamento de informações.

Nenhuma empresa recebeu a nota máxima “A” em qualquer categoria, com a Anthropic obtendo a melhor avaliação geral, um “C+”.

O relatório observa que várias empresas que anteriormente proibiam o uso militar de suas tecnologias estão começando a reverter essa decisão, incluindo a Anthropic, que foi criticada por manter “compromissos militares controversos”.

Nos últimos doze meses, o governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã, segundo diversos relatos da imprensa, embora a empresa tenha recentemente sido alvo de uma proibição pelo Pentágono devido a divergências sobre a segurança da IA.

Apesar de existirem iniciativas positivas, os esforços globais são considerados insuficientes. Outros perigos apontados envolvem o possível uso mal-intencionado dos modelos para realizar ataques cibernéticos ou executar ações que possam causar danos às pessoas.