Google: Funcionários querem que EUA não utilizem IA em trabalhos sigilosos

Mais de 600 colaboradores do Google solicitaram, nesta segunda-feira (27), que a empresa rejeite um acordo proposto com o Pentágono para que sua tecnologia de inteligência artificial seja empregada em operações militares sigilosas, conforme comunicado.

A carta foi direcionada ao diretor-executivo do Google, Sundar Pichai, e surge em momento em que a empresa negocia com o Departamento de Defesa a implementação do Gemini, seu principal modelo de IA, para tarefas confidenciais.

“Trabalhos confidenciais são, por natureza, obscuros”, afirmou um participante anônimo da iniciativa.

“Neste momento, não há meio de garantir que nossas ferramentas não causem danos sérios ou prejudiquem liberdades civis sem supervisão pública. Estamos falando de situações como identificar pessoas ou direcionar contra civis inocentes”, acrescentou.

O Google não respondeu imediatamente ao pedido de comentário.

Entre os signatários, estão mais de 20 diretores e altos executivos.

A companhia de tecnologia está entre as candidatas a substituir a Anthropic como fornecedora de IA para trabalhos confidenciais e não confidenciais do governo.

Atualmente, o Google mantém contrato com o Pentágono para trabalhos não sigilosos via o programa genAI.mil.

A Anthropic entrou com ação judicial contra o Pentágono após ser classificada como “risco para a cadeia de suprimentos”, depois de pedir que sua tecnologia não fosse usada para vigilância em massa doméstica ou guerra automatizada.

Segundo a carta, o Google sugeriu cláusulas contratuais evitando o uso do Gemini para vigilância doméstica em massa ou desenvolvimento de armas autônomas sem supervisão humana adequada.

Porém, o Pentágono insiste em redação ampla, autorizando “todos os usos legais”, para garantir flexibilidade operacional.

Os funcionários argumentam que as proteções propostas são de difícil aplicação técnica e citam política do Pentágono que impede que terceiros controlem seus sistemas de IA.

“Se a liderança quiser realmente evitar danos futuros, deve recusar completamente, por ora, trabalhos confidenciais”, afirmou outro signatário da carta com palavras diferentes.