EUA bloqueiam acesso de estrangeiros a novas IAs da Anthropic por segurança

Os Estados Unidos proibiram nesta sexta-feira, 12, que estrangeiros tenham acesso aos novos modelos de inteligência artificial da Anthropic, citando questões de segurança nacional. A restrição vale tanto para pessoas dentro quanto fora do país, inclusive para funcionários da empresa.

Para cumprir a determinação, a empresa teve que desativar globalmente os modelos. A ordem não detalhou o risco específico para a segurança nacional, mas a Anthropic acredita que o governo esteja preocupado com a possibilidade de um jailbreak no modelo Fable 5.

O jailbreak envolve o uso de engenharia de prompt ou simulações para fazer com que um bot de IA responda de maneira diferente do programado, ignorando regras de segurança e princípios éticos, permitindo ações proibidas ou modificando o viés originalmente incluído no modelo.

Em nota, a dona do Claude afirmou que, embora esteja cumprindo a ordem, acredita que o governo tenha interpretado de forma equivocada a situação. A Anthropic sustenta que o risco de jailbreak não justifica impedir que milhões de pessoas utilizem a ferramenta.

“Se essa proibição fosse aplicada a toda a indústria, praticamente todos os novos lançamentos dos principais fornecedores de modelos seriam interrompidos”, declarou a empresa.

A companhia já havia alertado o governo americano sobre a possibilidade do jailbreak, mas critica a decisão tomada.

“Como mencionamos anteriormente, entendemos que o governo pode restringir implementações que representem riscos, desde que isso aconteça por meio de processos legais transparentes, justos, claros e baseados em evidências técnicas. No entanto, essa ação não segue esses princípios”, completou a empresa.

A ordem foi emitida apenas três dias após o lançamento dos modelos Fable 5 e Mythos 5, disponibilizados ao público na última terça-feira, 9.

Inicialmente, os modelos estariam disponíveis gratuitamente por 13 dias. A partir do dia 22 de junho, o acesso seria cobrado por requisição via API, substituindo o modelo gratuito.

Essa não é a primeira vez que o governo dos Estados Unidos e a Anthropic divergiram. No fim de fevereiro, o governo ordenou que agências federais cessassem o uso dos modelos da startup depois que a empresa recusou permitir que as forças armadas utilizassem os modelos sem restrições e salvaguardas técnicas, alegando motivos éticos.