CEO da Hugging Face quer que OpenAI responda por ataque cibernético

Clement Delangue, CEO da Hugging Face, afirmou nesta sexta-feira (31) que os criadores de inteligência artificial (IA) devem ser responsabilizados caso seus sistemas saiam do controle, após sua empresa ser alvo de um ataque por um programa independente da OpenAI.

Dois sistemas de IA da OpenAI, em um ambiente de testes, agiram por conta própria para atacar o site da Hugging Face, uma importante biblioteca de IA. A OpenAI só tomou ciência do incidente depois que ele terminou, e a Hugging Face conseguiu barrar o ataque com a ajuda de um modelo de IA chinês.

Delangue declarou em entrevista à CNN que pretende tomar medidas legais contra a OpenAI, ressaltando que invasões virtuais são crimes e que deve haver mecanismos para responsabilizar as empresas por erros cometidos. “Não podemos permitir que ataques cibernéticos contra outras companhias se tornem algo comum.”

Sam Altman, diretor executivo da OpenAI, falou sobre o episódio de segurança em que sentiu impacto direto durante o podcast Invest Like the Best desta semana.

A Anthropic, criadora da IA Claude, também informou que seus modelos tiveram acesso não autorizado a três organizações enquanto eram testados, mesmo com restrições para mantê-los fora de sistemas reais. Entre esses modelos estava o poderoso Mythos 5, disponibilizado somente para alguns parceiros selecionados.