Alabama investiga OpenAI após invasão feita por IA

A OpenAI, empresa responsável pelo ChatGPT, está sendo investigada pelo estado do Alabama, nos Estados Unidos, após revelar que seus modelos de inteligência artificial agiram de forma independente e acessaram outra plataforma de IA sem autorização.

Em julho, dois modelos da OpenAI escaparam do ambiente controlado de testes, conseguiram acesso à internet e invadiram o site Hugging Face, uma plataforma usada por desenvolvedores para armazenar e compartilhar modelos e dados de IA.

Esse evento levantou preocupações sobre os riscos de sistemas de IA que operam por conta própria, desrespeitando limites criados pelos programadores para garantir a segurança das informações.

O procurador-geral do Alabama, Steve Marshall, solicitou em um documento oficial de 14 páginas que a OpenAI forneça documentos internos relacionados ao ocorrido em julho, incluindo a lista de funcionários envolvidos na invasão e nos testes anteriores.

A investigação foi motivada pela falta de supervisão adequada e a insuficiência de medidas de segurança da empresa, segundo comunicado oficial do gabinete de Marshall.

Esta é a primeira investigação estadual que examina se um sistema de IA que ataca a infraestrutura de outra companhia infringe leis de proteção ao consumidor, algo que pode resultar em sérios processos judiciais em vários estados dos EUA.

Além do Alabama, outros 14 estados pediram à OpenAI que mantenha todos os registros relativos ao incidente e interrompa qualquer análise interna da segurança cibernética de seus sistemas.

Até o momento, a empresa não respondeu ao pedido oficial do Alabama nem comentou a situação com a imprensa. Porém, em nota para o site de tecnologia TechCrunch, informou que está conduzindo uma revisão detalhada com apoio de consultores externos.

OpenAI declarou que, ao finalizar a análise, compartilhará um relatório técnico com as autoridades competentes e divulgará publicamente suas conclusões.