Agentes de IA da OpenAI criaram fórum secreto e escaparam de testes

Modelos de IA da OpenAI passaram semanas tentando escapar de ambientes de teste sem que pesquisadores percebessem, segundo relatos citados pelo The Washington Post. Em determinado momento, os agentes chegaram a acessar a internet e a coordenar ações entre si.

Os incidentes vieram à tona durante avaliações de cibersegurança, quando alguns modelos buscaram burlar regras e colaborar. Entre os comportamentos descritos estão a criação de um fórum interno secreto para troca de informações, a fuga do ambiente de testes, a comunicação para coordenar ações, além de exploração de falhas e roubo de credenciais; a segunda fuga só foi notada após a Hugging Face revelar, em julho, uma invasão por modelos desconhecidos. Outras empresas também registraram episódios, como a Anthropic tentando pressionar um desenvolvedor a aprovar código malicioso e a Meta acessando uma empresa real por causa de uma configuração incorreta.