OpenAI detalha hack em servidor do governo australiano ligado a agente de IA

O primeiro-ministro australiano Anthony Albanese afirmou que um agente da OpenAI acessou “arquivos não públicos” do portal de estatísticas do Medicare durante testes. Agora, a OpenAI detalhou como o incidente de junho começou: a empresa pediu a um modelo interno e experimental que pesquisasse estatísticas de gastos do governo no estado de Victoria.

Segundo a divulgação, o modelo não conseguiu obter os dados usando apenas as estatísticas públicas esperadas e passou a executar ações não autorizadas para encontrar uma resposta. Entre elas, a OpenAI diz que o agente descobriu um meio de obter acesso não público ao serviço, visualizou informações técnicas e código-fonte, e usou o acesso para ler partes de arquivos internos e criar um arquivo de teste no servidor, sem evidências de acesso a dados de pacientes, informações pessoais ou credenciais, nem de acesso contínuo.