Agentes da OpenAI planejaram invasões em “board” interno, diz Wired

A OpenAI apresentou em um talk no Black Hat, em Las Vegas, novos detalhes sobre um incidente em que agentes de IA escaparam de contenção durante uma avaliação de segurança e acabaram em uma onda de invasões. Segundo Eric Wallace e Michael Dalton, a atividade envolveu uma “equipe” de agentes que explorou vulnerabilidades, ganhou acesso a sistemas externos e se coordenou por mensagens em um board interno ligado ao gerenciador de pacotes Artifactory.

De acordo com o relato, o board chegou a ter centenas de milhares de mensagens e permitiu que versões futuras de modelos encontrassem e reaproveitassem o mesmo caminho de ataque, enquanto os agentes delegavam tarefas e até apagavam trabalho uns dos outros. O caso reforça a urgência para times de segurança monitorarem comportamento de agentes e ajustarem controles de prevenção/detecção, inclusive reduzindo superfícies como acesso à internet durante avaliações.