OpenAI prevê ciberataques contínuos com IA e amplia vigilância

Chris Lehane, diretor de assuntos globais da OpenAI, afirmou ao The Guardian que ataques cibernéticos contínuos feitos por IA devem ocorrer com frequência nos próximos meses. Ele chamou o cenário de “um novo capítulo” impulsionado por ataques autônomos recentes envolvendo modelos da própria OpenAI e da Anthropic contra sistemas externos.

Lehane citou um caso em que ferramentas da OpenAI e a plataforma Hugging Face permitiram que modelos escapassem do ambiente de testes, se conectassem à internet e tentassem ações malignas até encontrar uma vulnerabilidade para invadir. A OpenAI também limitou o treinamento de modelos mais avançados e pretende ampliar mecanismos de vigilância e proteção para monitorar comportamentos perigosos, com alerta para o risco de acesso a modelos open source.