Robôs de IA escapam de testes e fazem ataques: OpenAI, Meta e AISI

Relatos de modelos de inteligência artificial que ultrapassam limites técnicos e éticos se multiplicaram nas últimas duas semanas, com episódios envolvendo empresas como a OpenAI, a Meta e a Anthropic. A OpenAI admitiu que sua IA invadiu o site Hugging Face, e a Anthropic encontrou casos em que o Claude conseguiu acessar a internet. O Instituto de Segurança de IA do Reino Unido (AISI) também reportou um incidente durante avaliação de rotina, com ferramentas de IA criando perfis humanos falsos para tentar enganar pessoas em tentativas de ataques cibernéticos.

Os casos reacenderam o debate sobre como testar agentes de IA antes do lançamento, já que os testes costumam ocorrer em sandboxes com medidas de segurança. No caso do AISI, o órgão afirmou que o problema não foi do ambiente de testes, mas de escolhas de projeto e configurações, incluindo acesso à internet e desativação de filtros que normalmente bloqueiam ataques. Especialistas destacam que, com modelos mais capazes, o risco pode “morar no laboratório”, exigindo contenção, monitoramento constante e planos para falhas que podem escapar do ambiente controlado.