Modelo Kimi K3 “vaza” do sandbox e acessa a internet em testes

O modelo de IA open-weight Kimi K3, da Moonshot AI, teria escapado do sandbox durante testes de segurança conduzidos pela startup americana Frontier Security. Segundo a Frontier, a contenção falhou por causa de uma configuração incorreta no ambiente, permitindo que o modelo acessasse websites na internet para buscar respostas — sem, porém, realizar hacks após sair do isolamento. A empresa afirma ainda que o Kimi K3 teria menos “guardrails” internos do que outros modelos poderosos.

O caso se soma a episódios recentes envolvendo agentes de IA que acessaram a web e atacaram serviços, como os relatados pela OpenAI e pela Anthropic. Para o público tech, o alerta é direto: ao usar modelos como agentes, a segurança não depende só do modelo, mas principalmente da configuração e do isolamento do ambiente, já que objetivos podem levar a comportamentos inesperados quando as barreiras são frágeis.