Zero-Mem reduz custo de memória em agentes de LLM sem tokens extras

Uma pesquisa apresentada no arXiv propõe o Zero-Mem, um método de “operações de memória zero-token” para agentes baseados em LLM. A ideia é que, durante o acesso à memória, não sejam feitas chamadas adicionais ao modelo nem sejam consumidos tokens de entrada/saída para gerar registros intermediários. Em vez disso, o sistema preserva os rastros originais da conversa e os organiza em duas visões (um grafo entidade–contexto e uma hierarquia temporal) para recuperar evidências e contexto. Nos testes, o Zero-Mem manteve desempenho competitivo em benchmarks de long-memory e long-context, reduzindo o tempo de operações de memória em 57,6% em relação ao melhor baseline comparado.

Na prática, a abordagem pode tornar agentes mais eficientes e rápidos ao lidar com interações longas, diminuindo custos recorrentes de tokens e latência associados à “mediação” da memória. Para times que constroem agentes e fluxos de QA, isso abre caminho para arquiteturas em que a memória estruturada não depende necessariamente de reprocessar o histórico com o LLM a cada consulta.