“Telegraphese”: teste mostra compressão de LLM reduz custo sem perder qualidade

Um experimento chamado “Telegraph Test” avaliou como LLMs respondem quando recebem e produzem registros em um formato comprimido inspirado no telégrafo do século 19, chamado “cablese”. Os testes usaram um benchmark com 50 passagens e cerca de 1.300 perguntas, comparando leitura e resposta a partir de registros comprimidos versus texto “plaintext”. Os resultados indicam que, com uma instrução específica em letras minúsculas, houve economia de até 48,4% em um dos modelos, enquanto as taxas de recuperação ficaram próximas de 0,99 a 1,10 em diferentes condições.

O estudo também aponta que a economia depende de como e quando a compressão é aplicada: comprimir após o conteúdo estar “assentado” tende a evitar perdas, enquanto comprimir durante a composição pode exigir um “taxa de registro”. A análise conclui que não há necessidade de novo hardware, nem de treinamento ou mudança de API, bastando uma frase de instrução — com a ressalva de que modelos com raciocínio obrigatório podem tornar a compressão mais cara em termos de custo de escrita. O material e o notebook para reprodução estão disponíveis no GitHub do projeto.