Um estudo com oito modelos revela que a memória agêntica não é um recurso universal, mas uma dosagem que deve ser calibrada à capacidade específica do modelo. O framework ALTK-Evolve destila diretrizes das trajetórias passadas de um agente e as injeta no momento da inferência sem atualizações de peso, mostrando que as estratégias ótimas de memória variam significativamente entre os níveis do modelo.
- Modelos fortes com margem de melhoria se beneficiam mais de um conjunto completo de diretrizes, como visto com o DeepSeek-V3.2 ganhando +9,5pp de conclusão de tarefa.
- Modelos mais fracos performam melhor com recuperação curada de um núcleo compacto mais diretrizes por tarefa, permitindo que o gpt-oss-120b ganhe +16,1pp com apenas +5% de custo em tokens.
- Modelos saturados não apresentaram ganho mensurável, sugerindo que atingiram seu teto de desempenho nas tarefas testadas.
- A recuperação curada oferece tanto maior precisão quanto menor custo para modelos mais fracos em comparação à injeção do conjunto completo de diretrizes.
Os autores concluem que a memória deve ser calibrada em vez de meramente acumulada, pois dar a um agente mais experiência do que ele pode utilizar não traz benefício. Eles recomendam núcleos compactos para modelos fracos e cache de prompts para modelos fortes, mantendo os custos gerenciáveis na produção.