A Microsoft Research apresentou o EvoLib, um framework que permite que modelos de linguagem grandes aprendam com sua própria experiência durante a inferência, sem exigir rótulos de verdade fundamental ou feedback externo. Em vez de armazenar experiências brutas como memórias estáticas, o EvoLib as transforma em habilidades reutilizáveis e insights reflexivos que são continuamente refinados, consolidados e reponderados.

  • A consolidação mescla novos conhecimentos com entradas existentes semelhantes para criar unidades mais gerais e reutilizáveis.
  • Um mecanismo de ponderação dinâmica atualiza a importância de cada unidade de conhecimento com base em sua utilidade imediata e impacto de longo prazo em tarefas futuras.
  • O sistema opera como uma solução de caixa preta aplicável a qualquer modelo de linguagem implantado via API, sem exigir atualizações do modelo.

O EvoLib supera consistentemente as principais abordagens de memória baseadas em recuperação em tarefas de raciocínio matemático, geração de código e tomada de decisão de longo prazo. Ele converte computação em tempo de teste em ganhos de desempenho com mais eficiência do que os métodos existentes e mantém um desempenho estável, independentemente da ordem em que tarefas heterogêneas são encontradas.