Исследователи предлагают SOLAR, фреймворк с обучаемой коррекцией для онлайн-замены семантического кэша, который решает проблему отказа классических эвристик, таких как LRU и LFU, на рабочих нагрузках без временной локальности. Метод выводит время модификации из накопления регрета, а выбор контента — из байесовского онлайн-обучения на основе неявной обратной связи при поиске.

  • Эксперименты на наборах данных MemoryBench-Full (LoCoMo, DialSim) показывают, что SOLAR достигает относительного улучшения на 5–75% по сравнению с FIFO при ограниченных размерах кэша.
  • Фреймворк демонстрирует постоянный конкурентный коэффициент ≤ 3, не зависящий от размера кэша и горизонта, в отличие от Ω(K) для FIFO.
  • Синтетические эксперименты с пулами из 5000 элементов выявляют перевернутую U-образную зависимость между размером пула и качеством поиска.

Авторы считают это важным, поскольку это обосновывает ограничения емкости как явление шума при поиске, а не ограничение хранения.