शोधकर्ताओं ने MemCon पेश किया, एक फ्रेमवर्क जो मेमोरी ऑपरेशन को मार्कोव निर्णय प्रक्रिया (MDP) के रूप में मॉडल करता है ताकि LLM एजेंट्स में अनुकूलित पुनर्प्राप्ति और संघनन के लिए ऑनलाइन पॉलिसी सीखी जा सके। स्थिर हेरिस्टिक्स के विपरीत, यह दृष्टिकोण संदर्भ के आधार पर गतिशील रूप से तय करता है कि कब और कितना पुनर्प्राप्त करना है।
- MemCon किसी भी मौजूदा मेमोरी कार्यान्वयन को रैप करता है और बिना प्रीट्रेनिंग या अतिरिक्त LLM कॉल के कार्य-दर-कार्य बाइनरी फीडबैक से सीखता है।
- यह UCB एक्सप्लोरेशन के साथ एक हल्का टेबुलर कंटेक्स्टुअल बैंडिट का उपयोग करता है जो दसियों कार्यों में अभिसरण होता है।
- 6 बेंचमार्क, 3 एजेंट फ्रेमवर्क्स और 3 LLM बैकबोन पर, MemCon कार्य सफलता में बेसलाइन से 15.2 बिंदु तक बेहतर प्रदर्शन करता है।
- विधि प्रदर्शन को बेहतर बनाते हुए टोकन खपत को 5--20% कम करती है।
MemCon एजेंट्स को अनुकूलित रूप से अनुभव संचय और योजना पुन: उपयोग का प्रबंधन करने की अनुमति देकर स्थिर मेमोरी एक्सेस की बाउलनेक को हल करता है।