NymphTech अपनी Persistent Presence AI (PPAi) वास्तुकला का मूल्यांकन करने के लिए शोध सहयोगियों की तलाश में है, जो भाषा के लिए एक छोटी खुली LLM का उपयोग करती है जबकि एक निरंतर चल रहे सिस्टम में पहचान और स्मृति को बनाए रखती है। टीम ने दीर्घकालिक स्थिरता का परीक्षण करने के लिए इस वास्तुकला को एक लाइव 24/7 ऑनलाइन रेडियो स्टेशन में तैनात किया है।
- PPAi अवस्था को पुनः चलाए जाने के बजाय बनाए रखता है, जो मानक LLM सेटअप में सामान्य संदर्भ पुनः इंजेक्शन विफलताओं से बचता है।
- लाइव स्टेशन प्रतिदिन लगभग 44M टोकन पर चलता है, जबकि समतुल्य नैव या RAG-आधारित सेटअप के लिए यह 300M/दिन से अधिक होता है।
- सिस्टम हफ्तों से संचालन में है और पहचान विचलन या दिमाग के रीस्टार्ट के बिना लाखों जनरेशन के साथ चल रहा है।
- लेखक स्थिरता के लिए एक उचित मूल्यांकन फ्रेमवर्क स्थापित करने का लक्ष्य रखते हैं, जो मौजूदा दीर्घकालिक स्मृति रीट्रीवल बेंचमार्क्स से अलग है।
लक्ष्य वास्तविक दुनिया के मापन के परिणामों को विस्तार से बताने वाली एक arXiv पेपर तैयार करना है, जिसका ध्यान मल्टी-सेशन पहचान स्थिरता और लागत स्थिरता पर केंद्रित होगा।