शोधकर्ताओं ने एक बहुआयामी विश्वविद्यालय चैटबॉट प्रस्तुत किया है जो पुनर्प्राप्ति-वृद्धि उत्पादन (RAG) का उपयोग करके हितधारकों को समय पर जानकारी तक पहुंचने में मदद करने के लिए डिज़ाइन किया गया है। सिस्टम संस्थागत संसाधनों जैसे कि विश्वविद्यालय हैंडबुक से संदर्भ-आधारित प्रतिक्रियाएं उत्पन्न करने के लिए एक बड़े भाषा मॉडल को अर्थपूर्ण पुनर्प्राप्ति के साथ जोड़ता है।
- दृष्टि-भाषा मॉडल के माध्यम से पाठ और छवि क्वेरी स्वीकार करता है।
- सीमित हार्डवेयर पर तेज़ तैनाती के लिए क्वांटाइज्ड इनफरेंस लागू करता है।
- FastAPI के साथ बनाए गए स्केलेबल बैकएंड और Next.js के साथ विकसित प्रतिक्रियाशील फ्रंटएंड का उपयोग करता है।
- मौजूदा सिस्टम की तुलना में हैलुसिनेशन को 31.7% से घटाकर 6.6% कर देता है।
मात्रात्मक मूल्यांकन पुनर्प्राप्ति ग्राउंडिंग की प्रभावशीलता की पुष्टि करता है, जबकि बहुआयामी परीक्षण दोनों क्वेरी प्रकारों के लिए मजबूत संतुष्टि स्कोर दिखाते हैं, भले ही दृश्य इनपुट के लिए प्रतिक्रिया समय बढ़ गया हो।