शोधकर्ता ज्ञान-''कम'' भाषा मॉडल (KLLMs) पेश करते हैं, एक प्रशिक्षण परिदृश्य जो पूर्व-प्रशिक्षण के दौरान नामित इकाइयों को अनाम बनाता है ताकि मॉडल को पैरामीट्रिक स्मृति से दूर खींचकर प्रमाण-आधारित तर्क की ओर ले जाया जा सके।
- KLLMs का पूर्व-प्रशिक्षण अनाम नामित इकाइयों वाले कॉर्परा पर किया जाता है, जिससे इकाई-संबंधित तथ्यात्मक निगरानी हट जाती है।
- इस हस्तक्षेप से बंद-बुक तथ्यात्मक स्मृति में काफी कमी आती है, जबकि जानकारी को संदर्भ के रूप में प्रदान किए जाने वाले कार्यों में प्रदर्शन में सुधार होता है।
- कई पैमानों पर, KLLMs संदर्भात्मक प्रश्नोत्तर, तथ्य सत्यापन और भ्रम पहचान बेंचमार्क्स पर आधार रेखाओं को पार कर जाते हैं।
- अपूर्ण प्रमाण के साथ पुनर्प्राप्ति-आधारित सेटिंग्स में, KLLMs मानक भाषा मॉडल की तुलना में 20--25% तक सापेक्ष लाभ प्राप्त करते हैं।
- मॉडल बेहतर कैलिब्रेशन (बेहतर ECE, Brier score, AUROC) और अधिक विश्वसनीय विलोपन व्यवहार प्रदर्शित करते हैं।
परिणाम दर्शाते हैं कि इकाई-संबंधित निगरानी को दबाना ज्ञान संबंधी व्यवहार में बदलाव लाता है, जिससे KLLMs पैरामीट्रिक ज्ञान पर कम और बेहतर विश्वसनीयता के लिए बाहरी प्रमाणों पर अधिक निर्भर होते हैं।