يقدم الباحثون نماذج Knowledge--''Less'' Language Models (KLLMs)، وهي نموذج تدريبي يُجهل الكيانات المسماة أثناء التدريب المسبق لنقل النماذج بعيداً عن الاسترجاع البارامتري نحو الاستدلال القائم على الأدلة.
- يتم تدريب KLLMs على مجموعات بيانات تحتوي على كيانات مسماة مُجهولة، مما يزيل الإشراف الواقعي المرتبط بالكيانات.
- يؤدي هذا التدخل إلى تقليل كبير في الاسترجاع الواقعي للكتب المغلقة مع تحسين الأداء في المهام التي تُقدم فيها المعلومات كسياق.
- عبر مقاييس متعددة، تتفوق KLLMs على النماذج الأساسية في معايير الإجابة على الأسئلة السياقية، والتحقق من الحقائق، وكشف الهلوسة.
- في الإعدادات القائمة على الاسترجاع مع أدلة غير كاملة، تحقق KLLMs مكاسب نسبية تصل إلى 20--25% مقارنة بنماذج اللغة القياسية.
- تُظهر النماذج معايرة أفضل (ECE محسن، درجة بrier، AUROC) وسلوك امتناع أكثر موثوقية.
تُظهر النتائج أن كبح الإشراف المرتبط بالكيانات يُحدث تحولاً في السلوك المعرفي، مما يجعل KLLMs تعتمد أقل على المعرفة البارامترية وأكثر على الأدلة الخارجية لتحسين الموثوقية.