يقترح المؤلفون CO-LMLM، وهو نموذج لغوي ذاكرة محدودة يقوم بإخراج المعرفة الواقعية إلى قاعدة بيانات معرفية تقترن فيها المفاتيح المستمرة بقيم نصية. يتيح هذا النهج للنموذج توليد استعلامات متجهية مرنة بأقل تكلفة مع دمج المعرفة المسترجعة القابلة للقراءة من قبل الإنسان والقابلة للنسبة أثناء التوليد.
- يستخدم النظام خط أنابيب تسمية يعلّم النطاقات الواقعية الحرة في أي نص، مما يلغي القيود على ويكيبيديا الموجودة في الأعمال السابقة.
- تم تدريب CO-LMLM مسبقًا على ويكيبيديا وFineWeb-Edu عبر مقاييس نموذجية متعددة.
- عند المقياس 360M، يحقق تشتتًا أدنى من النماذج المدربة مسبقًا على بيانات أكثر بـ40 مرة.
- يحقق أداءً تم التحقق منه بواسطة SimpleQA يعادل gpt-4o-mini وأعلى من Claude Sonnet 4.5.
يتفوق CO-LMLM على نماذج اللغة ذات الذاكرة المحدودة السابقة والنماذج اللغوية الكبيرة الأساسية في كل من التشتت والدقة الواقعية، مما يوفر قدرات تحكم في المعرفة تتجاوز النماذج اللغوية الكبيرة التقليدية.