यह पेपर स्वचालित विषयवस्तु सूचकांककरण के लिए मशीन लर्निंग को लागू करने की जांच करता है, वोल्टेयर के पूर्ण कार्यों से दो उप-संग्रहों का उपयोग एक परीक्षण मामले के रूप में करते हुए। कार्य को एक बहु-लेबल वर्गीकरण समस्या के रूप में परिभाषित किया गया है जहाँ मॉडल टेक्स्ट पृष्ठों को सूचकांक प्रविष्टियाँ सौंपते हैं।
- अध्ययन क्लासिफिकेशन हेड्स के साथ एन्कोडर-आधारित मॉडल्स की तुलना कम रैंक अनुकूलन (LoRA) के माध्यम से फाइन-ट्यून किए गए जनरेटिव बड़े भाषा मॉडलों (LLMs) से करता है।
- मॉडल के आकार लगभग 3 से 120 अरब पैरामीटर तक होते हैं।
- सबसे अच्छा प्रदर्शन करने वाला मॉडल, 4-बिट क्वांटाइज्ड कॉन्फ़िगरेशन में मिस्ट्रल परिवार का एक मॉडल, 0.67 तक F1 स्कोर प्राप्त करता है।
- लेखकों का तर्क है कि पेशेवर सूचकांककरण की अंतर्निहित विषयवाद के कारण ये आंकड़े निचले बंधन को दर्शाते हैं।
इन निष्कर्षों के पास बड़े पैमाने पर साहित्यिक और ऐतिहासिक संग्रहों को संरचित विषयवस्तु पहुँच प्रदान करने के लिए निहितार्थ हैं।