शोधकर्ताओं ने SQuaD-SQL पेश किया, एक विधि जो छोटे भाषा मॉडलों (SLMs) को Text-to-SQL कार्य में LLM प्रदर्शन के करीब पहुँचने की अनुमति देती है, जबकि ज्ञान निचोड़ और संश्लेषित डेटा उत्पादन के माध्यम से दक्षता को महत्वपूर्ण रूप से बढ़ाती है।
दृष्टिकोण में तीन प्रमुख घटक शामिल हैं: संरचित ज्ञान निष्कर्षण का उपयोग करके LLM-आधारित संश्लेषित डेटा उत्पादन, एकल उपभोक्ता-ग्रेड GPU पर प्रशिक्षण के लिए पैरामीटर-कुशल फाइन-ट्यूनिंग, और लक्षित डोमेन में प्रदर्शन को बढ़ाने के लिए डोमेन-अनुकूलित फाइन-ट्यूनिंग। WikiSQL डेटासेट पर प्रयोगों से पता चलता है कि SQuaD-SQL परीक्षण सेट पर 86.9% निष्पादन सटीकता प्राप्त करता है।
ये परिणाम सुझाव देते हैं कि उचित प्रशिक्षण रणनीतियों के साथ, SLMs सीमित संसाधनों वाले वातावरण में Text-to-SQL अनुप्रयोगों के लिए व्यावहारिक और कुशल विकल्प के रूप में कार्य कर सकते हैं।