एक अध्ययन मौजूदा BERT मॉडलों को फाइन-ट्यून करने के लिए अंग्रेजी-अन्य डेटा को अंग्रेजी में अनुवादित करने की व्यवहार्यता का मूल्यांकन करता है, जिससे स्थानीय भाषा मॉडल विकसित करने के संसाधन-कुशल विकल्प का प्रस्ताव मिलता है। शोध ने बल्गेरियाई, चीनी, डच, इतालवी और रूसी से डेटासेट का उपयोग करते हुए छह NLP कार्यों में स्थानीय भाषा प्रदर्शन के सापेक्ष इस दृष्टिकोण की तुलना की है।
- सभी सेटिंग्स में मामलों के 53.3 प्रतिशत में अनुवाद-आधारित फाइन-ट्यूनिंग तुलनीय या श्रेष्ठ थी।
- प्रश्न उत्तर, शब्द-अंश टैगिंग और प्राकृतिक भाषा निष्कर्षण में लाभ सबसे अधिक बार हुआ।
- नामित इकाई पहचान और नफरत भरे भाषण का पता लगाने में प्रदर्शन में कमी आम थी।
- यह दृष्टिकोण व्याकरणिक पैटर्न पर निर्भर कार्यों और अंग्रेजी के प्रकारात्मक रूप से निकट भाषाओं, जैसे डच, के लिए सबसे प्रभावी है।
परिणाम दर्शाते हैं कि अनुवाद-आधारित फाइन-ट्यूनििंग कम संसाधन वाली भाषाओं तक NLP का विस्तार करने के लिए एक स्केलेबल पथ प्रदान करती है, जबकि भाषाई समावेशिता को आगे बढ़ाती है।