शोधकर्ता प्राकृतिक भाषा विनिर्देशों को स्थानीय रूप से निष्पादित योग्य न्यूरल आर्टिफैक्ट्स में कंपाइल करने के लिए धुंधले फ़ंक्शन प्रोग्रामिंग का प्रस्ताव देते हैं, जो दैनिक कार्यों के लिए बड़े भाषा मॉडल APIs का उपयोग करते समय स्थानीयता, पुनरुत्पादकता और लागत की समस्याओं को संबोधित करता है। वे इस परंपरा को Program-as-Weights (PAW) के साथ तैनात करते हैं, जो एक 4B कंपाइलर का उपयोग करता है जो उनके जारी किए गए 10M-उदाहरण FuzzyBench डेटासेट पर प्रशिक्षित है, ताकि एक जमे हुए इंटरप्रेटर के लिए पैरामीटर-कुशल एडाप्टर उत्पन्न कर सके।
- PAW कार्यक्रमों को निष्पादित करने वाला 0.6B Qwen3 इंटरप्रेटर सीधे Qwen3-32B के प्रॉम्प्टिंग की कार्यक्षमता से मेल खाता है।
- यह दृष्टिकोण अनुमानन मेमोरी का लगभग पचासवाँ हिस्सा उपयोग करता है और एक MacBook M3 पर 30 tok/s पर चलता है।
- PAW आधारभूत मॉडलों को टूल निर्माताओं के रूप में पुनर्परिभाषित करता है, जो सस्ते, ऑफ़लाइन बाद के कॉल के लिए छोटे पुन: उपयोग योग्य आर्टिफैक्ट्स उत्पन्न करता है।
यह विधि डेवलपर्स को कॉम्पैक्ट, स्थानीय रूप से निष्पादित योग्य फ़ंक्शन बनाने की अनुमति देती है जो प्रति-इनपुट API कॉल से जुड़ी उच्च लागत और विलंबता से बचते हैं।