लेख Program-as-Weights (PAW) पेश करता है, एक पैराडाइम जो प्राकृतिक भाषा स्पेसिफिकेशन को कंपैक्ट, लोकली-एग्जीकुटेबल न्यूरल आर्टिफैक्ट्स में कंपाइल करता है ताकि बड़े लैंग्वेज मॉडल APIs को बदला जा सके। यह दृष्टिकोण फाउंडेशन मॉडल्स को इनपुट-प्रति समस्या समाधानकर्ता के बजाय टूल बिल्डर मानकर स्थानीयता, पुनरुत्पादकता और लागत में सुधार का लक्ष्य रखता है।
- PAW FuzzyBench पर प्रशिक्षित एक 4B कंपाइलर का उपयोग करता है, जो 10M उदाहरणों का एक नया रिलीज़ किया गया डेटासेट है।
- सिस्टम एक फ्रोजन, लाइटवेट इंटरप्रेटर के लिए पैरामीटर-कुशल एडाप्टर उत्पन्न करता है, विशेष रूप से 0.6B Qwen3 मॉडल का उपयोग करके।
- प्रदर्शन Qwen3-32B के सीधे प्रॉम्प्टिंग के बराबर है जबकि लगभग पचासवें हिस्से की इनफरेंस मेमोरी का उपयोग होता है।
- एक MacBook M3 पर, समाधान 30 टोकन/सेकंड की गति से चलता है, जो सस्ते और ऑफलाइन बाद के कॉल को सक्षम बनाता है।
PAW फाउंडेशन मॉडल को इनपुट-प्रति समस्या समाधानकर्ता से टूल बिल्डर में पुनर्परिभाषित करता है, छोटे पुनः उपयोग योग्य आर्टिफैक्ट्स उत्पन्न करता है जो महंगे API कॉल की आवश्यकता को कम करते हैं।