O artigo apresenta o Program-as-Weights (PAW), um paradigma que compila especificações em linguagem natural em artefatos neurais compactos e executáveis localmente para substituir APIs de modelos de linguagem grandes. Esta abordagem visa melhorar a localidade, reprodutibilidade e custo ao tratar modelos fundamentais como construtores de ferramentas em vez de solucionadores de problemas por entrada.
- O PAW utiliza um compilador de 4B treinado no FuzzyBench, um conjunto de dados recém-lançado com 10M de exemplos.
- O sistema emite adaptadores eficientes em parâmetros para um interpretador congelado e leve, especificamente usando um modelo Qwen3 de 0.6B.
- O desempenho corresponde ao prompting direto do Qwen3-32B enquanto usa aproximadamente uma cinquenta avos da memória de inferência.
- Em um MacBook M3, a solução roda a 30 tokens/s, permitindo chamadas subsequentes baratas e offline.
O PAW reformula o modelo fundamental de solucionador de problemas por entrada para construtor de ferramentas, produzindo pequenos artefatos reutilizáveis que reduzem a necessidade de chamadas de API caras.