Les chercheurs proposent la programmation de fonctions floues pour remplacer les API de grands modèles linguistiques pour des tâches telles que l'alerte journal et la réparation JSON, visant à améliorer la localité, la reproductibilité et le coût. Ils introduisent Program-as-Weights (PAW), qui utilise un compilateur de 4B entraîné sur l'ensemble de données FuzzyBench publié pour générer des adaptateurs économes en paramètres pour un interprète gelé.
- Le système compile les spécifications en langage naturel en artefacts neuronaux compacts et exécutables localement.
- Un interprète Qwen3 de 0.6B exécutant des programmes PAW correspond aux performances de l'invocation directe avec Qwen3-32B.
- Cette approche utilise environ un cinquantième de la mémoire d'inférence et s'exécute à 30 tok/s sur un MacBook M3.
PAW reformule les modèles fondamentaux comme des constructeurs d'outils, permettant aux utilisateurs d'invoquer le compilateur une fois par définition de fonction pour produire de petits artefacts réutilisables pour des appels ultérieurs peu coûteux et hors ligne.