El artículo presenta Program-as-Weights (PAW), un paradigma que compila especificaciones en lenguaje natural en artefactos neurales compactos y ejecutables localmente para reemplazar las APIs de modelos de lenguaje grandes. Este enfoque busca mejorar la localidad, reproducibilidad y costo al tratar los modelos fundamentales como constructores de herramientas en lugar de solucionadores de problemas por entrada.

  • PAW utiliza un compilador de 4B entrenado en FuzzyBench, un conjunto de datos recién lanzado con 10M de ejemplos.
  • El sistema emite adaptadores eficientes en parámetros para un intérprete congelado y ligero, utilizando específicamente un modelo Qwen3 de 0.6B.
  • El rendimiento coincide con el prompting directo de Qwen3-32B mientras usa aproximadamente una cincuentava parte de la memoria de inferencia.
  • En un MacBook M3, la solución funciona a 30 tokens/s, permitiendo llamadas posteriores baratas y sin conexión.

PAW reformula el modelo fundamental de solucionador de problemas por entrada a constructor de herramientas, produciendo pequeños artefactos reutilizables que reducen la necesidad de costosas llamadas API.