Исследователи предлагают нечёткое функциональное программирование для замены API больших языковых моделей для таких задач, как оповещение о логах и восстановление JSON, с целью повышения локальности, воспроизводимости и снижения затрат. Они представляют Program-as-Weights (PAW), который использует компилятор на 4B, обученный на опубликованном наборе данных FuzzyBench, для генерации адаптеров с эффективным количеством параметров для замороженного интерпретатора.
- Система компилирует спецификации на естественном языке в компактные, локально исполняемые нейронные артефакты.
- Интерпретатор Qwen3 объёмом 0.6B, выполняющий программы PAW, сопоставим по производительности с прямым запросом к Qwen3-32B.
- Этот подход использует примерно в пятьдесят раз меньше памяти для вывода и работает со скоростью 30 токенов/с на MacBook M3.
PAW переосмысливает базовые модели как создатели инструментов, позволяя пользователям вызывать компилятор один раз для каждого определения функции, чтобы создавать небольшие, повторно используемые артефакты для дешёвых последующих вызовов в офлайн-режиме.