Исследователи предлагают программирование с использованием нечётких функций для компиляции спецификаций на естественном языке в локально исполняемые нейронные артефакты, решая проблемы локальности, воспроизводимости и стоимости использования API больших языковых моделей для повседневных задач. Они реализуют эту парадигму через Program-as-Weights (PAW), которая использует компилятор на 4B, обученный на их опубликованном наборе данных FuzzyBench из 10M примеров, для генерации адаптеров с эффективной параметризацией для замороженного интерпретатора.

  • Интерпретатор Qwen3 объёмом 0.6B, выполняющий программы PAW, демонстрирует производительность, сопоставимую с прямым запросом к Qwen3-32B.
  • Подход использует примерно в пятьдесят раз меньше памяти для вывода и работает со скоростью 30 tok/s на MacBook M3.
  • PAW переосмысливает базовые модели как создатели инструментов, производя небольшие повторно используемые артефакты для дешёвых последующих вызовов офлайн.

Этот метод позволяет разработчикам создавать компактные локально исполняемые функции, избегая высоких затрат и задержек, связанных с вызовами API на каждом вводе.