研究者らは、ログアラートやJSON修復などのタスクにおいて大規模言語モデルAPIを置き換えるためにfuzzy-functionプログラミングを提案し、局所性、再現性、コストの改善を目指している。彼らはProgram-as-Weights (PAW) を導入しており、これは公開されたFuzzyBenchデータセットで訓練された4Bコンパイラを使用して、凍結されたインタープリタ用のパラメータ効率的なアダプタを生成する。

  • システムは自然言語の仕様をコンパクトでローカル実行可能なニューラルアーティファクトにコンパイルする。
  • PAWプログラムを実行する0.6B Qwen3インタープリタは、Qwen3-32Bによる直接プロンプティングと同等のパフォーマンスを示す。
  • このアプローチは推論メモリを約50分の1しか使用せず、MacBook M3上で30 tok/sで動作する。

PAWは基盤モデルをツールビルダーとして再定義し、ユーザーが関数定義ごとにコンパイラを一度呼び出すことで、安価なオフラインのその後の呼び出しのために小さく再利用可能なアーティファクトを生成することを可能にする。