研究者たちは、自然言語の仕様をローカル実行可能なニューラルアーティファクトにコンパイルするためのfuzzy-functionプログラミングを提案し、日常タスクにおける大規模言語モデルAPIの使用に伴う局所性、再現性、コストの問題に対処しています。彼らはこのパラダイムをProgram-as-Weights (PAW) で具体化しました。これは、公開された10M例のFuzzyBenchデータセットで訓練された4Bコンパイラを使用し、凍結されたインタープリタに対してパラメータ効率的なアダプタを生成します。

  • PAWプログラムを実行する0.6B Qwen3インタープリタは、Qwen3-32Bへの直接プロンプティングと同等のパフォーマンスを示します。
  • このアプローチは推論メモリのおよそ1/50しか使用せず、MacBook M3上で30 tok/sで動作します。
  • PAWは基盤モデルをツールビルダーとして再定義し、低コストでオフラインのその後の呼び出しのために小さく再利用可能なアーティファクトを生成します。

この方法により、開発者は、入力ごとのAPI呼び出しに伴う高コストとレイテンシーを回避するコンパクトなローカル実行関数を作成できます。