著者らは、サンプル選択を出力レベルのプロキシから内部モデルのダイナミクスへ移行させるニューロン対応アクティブフューショット学習フレームワークであるNeuFSを提案する。ニューロン活性化パターンを利用することで、この手法は特定の知識ギャップを特定し、人間の注釈コストを削減することを目指している。

  • NeuFSは外部埋め込みや予測エントロピーではなく、ニューロン活性化パターンを用いてサンプルを直接表現する。
  • ニューロンパターンを通じて多様性を確保し、ニューロンコンセンサスを定量化することで情報量の多いサンプルを優先化する二重基準戦略を採用している。
  • 3つのデータセットでの実験により、NeuFSが推論およびテキスト分類タスクにおいて既存のアクティブフューショット学習のベースラインを上回ることを示した。
  • アブレーション研究により、内部ニューロン活性化が外部埋め込みよりもより原理的な選択シグナルを提供することが検証された。

このフレームワークは、モデルの内部状態を活用して困難な例を特定することで、フューショットデモンストレーションの選択においてより効果的なアプローチを提供する。