本文将提示复杂性定义为使确定性解码过程使用固定的指令微调语言模型生成目标文本所需的最短合理提示的长度。该指标被提出为资源受限的柯尔莫哥洛夫复杂度相对于 LM 的类比，其中模型接口充当解释器。

  • 该框架将程序限制为人类可读的文本，以与提示工程实践保持一致。
  • 作者将定义扩展到近似输出的软提示复杂性，并通过比较最短生成提示来定义提示距离。
  • 提出了一项研究议程，用于在固定 LM 接口下实证研究哪些文本和行为可以通过简短的合理提示获得。