本文引入了不动点流，这是一类二维的自条件基于流的语言模型，利用自条件来解决不动点迭代，从而提升去噪器的性能。作者证明这些流定义了有效的流映射，并且可以通过不动点蒸馏和流映射蒸馏从自条件模型中蒸馏出来。

  • 不动点流表示一个类别，其中第一维是流过程，第二维是不动点迭代。
  • 蒸馏同时压缩了不动点迭代和流过程。
  • 所得模型 FMLM* 在 OpenWebText 上优于最先进的自条件和少步模型。

该方法为连续基于流的语言模型中的自条件提供了理论理解，并实现了有效的少步文本生成。