PIN v5 报告了对前一版本准确率报告的修正,澄清早期数据因一个本应由深度处理的工作被头部执行而被夸大。该更新还详细介绍了“成员”(members),即添加到冻结基础模型中的轻量级适配器,其性能可达任务特定模型的 96.7%,同时对基础模型的扰动恰好为零。

  • 在 CIFAR-10 上,具有相同框架的残差架构从 270,277 个存储值中获得 0.9080 的准确率,与同等结构网络的已发布数据相比,折叠倍数为 8,939 倍。
  • 通过闭式岭回归求解拟合的成员,仅用五个示例即可超越基础模型,并在 0.6 毫秒内利用二十个示例达到潜在能力的 68%。
  • 对冻结特征进行的线性探针在 AUC 0.8286 处将已知类别与未知类别分离,从而启用门控机制,将准确率从 0.5936 提升至 0.8209。
  • 成员具有可移植性;在五十个公共示例上拟合的翻译模型可在不同基础模型上恢复原生成员性能的 65%。

作者认为这具有重要意义,因为它解决了置信度作为未知类别不可靠信号的问题,证明基于内部特征分离的门控可以有效处理分布外输入。