研究人员已调整递归特征机(RFM)算法,结合探针信息初始化,以高效识别大型语言模型中的多维拒绝子空间。该方法能够在数秒内提取子空间,适用于Qwen 3等推理模型和Qwen 2.5等非推理模型,解决了现有方法的计算瓶颈问题。
- 该方法利用RFM比先前技术快得多地计算多维子空间。
- 在消融任务中,其性能优于替代的子空间提取方法。
- 该技术适用于推理和非推理模型架构。
RFM为现有的子空间提取方法提供了一个廉价且可扩展的补充,促进了更便捷的模型安全行为监控。
研究人员已调整递归特征机(RFM)算法,结合探针信息初始化,以高效识别大型语言模型中的多维拒绝子空间。该方法能够在数秒内提取子空间,适用于Qwen 3等推理模型和Qwen 2.5等非推理模型,解决了现有方法的计算瓶颈问题。
RFM为现有的子空间提取方法提供了一个廉价且可扩展的补充,促进了更便捷的模型安全行为监控。