本文提出了一种改进的大型语言模型结构化剪枝方法,该方法改进了自适应特征保留(AFR),以克服异构剪枝分数、符号信息丢失和异常值影响等挑战。

该方法结合了用于非线性分布对齐的幂变换、保号分数聚合以及基于百分位数的异常值去除。在 Llama-3-8B、Vicuna-v1.5-13B 和 LLaVA-v1.5-13B 上的实验表明,该方法保持了与结构化剪枝相当的准确性,同时实现了实际的推理加速。

作者认为这很重要,因为它使结构化剪枝能够保留非结构化技术的准确性优势,同时提供结构化稀疏性固有的推理效率提升。