研究人员调查了是否可以通过表征权重在何时重要，从而在全训练分布上全局理解神经网络中的单个权重。他们引入了一种自动化的LLM流水线，用于生成和验证保留文本上权重函数的可读描述。
- 该研究比较了两个稀疏Transformer和两个稠密Transformer，以测量可解释权重的比例。
- 稀疏Transformer模型的大量权重可以被解释，其中12%到31%的权重具有一个简短的描述来标识其用途。
- 当丢弃不可靠的描述时，稀疏模型和稠密模型之间的可解释性差距会扩大。
结果表明，与稠密架构中的参数相比，稀疏Transformer中的单个参数更易于进行机制解释。