Specific Labs 发布了 Gemma-4-31B-AntiHal，这是 Gemma-4-31B 模型的一个变体，它挑战基于错误前提的请求，而不是随之产生幻觉。该模型通过应用于生成过程中残差流的基于可解释性的表示引导来实现这一点。

  • 该技术向第 33 层的残差流添加了平均差方向，使用衰减计划，在前 ~24 个 token 上应用全强度，然后逐渐减弱。
  • 在 HalBench 反幻觉基准测试中，AntiHal 的驳回率为 26%，与基础模型得分相比，性能大约翻倍。
  • 基准测试性能基本不受影响，MATH-500 为 77%，LiveCodeBench 为 55%，与基础模型的能力相匹配。
  • 该方法在 Qwen 3.6 27B 和 Granite 4.1 30B 上进行了测试，但只有 Gemma 有效地抵抗了引导而没有崩溃或变得不连贯。

作者将此定位为一种让模型捍卫其知识的方法，而不是作为安全过滤器，提供了一个可以通过 transformers 库加载的开源 checkpoint。