作者将开放雅可比透镜(J-lens)应用于 Qwen3-8B 模型,以检测内部推理状态,灵感来自 Anthropic 发现的 Claude 的静默“J空间”。这种方法允许监控不出现在可见文本输出中的隐藏激活。
- J-lens 捕获激活中的静默概念,将其与可读的思维链(chain-of-thought)文本区分开来。
- 该工具成功在工具调用之前检测到散文漂移,识别出模型倾向于自然语言(“To, You, Do…”)而非 JSON。
- 检测被集成到代理守卫中,以停止或取消操作,并将恢复蒸馏为 LoRA 数据。
此方法提供了一种监控和纠正内部模型行为的机制,而这些行为在标准文本输出中是不可见的。