独立研究项目LIMEN分析了七个开源Transformer模型的内部动力学，揭示语义歧义会改变轨迹几何结构，并在不同架构中发现了通用的动态语法。

  • 歧义显著改变了轨迹曲率和余弦相似度，但并未增加全局混沌；相反，Phi-1.5和Llama-3.2等现代模型延迟了决策参与。
  • 在所有测试模型中识别出由七种转换基元组成的通用语法，遵循探索（B）→稳定/处理（A）→决策（D）的模式。
  • 状态A是一个强吸引子，其自转移概率约为0.91，而Phi-1.5在其整个深度中独特地维持着复杂的B↔A振荡。

这些发现表明，Transformer的智能依赖于受限的几何导航，这意味着违反此语法可能指示幻觉，并有助于更精确的动态引导。