本文介绍了ProLaViT（Progressive Latent Visual Thought），这是一个框架，它赋予多模态大语言模型在连续潜在空间中进行结构化视觉推导的能力。与依赖外部专家的方法不同，它使用内生自蒸馏机制，其中模型自身的视觉编码器监督潜在思维。
- 它利用可扩展的程序合成管道来内化算法精度，而无需推理时的工具。
- 该框架设计了两种推理范式：用于空间任务的由粗到细的因果链和用于逻辑任务的辩证推理链。
- 提出了一种距离加权多样性损失，以施加拓扑感知约束并防止特征退化。
实验表明，ProLaViT在视觉为中心的基准测试中优于基线模型，以高效率实现了更高的准确性和可解释性。