作者介绍了ELSA3D,这是一种统一的3D基础模型,通过沿匹配的抽象尺度构建语言和几何推理来解决隐式的文本-3D交互问题。该模型利用尺度感知八叉树分词器并引入Anchor Tokens(锚点令牌),这些是稀疏的跨模态单元,将语义线索路由到相关的3D尺度。

  • Anchor Tokens选择语义线索,检索特定尺度的几何证据,并将融合信号写回统一表示。
  • 每个块的轻量级路由器通过确定哪些文本令牌在特定几何尺度上实例化锚点,使计算和推理具有弹性。
  • ELSA3D在图像到3D生成、文本到3D生成和3D描述方面达到了最先进水平。
  • 与同一模型的无弹性版本相比,该方法将FLOPs和推理延迟减半。

这种方法允许跨模态容量集中在对齐最需要的地方,从而提高效率而不牺牲性能。