研究人员提出了 CARLA-GS,这是一种模块化流水线,通过解耦视觉表示、语义推理和基于物理的执行来合成自动驾驶的 photorealistic(照片级真实)极端情况。该系统从真实驾驶数据中重建可编辑的高斯场景,使用多智能体 LLM 识别危险交互并生成意图级航点,并将底层运动控制委托给带有 PID 控制器的 CARLA。
- 从真实驾驶数据中重建具有几何一致性约束的可编辑高斯场景。
- 采用多智能体 LLM 进行场景级推理,以检测风险并生成航点轨迹。
- 使用 CARLA 和 PID 控制器确保车辆运动的运动学和动力学可行性。
- 将模拟的车辆状态重新投影到高斯场景中,用于第一人称视角渲染。
在 Waymo Open Dataset 上的实验表明,该框架能够可控地生成照片级真实、时空一致的视频,与语义意图和物理约束保持一致。