开源项目 mlx-smolvla 提供了一个 Python 运行时,用于在 Apple Silicon 上使用 MLX 执行 SmolVLA 检查点,具备推理功能、LeRobot 协议服务器以及 LoRA 训练的预览版。在 Apple M5 Pro 上的基准测试显示,MLX 路径对于 50 个动作块的中位延迟为 110.75 毫秒,比 PyTorch-MPS 快 1.85 倍。

  • 运行时是原生的 MLX,没有 Torch 或 Transformers 依赖项。
  • 严格的 CPU 兼容性通道确保与 PyTorch 的确定性比较,而 Metal 使用统计检查。
  • 该项目包括一个实现 LeRobot 异步推理 gRPC 协议的策略服务器。
  • LoRA 训练目前处于研究预览阶段,具有有限的对等验证。

作者指出,原始基础检查点缺乏有效的物理动作接口,并且需要带有匹配机器人统计数据的已审查检查点供运动客户端使用。