오픈소스 프로젝트 mlx-smolvla는 Apple Silicon에서 MLX를 사용하여 SmolVLA 체크포인트를 실행하기 위한 Python 런타임을 제공하며, 추론, LeRobot 프로토콜 서버 및 LoRA 학습을 위한 미리보기를 특징으로 합니다. Apple M5 Pro에서의 벤치마크는 MLX 경로가 50개 액션 청크에 대해 110.75 ms의 중앙값 지연 시간을 달성하여 PyTorch-MPS보다 1.85배 빠르다는 것을 보여줍니다.

  • 런타임은 Torch 또는 Transformers 의존성 없는 네이티브 MLX입니다.
  • 엄격한 CPU 호환성 레인은 PyTorch와의 결정론적 비교를 보장하며, Metal은 통계적 검사를 사용합니다.
  • 프로젝트에는 LeRobot의 비동기 추론 gRPC 프로토콜을 구현하는 정책 서버가 포함되어 있습니다.
  • LoRA 학습은 현재 제한된 정합성 검증이 있는 연구 미리보기입니다.

저자는 원본 기본 체크포인트에 효과적인 물리적 액션 인터페이스가 부족하며 모션 클라이언트에는 일치하는 로봇 통계 정보가 포함된 검토된 체크포인트가 필요하다고 언급했습니다.