한 레딧 사용자가 Ternary Bonsai 27B DFlash 모델의 성능에 대한 피드백을 요청하고 있습니다. 작성자는 ROCm 환경에서 RX 7900 XT로 모델을 실행할 때 속도 향상이 없으며 심지어 지연까지 경험했다고 보고했습니다.

  • 사용자는 Nvidia 사용자에게 CUDA로, Apple 사용자에게 METAL로 더 나은 성능을 발휘하는지 문의합니다.
  • 소스 텍스트에는 공식 성능 데이터나 개발자의 응답이 제공되지 않았습니다.