vLLM 프로젝트가 버전 0.25.1을 출시했으며, 여기에는 혼합 정밀도 allreduce RMSNorm 양자화 융합에 대한 버그 수정이 포함되어 있습니다.

  • 이 업데이트는 프레임워크의 혼합 정밀도 allreduce RMSNorm 양자화 융합과 관련된 문제를 해결합니다.