이 릴리스 후보는 vLLM 프로젝트 내에서 데이터 병렬화(DP) Supervisor와 함께 Prefill/Decode(P/D) 기능에 대한 수정을 다룹니다.

  • 이 업데이트는 P/D 스케줄링과 DP Supervisor 간의 상호 작용과 관련된 문제를 해결합니다.
  • 이 변경은 커밋 c5e3c40877c2b6d0e16d534641b39fe6744979b7에서 cherry-pick되었습니다.