Rilis kandidat ini memperbaiki fungsionalitas Prefill/Decode (P/D) yang bekerja bersama Supervisor Data Parallelism (DP) dalam proyek vLLM.

  • Pembaruan ini menyelesaikan masalah terkait interaksi antara penjadwalan P/D dan Supervisor DP.
  • Perubahan ini diambil dari commit c5e3c40877c2b6d0e16d534641b39fe6744979b7.