यह रिलीज कैंडिडेट vLLM प्रोजेक्ट में डेटा पैरेलेलिज्म (DP) सुपरवाइजर के साथ Prefill/Decode (P/D) फंक्शनलिटी के लिए एक फिक्स को संबोधित करता है।
- अपडेट P/D शेड्यूलिंग और DP सुपरवाइजर के बीच इंटरैक्शन से जुड़ी समस्याओं को हल करता है।
- यह चेंज commit c5e3c40877c2b6d0e16d534641b39fe6744979b7 से cherry-picked किया गया है।