v0.30.0rc2 केवल सूचना अनुरोधों के लिए NIXL प्राप्त रिपोर्ट्स को ठीक करता है
v0.30.0rc2 रिलीज़ में NIXL के लिए एक बगफिक्स शामिल है ताकि केवल सूचना अनुरोधों के लिए प्राप्त रिपोर्ट्स उत्पन्न न हों।
vLLM v0.29.0 हाइब्रिड मॉडलों के लिए डिफ़ॉल्ट घन प्रीफ़िक्स कैश लागू करता है
vLLM परियोजना ने संस्करण 0.29.0 जारी किया, जिसमें घन प्रीफ़िक्स कैश से संबंधित एक मुख्य बग फिक्स शामिल है।
v0.29.0rc5 ने Mamba के लिए prefix_cache_retention_interval को डिफ़ॉल्ट रूप से dense पर बदल दिया है
v0.29.0rc5 रिलीज़ ने विशेष रूप से Mamba मॉडलों के लिए `prefix_cache_retention_interval` पैरामीटर के डिफ़ॉल्ट मान को `dense` पर अपडेट किया है।
v0.29.0rc2, SHM वर्कर कैश में प्रीफ़िक्स-कवर्ड आइटम्स के लिए ठीक करता है
v0.29.0rc2 रिलीज़ में, SHM वर्कर कैश के लिए एक बगफ़िक्स शामिल है ताकि प्रीफ़िक्स-कवर्ड आइटम्स को उचित रूप से संभाला जा सके।