vLLM परियोजना ने संस्करण 0.28.0rc2 जारी किया, जिसमें DFlash2 अनुमानित डिकोडिंग सुविधा शामिल है।
- DFlash2 कुशल टोकन जनरेशन के लिए स्थानीय कन्वोल्यूशन तंत्र लागू करता है।
- अपडेट ने spec decode प्रक्रिया को बेहतर बनाने के लिए एक समर्पित उम्मीदवार चयनकर्ता पेश किया।
- इस बदलाव को commit b389ac2 से cherry-picked किया गया था और khluu द्वारा हस्ताक्षरित किया गया था।