vLLM प्रोजेक्ट ने संस्करण 0.25.0rc2 जारी किया है, जो Transformers मॉडलिंग बैकएंड के भीतर विशिष्ट समस्याओं को संबोधित करता है।

  • एम्बेड स्केलिंग समस्याओं को ठीक किया।
  • CUDA ग्राफ़ के साथ समस्याओं को हल किया।