vLLMプロジェクトはバージョン0.25.0rc2をリリースし、Transformersモデルバックエンド内の特定の問題に対処しました。

  • 埋め込みスケーリングの問題を修正。
  • CUDAグラフの問題を解決。