v0.30.0rc2 が通知のみのリクエストに対する NIXL の受信レポートを修正
v0.30.0rc2 リリースには、通知のみのリクエストに対して受信レポートを生成しないようにする NIXL のバグフィックスが含まれています。
vLLM v0.29.0 がハイブリッドモデルにデフォルトの密集プレフィックスキャッシュを適用
vLLM プロジェクトはバージョン 0.29.0 をリリースし、密集プレフィックスキャッシュに関するコアなバグ修正を含んでいます。
v0.29.0rc5はMambaのprefix_cache_retention_intervalのデフォルトをdenseに変更
v0.29.0rc5リリースでは、`prefix_cache_retention_interval`パラメータのデフォルト値がMambaモデル用に`dense`に更新されました。
v0.29.0rc2 が SHM ワーカーキャッシュのプレフィックス覆い項目を修正
v0.29.0rc2 リリースには、プレフィックス覆い項目を適切に処理するための SHM ワーカーキャッシュのバグフィックスが含まれています。