v0.30.0rc2 corrige los informes de recepción de NIXL para solicitudes solo de notificación
La versión v0.30.0rc2 incluye una corrección de error en NIXL para evitar generar informes de recepción para solicitudes únicamente de notificación.
vLLM v0.29.0 aplica el caché de prefijos denso por defecto a modelos híbridos
El proyecto vLLM lanzó la versión 0.29.0, que incluye una corrección de error central respecto al caché de prefijos denso.
v0.29.0rc5 cambia el valor predeterminado de prefix_cache_retention_interval a dense para Mamba
La versión v0.29.0rc5 actualiza el valor predeterminado del parámetro `prefix_cache_retention_interval` a `dense` específicamente para modelos Mamba.
v0.29.0rc2 corrige la caché del trabajador SHM para elementos cubiertos por prefijo
La versión v0.29.0rc2 incluye una corrección de error para la caché del trabajador SHM con el fin de manejar correctamente los elementos cubiertos por prefijo.