v0.30.0rc2 corrige relatórios de recebimento do NIXL para solicitações apenas de notificação
A versão v0.30.0rc2 inclui uma correção de bug no NIXL para evitar a geração de relatórios de recebimento para solicitações apenas de notificação.
vLLM v0.29.0 aplica o cache de prefixo denso padrão a modelos híbridos
O projeto vLLM lançou a versão 0.29.0, que inclui uma correção de bug central relacionada ao cache de prefixo denso.
v0.29.0rc5 altera o prefix_cache_retention_interval padrão para dense no Mamba
A versão v0.29.0rc5 atualiza o valor padrão do parâmetro `prefix_cache_retention_interval` para `dense` especificamente para modelos Mamba.
v0.29.0rc2 corrige o cache do worker SHM para itens cobertos por prefixo
A versão v0.29.0rc2 inclui uma correção de bug para o cache do worker SHM para lidar corretamente com itens cobertos por prefixo.