vllm выпускает v0.24.0rc1, включающий исправление проблем с сборкой гистограммы topk на SM75. Изменение было извлечено из коммита 191826e и подписано Мухаммадом Миаходом Ангкадом.