vllmがv0.24.0rc1をリリースしました。これには、SM75におけるtopkヒストグラムビルドの問題に対する修正が含まれています。この変更はコミット191826eからcherry-pickされ、Mohammad Miadh Angkadによって承認されています。