O projeto llama.cpp lançou a compilação b11302, que aborda um problema crítico de concorrência identificado pelo ThreadSanitizer no pipeline de CI. A atualização resolve uma corrida de dados dentro do mecanismo de atenção esparsa onde vários threads da CPU estavam gravando incorretamente nos mesmos elementos de memória.

  • Os slots do indexador mortos agora recebem linhas de dispersão únicas (n_kv + slot) em vez de compartilhar uma única linha sentinela.
  • Os slots ativos endereçam células disjuntas, garantindo que os índices de dispersão para um token permaneçam únicos em todos os caminhos de seleção.
  • A correção elimina sobreposições entre pools invisíveis selecionados pelo top_k e as células finais dos tokens.

Esta alteração garante a operação segura de threads na construção da máscara do indexador esparsa, impedindo comportamento indefinido causado por gravações concorrentes em locais de memória compartilhada.