llama.cpp 프로젝트는 CI 파이프라인에서 ThreadSanitizer가 식별한 중대한 동시성 문제를 해결하는 빌드 b11302를 출시했습니다. 이 업데이트는 여러 CPU 스레드가 동일한 메모리 요소에 잘못 작성하여 발생한 희소 어텐션 메커니즘 내의 데이터 경고를 해결합니다.

  • 죽은 인덱서 슬롯은 이제 단일 센티널 행을 공유하는 대신 고유한 산란 행(n_kv + slot)을 할당받습니다.
  • 활성 슬롯은 서로소인 셀을 주소 지정하여, 모든 선택 경로에 걸쳐 토큰의 산란 인덱스가 고유하게 유지되도록 보장합니다.
  • 이 수정은 top_k에 의해 선택된 보이지 않는 풀과 토큰의 꼬리 셀 사이의 중복을 제거합니다.

이 변경 사항은 공유 메모리 위치로의 동시 작성으로 인해 발생하는 정의되지 않은 동작을 방지하여 희소 인덱서 마스크 구성의 스레드 안전 작동을 보장합니다.