llama.cpp 프로젝트가 버전 b9923을 출시했습니다. 이 버전은 Server-Sent Events (SSE) 재생 버퍼 관련 문제를 해결하기 위해 server-stream 구성 요소에 대한 상당한 리팩터링을 특징으로 합니다. 이 업데이트는 pimpl 패턴을 도입하고 공개 스트림 함수를 `server_stream_` 접두사 아래에 스코프하여 코드 조직을 개선했습니다.

  • 세션 및 관리자 상태는 이제 뮤텍스로 보호되며, condvar 술어는 잠금 하에서 설정되지만 취소된 플래그는 잠금 없는 폴링을 위해 원자적으로 유지됩니다.
  • 주석은 병렬성, 수명, 순서화 논리에 초점을 맞추기 위해 간소화되었으며, 단순히 코드를 반복하는 주석은 제거되었습니다.
  • 스트림 트레이스는 디버그 수준으로 이동하여 시작 진단 중 기본 로그 노이즈를 줄였습니다.
  • `stream_read_status` 열거형은 pimpl 경계 내에 머물기 위해 .cpp 파일로 이동했습니다.

이번 릴리스에는 macOS (Apple Silicon 및 Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), 그리고 openEuler용 바이너리가 포함되어 있습니다.