llama.cpp 프로젝트는 `server_stream` 기능의 리팩토링을 포함한 빌드 b9971을 출시했습니다. 이 업데이트는 스레드 안전하지 않은 `rd.stop()` 호출을 제거하고 `server_res_spipe`를 이동하여 스레드 안전성을 해결합니다. 또한 개선된 API를 반영하기 위해 개발자 문서도 업데이트되었습니다.

  • `server_stream` 리팩토링 및 `server_http_res`에서 `spipe` 제거
  • 스레드 안전하지 않은 `rd.stop()` 호출 제거 및 `server_res_spipe` 이동
  • 개선된 server-stream API를 위한 개발자 문서 업데이트
  • macOS Apple Silicon (arm64, KleidiAI 활성화) 빌드 비활성화
  • CPU, GPU, AI 가속기 백엔드 전반에 걸쳐 macOS, Linux, Android, Windows, openEuler용 바이너리 제공

이번 릴리스는 서버 스트리밍 구성 요소의 스레드 안전성을 보장하면서 광범위한 플랫폼 지원을 유지합니다.