전체 기사
github llama.cpp · 12일 전

llama.cpp 릴리스 b9714가 X-Accel-Buffering 헤더 및 새 바이너리 추가

llama.cpp 버전 b9714는 스트리밍 엔드포인트에 "X-Accel-Buffering": "no" 헤더를 추가하여 Nginx가 응답을 버퍼링하는 것을 방지하고, Pi 코딩 하니스와 같은 애플리케이션의 스트리밍 문제를 해결했습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 13일 전

llama.cpp release b9701: 새로운 전처리기와 크로스 플랫폼 바이너리

llama.cpp 버전 b9701은 새로운 mtmd_image_preproc_out 기능과 업데이트된 개발자 문서를 갖춘 리팩토링된 전처리를 도입했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며 Vulkan, CUDA, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 13일 전

llama.cpp 릴리스 b9700: 새로운 바이너리 및 SYCL API 업데이트

llama.cpp 버전 b9700 은 이름이 변경된 API 플래그와 함께 업데이트된 SYCL 지원을 도입했습니다. GGML_SYCL_SUPPORT_LEVEL_ZERO 가 GGML_SYCL_SUPPORT_LEVEL_ZERO_API 로, GGML_SYCL_ENABLE_LEVEL_ZERO 가 GGML_SYCL_USE_LEVEL_ZERO_API 로 이름이 변경되었습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler 에 대한 바이너리가 포함되어 있으며 Vulkan, ROCm, OpenVINO 및 SYCL 을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.