github llama.cpp · 17일 전 · inference

LLaMA.cpp b9685 릴리스는 SYCL Dev2Dev Memcpy 및 다중 플랫폼 바이너리를 추가합니다

번역 English → 한국어

LLaMA.cpp 버전 b9685은 GGML_SYCL_DEV2DEV_MEMCPY를 런타임 테이블로 이동하고 피어 투 피어 통신 감지를 개선하는 SYCL 기반 dev2dev memcpy 기능을 도입했습니다. 이번 릴리스에는 Vulkan, ROCm, OpenVINO 및 SYCL(FP32/FP16)을 포함한 다양한 아키텍처와 API에 걸쳐 macOS, Linux, Android, Windows 및 openEuler용 사전 컴파일된 바이너리가 포함되어 있습니다.

중요도 1/3 신뢰도 1/3 llama.cpp Code generation Hardware & chips Inference efficiency

원문 보기