github llama.cpp · 14일 전 · inference

llama.cpp b9675 릴리즈, FP16 지원 및 새로운 플랫폼 바이너리 추가

번역 English → 한국어

llama.cpp 버전 b9675은 SQR, SQRT, LOG, SIN, COS, CLAMP 등의 연산에 대해 FP16 지원을 활성화했습니다. 이번 릴리즈에는 macOS, Linux, Android, Windows, openEuler 에 대한 바이너리가 여러 아키텍처에서 제공되며, Vulkan, ROCm, OpenVINO, SYCL (FP16 및 FP32), CUDA 12.4 및 13.3 을 지원합니다.

중요도 1/3 신뢰도 2/3 llama.cpp Code generation Hardware & chips Inference efficiency

원문 보기