github llama.cpp · há 8 d · inference

Atualizações do backend Vulkan e novos lançamentos binários para llama.cpp

Traduzido do English → Português (BR)

O lançamento b9774 do llama.cpp adiciona suporte ao backend Vulkan para operações SQR, SQRT, SIN, COS, CLAMP, LEAKY_RELU e NORM, com suporte a entradas não contíguas. O lançamento inclui builds binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e backends, incluindo CUDA, OpenVINO, SYCL e ROCm.

Importância 1/3 Confiança 2/3 llama.cpp Inference efficiency Open weights

Ler original