github llama.cpp · há 16 d · inference

llama.cpp lança b96669 com amostragem de backend para Eagle3

Traduzido do English → Português (BR)

A versão b9669 do llama.cpp adiciona suporte à amostragem de backend para o Eagle3. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e opções de aceleração de hardware, incluindo Vulkan, CUDA, ROCm, OpenVINO e SYCL.

Importância 1/3 Confiança 2/3 llama.cpp Code generation Hardware & chips Inference efficiency

Ler original