github llama.cpp · há 17 d · inference

Relese do llama.cpp b9692 adiciona novos binários e correções

Traduzido do English → Português (BR)

A versão b9692 do llama.cpp introduz novos binários para macOS, Linux, Android, Windows e openEuler em múltiplas arquiteturas. A release inclui atualizações para suportar Vulkan, ROCm, OpenVINO, SYCL e HIP, com correções para remover o uso da dimensão de batch no llava_uhd.

Importância 1/3 Confiança 1/3 llama.cpp Code generation Hardware & chips Inference efficiency

Ler original