O lançamento do llama.cpp b9767 melhora a inferência MTP usando caminhos mat-vec para pequenos lotes e inclui suporte atualizado a GPU. O lançamento fornece binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e APIs, incluindo Vulkan, CUDA, OpenVINO e SYCL.