Версия llama.cpp b9754 вводит парсер AC для строгого формирования грамматики в модуле common/peg. В релизе представлены предварительно скомпилированные бинарники для macOS, Linux, Android, Windows и openEuler, поддерживающие различные архитектуры и технологии ускорения, такие как Vulkan, CUDA, OpenVINO и SYCL.