Проект llama.cpp выпустил версию b10853, которая добавляет поддержку механизма отката рекуррентного состояния модели Kimi-K3 через pull request #28466.
Это обновление предоставляет предварительно собранные бинарные файлы и фреймворки для нескольких платформ и аппаратных ускорителей. Доступные сборки включают macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x с CPU, Vulkan, ROCm 10.0, OpenVINO и SYCL бэкендами), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 10.0) и openEuler (x86 и aarch64 с ACL Graph).
Релиз обеспечивает совместимость с последней архитектурой Kimi-K3 при сохранении широкой поддержки оборудования для локального вывода.