Проект llama.cpp выпустил версию b9885, которая содержит критическое исправление для платформы AIX за счёт включения tiled matrix multiplication. Это изменение уменьшает размер локального стекового буфера, предотвращая segmentation faults, вызванные большими буферами в пути matmul_tiled.
- На платформе AIX для моделей FP32, Q4_0 и Q8_0 было зафиксировано улучшение производительности PP_Speed примерно в 2 раза.
- В релизе предоставлены бинарные файлы для macOS (Apple Silicon и Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm и др.), Android и openEuler.
- Поддержка KleidiAI для macOS Apple Silicon отключена в этой сборке.
Это обновление обеспечивает стабильность на системах AIX и одновременно даёт значительное ускорение вывода для поддерживаемых форматов квантования.