llama.cpp b9885 permite matmul em blocos no AIX com ganhos de 2x na velocidade PP

O projeto llama.cpp lançou a versão b9885, que inclui uma correção crítica para a plataforma AIX ao habilitar a multiplicação de matrizes em blocos. Essa alteração reduz o espaço ocupado pelo buffer da pilha local para evitar falhas de segmentação causadas por buffers grandes no caminho matmul_tiled.

• Melhorias de desempenho de aproximadamente 2x na velocidade PP foram observadas para modelos FP32, Q4_0 e Q8_0 no AIX.
• O lançamento fornece binários para macOS (Apple Silicon e Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, etc.), Android e openEuler.
• O suporte do KleidiAI para Apple Silicon no macOS está desativado nesta compilação.

Esta atualização garante estabilidade nos sistemas AIX enquanto entrega aceleradores significativos de velocidade de inferência para formatos de quantização suportados.