O projeto llama.cpp lançou a compilação b10052, com mudanças internas significativas no backend da Hexagon. A atualização inclui uma reestruturação do tratamento do cache L2 com rastreamento de bits sujos e flushing preguiçoso, junto com várias atualizações nos kernels de multiplicação de matrizes.
- hex-mm: corrige um limite artificial no solucionador que restringia o número de threads de preparação de ativações
- hmx-mm: adiciona suporte para processamento de ativações em blocos para distribuir melhor a carga Hvx
- hex-l2: otimiza os flushes do L2 no nível do opbatch e rastreia aliases de tensores para atrasar ou pular flushes
- hex-work: reestrutura a API legada do pool de trabalho para corresponder ao hmx-queue e dma-queue
- hex-main: introduz um modo de fallback para callbacks do dspqueue e remove a lógica de despertar antecipado que causava erros
Esta versão fornece binários atualizados para macOS, Linux, Windows, Android e iOS através de CPU, GPU e backends de hardware especializado.