github llama.cpp · agora mesmo · inference

llama.cpp b11301 corrige estouro inteiro em ggml/gguf

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a compilação b11301, que inclui uma correção para um problema de estouro inteiro nos componentes ggml e gguf. Esta atualização aborda a lógica de validação para prevenir erros potenciais ao lidar com tensores de zero elementos.

Corrige a proteção contra estouro inteiro para tensores de zero elementos em ggml.
Valida o número de elementos nos tensores para prevenir estouro inteiro.
Corrige a impressão de erros no módulo ggml.

O lançamento fornece binários para macOS, Linux, Windows, Android e openEuler através de backends CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) e NPU.

Importância 1/3 Confiança 1/3 llama.cpp Inference efficiency Local inference

Ler original

llama.cpp b11302 corrige corrida de dados do ThreadSanitizer no indexador esparsa

O projeto llama.cpp lançou a compilação b11302, que aborda um problema crítico de concorrência identificado pelo ThreadSanitizer no pipeline de CI. A atualização resolve uma corrida de dados dentro do mecanismo de atenção esparsa onde vários threads da CPU estavam gravando incorretamente nos mesmos elementos de memória.

github llama.cpp · há 1 h · 1 visualização Ao vivo

llama.cpp b11302 corrige corrida de dados do ThreadSanitizer no indexador esparsa

llama.cpp b11298 adiciona suporte a dflash para conversão e extração de recursos

llama.cpp b11284 corrige GET_ROWS do OpenVINO em visualizações de pesos quantizados

llama.cpp adiciona suporte para GLM-5.3-Flash com correções de k-pool e MTP

llama.cpp b11272 otimiza operação de concatenação Hexagon