github llama.cpp · há 1 d · inference

llama.cpp b10955 corrige corrupção de heap no ggml-cpu

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a versão b10955, que inclui uma correção crítica para corrupção de heap no backend ggml-cpu. A atualização desativa o cabeçalho pré-compilado (PCH) e remove uma definição ambígua de CACHE_LINE_SIZE para resolver problemas de segurança de memória.

Desativar o PCH do ggml-cpu restaura a ordem natural de inclusão, garantindo que ops.h seja processado antes dos cabeçalhos de interferência de hardware.
Remover o branch std::hardware_destructive_interference_size torna o CACHE_LINE_SIZE determinístico e independente da ordem de inclusão.
A correção resolve uma incompatibilidade em que os kernels C++ usavam linhas de cache de 256 bytes enquanto o código C usava fallbacks de 64 bytes, o que anteriormente dimensionava incorretamente os buffers de trabalho rope.
Essa correção evita crashes de heap-buffer-overflow no ggml_compute_forward_rope_flt causados pela discrepância no tamanho do buffer.

O lançamento fornece binários para plataformas macOS (Apple Silicon e Intel), Linux (x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL), Android e openEuler.

Importância 1/3 Confiança 1/3 llama.cpp Hugging Face Inference efficiency

Artigos relacionados

github llama.cpp · há 1 h · 1 visualização Ao vivo

llama.cpp b10984 adiciona suporte CUDA para SUM_ROWS contíguo por linha

O projeto llama.cpp lançou a versão b10984, introduzindo suporte CUDA para operações SUM_ROWS contíguas por linha. Esta atualização também organiza o código para incluir GGML_OP_MEAN para lidar com tensores contíguos por linha por meio de um kernel compartilhado.

github llama.cpp · há 2 h · 1 visualização

llama.cpp b10985 restringe o cache de hash RPC a pesos

O projeto llama.cpp lançou a compilação b10985, que modifica o backend RPC para limitar o armazenamento em cache baseado em hash exclusivamente a tensores de peso. Esta alteração aborda um problema onde os dados de ativação eram desnecessariamente hashados e armazenados, levando ao uso excessivo do disco.

github llama.cpp · há 4 h · 2 visualizações

llama.cpp b10981 corrige decode com estado para Gemma-4 e otimiza inferência de GPU MoE

O lançamento do llama.cpp b10981 aborda problemas críticos de correção no caminho de decodificação com estado do backend OpenVINO, corrigindo especificamente o suporte para modelos como Gemma-4 que usam tamanhos de cabeça por camada. Também introduz otimizações para inferência de Mixture of Experts (MoE) em GPU e melhora o desempenho por meio de relayouts do estado KV.

github llama.cpp · há 5 h · 1 visualização

llama.cpp adiciona kernels Metal FA para HSK=96, HSV=64 do MiniCPM3

O projeto llama.cpp adicionou suporte ao kernel Flash Attention (FA) para a configuração específica usada pelo MiniCPM3 no Apple Silicon. Esta alteração corrige uma falha onde a flag `-fa auto` abortava devido à falta de instanciação de kernel para o comprimento da chave de atenção 96 e do valor 64.

github llama.cpp · há 19 h · 3 visualizações

Lançamento b10970 do llama.cpp usa acumulação fp32 em dispositivos MFMA

O projeto llama.cpp lançou a versão b10970, que inclui uma atualização técnica no backend fattn-mma. Esta alteração implementa o uso de acumuladores fp32 especificamente para dispositivos da arquitetura CDNA.