github llama.cpp · há 1 d · inference

llama.cpp b11024 atualiza o OpenVINO para 2026.4 e corrige avisos

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a compilação b11024, que atualiza principalmente a integração do OpenVINO para a versão 2026.4.

Atualiza o ggml-openvino para usar o OpenVINO 2026.4.
Corrige os avisos do clangd e MSVC no backend do OpenVINO.
Resolve problemas de conversão de int para ponteiro, aplica vinculação interna e evita casos switch duplicados.
Fornece binários para macOS (Apple Silicon e Intel), Linux (CPU, Vulkan, CUDA, ROCm, SYCL), Windows (CPU, Vulkan, CUDA, OpenCL, ROCm, SYCL), Android e openEuler.

Esta versão garante a compatibilidade com o kit de ferramentas mais recente do OpenVINO, ao mesmo tempo que aborda os avisos do compilador e problemas de consistência do código interno.

Importância 1/3 Confiança 1/3 llama.cpp Inference efficiency Local inference

Ler original

llama.cpp b11046 adiciona suporte para OpenCL ao kernel flash_attn_f32_f16_bin

O projeto llama.cpp lançou a versão b11046, que introduz suporte para OpenCL no kernel `flash_attn_f32_f16_bin`. Esta atualização também inclui funcionalidade de pré-preenchimento protegido para Flash Attention em dispositivos OpenCL.

github llama.cpp · há 5 h · 1 visualização

llama.cpp b11042 adiciona kernel binário OpenCL A8 Q6_K

O projeto llama.cpp lançou a versão b11042, que introduz um novo kernel binário OpenCL para modelos A8 Q6_K não-MoE. Esta atualização também inclui correções de compatibilidade de layout dentro do backend OpenCL.

github llama.cpp · há 9 h · 1 visualização

llama.cpp b11039 adiciona suporte ao padrão SWA ao model-saver e aos carregadores

O projeto llama.cpp lançou a compilação b11039, que atualiza o model-saver para gravar padrões de atenção de janela deslizante (SWA) e geometria MLA SWA para todos os modelos que usam SWA. A alteração garante que o `sliding_window_pattern` seja gravado como um sinalizador por camada, em vez de ser colapsado para um escalar, preservando a representação exata dos dados.

github llama.cpp · há 1 d · 2 visualizações

llama.cpp b11025 estende o suporte ao Nemotron MTP

O projeto llama.cpp lançou a compilação b11025, que inclui uma extensão do suporte à Predição Multi-Token (MTP) da Nemotron.

github llama.cpp · há 2 d · 4 visualizações

llama.cpp b11019 corrige alinhamento de dados do GGUF para arquivos embutidos e adiciona carregamento de LoRA

O projeto llama.cpp lançou a versão b11019, corrigindo um bug crítico em que arquivos GGUF embutidos em deslocamentos não alinhados retornavam dados de tensor incorretos. A atualização alinha a seção de dados do GGUF em relação ao início do arquivo, em vez do deslocamento 0, garantindo o carregamento correto de modelos embutidos.