github llama.cpp · há 1 h · inference

llama.cpp b10259 permite reconfiguração de tensores durante o carregamento

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a compilação b10259, que introduz a capacidade de permitir a reconfiguração de tensores durante o processo de carregamento.

Esta atualização inclui binários para macOS (Apple Silicon e Intel), Linux (Ubuntu com CPU, Vulkan, ROCm, OpenVINO e SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO e SYCL) e openEuler.

O lançamento também fornece o pacote de interface do usuário independente para os usuários.

Importância 1/3 Confiança 1/3 llama.cpp Inference efficiency Local inference

Ler original

llama.cpp b10254 adiciona modelo de template DeepSeek V4 Flash 0731 e atualiza templates V4

O projeto llama.cpp lançou a versão b10254, introduzindo um novo modelo de chat para o modelo DeepSeek V4 Flash 0731 junto com atualizações nos templates existentes do DeepSeek V4.

github llama.cpp · há 10 h

llama.cpp b10251 adiciona suporte MTP para GLM-4.7-Flash

O projeto llama.cpp lançou a compilação b10251, que introduz suporte de Previsão Multi-Token (MTP) para o modelo GLM-4.7-Flash.

github llama.cpp · há 1 d

llama.cpp b10238 adiciona suporte para MTP no Qwen3-Next

O projeto llama.cpp lançou a compilação b10238, que introduz o suporte para Multi-Token Prediction (MTP) na família de modelos Qwen3-Next. Esta atualização inclui alterações específicas de implementação para lidar com camadas MTP e correções relacionadas à verificação de tipos do Python no código-fonte.

github llama.cpp · há 1 d · 5 visualizações

llama.cpp b10237 adiciona suporte para MTP no DeepSeek V3.2

O projeto llama.cpp lançou a compilação b10237, que introduz o suporte à Predição de Múltiplos Tókenes (MTP) para o modelo DeepSeek V3.2.

github llama.cpp · há 2 d · 7 visualizações

llama.cpp b10232 implementa hiperconexões do DeepSeek V4 no Metal

O projeto llama.cpp lançou a compilação b10232, que introduz suporte para as hiperconexões do DeepSeek V4 por meio do backend do Metal. Esta atualização adiciona a implementação das operações GGML_OP_DSV4_HC_COMB, GGML_OP_DSV4_HC_PRE e GGML_OP_DSV4_HC_POST.