github llama.cpp · há 1 h · inference

llama.cpp b10254 adiciona modelo de template DeepSeek V4 Flash 0731 e atualiza templates V4

Traduzido do English → Português (BR)

O projeto llama.cpp lançou a versão b10254, introduzindo um novo modelo de chat para o modelo DeepSeek V4 Flash 0731 junto com atualizações nos templates existentes do DeepSeek V4.

Alinha os templates DeepSeek V4 aos codificadores oficiais, excluindo mudanças no comportamento do parser.
Por padrão, descarta o histórico de raciocínio para DeepSeek V4, a menos que preserve_reasoning seja solicitado ou ferramentas estejam presentes.
Adiciona instruções de formato de resposta para saída estruturada e passa esquemas para a renderização do template.
Introduz um template Flash 0731 separado para lidar com os mapeamentos atualizados de esforço de raciocínio alto e máximo.
Inclui correções para o consumo do separador de chamadas de ferramentas do parser DSML e seleção do template deepseek v4 0731.

Esta atualização garante compatibilidade com as últimas especificações do modelo DeepSeek e melhora o tratamento de saída estruturada.

Importância 1/3 Confiança 1/3 llama.cpp Inference efficiency Local inference

Ler original

llama.cpp b10251 adiciona suporte MTP para GLM-4.7-Flash

O projeto llama.cpp lançou a compilação b10251, que introduz suporte de Previsão Multi-Token (MTP) para o modelo GLM-4.7-Flash.

github llama.cpp · há 22 h

llama.cpp b10238 adiciona suporte para MTP no Qwen3-Next

O projeto llama.cpp lançou a compilação b10238, que introduz o suporte para Multi-Token Prediction (MTP) na família de modelos Qwen3-Next. Esta atualização inclui alterações específicas de implementação para lidar com camadas MTP e correções relacionadas à verificação de tipos do Python no código-fonte.

github llama.cpp · há 23 h · 5 visualizações

llama.cpp b10237 adiciona suporte para MTP no DeepSeek V3.2

O projeto llama.cpp lançou a compilação b10237, que introduz o suporte à Predição de Múltiplos Tókenes (MTP) para o modelo DeepSeek V3.2.

github llama.cpp · há 2 d · 7 visualizações

llama.cpp b10232 implementa hiperconexões do DeepSeek V4 no Metal

O projeto llama.cpp lançou a compilação b10232, que introduz suporte para as hiperconexões do DeepSeek V4 por meio do backend do Metal. Esta atualização adiciona a implementação das operações GGML_OP_DSV4_HC_COMB, GGML_OP_DSV4_HC_PRE e GGML_OP_DSV4_HC_POST.

github llama.cpp · há 3 d · 9 visualizações

llama.cpp b10219 persiste reasoning_content no histórico de chat

O projeto llama.cpp lançou a versão b10219, que inclui uma correção para o CLI para persistir o conteúdo do raciocínio dentro do histórico de chat. Anteriormente, embora o `llama-cli` coletasse o raciocínio do stream para exibição, ele armazenava apenas o conteúdo do assistente nas mensagens, impedindo que a flag `--reasoning-preserve` re-injetasse pensamentos anteriores em rodadas posteriores.