github llama.cpp · hace 1 h · inference

llama.cpp b10254 añade la plantilla DeepSeek V4 Flash 0731 y actualiza las plantillas V4

Traducido del English → Español

El proyecto llama.cpp lanzó la versión b10254, introduciendo una nueva plantilla de chat para el modelo DeepSeek V4 Flash 0731 junto con actualizaciones a las plantillas existentes de DeepSeek V4.

Alinea las plantillas DeepSeek V4 con los codificadores oficiales excluyendo cambios en el comportamiento del analizador.
Por defecto, elimina el historial de pensamiento para DeepSeek V4 a menos que se solicite preserve_reasoning o haya herramientas presentes.
Añade instrucciones de formato de respuesta para salida estructurada y pasa esquemas a la renderización de plantillas.
Introduce una plantilla Flash 0731 separada para manejar las actualizaciones en los mapeos de esfuerzo de razonamiento alto y máximo.
Incluye correcciones para el consumo del separador de llamadas de herramientas del analizador DSML y la selección de la plantilla deepseek v4 0731.

Esta actualización asegura la compatibilidad con las últimas especificaciones del modelo DeepSeek y mejora el manejo de salida estructurada.

Importancia 1/3 Confianza 1/3 llama.cpp Inference efficiency Local inference

Artículos relacionados

github llama.cpp · hace 4 h

llama.cpp b10251 añade soporte MTP para GLM-4.7-Flash

El proyecto llama.cpp ha lanzado la compilación b10251, que introduce soporte de Predicción Multi-Tokens (MTP) para el modelo GLM-4.7-Flash.

github llama.cpp · hace 22 h

llama.cpp b10238 añade soporte para MTP en Qwen3-Next

El proyecto llama.cpp lanzó la compilación b10238, que introduce soporte para Multi-Token Prediction (MTP) en la familia de modelos Qwen3-Next. Esta actualización incluye cambios específicos de implementación para manejar capas MTP y correcciones relacionadas con la verificación de tipos de Python dentro del código base.

github llama.cpp · hace 23 h · 5 vistas

llama.cpp b10237 añade soporte para MTP en DeepSeek V3.2

El proyecto llama.cpp lanzó la compilación b10237, que introduce soporte para Predicción de Múltiples Tókenes (MTP) para el modelo DeepSeek V3.2.

github llama.cpp · hace 2 d · 7 vistas

llama.cpp b10232 implementa hiperconexiones de DeepSeek V4 en Metal

El proyecto llama.cpp lanzó la compilación b10232, que introduce soporte para las hiperconexiones de DeepSeek V4 a través del backend de Metal. Esta actualización añade la implementación de las operaciones GGML_OP_DSV4_HC_COMB, GGML_OP_DSV4_HC_PRE y GGML_OP_DSV4_HC_POST.

github llama.cpp · hace 3 d · 9 vistas

llama.cpp b10219 persiste reasoning_content en el historial de chat

El proyecto llama.cpp lanzó la versión b10219, que incluye una corrección para la CLI que permite persistir el contenido del razonamiento dentro del historial de chat. Anteriormente, aunque `llama-cli` recopilaba el razonamiento del stream para su visualización, solo almacenaba el contenido del asistente en los mensajes, lo que impedía que la bandera `--reasoning-preserve` reinyectara los pensamientos previos en turnos posteriores.