github llama.cpp · hace 1 h · inference

llama.cpp b10259 permite el reordenamiento de tensores durante la carga

Traducido del English → Español

El proyecto llama.cpp ha lanzado la compilación b10259, que introduce la capacidad de permitir el reordenamiento de tensores durante el proceso de carga.

Esta actualización incluye binarios para macOS (Apple Silicon e Intel), Linux (Ubuntu con CPU, Vulkan, ROCm, OpenVINO y SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO y SYCL) y openEuler.

El lanzamiento también proporciona el paquete de interfaz de usuario independiente para los usuarios.

Importancia 1/3 Confianza 1/3 llama.cpp Inference efficiency Local inference

Leer original

llama.cpp b10254 añade la plantilla DeepSeek V4 Flash 0731 y actualiza las plantillas V4

El proyecto llama.cpp lanzó la versión b10254, introduciendo una nueva plantilla de chat para el modelo DeepSeek V4 Flash 0731 junto con actualizaciones a las plantillas existentes de DeepSeek V4.

github llama.cpp · hace 10 h

llama.cpp b10251 añade soporte MTP para GLM-4.7-Flash

El proyecto llama.cpp ha lanzado la compilación b10251, que introduce soporte de Predicción Multi-Tokens (MTP) para el modelo GLM-4.7-Flash.

github llama.cpp · hace 1 d

llama.cpp b10238 añade soporte para MTP en Qwen3-Next

El proyecto llama.cpp lanzó la compilación b10238, que introduce soporte para Multi-Token Prediction (MTP) en la familia de modelos Qwen3-Next. Esta actualización incluye cambios específicos de implementación para manejar capas MTP y correcciones relacionadas con la verificación de tipos de Python dentro del código base.

github llama.cpp · hace 1 d · 5 vistas

llama.cpp b10237 añade soporte para MTP en DeepSeek V3.2

El proyecto llama.cpp lanzó la compilación b10237, que introduce soporte para Predicción de Múltiples Tókenes (MTP) para el modelo DeepSeek V3.2.

github llama.cpp · hace 2 d · 7 vistas

llama.cpp b10232 implementa hiperconexiones de DeepSeek V4 en Metal

El proyecto llama.cpp lanzó la compilación b10232, que introduce soporte para las hiperconexiones de DeepSeek V4 a través del backend de Metal. Esta actualización añade la implementación de las operaciones GGML_OP_DSV4_HC_COMB, GGML_OP_DSV4_HC_PRE y GGML_OP_DSV4_HC_POST.