La versión b9690 de llama.cpp introduce un operador rope_back implementado reutilizando kernels rope existentes con una constante de función para alternar la rotación hacia adelante/hacia atrás. El lanzamiento incluye binarios preconstruidos para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración por hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.
llama.cpp versión b9687 introduce nuevos binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas. El lanzamiento incluye soporte para Vulkan, ROCm, OpenVINO, SYCL e HIP, con actualizaciones para mejorar la validación de dispositivos y el rendimiento en el hardware disponible.
llama.cpp lanza la versión b9688, añadiendo APIs de gestión de modelos y actualizaciones en tiempo real mediante SSE. El lanzamiento incluye binarios precompilados para macOS, Linux, Android, Windows y openEuler, compatibles con diversas arquitecturas y marcos de aceleración como Vulkan, CUDA, OpenVINO y SYCL.
La versión b9685 de LLaMA.cpp introduce la funcionalidad memcpy dev2dev basada en SYCL, moviendo GGML_SYCL_DEV2DEV_MEMCPY a una tabla en tiempo de ejecución y mejorando la detección de comunicación entre pares. El lanzamiento incluye binarios precompilados para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y APIs incluyendo Vulkan, ROCm, OpenVINO y SYCL (FP32/FP16).
La versión b9686 de llama.cpp corrige un error de segfault que ocurría con prompts largos en el modelo Eagle3. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler a través de múltiples arquitecturas y opciones de aceleración por hardware, incluyendo Vulkan, CUDA, OpenVINO y SYCL.
La versión b9684 de LLaMA.cpp introduce una nueva operación de convolución 3D (conv_3d) e incluye implementaciones optimizadas. La versión proporciona binarios precompilados para macOS, Linux, Android, Windows y openEuler en varias arquitecturas y opciones de aceleración de hardware, incluyendo SYCL, Vulkan, CUDA y OpenVINO.
La versión b9682 de llama.cpp introduce soporte para Vulkan en Linux y Windows, habilitando la aceleración por GPU. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas, con opciones de CPU y GPU que incluyen CUDA, OpenVINO, SYCL y ROCm.
La versión llama.cpp b9677 actualiza el registro para imponer max_capacity y elimina la lógica de expansión de cola. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración por hardware, incluyendo Vulkan, CUDA, OpenVINO y SYCL.
La versión b9678 de LLaMA.cpp incluye la optimización de mul_mat_f16_f32_l4 para la decodificación e introduce nuevas compilaciones para macOS, Linux, Android, Windows y openEuler. La versión ofrece soporte para CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP en múltiples arquitecturas, con un paquete de interfaz de usuario dedicado disponible.
La versión LLaMA.cpp b9674 corrige un error de uso después de liberar en el memcpy asíncrono de SYCL durante la prellenado de MoE. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler, compatibles con CPU, Vulkan, ROCm, OpenVINO, SYCL y CUDA en múltiples arquitecturas.
la versión b9675 de llama.cpp habilita el soporte para FP16 en operaciones como SQR, SQRT, LOG, SIN, COS y CLAMP. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas, con soporte para Vulkan, ROCm, OpenVINO, SYCL (FP16 y FP32), y CUDA 12.4 y 13.3.
llama.cpp lanza la versión b9680 con soporte actualizado para Vulkan y nuevos binarios para macOS, Linux, Android, Windows y openEuler. La liberación incluye variantes de CPU y GPU para múltiples arquitecturas, con soporte para Vulkan, CUDA, OpenVINO, SYCL y ROCm.
La versión b9673 de llama.cpp introduce asignaciones de sistema USM opcionales para búferes de GPU ≥1GB, lo que permite el sobrecompromiso de VRAM cuando el dispositivo lo soporta. La función requiere la variable de entorno GGML_SYCL_USM_SYSTEM y está desactivada por defecto, volviendo a las asignaciones regulares si no es compatible.
llama.cpp lanza la versión b9660, corrigiendo el doble-escapeo en el análisis de llamadas a herramientas LFM2. La actualización incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración por hardware, con un paquete de interfaz de usuario dedicado.
llama.cpp ha lanzado la versión b9672, actualizando BoringSSL a 0.20260616.0. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración por hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.
La versión b9670 de llama.cpp incluye correcciones para casos límite de NVFP4 en llama-graph, como el movimiento de operaciones MUL post-GEMM y la restricción de build_ffn a combinaciones admitidas. La versión proporciona binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de backend, incluyendo CUDA, Vulkan, SYCL y OpenVINO.
la versión b9669 de llama.cpp añade soporte de muestreo de backend para Eagle3. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración de hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.
La versión b9667 de llama.cpp introduce soporte para Vulkan con S_v=16 a través de gated_delta_net. Incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas, con opciones para Vulkan, CUDA 12.4 y 13.3, ROCm, OpenVINO y SYCL.
La versión b9668 de llama.cpp implementa búferes de memoria visibles para el host UMA para mejorar el rendimiento en dispositivos UMA, basándose en la sugerencia de 0cc4m. La publicación incluye binarios para macOS, Linux, Android, Windows y openEuler, con soporte para CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP, junto con un paquete de interfaz de usuario dedicado.
La versión b9665 de llama.cpp introduce una nueva bandera --offline para pruebas de rendimiento. La publicación incluye compilaciones binarias para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración de hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.