llama.cpp lanza la versión b9781, añadiendo soporte para Vulkan en Linux y Windows, y expandiéndose a múltiples arquitecturas que incluyen ARM64 y x64 en macOS, Linux, Android y Windows. El lanzamiento incluye compilaciones para CPU, CUDA, OpenVINO, SYCL y ROCm, con un componente de interfaz de usuario disponible.
La herramienta vulkan-shaders-gen ahora detecta y falla la compilación cuando la compilación de shaders falla, evitando la creación de una libggml-vulkan defectuosa. Esta corrección aborda un problema previo donde el éxito de la compilación enmascaraba fallos en tiempo de ejecución, e incluye mejoras en el manejo de errores y la gestión de banderas atómicas entre plataformas.
La versión b9777 de LLaMA.cpp añade los modelos LFM2.5-ColBERT-350M y LFM2.5-Embedding-350M. La versión incluye binarios precompilados para macOS, Linux, Android, Windows y openEuler, compatibles con diversas arquitecturas y tecnologías de aceleración como CUDA, Vulkan, OpenVINO y SYCL.
La versión 0.17.7 de la biblioteca openai-agents-python incluye nuevas características como el tamaño máximo configurable de WebSocket y el streaming de llamadas a herramientas de Chat Completions con búfer. También contiene múltiples correcciones para problemas que incluyen el buffering del sandbox, el manejo de errores y el despacho de herramientas, junto con actualizaciones de documentación y un mejor mensaje de error.
La versión llama.cpp b9776 introduce soporte para Vulkan en Linux y Windows, junto con variantes de CPU, OpenCL, CUDA y SYCL en macOS, Linux, Android y Windows. La liberación también incluye soporte para OpenVINO y ROCm, con una interfaz de usuario disponible en un paquete independiente.
La versión b9774 de llama.cpp añade soporte para el backend de Vulkan en las operaciones SQR, SQRT, SIN, COS, CLAMP, LEAKY_RELU y NORM, con compatibilidad para entradas no contiguas. El lanzamiento incluye compilaciones binarias para macOS, Linux, Android, Windows y openEuler a través de múltiples arquitecturas y backends, incluyendo CUDA, OpenVINO, SYCL y ROCm.
LLaMA.cpp ha lanzado la versión b9775, introduciendo binarios para macOS, Linux, Android, Windows y openEuler en varias arquitecturas. La publicación incluye soporte para CPU, Vulkan, OpenVINO, SYCL y ROCm, con versiones actualizadas de CUDA (12.4 y 13.3) y disponibilidad del XCFramework para iOS. También se proporciona un paquete de interfaz de usuario.
La versión b9773 de llama.cpp introduce soporte para Vulkan en GET_ROWS_BACK y proporciona compilaciones binarias para macOS, Linux, Android, Windows y openEuler. Las nuevas versiones incluyen opciones de CPU, Vulkan, ROCm, OpenVINO y SYCL en múltiples arquitecturas, con un paquete de interfaz de usuario dedicado.
La versión b9771 de LLaMA.cpp introduce soporte para Vulkan en Linux y Windows, reduciendo las variantes de shaders y el tamaño del binario al convertir mul_mm ALIGNED en una constante de especificación. La versión incluye binarios para macOS, Linux, Android, Windows y openEuler, con variantes para CPU, Vulkan, OpenVINO, SYCL y ROCm.
La versión b9770 de llama.cpp corrige el manejo de presets remotos y añade una prueba para ello. La publicación incluye binarios para macOS, Linux, Android, Windows y openEuler, compatibles con diversas arquitecturas y aceleradores de hardware como Vulkan, CUDA, OpenVINO y SYCL.
El proyecto llama.cpp ha añadido soporte de conversión para Granite Speech Plus, ampliando su capacidad para manejar concatenación multicapa. Esta actualización está disponible en múltiples plataformas, incluyendo macOS, Linux, Android, Windows y openEuler, con soporte para varios aceleradores de hardware y modelos de IA.
llama.cpp ahora enlaza ggml-cpu cuando GGML_VULKAN_CHECK_RESULTS o GGML_VULKAN_RUN_TESTS están habilitados para resolver fallos de enlace. Esta corrección restaura la funcionalidad de depuración para la verificación y las pruebas de resultados de Vulkan después de que se dividiera la biblioteca ggml-cpu.
La versión b9767 de llama.cpp mejora la inferencia MTP utilizando rutas mat-vec para lotes pequeños e incluye soporte actualizado para GPU. La versión proporciona binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y APIs, incluyendo Vulkan, CUDA, OpenVINO y SYCL.
El sistema mejorará su capacidad para detectar mensajes del usuario y establecerá puntos de control para mejorar el rendimiento y la fiabilidad.
La versión b9763 de llama.cpp introduce un campo ID en las respuestas de llamadas a herramientas. La publicación incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración por hardware, con un componente de interfaz de usuario también disponible.
la versión b9761 de llama.cpp traslada la descarga de modelos a un proceso hijo dedicado y añade seguimiento del progreso en tiempo real mediante /models/sse. La liberación incluye binarios para macOS, Linux, Android, Windows y openEuler, con soporte para varias arquitecturas y aceleradores de hardware como CUDA, Vulkan, OpenVINO y SYCL.
La versión b9760 de llama.cpp introduce un esquema de archivo de entrada refactorizado que admite videos de entrada en base64 sin procesar. La liberación incluye binarios para macOS, Linux, Android, Windows y openEuler a través de múltiples arquitecturas y aceleradores de hardware, incluyendo Vulkan, CUDA, OpenVINO y SYCL.
llama.cpp publica la versión b9757 con binarios actualizados para macOS, Linux, Android, Windows y openEuler. La versión elimina el softmax+sort incondicional en el sampler top-n-sigma, mejorando la eficiencia del muestreo. Las nuevas compilaciones admiten Vulkan, OpenVINO, SYCL, ROCm y CUDA en múltiples arquitecturas, incluyendo Apple Silicon y ARM64.
La versión b9758 de llama.cpp introduce soporte para bf16 en las operaciones bin_bcast y unarias. También amplía la compatibilidad a compiladores Intel más antiguos que la versión 2026.0, con nuevas compilaciones disponibles para las plataformas macOS, Linux, Android, Windows y openEuler, incluyendo soporte para Vulkan, OpenVINO, SYCL y CUDA.
Se corrigió un fallo en la edición de archivos al añadir contenido al final, normalizando -1 a n (inserción al final) en lugar de n+1. El parche restringe -1 al modo de adición y lo rechaza para operaciones de reemplazo/eliminación con el fin de evitar la sobrescritura silenciosa de la última línea, y asegura que el desplazamiento de inserción se calcule como un entero para evitar un desbordamiento del búfer en el montón.