la versión b9669 de llama.cpp añade soporte de muestreo de backend para Eagle3. El lanzamiento incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración de hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.
La versión b9667 de llama.cpp introduce soporte para Vulkan con S_v=16 a través de gated_delta_net. Incluye binarios para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas, con opciones para Vulkan, CUDA 12.4 y 13.3, ROCm, OpenVINO y SYCL.
La versión b9665 de llama.cpp introduce una nueva bandera --offline para pruebas de rendimiento. La publicación incluye compilaciones binarias para macOS, Linux, Android, Windows y openEuler en múltiples arquitecturas y opciones de aceleración de hardware, incluyendo Vulkan, CUDA, ROCm, OpenVINO y SYCL.
La versión b9663 de LLaMA.cpp añade soporte para OP EXPM1 y todos los casos de prueba unitarias para FLOOR, TRUNC y ROUND. Incluye binarios actualizados para macOS, Linux, Android, Windows y openEuler, con soporte para SYCL (FP32 y FP16), Vulkan, CUDA 12.4 y 13.3, y ROCm 7.2, junto con una interfaz de usuario actualizada.
La actualización de sycl amplía el soporte para el manejo de tensores de expertos reordenados en MoE MUL_MAT_ID a Q4_K, Q5_K y Q6_K. Los casos de reordenamiento 3D no soportados ahora hacen fallback en lugar de abortar.
La versión b9661 de llama.cpp añade soporte para GGML_OP_COL2IM_1D en Vulkan, utilizando un bucle de recopilación acotado en lugar de un escaneo completo-K con módulo. Devuelve nullptr para tipos no compatibles e incluye compilaciones para macOS, Linux, Android, Windows y openEuler a través de CPU, Vulkan, CUDA y SYCL.
Claude Code v2.1.181 introduce soporte para configurar ajustes mediante sintaxis de prompt como /config thinking=false, añade soporte para eventos Apple en sandbox en macOS y mejora el streaming, el reintento automático y el comportamiento del subagente. También corrige numerosos errores relacionados con el inicio, el manejo de archivos, el portapapeles y la respuesta de la interfaz de usuario en todas las plataformas.
OpenAI y Broadcom han presentado Jalapeño, un chip de IA personalizado diseñado para la inferencia de modelos de lenguaje grandes. El chip busca mejorar el rendimiento, la eficiencia y la escalabilidad en los sistemas de IA.