github vLLM · hace 3 h · inference

v0.30.0rc2 corrige los informes de recepción de NIXL para solicitudes solo de notificación

Traducido del English → Español

La versión v0.30.0rc2 incluye una corrección de error en NIXL para evitar generar informes de recepción para solicitudes únicamente de notificación.

Resuelve un problema donde se estaban creando informes de recepción innecesarios para tipos específicos de solicitudes.

Importancia 1/3 Confianza 2/3 vLLM

Leer original

llama.cpp b11046 añade soporte para OpenCL al kernel flash_attn_f32_f16_bin

El proyecto llama.cpp ha lanzado la versión b11046, que introduce soporte para OpenCL en el kernel `flash_attn_f32_f16_bin`. Esta actualización también incluye funcionalidad de prellenado protegido para Flash Attention en dispositivos OpenCL.

media r/LocalLLaMA · hace 1 h En vivo

ZCode sube silenciosamente todo el historial de Git y el espacio de trabajo a Aliyun OSS

Se ha descubierto que la aplicación oficial de codificación con IA de Zhipu, ZCode, empaqueta y sube silenciosamente los espacios de trabajo completos de los usuarios cuando inician sesión. Este proceso incluye cifrar los datos y enviarlos directamente a Aliyun OSS.

github llama.cpp · hace 1 h · 1 vista En vivo

llama.cpp b11044 actualiza hexagon im2col y libera binarios

El proyecto llama.cpp ha lanzado la versión b11044, que incluye una actualización al backend hexagon para mejorar las operaciones image-to-column (im2col). El lanzamiento proporciona binarios precompilados para macOS, Linux, Windows, Android y openEuler en CPU, GPU y otros aceleradores de hardware.

github llama.cpp · hace 2 h · 1 vista

llama.cpp b11045 añade soporte para la operación ROLL en el backend Hexagon

El proyecto llama.cpp ha lanzado la versión b11045, que introduce soporte para la operación ROLL dentro del backend Hexagon.

lab OpenAI News · hace 2 h · 1 vista

Hex utiliza GPT-6 Astra para generar informes visuales interactivos

Hex ha integrado GPT-6 Astra de OpenAI en su plataforma de datos agénticos para permitir que los agentes de datos creen automáticamente visualizaciones complejas e interactivas a partir de los resultados del análisis.