media Hugging Face Forums · hace 4 d · open_models

Versión de Celestium CARE para NVIDIA lanzada para tarjetas GTX/RTX

Traducido del English → Español

La versión de Celestium CARE para NVIDIA ha sido completada y disponible como una herramienta profesional para tarjetas gráficas GTX y RTX. Utiliza NVML para ofrecer funciones como limpieza de VRAM, horarios de auto-limpieza y monitoreo completo de telemetría.

Interfaz NVML sin parpadeo con cero consola y parpadeo
Limpiador de VRAM L1–L4 más modo SDXL
Intervalos de auto-limpieza de 1 a 60 minutos vía hilo daemon
Telemetría completa para GPU, VRAM, temperatura y estado del controlador
Monitor de CPU con umbrales de color y detección multi-GPU
Interfaz DearPyGui (1000×950) con Dock de Consola
Compilación independiente de Nuitka sin dependencias de Torch
Licenciamiento AES-256 + PBKDF2-1M con auto-copia de seguridad y restauración

La herramienta soporta todas las GPU NVIDIA con NVML, incluyendo GTX 1650, 1050 Ti, 1660, 3060 y 4090.

Importancia 1/3 Confianza 1/3 Hugging Face Forums Local inference

Leer original

llama.cpp b11122 extiende la fusión MMVQ GLU y añade nuevas fusiones SYCL

El proyecto llama.cpp ha lanzado la versión b11122, que incluye actualizaciones significativas para el backend SYCL. El lanzamiento extiende la fusión MMVQ GLU para soportar tipos de cuantización mixtos e introduce nuevas fusiones para las operaciones rms_norm+scale y ssm_conv+silu.

github llama.cpp · hace 1 h · 11 vistas En vivo

llama.cpp b11120 oculta símbolos internos de Vulkan para corregir la destrucción del estado

El proyecto llama.cpp lanzó la versión b11120, que corrige un error crítico en el backend de Vulkan ocultando los símbolos internos. Este cambio evita problemas de destrucción del estado por duplicate-dlopen que ocurrían cuando se exportaban los símbolos internos.

github llama.cpp · hace 6 h · 13 vistas

llama.cpp b11118 introduce un caché DMA de mapeo directo para el manejo de máscaras FA de HVX

El proyecto llama.cpp ha lanzado la compilación b11118, que incluye una nueva función hex-dma que introduce un caché DMA de mapeo directo mejor adaptado para el manejo de máscaras FA de Hexagon Vector eXtended (HVX).

github llama.cpp · hace 17 h · 9 vistas

llama.cpp añade soporte para DFlash en HunyuanOCR y corrige la conversión de borrador

El proyecto llama.cpp ha añadido soporte para la decodificación especulativa DFlash con el modelo HunyuanOCR, exponiendo los tensores de entrada de las capas en el grafo objetivo. Este cambio permite que el modelo de borrador lea los flujos residuales, lo que posibilita que las solicitudes de imagen se ejecuten correctamente con una tasa de aceptación del borrador de aproximadamente 0.5 y una salida OCR idéntica a nivel de bytes en comparación con las ejecuciones no especulativas.

github llama.cpp · hace 18 h · 13 vistas

llama.cpp b11104 añade soporte para vincular llama-server a múltiples direcciones

El proyecto llama.cpp lanzó la versión b11104, introduciendo una nueva función que permite al componente llama-server vincularse a múltiples direcciones de red simultáneamente.