media Hugging Face Forums · il y a 4 j · open_models

Version Celestium CARE pour NVIDIA publiée pour les cartes GTX/RTX

Traduit de English → Français

La version de Celestium CARE pour NVIDIA est terminée et disponible en tant qu'outil professionnel pour les cartes graphiques GTX et RTX. Elle utilise NVML pour fournir des fonctionnalités telles que le nettoyage de la VRAM, des calendriers de nettoyage automatique et une surveillance complète de la télémétrie.

Interface NVML sans flash avec zéro console et pas de scintillement
Nettoyeur de VRAM L1–L4 plus mode SDXL
Intervalles de nettoyage automatique de 1 à 60 minutes via thread daemon
Télémétrie complète pour GPU, VRAM, température et état du pilote
Moniteur CPU avec seuils de couleur et détection multi-GPU
Interface DearPyGui (1000×950) avec Dock Console
Build standalone Nuitka sans dépendances Torch
Licence AES-256 + PBKDF2-1M avec sauvegarde automatique et restauration

L'outil prend en charge tous les GPU NVIDIA avec NVML, y compris GTX 1650, 1050 Ti, 1660, 3060 et 4090.

Importance 1/3 Confiance 1/3 Hugging Face Forums Local inference

Lire l'original

llama.cpp b11122 étend la fusion MMVQ GLU et ajoute de nouvelles fusions SYCL

Le projet llama.cpp a publié la version b11122, qui comprend des mises à jour significatives pour le backend SYCL. La release étend la fusion MMVQ GLU pour prendre en charge les types de quantification mixtes et introduit de nouvelles fusions pour les opérations rms_norm+scale et ssm_conv+silu.

github llama.cpp · il y a 1 h · 11 vues En direct

llama.cpp b11120 masque les symboles internes de Vulkan pour corriger la destruction de l'état

Le projet llama.cpp a publié la version b11120, qui corrige un bug critique dans le backend Vulkan en masquant les symboles internes. Ce changement empêche les problèmes de destruction d'état dus à des appels dupliqués à dlopen qui survenaient lorsque les symboles internes étaient exportés.

github llama.cpp · il y a 6 h · 13 vues

llama.cpp b11118 introduit un cache DMA à mappage direct pour la gestion des masques FA HVX

Le projet llama.cpp a publié la version b11118, qui inclut une nouvelle fonctionnalité hex-dma introduisant un cache DMA à mappage direct mieux adapté à la gestion des masques FA Hexagon Vector eXtended (HVX).

github llama.cpp · il y a 17 h · 9 vues

llama.cpp ajoute le support de DFlash pour HunyuanOCR et corrige la conversion des brouillons

Le projet llama.cpp a ajouté le support du décodage spéculatif DFlash avec le modèle HunyuanOCR en exposant les tenseurs d'entrée des couches dans le graphe cible. Ce changement permet au modèle de brouillon de lire les flux résiduels, permettant aux requêtes d'image de s'exécuter avec succès avec un taux d'acceptation du brouillon d'environ 0,5 et une sortie OCR identique en octets par rapport aux exécutions non spéculatives.

github llama.cpp · il y a 18 h · 13 vues

llama.cpp b11104 ajoute le support de la liaison de llama-server à plusieurs adresses

Le projet llama.cpp a publié la version b11104, introduisant une nouvelle fonctionnalité permettant au composant llama-server de se lier simultanément à plusieurs adresses réseau.