media Hugging Face Forums · há 4 d · open_models

Versão Celestium CARE para NVIDIA lançada para placas GTX/RTX

Traduzido do English → Português (BR)

A versão do Celestium CARE para NVIDIA foi concluída e disponibilizada como uma ferramenta profissional para placas de vídeo GTX e RTX. Ela utiliza NVML para fornecer recursos como limpeza de VRAM, agendamentos de auto-limpeza e monitoramento completo de telemetria.

Interface NVML sem flash com zero console e flicker
Limpeza de VRAM L1–L4 mais modo SDXL
Intervalos de auto-limpeza de 1 a 60 minutos via thread daemon
Telemetria completa para GPU, VRAM, temperatura e status do driver
Monitor de CPU com limites de cor e detecção multi-GPU
Interface DearPyGui (1000×950) com Dock de Console
Build standalone do Nuitka sem dependências do Torch
Licenciamento AES-256 + PBKDF2-1M com auto-backup e restauração

A ferramenta suporta todas as GPUs NVIDIA com NVML, incluindo GTX 1650, 1050 Ti, 1660, 3060 e 4090.

Importância 1/3 Confiança 1/3 Hugging Face Forums Local inference

Ler original

llama.cpp b11122 estende a fusão MMVQ GLU e adiciona novas fusões SYCL

O projeto llama.cpp lançou a versão b11122, que inclui atualizações significativas para o backend SYCL. O lançamento estende a fusão MMVQ GLU para suportar tipos de quantização mistos e introduz novas fusões para as operações rms_norm+scale e ssm_conv+silu.

github llama.cpp · há 1 h · 11 visualizações Ao vivo

llama.cpp b11120 oculta símbolos internos do Vulkan para corrigir destruição de estado

O projeto llama.cpp lançou a versão b11120, que corrige um bug crítico no backend do Vulkan ocultando símbolos internos. Essa mudança evita problemas de destruição de estado por duplicate-dlopen que ocorriam quando os símbolos internos eram exportados.

github llama.cpp · há 6 h · 13 visualizações

llama.cpp b11118 introduz cache DMA de mapeamento direto para tratamento de máscara HVX FA

O projeto llama.cpp lançou a compilação b11118, que inclui um novo recurso hex-dma introduzindo um cache DMA de mapeamento direto mais adequado para o tratamento de máscaras FA do Hexagon Vector eXtended (HVX).

github llama.cpp · há 17 h · 9 visualizações

llama.cpp adiciona suporte a DFlash para HunyuanOCR e corrige conversão de rascunho

O projeto llama.cpp adicionou suporte à decodificação especulativa DFlash com o modelo HunyuanOCR, expondo tensores de entrada das camadas no grafo alvo. Essa alteração permite que o modelo de rascunho leia os fluxos residuais, possibilitando que solicitações de imagem sejam executadas com sucesso, apresentando uma taxa de aceitação de rascunho de aproximadamente 0,5 e saída OCR idêntica em bytes em comparação às execuções não especulativas.

github llama.cpp · há 18 h · 13 visualizações

llama.cpp b11104 adiciona suporte para vincular o llama-server a múltiplos endereços

O projeto llama.cpp lançou a versão b11104, introduzindo um novo recurso que permite ao componente llama-server se vincular a múltiplos endereços de rede simultaneamente.