media Hugging Face Forums · agora mesmo · open_models

Perfil de raciocínio xhigh do Qwen 3.8 27B mantém 90°C na AMD RX 7900 XT

Traduzido do English → Português (BR)

Um usuário relata executar o modelo Qwen 3.8 27B com a quantização GGUF UD-Q5_K_M e um perfil de esforço de raciocínio xhigh para tarefas extensas de codificação usando OpenCode.

O mecanismo de raciocínio do modelo fornece análise arquitetural profunda, mas opera lentamente durante loops de pensamento prolongados.
Execuções pesadas sustentadas de geração por mais de 10 horas diárias elevam uma AMD Radeon RX 7900 XT a aproximadamente 90°C.
O usuário mantém a estabilidade por meio de uma configuração personalizada de gerenciamento de contexto para limites de tokens.

A postagem destaca o impacto térmico de cargas de trabalho de raciocínio de longa duração em hardware de consumo, convidando outros a compartilhar suas experiências de temperatura e limitação (throttling).

Importância 1/3 Confiança 1/3 Hugging Face Forums Hardware & chips Reasoning models

Ler original

Tencent lança Hy4 Preview, um LLM de texto com 770B e contexto de 1M

A empresa chinesa Tencent lançou o Hy4 Preview, um modelo de linguagem grande (LLM) de entrada de texto com pesos abertos, apresentando 770 bilhões de parâmetros totais e 49 bilhões de parâmetros ativos. Este lançamento expande significativamente o modelo Hy3 anterior de julho, que tinha 295B de parâmetros totais e uma janela de contexto de 256.000 tokens.

lab NVIDIA Research · há 3 d · 8 visualizações

Twill deriva automaticamente cronogramas ótimos de software pipelining e especialização de warp para GPUs com Tensor Cores

Pesquisadores apresentaram o Twill, um sistema que formula o software pipelining (SWP) e a especialização de warp (WS) como um problema de otimização conjunta solucionável por solucionadores de restrições prontos para uso. Essa abordagem automatiza a derivação de cronogramas ótimos de execução para programas iterativos em arquiteturas GPU.

github llama.cpp · há 3 d · 9 visualizações

llama.cpp b10675 adiciona suporte a hoisting para IDs de linha e contagem de especialistas em shaders

O projeto llama.cpp lançou a versão b10675, que inclui uma atualização chave para seu backend Vulkan. Este lançamento adiciona suporte a hoisting para IDs de linha e contagens de especialistas dentro do código do shader.

github llama.cpp · há 3 d · 4 visualizações

llama.cpp adiciona ajustes fa-vec para Apple M4 Pro

O projeto llama.cpp adicionou ajustes de vetor de atenção rápida (fa-vec) para a GPU Apple M4 Pro por meio de uma nova contribuição ao backend Metal. Esta atualização segue o trabalho anterior para suportar GPUs adicionais da Apple e foi gerada usando a ferramenta `ggml-metal-tuning` em um MacBook Pro de 14 polegadas de novembro de 2024.

lab Anthropic News · há 4 d · 52 visualizações

Anthropic abre visualização de pesquisa do Padrão de Hardware de Modelos para controle de dispositivos de agentes de IA

A Anthropic e o Campus de Pesquisa HHMI Janelia abriram uma visualização de pesquisa do Padrão de Hardware de Modelos (MHS), uma especificação compartilhada projetada para permitir que agentes de IA operem dispositivos físicos com segurança em laboratórios e instalações de manufatura. O padrão reduz o tempo de integração de hardware de semanas ou meses para horas, fornecendo um driver unificado que traduz entre sistemas operacionais e interfaces de hardware diversas.