github vLLM · há 3 h · inference

v0.30.0rc2 corrige relatórios de recebimento do NIXL para solicitações apenas de notificação

Traduzido do English → Português (BR)

A versão v0.30.0rc2 inclui uma correção de bug no NIXL para evitar a geração de relatórios de recebimento para solicitações apenas de notificação.

Resolve um problema onde relatórios de recebimento desnecessários estavam sendo criados para tipos específicos de solicitações.

Importância 1/3 Confiança 2/3 vLLM

Ler original

llama.cpp b11046 adiciona suporte para OpenCL ao kernel flash_attn_f32_f16_bin

O projeto llama.cpp lançou a versão b11046, que introduz suporte para OpenCL no kernel `flash_attn_f32_f16_bin`. Esta atualização também inclui funcionalidade de pré-preenchimento protegido para Flash Attention em dispositivos OpenCL.

media r/LocalLLaMA · há 1 h Ao vivo

ZCode faz upload silencioso de todo o histórico do Git e do espaço de trabalho para o Aliyun OSS

O aplicativo oficial de codificação com IA da Zhipu, ZCode, foi encontrado empacotando e fazendo upload dos espaços de trabalho completos dos usuários quando estão logados. Esse processo inclui criptografar os dados e enviá-los diretamente para o Aliyun OSS.

github llama.cpp · há 1 h · 1 visualização Ao vivo

llama.cpp b11044 atualiza hexagon im2col e lança binários

O projeto llama.cpp lançou a versão b11044, que inclui uma atualização no backend hexagon para melhorar as operações image-to-column (im2col). O lançamento fornece binários pré-compilados para macOS, Linux, Windows, Android e openEuler em CPU, GPU e outros aceleradores de hardware.

github llama.cpp · há 2 h · 1 visualização

llama.cpp b11045 adiciona suporte à operação ROLL no backend Hexagon

O projeto llama.cpp lançou a versão b11045, que introduz suporte para a operação ROLL dentro do backend Hexagon.

lab OpenAI News · há 2 h · 1 visualização

Hex usa GPT-6 Astra para gerar relatórios visuais interativos

A Hex integrou o GPT-6 Astra da OpenAI em sua plataforma de dados agênticos para permitir que agentes de dados criem automaticamente visualizações complexas e interativas a partir dos resultados da análise.