A Prism-ML lançou o modelo Ternary-Bonsai-27B, disponível como checkpoints GGUF no Hugging Face.
O lançamento fornece uma variante de 27 bilhões de parâmetros da arquitetura Qwen 3.6 otimizada para inferência local por meio do formato GGUF.
media
r/LocalLLaMA
·
há 45 d
·
open_models
Prism-ML lança checkpoints GGUF do Bonsai Qwen 3.6 27B
Traduzido do English → Português (BR)
Artigos relacionados
github
llama.cpp
·
há 1 h
·
1 visualização
Ao vivo
llama.cpp b10677 corrige bug de dependência de view-alias do Vulkan
O lançamento llama.cpp b10677 corrige um bug crítico no backend Vulkan onde a ausência de dependências view-alias fazia o otimizador de grafos reordenar os nós incorretamente.
github
llama.cpp
·
há 2 h
·
1 visualização
llama.cpp b10676 corrige conv_transpose_2d para múltiplos lotes em ggml e Metal
A versão b10676 do llama.cpp corrige um bug no `conv_transpose_2d` onde apenas o primeiro lote era computado, deixando os lotes subsequentes como zero. Esta correção se aplica tanto à biblioteca central ggml quanto à implementação do backend Metal.
github
llama.cpp
·
há 4 h
·
1 visualização
llama.cpp b10673 adiciona ajustes fa-vec para Apple M4
O projeto llama.cpp lançou a compilação b10673, que inclui otimizações específicas de desempenho para hardware Apple M4. Esta atualização introduz registros fa_vec_tuned_table no módulo ggml-metal-tuning para melhorar a eficiência do backend Metal.
github
llama.cpp
·
há 5 h
·
2 visualizações
llama.cpp b10670 roteia a decodificação KV quantizada para TILE no Xe2 (BMG)
O projeto llama.cpp lançou a versão b10670, que inclui uma otimização específica para a arquitetura Xe2 da Intel. A atualização direciona a operação de decodificação de chave-valor (KV) quantizada exclusivamente para o backend TILE em hardware BMG, mantendo o backend VEC em outras arquiteturas até que sejam validadas.
github
llama.cpp
·
há 6 h
·
3 visualizações
llama.cpp b10672 adiciona suporte ao Whisper.cpp, ativação de NPU para Qwen3.5 e atualização do OpenVINO 2026.3.1
O projeto llama.cpp lançou a compilação b10672, que atualiza o backend do OpenVINO para a versão 2026.3.1 e adiciona suporte a modelos Whisper.cpp no NPU.