github llama.cpp · há 13 d

llama.cpp release b9700: novos binários e atualizações da API SYCL

A versão b9700 do llama.cpp introduz suporte SYCL atualizado com flags de API renomeadas: GGML_SYCL_SUPPORT_LEVEL_ZERO renomeado para GGML_SYCL_SUPPORT_LEVEL_ZERO_API e GGML_SYCL_ENABLE_LEVEL_ZERO renomeado para GGML_SYCL_USE_LEVEL_ZERO_API. O release inclui binários para macOS, Linux, Android, Windows e openEuler em múltiplas arquiteturas e opções de aceleração de hardware, incluindo Vulkan, ROCm, OpenVINO e SYCL.

github llama.cpp · há 13 d

LLaMA.cpp Release b9698 Adiciona Suporte a Autoatualização e Binários para Múltiplas Plataformas

A versão b9698 do LLaMA.cpp permite autoatualizações apenas quando compilada com llama-install.sh. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler em múltiplas arquiteturas e opções de aceleração de hardware, incluindo Vulkan, CUDA, OpenVINO e SYCL.

github llama.cpp · há 13 d

llama.cpp Release b9699 Adds SYCL Support and Multiple Platform Binaries

llama.cpp version b9699 introduces support for MUL_MAT and OUT_PROD operations with Q1_0 precision via PR #24721. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and acceleration frameworks, including SYCL (FP32 and FP16), Vulkan, CUDA, ROCm, and OpenVINO.

github llama.cpp · há 13 d

LLaMA.cpp lança b9697: Novos Binários e Atualizações

O LLaMA.cpp lança a versão b9697 com binários atualizados para macOS, Linux, Android, Windows e openEuler. A release inclui suporte para ARM64, x64, Vulkan, CUDA 12 e 13, OpenVINO, SYCL e ROCm, com uma correção na análise de mensagens nas verificações de release.

github llama.cpp · há 13 d

Llama.cpp Release b9693 Adiciona Suporte a BF16 e Binários Multiplataforma

A versão b9693 do llama.cpp introduz suporte a BF16 em seu kernel de concatenação e fornece binários pré-compilados para macOS, Linux, Android, Windows e openEuler. A release inclui variantes para CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP em múltiplas arquiteturas, com um pacote UI dedicado disponível.

github llama.cpp · há 13 d

llama.cpp lança versão b9694 com novos binários para múltiplas plataformas

O llama.cpp lançou a versão b9694, incluindo binários para macOS, Linux, Android, Windows e openEuler. O lançamento suporta várias arquiteturas e opções de aceleração, como CUDA, Vulkan, OpenVINO, SYCL e ROCm. Uma correção para o link de lançamento do OpenVINO x64 no Windows também foi implementada.

lab Claude Code Releases · há 14 d

Notas de Lançamento do Claude Code v2.1.181

O Claude Code v2.1.181 introduz suporte para definir configurações por meio da sintaxe de prompt, como /config thinking=false, adiciona suporte a Eventos Apple em sandbox no macOS e melhora o streaming, a nova tentativa automática e o comportamento do subagente. Também corrige diversos bugs relacionados à inicialização, manipulação de arquivos, área de transferência e responsividade da interface em todas as plataformas.

github llama.cpp · há 14 d

ggml-cpu: Habilita condicionalmente o backend POWER11 com base no suporte do compilador

O projeto ggml-cpu agora habilita condicionalmente o backend POWER11 no ggml com base no suporte do compilador para -mcpu=power11. Isso previne falhas de compilação nas toolchains atuais do GCC/Clang, mantendo a compatibilidade futura. Atualizações no CMakeLists.txt suportam essa mudança, e -mcpu=power10 é usado para as arquiteturas P10 e P11.

github llama.cpp · há 14 d

llama.cpp Release b9692 Adds New Binaries and Fixes

llama.cpp version b9692 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes updates to support Vulkan, ROCm, OpenVINO, SYCL, and HIP, with fixes to remove batch dim usage in llava_uhd.

github llama.cpp · há 14 d

Backend Metal adiciona suporte a f16 e bf16 para operador concat

O backend Metal no llama.cpp foi estendido para suportar tipos de tensor f16 e bf16 para o operador concat, além do suporte existente a f32 e i32. Esta atualização inclui modelos de kernel especializados, getters de pipeline atualizados e despacho de kernel baseado em tipo aprimorado, com assistência de pi:llama.cpp/Qwen3.6-27B.

github llama.cpp · há 14 d

llama.cpp lança b9690 com operador rope_back e binários multiplataforma

A versão b9690 do llama.cpp introduz um operador rope_back implementado reutilizando kernels rope existentes com uma constante de função para alternar a rotação para frente/para trás. O lançamento inclui binários pré-compilados para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e opções de aceleração de hardware, incluindo Vulkan, CUDA, ROCm, OpenVINO e SYCL.

github llama.cpp · há 14 d

llama.cpp Release b9687 Adds New Binaries and Fixes

llama.cpp version b9687 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes support for Vulkan, ROCm, OpenVINO, SYCL, and HIP, with updates to improve device validation and performance on available hardware.

github llama.cpp · há 14 d

llama.cpp lança versão b9688 com novas APIs e binários multiplataforma

O llama.cpp lança a versão b9688, adicionando APIs de gerenciamento de modelos e atualizações em tempo real via SSE. O lançamento inclui binários pré-compilados para macOS, Linux, Android, Windows e openEuler, suportando várias arquiteturas e frameworks de aceleração como Vulkan, CUDA, OpenVINO e SYCL.

github llama.cpp · há 14 d

LLaMA.cpp Release b9685 Adds SYCL Dev2Dev Memcpy and Multiple Platform Binaries

LLaMA.cpp version b9685 introduces SYCL-based dev2dev memcpy functionality, moving GGML_SYCL_DEV2DEV_MEMCPY to runtime table and improving peer-to-peer communication detection. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and APIs including Vulkan, ROCm, OpenVINO, and SYCL (FP32/FP16).

github llama.cpp · há 14 d

Lançamento do llama.cpp b9686: Corrige segfault em prompts longos para o Eagle3

A versão b9686 do llama.cpp corrige um erro de segfault que ocorria com prompts longos no modelo Eagle3. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e opções de aceleração de hardware, incluindo Vulkan, CUDA, OpenVINO e SYCL.

github llama.cpp · há 14 d

LLaMA.cpp Release b9684 Adds Conv_3D and Multiple Platform Binaries

LLaMA.cpp release b9684 introduces a new 3D convolution operation (conv_3d) and includes optimized implementations. The release provides prebuilt binaries for macOS, Linux, Android, Windows, and openEuler across various architectures and hardware acceleration options, including SYCL, Vulkan, CUDA, and OpenVINO.

github llama.cpp · há 14 d

Lançamento do llama.cpp b9682 adiciona suporte a Vulkan e novos binários de plataforma

A versão b9682 do llama.cpp introduz suporte ao Vulkan para Linux e Windows, permitindo aceleração por GPU. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas, com opções de CPU e GPU incluindo CUDA, OpenVINO, SYCL e ROCm.

github llama.cpp · há 14 d

Lançamento b9678 do LLaMA.cpp adiciona otimizações e builds multiplataforma

O lançamento b9678 do LLaMA.cpp inclui a otimização de mul_mat_f16_f32_l4 para decode e introduz novos builds para macOS, Linux, Android, Windows e openEuler. O lançamento oferece suporte a CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP em várias arquiteturas, com um pacote UI dedicado disponível.

github llama.cpp · há 14 d

Lançamento do llama.cpp b9677: Atualizações e Binários Multiplataforma

A versão b9677 do llama.cpp atualiza o registro de logs para impor o max_capacity e remove a lógica de expansão da fila. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler em várias arquiteturas e opções de aceleração de hardware, incluindo Vulkan, CUDA, OpenVINO e SYCL.

github llama.cpp · há 14 d

LLaMA.cpp Lança b9674: Corrige Bug de memcpy Assíncrono e Adiciona Novos Binários

A versão b9674 do LLaMA.cpp corrige um bug de uso após liberação no async memcpy do SYCL durante o pré-preenchimento MoE. O lançamento inclui binários para macOS, Linux, Android, Windows e openEuler, suportando CPU, Vulkan, ROCm, OpenVINO, SYCL e CUDA em várias arquiteturas.