O projeto llama.cpp lançou a compilação b11284, que inclui uma correção para o backend do OpenVINO para lidar corretamente com operações GET_ROWS em visualizações de pesos quantizados.
O projeto llama.cpp lançou a versão b11280, que inclui uma alteração para reduzir a sincronização allreduce de tensores utilizando buffers host fixados.
O projeto llama.cpp lançou a compilação b11282, que inclui uma correção para definir a macro `CUDA_ARCH` para os passes de dispositivo MUSA. Anteriormente, o cabeçalho do fornecedor MUSA não definia essa variável, fazendo com que os testes de arquitetura nas fontes ggml-cuda compartilhadas avaliassem zero e resultassem em corpos de kernel vazios.
O projeto llama.cpp adicionou suporte inicial para a arquitetura do modelo GLM-5.3-Flash (GLM5-Next), incluindo migração para memória de índice híbrido e capacidades iniciais de Multi-Token Prediction (MTP).
O projeto llama.cpp lançou a compilação b11273, que introduz suporte ao método `classifier_pooling` em modelos de reranking, direcionado especificamente às arquiteturas ModernBERT.
O projeto llama.cpp lançou a compilação b11272, que inclui otimizações para o backend Hexagon. A mudança principal foca na otimização da operação de concatenação para melhorar o desempenho em hardware Qualcomm Snapdragon.
O projeto llama.cpp lançou a compilação b11266, que inclui uma otimização do Vulkan que carrega as matrizes A F32 dois elementos por vez quando estão alinhadas a 2. Essa alteração corrige problemas de desempenho no hardware da Intel, onde carregar floats um por um é ineficiente, e também corrige uma validação ausente para o alinhamento de `a_offset` no patch original.
O lançamento llama.cpp b11265 inclui uma correção para o tratamento de modelos Mixture of Experts (MoE) pelo backend do Vulkan. A atualização corrige como `mat_mul_id` seleciona os tiles de multiplicação de matrizes, abordando um problema de desempenho onde os workers ficavam ociosos durante o despacho.
O projeto llama.cpp lançou a versão b11260, introduzindo suporte para as funções de ativação FP32 GELU_ERF e GEGLU_ERF no backend Hexagon. Esta atualização também inclui otimizações para reduzir a pressão de registradores nos kernels associados.
O projeto llama.cpp lançou a compilação b11258, que inclui uma correção para o comportamento do service worker da interface web integrada. Anteriormente, usar flags como `--path` ou `--no-ui` fazia com que os navegadores retivessem versões em cache da interface porque o servidor retornava um 404 para `/sw.js`, o que não aciona a remoção do service worker.
O projeto llama.cpp lançou a compilação b11254, que inclui uma correção em como os tensores de entrada são coletados no grafo de computação. Anteriormente, `graph_inputs` era preenchido durante a divisão do grafo, causando problemas com paralelismo de pipeline onde a alternância entre lotes que consumiam entradas diferentes levava a comparações espúrias de ID de backend e forçava re-reservas do agendador.
O servidor llama.cpp agora suporta entrada de conteúdo tipado (visão, áudio, vídeo) para o endpoint /v1/embeddings. Esta atualização permite solicitações de embedding multimodais ao aceitar arrays de conteúdo embrulhados no estilo OpenAI, permitindo que partes de texto e image_url sejam processadas juntas.
O projeto llama.cpp lançou a compilação b11238, introduzindo uma implementação unificada de preenchimento à esquerda por meio da nova função `ggml_pad_ext`. Essa alteração consolida os métodos anteriores usados por codificadores de áudio como Parakeet, LFM2-Audio, Granite Speech e Gemma 4, garantindo embeddings bit a bit idênticos para o Gemma 4 enquanto simplifica o suporte ao backend.
O projeto llama.cpp lançou a compilação b11232, que inclui atualizações para o backend ggml-cpu. O lançamento foca em habilitar flash attention em blocos para dimensões de cabeça não múltiplas do vetor em arquiteturas x86.
A versão llama.cpp b11228 introduz suporte para preenchimento esquerdo e circular na operação GGML_OP_PAD do backend do Metal, alinhando-a com as implementações de CPU, CUDA e Vulkan. Essa correção resolve problemas de preenchimento à direita em fontes permutadas e garante comportamento consistente entre diferentes backends de hardware.
O projeto llama.cpp lançou a compilação b11227, que inclui otimizações de desempenho especificamente direcionadas ao manuseio da flag `causal_attn` durante o processamento multimodal.
A versão llama.cpp b11224 aborda resultados de cálculo incorretos no backend Vulkan quando operações de multiplicação de matriz leem fatias de tensores maiores e com stride, como caches KV.
O servidor llama.cpp agora permite RANK pooling batch splitting para rerankers de LLM causais como Qwen3 e Qwen3-VL, resolvendo limitações anteriores que quebravam o reranking de documentos longos e multimodais.
O lançamento llama.cpp b11216 introduz kernels da Transformada Rápida de Walsh-Hadamard (FWHT) no backend SYCL que suportam larguras de bloco maiores que 512. Anteriormente, larguras maiores recuavam para uma GEMM densa com complexidade O(n^2); esta mudança permite desempenho O(n log n) para esses tamanhos.
O projeto llama.cpp lançou a versão b11214, que inclui uma atualização chave para o backend HIP. Este lançamento habilita o kernel fattn-mma nas arquiteturas CDNA quando dkq é maior que 256, focado especificamente em melhorias de desempenho para grandes tamanhos de lote.