github llama.cpp · agora mesmo · inference

llama.cpp b10773 aceita URLs de dados para entrada de vídeo e áudio

Traduzido do English → Português (BR)

O servidor llama.cpp na compilação b10773 agora aceita URLs de dados para os campos `input_video` e `input_audio`, resolvendo um problema anterior em que essas entradas eram tratadas incorretamente como strings base64 cruas.

A função `handle_media()` foi atualizada para passar `true` para esses tipos de conteúdo, permitindo tipos MIME de vídeo e áudio na validação de URL de dados.
Uma entrada malformada agora retorna um erro 400 em vez de um erro 500 ao lançar `std::invalid_argument`.
A flag `accept_base64_uri` foi removida de `handle_media`, simplificando o código.
Um teste unitário e comentários atualizados são adicionados para lidar com tipos MIME de URI de dados inválidos.

Esta alteração melhora a robustez do servidor fornecendo um tratamento de erros mais claro para entradas de mídia malformadas.

Importância 1/3 Confiança 1/3 llama.cpp Inference efficiency

Ler original

llama.cpp b10766 adiciona suporte de visão para DeepSeek 4

O projeto llama.cpp lançou a compilação b10766, que inclui uma correção para suportar corretamente a entrada visual do modelo DeepSeek 4.

github llama.cpp · há 6 h · 4 visualizações

llama.cpp b10762 adiciona suporte para DeepSeek-V4-Flash-Vision-Exp

O projeto llama.cpp lançou a compilação b10762, que introduz suporte para o modelo DeepSeek-V4-Flash-Vision-Exp. Esta atualização também inclui o tratamento de contagens mínimas e máximas de tokens pela interface de linha de comando.

github llama.cpp · há 6 h · 5 visualizações

llama.cpp b10763 habilita preserve_reasoning por padrão

O projeto llama.cpp lançou a compilação b10763, que altera o comportamento padrão do argumento de palavra-chave `preserve_reasoning` do modelo de chat. O servidor agora registra o estado efetivo deste kwarg e emite um aviso quando ele está habilitado por padrão em modelos que o suportam.

github llama.cpp · há 13 h · 1 visualização

llama.cpp b10760 corrige estabilidade de inferência do Qwen3-tts-0.6b

O projeto llama.cpp lançou a compilação b10760, que inclui correções específicas para o modelo Qwen3-tts-0.6B para prevenir instabilidade numérica durante a inferência.

github llama.cpp · há 13 h · 1 visualização

llama.cpp b10758 adiciona fusão de MUL_MAT e MUL_MAT_ID para Hexagon

O projeto llama.cpp lançou a compilação b10758, introduzindo capacidades de fusão de MUL_MAT e MUL_MAT_ID para o DSP Hexagon. Esta atualização também inclui várias correções para melhorar a estabilidade e o desempenho em hardware Qualcomm.