O projeto llama.cpp atualizou seu componente do servidor para suportar entrada visual para o modelo Clef. Esta alteração faz parte do pull request #29969.

  • Adicionado suporte de entrada visual para Clef.
  • input_attn_causal movido para privado.
  • server_batch::embd antigo estendido.
  • server_batch::token::pos alterado para multidimensional.
  • Correção no tratamento de abortos.
  • Correção no limite de tokens de imagem.
  • Correção do problema de mutação de dados em yield_to_queue.