O projeto llama.cpp introduziu um novo endpoint de API `/v1/systemone` para suportar arquiteturas de modelo específicas, incluindo laya, julia-1, lev, openjev e kev. Esta atualização inclui o código do servidor necessário, scripts de conversão e documentação para habilitar esses modelos dentro do ecossistema llama.cpp.

  • Adicionado endpoint de API `/v1/systemone` para os modelos laya, julia-1, lev, openjev e kev.
  • Implementado suporte de carregamento e conversão de modelo para as novas arquiteturas.
  • Adicionado suporte de visão e capacidades de prefixo compartilhado de prompt.
  • Incluído um modelo minúsculo `openjev` para fins de teste.
  • Documentação atualizada e experiência do usuário melhorada para o novo recurso.

Esta versão fornece aos desenvolvedores a infraestrutura para executar e servir esses tipos específicos de modelos usando o servidor llama.cpp.