El proyecto llama.cpp ha introducido un nuevo punto de conexión de API `/v1/systemone` para soportar arquitecturas de modelos específicas que incluyen laya, julia-1, lev, openjev y kev. Esta actualización incluye el código del servidor necesario, scripts de conversión y documentación para habilitar estos modelos dentro del ecosistema llama.cpp.

  • Añadido punto de conexión de API `/v1/systemone` para los modelos laya, julia-1, lev, openjev y kev.
  • Implementado soporte de carga y conversión de modelos para las nuevas arquitecturas.
  • Añadido soporte de visión y capacidades de prefijo compartido de prompt.
  • Incluida un modelo diminuto `openjev` con fines de prueba.
  • Actualizada la documentación y mejorada la experiencia del usuario para la nueva función.

Esta versión proporciona a los desarrolladores la infraestructura para ejecutar y servir estos tipos específicos de modelos utilizando el servidor llama.cpp.