llama.cpp 项目引入了一个新的 `/v1/systemone` API 端点,以支持特定的模型架构,包括 laya、julia-1、lev、openjev 和 kev。此次更新包含了必要的服务器代码、转换脚本和文档,以便在 llama.cpp 生态系统中启用这些模型。
- 为 laya、julia-1、lev、openjev 和 kev 模型添加了 `/v1/systemone` API 端点。
- 实现了对新架构的模型加载和转换支持。
- 添加了视觉支持和共享提示前缀功能。
- 包含了一个用于测试目的的 `openjev` 微型模型。
- 更新了文档并改进了新功能的用户体验。
此次发布为开发者提供了使用 llama.cpp 服务器运行和提供这些特定类型模型的基础设施。