llama.cpp 프로젝트는 laya, julia-1, lev, openjev 및 kev를 포함한 특정 모델 아키텍처를 지원하기 위해 새로운 `/v1/systemone` API 엔드포인트를 도입했습니다. 이 업데이트에는 llama.cpp 생태계 내에서 이러한 모델을 활성화하기 위한 필요한 서버 코드, 변환 스크립트 및 문서가 포함되어 있습니다.

  • laya, julia-1, lev, openjev 및 kev 모델용 `/v1/systemone` API 엔드포인트 추가.
  • 새로운 아키텍처에 대한 모델 로딩 및 변환 지원 구현.
  • 비전 지원 및 공유 프롬프트 접두사 기능 추가.
  • 테스트 목적을 위한 `openjev` 소형 모델 포함.
  • 문서 업데이트 및 새 기능에 대한 사용자 경험 개선.

이 릴리스는 개발자가 llama.cpp 서버를 사용하여 이러한 특정 모델 유형을 실행하고 제공하기 위한 인프라를 제공합니다.