llama.cpp 프로젝트는 버전 b9927을 출시했으며, 여기에는 명령줄 인터페이스를 HTTP 기반 구현으로 전환하는 중요한 업데이트가 포함되어 있습니다. 이 변경 사항으로 CLI 내에서 라우터 모드 지원이 도입되었습니다.

  • CLI는 이제 이전 방식 대신 HTTP 기반 백엔드를 사용합니다.
  • 새로운 CLI 구현에서 라우터 모드가 지원됩니다.
  • 모델 별칭이 인터페이스에 표시됩니다.
  • macOS(Apple Silicon 및 Intel), Linux, Android, Windows, openEuler용 사전 빌드된 바이너리를 사용할 수 있습니다.
  • GPU 가속 옵션에는 지원되는 플랫폼에서 CUDA 12/13, Vulkan, ROCm, OpenCL, SYCL, OpenVINO가 포함됩니다.

이번 릴리스는 CLI 도구 모드의 아키텍처 전환과 함께 다양한 운영 체제 및 하드웨어 구성을 위한 업데이트된 바이너리를 제공합니다.