llama.cpp 프로젝트는 `--models-dir` 플래그를 통해 멀티 토큰 예측(MTP) 어시스턴트 모델을 로드하는 지원을 도입한 버전 b10444을 출시했습니다. 이 업데이트에는 프리셋에서 MTP 모델에 대한 엄격한 접두사 확인이 포함되고 eagle3 드래프트 유형에 대한 지원이 제거되었습니다.

  • common: --models-dir을 사용한 MTP 어시스턴트 모델 로드 지원
  • common: preset: 엄격한 접두사로 MTP 모델 확인
  • 다른 드래프트 유형 처리
  • eagle3 제거

릴리스에는 macOS(Apple Silicon 및 Intel), Linux(Ubuntu x64, arm64, s390x, Vulkan, OpenVINO, SYCL), Android, Windows(CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm) 및 openEuler용 바이너리가 제공됩니다.