llama.cpp 프로젝트가 버전 b9890을 출시했으며, 여기에는 중요한 백엔드 리팩토링과 버그 수정이 포함되어 있습니다.

이 업데이트는 CUDA용 -sm 행을 제거하고 cuBLAS 통합을 리팩토링하여 안정성을 개선했습니다.

  • CDNA + BF16 로직 오류 수정
  • 연산에서 잘못된 반환 값 수정
  • src0 스트라이드 및 연속 메모리 요구 사항 관련 문제 해결
  • GGML_CUDA_FORCE_CUBLAS 구성 수정
  • BF16 형식 캐스트 수정

이 릴리스는 CPU, GPU 및 다양한 가속기 백엔드에 대해 macOS, Linux, Windows, Android, openEuler용 업데이트된 바이너리를 제공합니다.