llama.cpp b10817 릴리스는 개발자가 디바이스 메모리 할당 패턴을 이해하는 데 도움이 되는 새로운 SYCL 메모리 추적 기능을 도입했습니다. 이 기능은 메모리 사용량의 상세한 로깅을 허용하는 두 가지 새로운 환경 변수에 의해 제어됩니다.

  • GGML_SYCL_MEMTRACE=1로 설정하면 사이트별 메모리 사용량이 표시되며, 할당이 64MiB 이상 증가할 때만 업데이트됩니다.
  • GGML_SYCL_MEMTRACE=2로 설정하면 개별 할당 및 해제 이벤트가 모두 로깅됩니다.
  • 기본 보고 임계값은 GGML_SYCL_MEMTRACE_STEP 변수를 사용하여 사용자 정의할 수 있습니다.

이 도구는 메모리 관련 문제 디버깅을 지원하기 위한 것이며, --fit 알고리즘 개선에 이미 유용함이 입증되었습니다.