llama.cpp バージョン b9668 は、0cc4m の提案に基づき、UMA デバイスでのパフォーマンス向上のために UMA ホスト可視メモリバッファを実装しました。このリリースには、macOS、Linux、Android、Windows、openEuler 用のバイナリが含まれており、CPU、Vulkan、ROCm、OpenVINO、SYCL、HIP をサポートし、専用 UI パッケージも提供されています。
llama.cpp リリース b9668 で UMA ホスト可視メモリとクロスプラットフォームバイナリが追加
翻訳元 English → 日本語