llama.cpp b10017がSYCL USMの最小バッファサイズを4 GiBに引き上げ

llama.cppプロジェクトはビルドb10017をリリースし、SYCLバックエンドへの特定の変更が含まれています。この変更により、Unified Shared Memory (USM) システム割り当ての最小バッファサイズ閾値が1 GiBから4 GiBに引き上げられました。

• この調整は、利用可能なVRAMよりも大きなモデルウェイトを使用してデバイスメモリをオーバコミットする実際の試験に基づいています。例えば、B70でQwen3.5-35B-A3B-Q8を実行する場合などです。
• USMシステム割り当てをよりよく追跡するために、デバッグメッセージも追加されました。
• このリリースでは、macOS (Apple SiliconおよびIntel)、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler用のバイナリが提供されています。

この修正は、SYCL対応ハードウェアで利用可能なVRAMを超える大規模モデルを扱う際の安定性を向上させることを目的としています。