llama.cppプロジェクトはバージョンb10007をリリースしました。これには`cl_khr_integer_dot_product`拡張機能に関連するOpenCLのバグ修正が含まれています。
このアップデートにより、この拡張機能をサポートしていないデバイスでもバックエンドの初期化が失敗しないようになり、ドット積のサポートがない場合にdp4カーネルが呼び出されるのを防ぎます。
今回のリリースでは、macOS(Apple SiliconおよびIntel)、iOS、Linux(CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows(CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler向けのバイナリが提供されています。
このアップデートにより、ユーザーは欠落しているOpenCL整数ドット積のサポートに起因する初期化エラーを引き起こすことなく、より幅広いハードウェア構成でllama.cppを実行できるようになります。