llama.cpp プロジェクトはバージョン b10412 をリリースし、dflash と dspark の両バックエンドに対してバックエンドサンプリングのサポートを導入しました。このアップデートでは、バックエンドサンプリングロジック内で p_min が 0 より大きい値を許可し、対応する保護措置も追加されました。

  • dflash および dspark のバックエンドサンプリングを有効化。
  • 保護ガードを追加した上で、バックエンドサンプリングにおいて p_min > 0 を許可。
  • macOS (Apple Silicon および Intel)、Linux (CPU、Vulkan、OpenVINO、SYCL)、Windows (CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm)、Android、openEuler 用のバイナリを提供。

このリリースにより、llama.cpp ユーザーが利用可能なハードウェアアクセラレーションのオプションが拡大しました。