llama.cppプロジェクトはビルドb10198をリリースし、Vulkanバックエンド内で量子化連結操作のサポートを導入しました。

  • 主な技術的更新は、pull request #25684 で実装された量子化concatのVulkanサポートの追加です。
  • このリリースでは、KleidiAI付きのmacOS Apple Siliconビルドは明示的に無効になっています。
  • macOS(Apple SiliconおよびIntel)、Linux(Ubuntu x64、arm64、s390x)、Windows(CPU、CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、HIP)、Android、openEulerを含む複数のプラットフォームのバイナリが提供されています。
  • リリースパッケージにはスタンドアロンUIバイナリも含まれています。