llama.cppプロジェクトはバージョンb10045をリリースし、mtmdを使用してテキスト専用フォーマットでスロットを保存および復元できる新機能をサーバーコンポーネントに導入しました。

このアップデートはmacOS(Apple SiliconおよびIntel)、iOS、Linux(Ubuntu x64、arm64、s390xのCPU、Vulkan、ROCm 7.2、OpenVINO、SYCLバックエンド)、Android(arm64 CPU)、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、およびopenEulerを含む複数のプラットフォームとハードウェア構成で利用可能です。

今回のリリースではコアサーバーとUIのバイナリが提供され、ユーザーはllama.cppを幅広いアーキテクチャやオペレーティングシステムにデプロイできるようになります。