llama.cpp がモデル管理と SSE リアルタイム更新 API を追加したバージョン b9688 をリリースしました。本リリースには、macOS、Linux、Android、Windows、openEuler 用のビルド済みバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL などの各種アーキテクチャとアクセラレーションフレームワークをサポートしています。
llama.cpp が新APIとクロスプラットフォームバイナリを含むバージョン b9688 をリリース
翻訳元 English → 日本語