llama.cpp リリース b9738: CORS 認証ヘッダーの転送修正と新しいバイナリビルド
llama.cpp バージョン b9738 は、認証ヘッダーを転送しないように CORS プロキシを修正しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリビルドが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
ggmlがAMXの最適化にパーティション平坦化を採用
ggmlプロジェクトは、n_batch * M に対するパーティションを平坦化することでAMXのパフォーマンスを最適化し、すべてのスレッドが量子化に参加するようにしました。この変更により、CPUおよびGPUプラットフォーム上で様々なモデルやハードウェア構成において最大1.47倍の速度向上を実現し、推論時間の改善が一貫して確認されています。
GLM-5.2 DSAインデクサーの修正：テンソルが不要としてマークされる
GLM-5.2モデルのDSAインデクサーはすべてのレイヤーに誤って読み込まれており、欠落したテンソルにより失敗していました。今回の更新では、インデクサーのテンソルをTENSOR_NOT_REQUIREDとしてマークし、インデクサーのないレイヤーがnullptrとして読み込まれるようにし、MLAアテンションを完全に有効にします。均一なインデックス付けを持つDeepSeek-V3.2は影響を受けません。
s390x用のDockerプリビルドWeb UI
Dockerのs390xアーキテクチャ向けにプリビルドされたWeb UIを追加するプルリクエストが提出されました。この変更は現在リリース待ちであり、まだ公開されていません。
LLaMA.cpp b9732 リリース：新しいバイナリと更新
LLaMA.cpp は、macOS、Linux、Android、Windows、openEuler 用の更新されたバイナリを含むバージョン b9732 をリリースしました。今回のリリースには、子からルーターへの通信のリファクタリング、ウェイクアップ処理の修正、改善された update_status()、およびドキュメントが含まれています。新しいビルドは、Vulkan、ROCm、OpenVINO、SYCL、および複数のアーキテクチャ上の CUDA 12/13 をサポートしています。
ggml-webgpu が Vulkan および NVIDIA 用の F16 アダプター トグルを追加
ggml-webgpu プロジェクトは、Vulkan および NVIDIA GPU のハーフ精度 (F16) サポート用アダプター トグルを追加しました。このアップデートにより、macOS、Linux、Android、Windows、openEuler を含む複数のプラットフォームで互換性のあるハードウェアのパフォーマンスが向上し、ARM および x64 アーキテクチャ用の特定のビルドも提供されています。
llama.cpp リリース b9731: パフォーマンス最適化とクロスプラットフォームバイナリ
llama.cpp バージョン b9731 は、トークンソートオーバーヘッドを削減するために std::partial_sort を使用した最適化を導入し、top-n トークン選択のパフォーマンスを 8.555ms から 0.704ms に改善しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのプリビルドバイナリが含まれており、複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
llama.cpp リリース b9730: 修正と新しいバイナリ
llama.cpp バージョン b9730 には、Windows での UTF-8 処理の修正と ggml_fopen および CLI の改善が含まれています。このリリースでは、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーションオプションに対応した、macOS、Linux、Android、Windows、openEuler 用のバイナリが提供されます。
LLaMA.cpp b9729 リリース：新しいバイナリとプラットフォームサポート
LLaMA.cpp は、macOS、Linux、Android、Windows、openEuler 向けのバイナリを複数のアーキテクチャでリリースしました。今回のリリースには、CPU、Vulkan、OpenVINO、SYCL、ROCm のサポートが含まれ、新しい UI パッケージも追加されました。内部の 'webui' への参照は削除されました。
LLaMA.cpp リリース b9728 でコメント行のサポートとマルチプラットフォームバイナリが追加
LLaMA.cpp バージョン b9728 は、--api-key-file 設定でコメント行のサポートを導入しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのプリビルドバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
llama.cpp リリース b9726 が --agent 引数と新しいプラットフォームバイナリを追加
llama.cpp バージョン b9726 は、新しい --agent 引数を導入し、冗長な webui 命名の互換性を削除しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのプリコンパイル済みバイナリが含まれており、複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
llama.cpp リリース b9727: cpp-httplib を 0.48.0 に更新
llama.cpp バージョン b9727 は cpp-httplib をバージョン 0.48.0 に更新します。このリリースには、macOS、Linux、Android、Windows、openEuler 用のバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
Docker: UIをビルドする（#24794）
DockerプロジェクトはUIコンポーネントのビルドサポートを追加しました。このアップデートには、コンテナ設定で既存のAPP_VERSIONを使用することも含まれています。
llama.cpp がバグ修正とクロスプラットフォームバイナリを含む b9724 をリリース
llama.cpp バージョン b9724 には、ビルドの修正、area() 関数でのオーバーフロー回避、get_u32() 内の健全性チェックなど、いくつかのバグ修正と改善が含まれています。このリリースでは、macOS (arm64 および x64)、Linux (x64、arm64、s390x、Vulkan、ROCm、OpenVINO、SYCL)、Android (arm64)、Windows (x64、arm64、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler (ACL Graph サポート付きの x86 および aarch64) 用のビルド済みバイナリと UI パッケージが提供されます。
llama.cpp b9723 リリースで Qwen3.5、Qwen3.6、Eagle3 のサポートを追加
llama.cpp バージョン b9723 は、Eagle3 を介して Qwen3.5 および Qwen3.6 モデルのサポートを導入しました。今回のリリースには、ハイブリッドモデル用の遅延境界チェックポイント復元、および API および命名規則の更新が含まれています。macOS、Linux、Android、Windows、openEuler プラットフォーム向けにバイナリビルドが利用可能で、CPU、Vulkan、OpenVINO、SYCL、ROCm のオプションがあります。
LLaMA.cpp b9722 リリース：修正とクロスプラットフォームバイナリ
LLaMA.cpp バージョン b9722 は、サーバーコンテキスト処理における n_discard 値の非バインド問題を修正しました。このリリースには、macOS、Linux、Android、Windows、openEuler 用のプリコンパイル済みバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL などの各種アーキテクチャとアクセラレーションフレームワークをサポートしています。
llama.cpp リリース b9718: スロット選択の統合と新しいバイナリビルド
llama.cpp バージョン b9718 は、プロンプトキャッシュの更新に対する LCP 類似性チェックを維持しつつ、スロット選択を get_available_slot という単一関数に統合しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリビルドが含まれており、複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
llama.cpp b9721 リリースが複数のプラットフォームで利用可能
llama.cpp がバージョン b9721 をリリースし、macOS、Linux、Android、Windows、openEuler 向けのバイナリをさまざまなアーキテクチャで提供しました。このリリースには、CPU、Vulkan、ROCm、OpenVINO、SYCL、HIP のサポートが含まれており、専用 UI パッケージも含まれています。KleidiAI を使用した Apple Silicon 用の機能は現在無効になっています。
ggml-cpu が Power10 MMA Q8/Q4 の K tails サポートを追加
ggml-cpu は Power10 Q8/Q4 MMA 行列乗算で K tails をサポートするようになり、K が kc で割り切れるという要件が撤廃されました。これにより、より多くのワークロードが MMA カーネルを使用可能になり、mnpack へのフォールバックが減少します。
v0.17.6 リリースノート
v0.17.6 リリースでは、事前承認ツール入力ガードレールとツール出力用の SDK のみのカスタムデータが追加されました。また、ツール出力に対して厳格な JSON 互換契約を強制し、ツール名における不要な空白の警告を抑制します。@siddiksawani は今回のリリースで初となるコントリビューションを行いました。