github llama.cpp · 10時間前 · inference

llama.cpp b10647 が --video-* CLI 引数を追加

翻訳元 English → 日本語

llama.cpp プロジェクトは、ビデオ処理用の新しいコマンドラインインターフェースオプションを導入するビルド b10647 をリリースしました。このアップデートにより、ユーザーはターミナルから直接ビデオ関連のパラメータを制御できるようになる `--video-*` 引数が追加されました。

リリースには、macOS（Apple Silicon および Intel）、Linux（Ubuntu x64、arm64、s390x）、Windows（x64、arm64）、Android（arm64）、iOS のバイナリが含まれています。
サポートされているハードウェアバックエンドには、CPU、CUDA 12.4/13.3/13.4、Vulkan、ROCm 7.14、OpenVINO、SYCL、OpenCL Adreno が含まれます。
このリリースでは、KleidiAI を搭載した macOS Apple Silicon ビルドは現在無効になっています。
openEuler のサポートもこのビルドバージョンでは無効になっています。

このアップデートにより、ユーザーは CLI を介してビデオ入力に対して拡張された制御を提供されながら、幅広いプラットフォーム互換性を維持しています。

重要度 1/3 信頼度 1/3 llama.cpp Inference efficiency

原文を読む

関連記事

github llama.cpp · たった今 · 1 回表示ライブ

llama.cpp b10662 が unified KV キャッシュ用に ctx-per-slot を追加

llama.cpp プロジェクトはビルド b10662 をリリースし、unified KV キャッシュに対してスロットごとのコンテキストを指定できるようにする新しい `--kv-unified-per-slot` 引数を導入しました。この変更は、以前のコンテキスト比率メカニズムをコンテキストプールスロットに置き換え、基盤の実装をリファクタリングします。

github llama.cpp · 1時間前 · 1 回表示ライブ

llama.cpp が Qwen3.8-Flash-Next (qwen4exp) アーキテクチャのサポートを追加

llama.cpp プロジェクトは、Qwen3.8-Flash-Next (qwen4exp) モデルアーキテクチャのサポートを追加し、ハイパー接続、ゲート付きデルタネット、Experts of Mixture、PLE n-gram ハッシュ埋め込みなどの特定のコンポーネントを実装しました。

github llama.cpp · 2時間前 · 1 回表示

llama.cpp b10658 が DFlash2 サポートを追加し、mrope のバグを修正

llama.cpp プロジェクトはビルド b10658 をリリースし、ローカル畳み込みと候補セレクタを含む DFlash2 仕様のサポートを導入しました。このアップデートでは、コードベース内の特定の mrope バグも修正されています。

github llama.cpp · 2時間前 · 1 回表示

llama.cppがWindows ROCmリリースにHIPランタイムDLLをバンドル

llama.cppプロジェクトは、Windows ROCmリリースを更新し、必要なHIPランタイムDLLをバイナリと共に直接バンドルしました。この変更は問題#26929に対処し、System32内のドライバーのコピーと競合する可能性のあるものではなく、正しいHIPランタイムがロードされることを保証します。

github llama.cpp · 3時間前 · 1 回表示

llama.cpp b10656 が RAM に大きなテンソルをロードしないよう作業メモリを制限

llama.cpp プロジェクトは、作業メモリのサイズを制限する変更を含むビルド b10656 をリリースしました。この修正は、大きなテンソルがシステム RAM にロードされるのを防ぐために設計されています。