github llama.cpp · 2時間前 · inference

mtmd が ffmpeg を介して WebP サポートを追加

翻訳元 English → 日本語

llama.cpp の mtmd コンポーネントは、ffmpeg との統合により、WebP 画像形式をサポートするようになりました。

重要度 1/3 信頼度 1/3 llama.cpp Inference efficiency

llama.cpp プロジェクトはビルド b10568 をリリースし、モデル処理を `ggml_rope_set_offset()` 関数を使用するように更新しました。この変更は DeepSeek 2 のサポートのために部分的に適用されています。

llama.cppプロジェクトは、ggmlライブラリとの同期がバージョン0.21.0に引き上げられたバージョン0.2.0をリリースしました。このアップデートでは、さまざまなハードウェアプラットフォームにわたるバックエンドの改善と新機能がいくつか導入されました。

Celestium Engineは、低VRAMハードウェアでのSDXLパフォーマンスを向上させるため、いくつかのアップグレードを導入しました。これらの変更は、メモリ管理、安定性、および制約されたシステムでも一貫した生成を保証するためのフォールバックメカニズムに焦点を当てています。

llama.cpp プロジェクトはバージョン b10549 をリリースし、主に LFM2 および LFM2MOE モデルでのテンソル分割のサポートを導入しました。

vLLM プロジェクトはバージョン 0.28.0rc2 をリリースし、DFlash2 推論デコーディング機能が含まれています。