github llama.cpp · 1時間前 · inference

llama.cpp b10416 が llama.app の古い UI キャッシュを修正

翻訳元 English → 日本語

llama.cpp プロジェクトはビルド b10416 をリリースし、immutable ヘッダーのために index.html ファイルが古いビルドに固定されていた llama.app ウェブサイトでのキャッシュ問題を解決しました。

サーバーは now index.html を no-cache で提供し、ETag 経由で再検証可能にし、古い UI バージョンを防ぎます。
macOS Apple Silicon (arm64) のビルドがダウンロード可能です。
macOS Intel (x64) のバイナリがリリースに含まれています。
モバイル統合用の iOS XCFramework が提供されています。
Ubuntu x64、arm64、および s390x CPU のビルドがリリースされました。
Linux 向けに Ubuntu Vulkan および OpenVINO バリアントが利用可能です。
Windows x64 および arm64 のビルドは CPU、CUDA 12/13、OpenCL、Vulkan、ROCm 7.14、SYCL をサポートしています。
Android arm64 (CPU) のバイナリが含まれています。
ACL Graph サポート付きの openEuler x86 および aarch64 のビルドがリストされています。

重要度 1/3 信頼度 1/3 llama.cpp Inference efficiency

原文を読む

関連記事

github llama.cpp · たった今ライブ

llama.cpp OpenVINOバックエンドがQwen3.5サポートとメモリ最適化を追加

llama.cppプロジェクトは、OpenVINOバックエンドへの重要な更新をマージしました。主な変更点として、Qwen3.5モデルファミリーのサポート有効化と、いくつかのメモリ最適化技術の導入が含まれます。

github llama.cpp · 2時間前 · 1 回表示

llama.cpp b10413がGGUFメタデータからドラフト仕様のタイプを自動検出

llama.cppプロジェクトはバージョンb10413をリリースし、ドラフトGGUFモデルのメタデータから直接推測デコーディングの仕様タイプを自動検出する機能を導入しました。

github llama.cpp · 3時間前 · 1 回表示

llama.cpp b10414がTQ2_0サポートを追加しmul_mvカーネルを最適化

llama.cppプロジェクトはビルドb10414をリリースし、MetalバックエンドにGGML_TYPE_TQ2_0三元量子化タイプをサポートしました。このアップデートには、連続テンソル(cont)のmul_mvカーネルの最適化も含まれています。

github llama.cpp · 4時間前 · 1 回表示

llama.cpp b10412 が dflash および dspark のバックエンドサンプリングを有効化

llama.cpp プロジェクトはバージョン b10412 をリリースし、dflash と dspark の両バックエンドに対してバックエンドサンプリングのサポートを導入しました。このアップデートでは、バックエンドサンプリングロジック内で p_min が 0 より大きい値を許可し、対応する保護措置も追加されました。

lab OpenAI News · 5時間前 · 1 回表示

OpenAI、GPT-5.6 Sol を最大14倍高速で実行するUltrafastモードをプレビュー

OpenAIは、標準処理よりも最大14倍高速でGPT-5.6 Solモデルを実行する新しいサービスティア「Ultrafast」のプレビューを開始しています。Cerebrasハードウェアによって駆動され、このモードは秒間最大750個の出力トークンを生成し、当初はOpenAI API経由で利用可能です。