すべての記事
github llama.cpp · 3日前

llama.cpp b9838 リリース: macOS、Linux、Windows、Android 向けビルド

llama.cpp プロジェクトはバージョン b9838 をリリースし、幅広いオペレーティングシステムとハードウェアアクセラレータ向けのプリビルドバイナリを提供しました。このリリースでは、macOS、Linux、Windows、Android、openEuler 上で、CPU、GPU(CUDA、Vulkan、ROCm、OpenCL)、および専用 AI アクセラレータのサポートが含まれています。

lab OpenAI News · 3日前

HP Inc.、OpenAIとフロンティア戦略的パートナーシップを開始

HP Inc.は、成功したパイロット運用を経て、OpenAIとの戦略的パートナーシップを拡大し、顧客体験、従業員の生産性、ソフトウェア開発の各領域にAIを展開しています。同社は、実験的なユースケースから企業全体の生産環境への移行に伴い、コンテキスト、権限、評価を管理するための統一されたオペレーティングモデルとして、OpenAIフロンティアプラットフォームを活用しています。

github llama.cpp · 3日前

llama.cpp b9837 リリースで --reasoning-preserve フラグと新しいバイナリが追加

llama.cpp プロジェクトはバージョン b9837 をリリースし、推論トークンを保持するための Jinja チャットテンプレート用の新しい `--reasoning-preserve` フラグを導入しました。このアップデートではヘルプメッセージの修正に加え、macOS、Linux、Windows、Android、openEuler の各種ハードウェアバックエンド向けにビルド済みバイナリも提供されています。

github llama.cpp · 3日前

llama.cpp b9833 リリース: MiniCPM5 パーサーとマルチプラットフォームバイナリ

llama.cpp プロジェクトはバージョン b9833 をリリースし、MiniCPM5 モデル専用のパーサーをはじめとする各種バグ修正とリファクタリングを導入しました。このアップデートには、ツール呼び出しのパーシング対応、文法の簡略化、Jinja2 基準との互換性を確保するための Jinja API の動作修正が含まれます。

github llama.cpp · 3日前

llama.cpp b9832 リリースで --dump-prog デバッグフラグが追加

llama.cpp プロジェクトはバージョン b9832 をリリースし、Jinja テンプレートエンジン用の新しい `--dump-prog` コマンドラインオプションを導入してデバッグを支援しました。このアップデートには、macOS、Linux、Android、Windows、openEuler 向けに、さまざまな CPU および GPU アーキテクチャに対応した事前ビルド済みバイナリも含まれています。

github llama.cpp · 3日前

llama.cpp b9830 リリースで --offline フラグが追加され、メモリバグが修正される

llama.cpp b9830 リリースでは、llama download コマンドで --offline フラグを使用できるようになり、ネットワークアクセスなしでキャッシュされたモデルを検証できます。このアップデートはまた、first_path が参照によって誤ってキャプチャされていた URL タスクの on_done コールバックにおける潜在的な use-after-free 脆弱性も修正します。

github llama.cpp · 4日前

llama.cpp b9827 リリースで CUDA 2D 非同期コピーの最適化が追加

llama.cpp b9827 リリースは、ggml_cuda_cpy 関数に cudaMemcpy2DAsync の高速パスを追加することで、CUDA のパフォーマンス最適化を導入します。この変更により、テンソルが完全に連続していないものの各行が連続している場合の、同じ型・同じ形状のストライド付きコピーを高速化し、従来の要素ごとのスカラーコピーカーネルに代わります。

github llama.cpp · 4日前

llama.cpp b9825 リリース: Vulkan 修正とクロスプラットフォームバイナリ

llama.cpp プロジェクトはバージョン b9825 をリリースしました。このバージョンには、ゼロ入力を処理する際の Vulkan ステップ演算子の修正が含まれています。このアップデートにより、macOS、Linux、Windows、Android、openEuler 向けに、さまざまなハードウェアバックエンド用のビルド済みバイナリが提供されます。

github llama.cpp · 4日前

SYCLのノーマライゼーション修正を含むllama.cpp b9826リリース

llama.cppプロジェクトは、SYCLにおけるノーマライゼーション関数に関連するユニットテストケースの失敗を修正したb9826リリースを発表しました。このアップデートでは、複数のプラットフォームとハードウェアアクセラレータにわたってビルド済みバイナリとフレームワークが提供されます。

github llama.cpp · 5日前

llama.cpp b9821 リリース: CLI フラグとマルチプラットフォームバイナリ

llama.cpp プロジェクトはバージョン b9821 をリリースしました。このバージョンでは、--version、--licenses、--help フラグを呼び出すことができるコマンドラインインターフェースの更新が導入されました。本リリースでは、macOS、Linux、Android、Windows、openEuler 向けに、さまざまなハードウェアアクセラレータに対応した包括的なプリビルドバイナリセットが提供されます。