github vLLM · 3時間前 · inference

v0.30.0rc2 が通知のみのリクエストに対する NIXL の受信レポートを修正

翻訳元 English → 日本語

v0.30.0rc2 リリースには、通知のみのリクエストに対して受信レポートを生成しないようにする NIXL のバグフィックスが含まれています。

特定のリクエストタイプに対して不要な受信レポートが作成されていた問題を解決します。

重要度 1/3 信頼度 2/3 vLLM

llama.cpp b11046 が flash_attn_f32_f16_bin カーネルの OpenCL サポートを追加

llama.cpp プロジェクトはバージョン b11046 をリリースし、`flash_attn_f32_f16_bin` カーネルの OpenCL サポートを導入しました。このアップデートには、OpenCL デバイス上の Flash Attention 用のガード付きプリフィル機能も含まれています。

media r/LocalLLaMA · 1時間前ライブ

ZCode が Git の履歴全体とワークスペースを静かに Aliyun OSS にアップロード

Zhipu の公式 AI コーディングデスクトップアプリである ZCode は、ログイン時にユーザーの完全なワークスペースをパッケージ化してアップロードすることが発見されました。このプロセスにはデータの暗号化と Aliyun OSS への直接送信が含まれます。

github llama.cpp · 2時間前 · 1 回表示

llama.cpp b11044 が hexagon im2col を更新し、バイナリをリリース

llama.cpp プロジェクトはバージョン b11044 をリリースしました。これには、image-to-column (im2col) 操作の改善のための hexagon バックエンドの更新が含まれています。このリリースでは、macOS、Linux、Windows、Android、openEuler 向けに CPU、GPU、その他のハードウェアアクセラレータ用のプリビルドバイナリが提供されています。

github llama.cpp · 2時間前 · 1 回表示

llama.cpp b11045 が Hexagon バックエンドに ROLL 演算のサポートを追加

llama.cpp プロジェクトはバージョン b11045 をリリースし、Hexagon バックエンド内で ROLL 演算のサポートを導入しました。

lab OpenAI News · 2時間前 · 1 回表示

HexがGPT-6 Astraを使用してインタラクティブなビジュアルレポートを生成

Hexは、OpenAIのGPT-6 Astraをそのエージェント型データプラットフォームに統合し、データエージェントが分析結果から複雑でインタラクティブな可視化を自動的に作成できるようにしました。