github vLLM · 3 小时前 · inference

v0.30.0rc2 修复了 NIXL 对仅通知请求的接收报告

译自 English → 中文

v0.30.0rc2 版本包含一项针对 NIXL 的错误修复，以避免为仅通知请求生成接收报告。

解决了特定类型的请求会创建不必要的接收报告的问题。

重要性 1/3 可信度 2/3 vLLM

阅读原文

github llama.cpp · 1 小时前 · 1 次浏览实时

llama.cpp b11046 为 flash_attn_f32_f16_bin 内核添加 OpenCL 支持

llama.cpp 项目发布了版本 b11046，其中引入了对 `flash_attn_f32_f16_bin` 内核的 OpenCL 支持。此更新还包括在 OpenCL 设备上为 Flash Attention 提供的受保护预填充功能。

media r/LocalLLaMA · 1 小时前实时

ZCode 静默上传完整的 Git 历史记录和工作区到阿里云 OSS

智谱的官方 AI 编码桌面应用 ZCode 被发现会在用户登录时静默打包并上传用户的完整工作区。此过程包括加密数据并直接发送至阿里云 OSS。

github llama.cpp · 2 小时前 · 1 次浏览

llama.cpp b11044 更新 hexagon im2col 并发布二进制文件

llama.cpp 项目发布了版本 b11044，其中包括对 hexagon 后端的更新，以改进 image-to-column (im2col) 操作。该版本为 macOS、Linux、Windows、Android 和 openEuler 提供了预构建的二进制文件，适用于 CPU、GPU 和其他硬件加速器。

github llama.cpp · 2 小时前 · 1 次浏览

llama.cpp b11045 为 Hexagon 后端添加 ROLL 操作支持

llama.cpp 项目发布了 b11045 版本，在 Hexagon 后端中引入了对 ROLL 操作的支持。

lab OpenAI News · 2 小时前 · 1 次浏览

Hex 使用 GPT-6 Astra 生成交互式可视化报告

Hex 已将 OpenAI 的 GPT-6 Astra 集成到其智能体数据平台中，使数据智能体能够根据分析结果自动生成复杂的交互式可视化图表。