NVIDIA 推出了 PAIR，这是一款旨在帮助用户将旧硬件连接到个人 AI 集群的工具。该举措旨在利用现有设备在本地运行 AI 工作负载。
该项目允许个人利用其积累的硬件资源进行人工智能任务。
media
r/LocalLLaMA
·
2 小时前
·
open_models
NVIDIA 推出 PAIR 用于个人 AI 集群
译自 English → 中文
相关文章
arxiv
arXiv cs.LG
·
20 小时前
·
1 次浏览
FlashAttention-4 引入 Direct-P，实现硬件感知的 FP4 推理与训练
FlashAttention-4 通过为非因果推理和因果训练引入新路径，解决了 Blackwell 的 4 位浮点（FP4）张量核心的性能限制。该方法称为 Direct-P，将分数直接映射到 FP4 概率，以绕过通常在矩阵乘积缩小后占主导地位的 softmax 转换开销。
media
r/LocalLLaMA
·
8 天前
·
8 次浏览
NVIDIA 将下一代 Vera Rubin GPU 的发布时间定在 2027 年年中
NVIDIA 已将其下一代 Vera Rubin GPU 的发布安排在 2027 年年中。该公司预计在本季度销售价值 200 亿美元的 Vera Rubin 硬件，这将占其数据中心收入的 20%。
media
MarkTechPost
·
10 天前
·
12 次浏览
Perplexity 在 NVIDIA DGX Spark 上推出便携式计算机，搭载本地智能体框架
Perplexity 发布了 Portable Computer，这是其智能体平台的本地优先版本，直接在 NVIDIA DGX Spark 硬件上运行智能体框架、编排器、规划器、工具路由器和后训练模型。该打包系统允许所有任务在设备端启动，由本地模型处理的工作不收取任何按 token 计费的费用，仅在用户批准后才会将特定步骤升级至 15 多个云端模型。
lab
NVIDIA Technical Blog
·
10 天前
·
5 次浏览
NVIDIA 发布带有稳定 API 的 CUDA Python 1.0
NVIDIA 发布了 CUDA Python 1.0，为 Python 中的 GPU 计算提供了统一的基础。此版本向平台引入了稳定的 API。
lab
OpenAI News
·
10 天前
·
18 次浏览
OpenAI报告称Jalapeño芯片可实现高达3.6倍的延迟降低和1.9倍的效率提升
OpenAI发布了其首款定制推理芯片Jalapeño的初步性能结果，与现有商业系统相比，在速度和能效方面展现出显著提升。该公司表示，新架构能够同时实现更高的吞吐量和更低的延迟，解决了当前硬件中常见的权衡问题。