本TLDR AI通讯涵盖了人工智能行业的几项发展,包括新硬件、软件代理和路由优化。

  • AMD推出了Helios,这是其首款面向Nvidia的机架级AI系统,微软计划将其部署在Azure数据中心。
  • Kimi Work是一个适用于Windows和macOS的新代理,可自动化浏览器工作并连接到本地文件。
  • Ramp Router使用在线学习来选择最便宜的模型和服务层级,报告称在不损失性能的情况下节省了30%。
  • 据报道,Google开发了一款名为Frozen v2的服务器芯片,其每单位功耗处理的token数量是现有硬件的六到十倍。
  • NVIDIA Cosmos 3 Edge是一个拥有40亿参数的开放世界模型,用于边缘设备上的机器人动作生成。