Together AI 与 Y Combinator 宣布合作，为 Y Combinator 旗下 AI 原生初创企业提供首个专属 GPU 集群。该举措旨在通过提供灵活且具成本效益的训练与推理基础设施，解决计算资源获取的关键瓶颈，且无需长期承诺。

  • 该集群允许初创企业通过 Together 的自助服务门户直接预留和配置 GPU，采用独立计费方式，使管理独立于 YC。
  • 创始人可在数分钟内启动 GPU，享受长期费率的同时保持扩展能力以应对短期冲刺需求。
  • 该基础设施支持从早期团队的单节点计算到更大规模扩展需求的各类场景。
  • Together AI 利用其在注意力机制和 Mamba 架构方面的研究，提升集群上工作负载的推理速度和单位经济效益。

此次合作应对了获取计算容量日益增长的难度与成本，使创始人能够以可控方式使用与大型企业相当的资源。