Fireworks AI 发布了 Fireworks Nexus,这是一个 AI 管理和路由平台,旨在帮助工程组织通过将常规编码任务引导至开源权重模型来降低成本。该系统通过引入一个感知难度的路由器,将简单请求与复杂请求分离开来,从而解决前沿模型高支出问题。
- Nexus 包括企业成本控制、用于工作流连续性的 FireConnect 以及智能流量管理。
- FireConnect 只需一行安装代码,即可将现有模型槽位映射到 Fireworks,而无需更改 Claude Code 或 Codex 等工具。
- 路由器对请求难度进行评分,将常规工作发送至开源权重模型,同时将复杂请求转发至用户现有的提供商。
- Faros AI 和 Arize 的独立评估支持按难度进行路由,与单模型策略相比显示出显著的节省成本效果。
该平台旨在为大规模工程环境中的 AI 预算管理和运营复杂性提供即插即用解决方案。