Fireworks AI는 엔지니어링 조직이 오픈 웨이트 모델로 일상적인 코딩 작업을 유도하여 비용을 절감할 수 있도록 설계된 AI 관리 및 라우팅 플랫폼인 Fireworks Nexus를 출시했습니다. 이 시스템은 난이도 인식 라우터를 도입하여 간단한 요청과 복잡한 요청을 분리함으로써 프론티어 모델에 대한 높은 지출 문제를 해결합니다.
- Nexus에는 엔터프라이즈 비용 제어, 워크플로우 연속성을 위한 FireConnect, 지능형 트래픽 관리가 포함되어 있습니다.
- FireConnect은 Claude Code나 Codex와 같은 도구를 변경하지 않고 기존 모델 슬롯을 Fireworks에 매핑하는 1줄 설치입니다.
- 라우터는 요청의 난이도를 점수화하여 일상적인 작업을 오픈 웨이트 모델로 보내고 복잡한 요청은 사용자의 기존 제공업체로 전달합니다.
- Faros AI와 Arize의 독립적인 평가는 난이도 기반 라우팅을 지원하며, 단일 모델 전략과 비교해 상당한 비용 절감을 보여줍니다.
이 플랫폼은 대규모 엔지니어링 환경에서 AI 예산 및 운영 복잡성을 관리하기 위한 드롭인 솔루션을 제공하는 것을 목표로 합니다.