Fireworks AI выпустила Fireworks Nexus, платформу управления и маршрутизации ИИ, предназначенную для помощи инженерным организациям в снижении затрат за счёт направления рутинных задач программирования на модели с открытыми весами. Система решает проблему высоких расходов на передовые модели, внедряя роутер, учитывающий сложность запросов, который разделяет простые и сложные запросы.
- Nexus включает корпоративные механизмы контроля затрат, FireConnect для непрерывности рабочих процессов и интеллектуальное управление трафиком.
- FireConnect устанавливается одной строкой кода и сопоставляет существующие слоты моделей с Fireworks без изменения таких инструментов, как Claude Code или Codex.
- Роутер оценивает сложность запроса, направляя рутинную работу на модели с открытыми весами, а сложные запросы — на существующего провайдера пользователя.
- Независимые оценки от Faros AI и Arize подтверждают эффективность маршрутизации по сложности, демонстрируя значительную экономию затрат по сравнению со стратегиями использования одной модели.
Платформа призвана обеспечить готовое решение для управления бюджетами ИИ и операционной сложностью в крупномасштабных инженерных средах.