Fireworks AI telah merilis Fireworks Nexus, sebuah platform manajemen dan perutean AI yang dirancang untuk membantu organisasi teknik mengurangi biaya dengan mengarahkan tugas pemrograman rutin ke model bobot terbuka. Sistem ini mengatasi masalah pengeluaran tinggi pada model frontier dengan memperkenalkan router yang sadar kesulitan yang memisahkan permintaan sederhana dari yang kompleks.
- Nexus mencakup kontrol biaya perusahaan, FireConnect untuk kontinuitas alur kerja, dan manajemen lalu lintas cerdas.
- FireConnect adalah instalasi satu baris yang memetakan slot model yang ada ke Fireworks tanpa mengubah alat seperti Claude Code atau Codex.
- Router memberi skor kesulitan permintaan, mengirim pekerjaan rutin ke model bobot terbuka sambil meneruskan permintaan sulit ke penyedia yang sudah ada bagi pengguna.
- Evaluasi independen oleh Faros AI dan Arize mendukung perutean berdasarkan kesulitan, menunjukkan penghematan biaya yang signifikan dibandingkan dengan strategi model tunggal.
Platform ini bertujuan untuk menyediakan solusi siap pakai untuk mengelola anggaran AI dan kompleksitas operasional di lingkungan teknik skala besar.