Fireworks AI ने Fireworks Nexus जारी किया है, जो एक AI प्रबंधन और रूटिंग प्लेटफ़ॉर्म है जिसे इंजीनियरिंग संगठनों को खुले-वजन वाले मॉडल में नियमित कोडिंग कार्यों को निर्देशित करके लागत कम करने में मदद करने के लिए डिज़ाइन किया गया है। यह सिस्टम उन्नत मॉडलों पर उच्च खर्च की समस्या को सरल और जटिल अनुरोधों को अलग करने वाले कठिनाई-जागरूक रूटर का परिचय देकर हल करता है।
- Nexus में एंटरप्राइज़ लागत नियंत्रण, कार्यप्रवाह निरंतरता के लिए FireConnect और बुद्धिमान ट्रैफ़िक प्रबंधन शामिल हैं।
- FireConnect एक लाइन इंस्टॉल है जो Claude Code या Codex जैसे टूल्स को बदले बिना मौजूदा मॉडल स्लॉट्स को Fireworks से मैप करता है।
- रूटर अनुरोध की कठिनाई का स्कोर देता है, नियमित कार्य को खुले-वजन वाले मॉडल में भेजता है और जटिल अनुरोधों को उपयोगकर्ता के मौजूदा प्रदाता को पास करता है।
- Faros AI और Arize द्वारा स्वतंत्र मूल्यांकन कठिनाई द्वारा रूटिंग का समर्थन करते हैं, जिसमें एकल-मॉडल रणनीतियों की तुलना में महत्वपूर्ण लागत बचत दिखाई गई है।
प्लेटफ़ॉर्म का उद्देश्य बड़े पैमाने के इंजीनियरिंग वातावरण में AI बजट और संचालनात्मक जटिलता को प्रबंधित करने के लिए एक ड्रॉप-इन समाधान प्रदान करना है।