Together AI ने एक प्लेटफ़ॉर्म सुविधा पेश की है जो टीमों को लाइव एंडपॉइंट्स पर A/B प्रयोग चलाने की अनुमति देती है, नियंत्रण और 20 विकल्पों के बीच यातायात को विभाजित करके वास्तविक उपयोगकर्ताओं के साथ उम्मीदवार मॉडल प्रदर्शन को मापने के लिए।
- प्रयोग एक एंडपॉइंट से जुड़े होते हैं, नियंत्रण के यातायात हिस्से को बाहुओं में विभाजित करते हुए जबकि विकल्प तैनाती को आधार विभाजन में शून्य वजन होना आवश्यक है।
- यातायात हिस्से प्रतिकृति गिनती से स्वतंत्र निश्चित प्रतिशत हैं, जो ऑटोस्केलिंग की परवाह किए बिना स्थिर मापन सुनिश्चित करते हैं।
- रैंपिंग को etag गार्ड के साथ सदस्य सेट को अपडेट करके संभाला जाता है ताकि मौन अधिलेखन रोका जा सके, जिससे 20 विकल्पों तक बहु-मार्गीय परीक्षण संभव होते हैं।
- प्लेटफ़ॉर्म प्रति-तैनाती इंफ्रास्ट्रक्चर मेट्रिक्स प्रदान करता है और उपयोगकर्ताओं से अपने उत्पाद गुणवत्ता सिग्नल के साथ प्रतिक्रिया मेटाडेटा जोड़ने की आवश्यकता होती है।
- नीले-हरित रोलआउट के माध्यम से विजेता को बढ़ावा देकर या प्रयोग को हटाकर सभी यातायात को नियंत्रण में वापस लाकर प्रयोग समाप्त किए जा सकते हैं।
यह सुविधा टीमों को यह निर्धारित करने में सक्षम बनाती है कि क्या कोई नया मॉडल उपयोगकर्ता धारण दर या कार्य पूर्णता दरों में सुधार करता है, जिससे ऐसे खतरों से बचा जाता है जो मैन्युअल क्लाइंट-साइड रूटिंग तर्क के कारण हो सकते हैं और प्रयोग समाप्त होने के बाद भी बने रह सकते हैं।