Hugging Face फोरम पर एक डेवलपर यह समझने का प्रयास कर रहा है कि Bland.ai, Retell और Vapi जैसे प्रोडक्शन प्लेटफ़ॉर्म विशाल, हैंड-राइटन सिस्टम प्रॉम्प्ट्स पर निर्भर किए बिना प्रॉम्प्ट ऑर्केस्ट्रेशन को कैसे प्रबंधित करते हैं। लेखक FastAPI, Sarvam STT/TTS और Pipecat SmartTurn V3 का उपयोग करके अपनी वर्तमान कार्यान्वयन का वर्णन करता है, यह नोट करते हुए कि मैन्युअल स्टेट-वाइज इंजेक्शन बढ़ती जटिलता और एज-केस विफलताओं की ओर ले जाता है।
- डेवलपर बुकिंग या Q&A जैसे कार्यों के लिए स्टेट-वाइज इंजेक्शन के साथ एक बेस सिस्टम प्रॉम्प्ट का उपयोग करता है।
- वर्तमान आर्किटेक्चर में Sarvam Speech-to-Text, Streaming LLM, Sarvam Text-to-Speech, Pipecat SmartTurn V3 और Silero VAD शामिल हैं।
- चुनौतियों में मोनोलिथिक प्रॉम्प्ट के बिना विघटन, विषय परिवर्तन और आंशिक जानकारी को संभालना शामिल है।
- लक्ष्य एक ऑर्केस्ट्रेशन परत है जो निर्धारक वर्कफ़्लो बनाए रखते हुए उप-सेकंड लेटेंसी के साथ प्राकृतिक बातचीत की अनुमति देती है।
पोस्ट प्रोडक्शन सिस्टम में उपयोग किए जाने वाले आर्किटेक्चरल पैटर्न का अनुरोध करती है जो मॉडल स्वायत्तता और निर्धारक बिजनेस लॉजिक के बीच संतुलन बनाए रखें।