يسعى مطور على منتديات Hugging Face لفهم كيفية إدارة منصات الإنتاج مثل Bland.ai وRetell وVapi لتنسيق الأوامر (prompts) دون الاعتماد على أوامر نظام ضخمة مكتوبة يدوياً. يصف المؤلف تنفيذهم الحالي باستخدام FastAPI وSarvam STT/TTS وPipecat SmartTurn V3، مشيراً إلى أن الحقن اليدوي القائم على الحالة يؤدي إلى تعقيد متزايد وفشل في الحالات الحدية.
- يستخدم المطور أمر نظام أساسي مع حقن قائم على الحالة لمهام مثل الحجز أو الأسئلة والأجوبة.
- تشمل البنية الحالية Sarvam Speech-to-Text وStreaming LLM وSarvam Text-to-Speech وPipecat SmartTurn V3 وSilero VAD.
- تشمل التحديات التعامل مع المقاطعات وتغيير الموضوع والمعلومات الجزئية دون أمر نظام أحادي.
- الهدف هو طبقة تنسيق تحافظ على سير عمل حتمي بينما تسمح بمحادثات طبيعية بزمن استجابة أقل من ثانية.
يطرح المنشور سؤالاً حول أنماط البنية المستخدمة في أنظمة الإنتاج لتحقيق التوازن بين استقلالية النموذج والمنطق التجاري الحتمي.