GitHub Copilot अपनी चैट विंडो के लिए Bring Your Own Key (BYOK) की अनुमति देता है लेकिन इन कस्टम मॉडलों को इनलाइन कोड ऑटो-कंप्लीशन में उपयोग करने पर स्पष्ट रूप से रोक लगाता है। VS Code टीम का आधिकारिक बहाना Fill-in-the-Middle (FIM) मॉडलों की क्षमता की कमी का दावा है, जिसका लेखक इसे गलत दोषारोपण के रूप में खंडन करता है।
- GitHub Copilot चैट के लिए BYOK को नेटिवली सपोर्ट करता है लेकिन इनलाइन पूर्णता के लिए इसे ब्लॉक करता है।
- VS Code टीम इस प्रतिबंध के कारण के रूप में योग्य FIM मॉडलों की कमी का हवाला देती है।
- GitHub Copilot LLM Gateway नामक एक सामुदायिक एक्सटेंशन स्थानीय और कस्टम मॉडलों के लिए सही इनलाइन पूर्णता समर्थन को सक्षम बनाकर इस अंतराल को पाटता है।
- यह एक्सटेंशन ओपन सोर्स है और वर्तमान में एक कार्यरत समाधान के रूप में काम करता है, हालांकि यह प्रतिक्रियाओं को नेटिव इंटीग्रेशन की तरह निखार से नहीं संभालता।
लेखक इसे महत्वपूर्ण मानता है क्योंकि यह उन उपयोगकर्ताओं के लिए एक समाधान प्रदान करता है जो अपने डेवलपमेंट एनवायरनमेंट पर स्थानीय LLM स्वतंत्रता और ओपन-सोर्स नियंत्रण चाहते हैं, यह साबित करते हुए कि Microsoft की सीमाओं के बावजूद कार्यक्षमता पूरी तरह से संभव है।