GitHub Copilot permet le Bring Your Own Key (BYOK) pour sa fenêtre de chat mais bloque explicitement l'utilisation de ces modèles personnalisés pour la complétion automatique de code en ligne. La justification officielle de l'équipe VS Code est un supposé manque de modèles Fill-in-the-Middle (FIM) capables, une affirmation que l'auteur conteste comme étant un transfert de blame incorrect.
- GitHub Copilot prend nativement en charge le BYOK pour le chat mais le bloque pour la complétion en ligne.
- L'équipe VS Code cite un manque de modèles FIM capables comme raison de cette restriction.
- Une extension communautaire nommée GitHub Copilot LLM Gateway comble ce vide en activant un véritable support de complétion en ligne pour les modèles locaux et personnalisés.
- L'extension est open source et fonctionne actuellement comme une solution de contournement, bien qu'elle ne gère pas les réponses aussi parfaitement que l'intégration native.
L'auteur considère cela comme significatif car il fournit une solution aux utilisateurs qui souhaitent la liberté des LLM locaux et un contrôle open-source sur leur environnement de développement, prouvant que la fonctionnalité est entièrement possible malgré les limitations de Microsoft.