GitHub Copilot mengizinkan Bring Your Own Key (BYOK) untuk jendela Chat-nya tetapi secara eksplisit memblokir model kustom tersebut digunakan untuk penyelesaian kode otomatis inline. Justifikasi resmi dari tim VS Code adalah kurangnya model Fill-in-the-Middle (FIM) yang mampu, sebuah klaim yang disanggah oleh penulis sebagai pengalihan kesalahan yang salah.
- GitHub Copilot secara native mendukung BYOK untuk Chat tetapi memblokirnya untuk penyelesaian inline.
- Tim VS Code mengutip kurangnya model FIM yang mampu sebagai alasan pembatasan ini.
- Ekstensi komunitas bernama GitHub Copilot LLM Gateway menjembatani kesenjangan ini dengan mengaktifkan dukungan penyelesaian inline sejati untuk model lokal dan kustom.
- Ekstensi ini bersifat open source dan saat ini berfungsi sebagai workaround, meskipun tidak menangani respons semulus integrasi native.
Penulis menganggap ini signifikan karena memberikan solusi bagi pengguna yang menginginkan kebebasan LLM lokal dan kontrol open-source atas lingkungan pengembangan mereka, membuktikan bahwa fungsionalitas tersebut sepenuhnya mungkin terlepas dari keterbatasan Microsoft.