GitHub Copilot позволяет использовать Bring Your Own Key (BYOK) для окна чата, но явно блокирует использование этих пользовательских моделей для встроенного автозавершения кода. Официальное обоснование от команды VS Code — предполагаемое отсутствие способных моделей Fill-in-the-Middle (FIM), что автор оспаривает как неправильное перекладывание вины.
- GitHub Copilot нативно поддерживает BYOK для чата, но блокирует его для встроенного завершения.
- Команда VS Code ссылается на отсутствие способных моделей FIM в качестве причины этого ограничения.
- Расширение сообщества под названием GitHub Copilot LLM Gateway заполняет этот пробел, обеспечивая истинную поддержку встроенного завершения для локальных и пользовательских моделей.
- Расширение имеет открытый исходный код и в настоящее время функционирует как обходное решение, хотя оно не обрабатывает ответы так же безупречно, как нативная интеграция.
Автор считает это значимым, поскольку это предоставляет решение для пользователей, которые хотят свободы локальных LLM и контроля с открытым исходным кодом над своей средой разработки, доказывая, что функциональность полностью возможна, несмотря на ограничения Microsoft.