GitHub Copilot LLM Gateway, 인라인 완성을 위한 BYOK 지원

GitHub Copilot은 채팅 창에 대해 Bring Your Own Key (BYOK)를 허용하지만, 사용자 지정 모델을 인라인 코드 자동 완성으로 사용하는 것은 명시적으로 차단합니다. VS Code 팀의 공식적인 이유는 Fill-in-the-Middle (FIM) 모델의 능력 부족이라고 주장했으나, 저자는 이를 잘못된 책임 전가로 부정합니다.

• GitHub Copilot은 채팅에 대해 BYOK를 네이티브하게 지원하지만 인라인 완성에서는 차단합니다.
• VS Code 팀은 이 제한의 이유로 능력 있는 FIM 모델의 부재를 꼽습니다.
• GitHub Copilot LLM Gateway라는 커뮤니티 확장은 로컬 및 사용자 지정 모델에 대한 진정한 인라인 완성 지원을 활성화하여 이 격차를 메웁니다.
• 이 확장은 오픈 소스이며 현재는 우회책으로 작동하지만, 네이티브 통합만큼 완벽하게 응답을 처리하지는 않습니다.

저자는 이것이 중요하다고 봅니다. 로컬 LLM의 자유와 개발 환경에 대한 오픈 소스 제어를 원하는 사용자에게 해결책을 제공하며, Microsoft의 제한에도 불구하고 해당 기능이 완전히 가능함을 입증하고 있기 때문입니다.