GitHub Copilot permite Bring Your Own Key (BYOK) para su ventana de chat pero bloquea explícitamente el uso de esos modelos personalizados para la autocompletación de código en línea. La justificación oficial del equipo de VS Code es una supuesta falta de modelos Fill-in-the-Middle (FIM) capaces, una afirmación que el autor disputa como un cambio de culpa incorrecto.
- GitHub Copilot admite nativamente BYOK para chat pero lo bloquea para la finalización en línea.
- El equipo de VS Code cita la falta de modelos FIM capaces como la razón de esta restricción.
- Una extensión de la comunidad llamada GitHub Copilot LLM Gateway cierra esta brecha al habilitar el soporte verdadero de finalización en línea para modelos locales y personalizados.
- La extensión es de código abierto y actualmente funciona como una solución alternativa, aunque no maneja las respuestas tan perfectamente como la integración nativa.
El autor considera esto significativo porque proporciona una solución para usuarios que desean libertad de LLM local y control de código abierto sobre su entorno de desarrollo, demostrando que la funcionalidad es completamente posible a pesar de las limitaciones de Microsoft.