GitHub CopilotはチャットウィンドウでBring Your Own Key (BYOK) を許可していますが、カスタムモデルをインラインコード自動補完に使用することは明示的にブロックしています。VS Codeチームの公式な理由は、能力のあるFill-in-the-Middle (FIM) モデルが不足しているというものでしたが、著者はこれを誤った責任転嫁として否定しています。

  • GitHub CopilotはチャットではBYOKをネイティブにサポートしていますが、インライン補完ではブロックしています。
  • VS Codeチームは、この制限の理由として能力のあるFIMモデルの不足を挙げています。
  • GitHub Copilot LLM Gatewayというコミュニティ拡張機能は、ローカルおよびカスタムモデルの真のインライン補完サポートを有効化することで、このギャップを埋めます。
  • この拡張機能はオープンソースであり、現在ではワークアラウンドとして機能していますが、ネイティブ統合ほど完璧なレスポンス処理は行っていません。

著者はこれは重要だと考えています。なぜなら、ローカルLLMの自由と開発環境におけるオープンソースの制御を望むユーザーに解決策を提供し、Microsoftの制限にもかかわらずその機能が完全に可能であることを証明しているからです。