Como usar seus próprios modelos LLM no aplicativo GitHub Copilot

Conecte um modelo de um provedor externo de sua escolha fornecendo sua própria chave de API e, em seguida, use o modelo em sessões de agente.

Quem pode usar esse recurso?

aplicativo GitHub Copilot está disponível para todos os Copilot planos.
Sign up for Copilot

Neste artigo

Observação

O suporte para usar o seu próprio provedor de modelos no aplicativo GitHub Copilot está em prévia pública e sujeito a alterações.

Você pode configurar o aplicativo GitHub Copilot para usar seu próprio provedor de LLM, também chamado de BYOK (Bring Your Own Key), em vez de modelos hospedados pela GitHub. Você pode configurar seu provedor de modelos quando abrir o aplicativo pela primeira vez ou mais tarde, nas configurações do aplicativo.

Você deve fazer login com uma GitHub conta para usar o aplicativo, mas não precisa de um plano Copilot se usar seu próprio provedor de modelos. Se você tiver um plano Copilot, poderá usar tanto seu próprio provedor de modelos quanto modelos hospedados pela GitHub no mesmo app.

Observação

Este artigo é para usuários que desejam definir suas próprias configurações de provedor LLM em seu computador local. Para configurar modelos personalizados para usuários em uma organização ou empresa, consulte Usando as chaves de API do provedor LLM com o Copilot e Usando as chaves de API do provedor LLM com o Copilot.

Provedores com suporte

aplicativo GitHub Copilot oferece suporte a estes provedores de modelos:

  • OpenAI
  • OpenAI do Azure
  • Microsoft Foundry
  • Anthropic
  • Ollama
  • Local da Fundição
  • LM Studio
  • Qualquer endpoint HTTP compatível com OpenAI

Prerequisites

  • O aplicativo GitHub Copilot está instalado. Para obter as etapas de instalação, consulte Introdução ao GitHub aplicativo Copilot.
  • Você tem todas as credenciais necessárias, como chave de API, para seu provedor de modelos.

Configurar um provedor de modelos

Se você estiver configurando o aplicativo pela primeira vez e não tiver um plano Copilot, poderá escolher configurar seu próprio provedor de modelos durante a configuração inicial.

Para adicionar ou atualizar um provedor de modelo posteriormente:

  1. Abra o aplicativo GitHub Copilot.
  2. Abra as configurações do aplicativo e clique em Provedores de modelo.
  3. Clique em Adicionar provedor.
  4. Selecione seu provedor.
  5. Insira os detalhes do provedor. Isso varia de acordo com o provedor, mas pode incluir o nome de exibição, a URL base e a chave de API.
  6. Clique em Adicionar provedor para salvar o provedor.

Depois de adicionar um provedor, seus modelos aparecem no seletor de modelos ao lado dos modelos hospedados por GitHub. Você pode selecionar o modelo e usá-lo em uma sessão. Para obter mais informações, consulte Trabalhando com sessões de agente no GitHub aplicativo Copilot.

As credenciais do provedor são armazenadas no repositório de credenciais do sistema e nunca são exibidas na interface do usuário.