Enabling custom models for GitHub Copilot in your organization

Вы можете добавить свои собственные API-ключи в GitHub Copilot и дать командам возможность использовать предпочитаемые вами поставщики больших языковых моделей (LLM) с Копилот Чат, Второй пилот CLI и VS Code.

Поддерживаются ключи API от следующих поставщиков:

• Антропик
• Бедрок AWS
• Google AI Studio
• Microsoft Foundry
• Открытый ИИ
• Провайдеры, совместимые с OpenAI
• xAI

Также поддерживаются тонко настроенные модели, но функциональность и качество результатов могут варьироваться в зависимости от настройки тонкой настройки. Перед использованием в производстве стоит протестировать модель и внимательно изучить её результаты.

Why bring your own API keys?

As an organization owner, you may have specific requirements for governance, data security, and compliance. Setting up your own API keys allows you to address:

• Управление и соответствие требованиям. Выберите поставщики LLM, которые соответствуют политикам и нормативным требованиям вашей организации.
• Управление затратами: выравнивайте существующие методы оплаты, контракты, кредиты или согласованные ставки и избегайте превышения использования.
• Видимость и управление. Управление моделями, к которым ваша команда может получить доступ, и отслеживать использование с помощью существующих панелей мониторинга и выставления счетов поставщика.
• Гибкость. Поддержка пользовательских или специализированных моделей, которые уже использует ваша организация.

Prerequisites

An enterprise owner must have enabled the Enable custom models policy.

Adding your key to an organization account

After you've added your key and selected one or more models, you and your organization members will be able to use them with Копилот Чат, Второй пилот CLI и VS Code. Your models will appear at the bottom of the model picker, under the organization name.

1. В правом верхнем углу GitHub, щелкните рисунок профиля, а затем выберите октикона "организация" aria-hidden="true" aria-label="organization" %} Ваши организации.

2. Выберите организацию, кликнув по ней.

3. Под именем организации щелкните Settings. Если вкладка "Параметры" не отображается, выберите раскрывающееся меню и нажмите кнопку "Параметры".

   

4. In the sidebar, under "Code, planning, and automation", click Copilot.

5. Under "Copilot", click Models.

6. Нажмите на вкладку «Пользовательские модели ».

7. Над списком API-ключей нажмите клавишу Add API.

8. В разделе «Провайдер» выберите провайдера LLM, которого вы хотите использовать.

9. В разделе «Имя» введите имя для этого ключа. Это будет показано в picker моделей.

10. В разделе «API key» введите или вставьте свой ключ.

11. В зависимости от того, какого провайдера вы используете, выбирайте или добавляйте модели.

    • Если вы используете OpenAI, Anthropic или xAI, нажмите в поле текста ключа API, чтобы получить модели, связанные с вашим ключом. Далее, в разделе «Доступные модели» выберите модели, которые хотите использовать.

      

    • Если вы используете Microsoft Foundry, введите URL вашего развертывания в поле под разделом «URL развертывания». Далее, в поле под разделом «Доступные модели» введите Model ID и нажмите , чтобы добавить его.

      Если у ваших моделей разные URL-адреса развертывания, их нельзя добавить в один и тот же ключ API. Создайте отдельный API-ключ для каждого URL развертывания.

      

12. После выбора или добавления моделей, которые хотите сделать доступными, нажмите «Сохранить».

Further reading

• Enabling custom models for GitHub Copilot in your enterprise in our documentation for enterprise accounts.
• О GitHub Copilot Chat
• Поддерживаемые поверхности для политик GitHub Copilot