跳过主要内容
作为管理员,您可以通过托管的管理控制台将 LiteLLM 添加为所有 Cline 用户的组织范围 LLM 提供程序。这种集中式方法通过您的 LiteLLM 代理接口提供对多个 AI 模型的统一访问。

开始之前

要开始设置 LiteLLM 作为您组织的 LLM 提供程序,您需要准备好几项内容。 Cline 管理控制台的管理员访问权限
您需要管理员权限才能在整个组织中强制执行提供程序设置。如果您可以在 app.cline.bot 的管理控制台中导航到设置 → Cline 设置,则您拥有正确的访问级别。
快速检查:立即尝试访问设置页面。如果您能看到提供程序配置选项,则一切正常。
LiteLLM 代理实例正在运行
您需要部署一个团队可以访问的 LiteLLM 代理。这可以是自托管的,也可以是通过云提供商管理的。
如果您尚未部署 LiteLLM,请与您的基础设施团队合作设置一个 LiteLLM 代理实例。
LiteLLM 端点详细信息
您将需要 LiteLLM 代理的基本 URL,如果您的部署需要身份验证,则还需要一个主密钥(可选)。
确保您的 LiteLLM 代理可从您团队的开发环境中访问,并且配置了您想要提供的模型。

配置步骤

1

访问 Cline 设置

导航到 app.cline.bot 并使用您的管理员帐户登录。转到设置 → Cline 设置
如果您具有正确的管理员访问级别,您应该会看到提供程序配置选项。
2

启用远程提供程序配置

打开启用设置开关以显示远程提供程序配置选项。这允许您在整个组织中强制执行提供程序设置。
3

选择 LiteLLM 作为 API 提供程序

打开API 提供程序下拉菜单并选择 LiteLLM。这将打开 LiteLLM 配置面板,您将在其中配置所有组织范围的设置。
4

配置 LiteLLM 设置

配置面板包括控制 LiteLLM 如何为您的组织工作的设置
输入您的 LiteLLM 代理端点 URL。这应该是您的 LiteLLM 代理可访问的完整 URL,例如 https://litellm.yourcompany.comhttp://your-proxy:4000
在生产环境中使用 HTTPS 端点以确保安全。确保该 URL 可从您团队的开发环境中访问。
如果您的 LiteLLM 代理需要身份验证,请在此处输入主密钥。此密钥将用于对来自所有组织成员的请求进行身份验证。
集中式 API 密钥管理:通过在组织级别配置主密钥,您可以启用集中式 API 密钥管理。组织成员无需管理自己的个人 API 密钥 - 访问权限完全通过此集中式配置进行管理。
主密钥提供对您的 LiteLLM 代理的完全访问权限。仅在您的代理需要身份验证且您想要集中式密钥管理时才输入此项。
5

保存配置

配置完设置后,关闭提供程序配置面板,然后单击设置页面上的保存以保留更改。保存后,所有登录到 Cline 扩展程序的组织成员将自动使用 LiteLLM 和您配置的设置。他们将无法选择其他提供程序或切换到其个人 Cline 帐户。
启用远程配置后,成员无法切换到个人 Cline 帐户或加入其他组织。这确保了整个团队使用一致的提供程序。

验证

验证配置
  1. 检查提供程序在“启用的提供程序”字段中显示为“LiteLLM”
  2. 确认刷新页面后设置仍然存在
  3. 使用成员帐户进行测试,确保他们只能看到 LiteLLM 作为提供程序
  4. 验证配置的模型在模型下拉菜单中可用

故障排除

成员看不到配置的提供程序
确保您在关闭配置面板后单击了保存。验证成员帐户属于正确的组织,并且他们的网络可以访问您的 LiteLLM 代理。
连接到 LiteLLM 代理时出错
验证基本 URL 是否正确且可访问。检查是否有任何防火墙或安全组允许从您团队的 IP 地址或开发环境进行访问。
身份验证失败
如果使用主密钥,请验证其是否正确输入并在您的 LiteLLM 部署中具有适当的权限。检查 LiteLLM 代理日志以查找身份验证错误。
模型不可用
确认模型已在您的 LiteLLM 代理部署中正确配置。可用的模型取决于您的 LiteLLM 代理的配置方式。
配置更改未保留
确保单击主设置页面上的保存按钮,而不仅仅是关闭配置面板。
以后需要更改端点或密钥
您可以随时更新这些设置。更改会立即对所有组织成员生效。
有关 LiteLLM 部署和配置的更多详细信息,请查阅 LiteLLM 文档并与您的基础设施团队协调。