LiteLLM Proxy 是很多团队用来统一模型接口的开源网关。它可以把不同上游模型整合到一个代理服务里,再让客户端通过统一入口访问。Claude Code 官方 LLM Gateway 文档也给出了 LiteLLM 的配置示例。
为什么用 LiteLLM Proxy
- 统一管理多个模型供应商;
- 支持虚拟 key 和权限控制;
- 可以做负载均衡、fallback 和用量统计;
- 适合作为 Claude Code 的团队网关。
Claude Code 侧怎么配置
LiteLLM 文档示例里,静态 key 通常设置为 ANTHROPIC_AUTH_TOKEN。这个 token 可以是 proxy master key,也可以是限制了模型范围的 virtual key。
export ANTHROPIC_AUTH_TOKEN="$LITELLM_KEY"推荐方式是使用 LiteLLM 的 unified endpoint,把 ANTHROPIC_BASE_URL 指向 LiteLLM Proxy 地址。
export ANTHROPIC_BASE_URL="http://0.0.0.0:4000"
claudeAnthropic pass-through 方式
如果你使用 provider-specific pass-through endpoint,也可以把 Base URL 指向 LiteLLM 的 Anthropic 路径。
export ANTHROPIC_BASE_URL="http://0.0.0.0:4000/anthropic"动态 Key Helper
LiteLLM 文档还提到,Claude Code 可以通过 apiKeyHelper 调用脚本动态获取 key,例如从 vault 获取或生成短期 JWT。这适合企业做轮换、审计和权限隔离。
{
"apiKeyHelper": "~/bin/get-litellm-key.sh"
}排查顺序
- 确认 LiteLLM Proxy 正在运行;
- 确认
ANTHROPIC_BASE_URL指向正确端口; - 确认
ANTHROPIC_AUTH_TOKEN和 LiteLLM key 一致; - 确认 virtual key 有目标模型权限;
- 确认 Claude Code 请求的模型名在 LiteLLM 里有映射。
安全提醒
官方 Claude Code 文档也提醒,LiteLLM 是第三方代理服务,使用时要自己评估安全性和版本。尤其要注意依赖版本、凭据轮换和日志中是否包含敏感内容。
如果你不想自己维护网关、证书、模型映射、上游兼容和各种错误排查,可以了解 YYLX.IO 鱼鱼连线。它更适合想直接稳定使用 Claude Code、Codex、Gemini CLI、Cline 等 AI 编程工具的用户。
总结
LiteLLM Proxy 适合有技术能力的团队统一管理 Claude Code 流量。个人用户如果只是想稳定使用,现成中转站会更省维护成本。
参考资料:Claude Code LLM gateway configuration、LiteLLM Claude Code Quickstart。

发表回复