LiteLLM Proxy + Claude Code,统一端点与 Auth Token文章封面

LiteLLM Proxy 接入 Claude Code 教程:统一端点、Auth Token 和模型配置

LiteLLM Proxy 是很多团队用来统一模型接口的开源网关。它可以把不同上游模型整合到一个代理服务里,再让客户端通过统一入口访问。Claude Code 官方 LLM Gateway 文档也给出了 LiteLLM 的配置示例。

为什么用 LiteLLM Proxy

  • 统一管理多个模型供应商;
  • 支持虚拟 key 和权限控制;
  • 可以做负载均衡、fallback 和用量统计;
  • 适合作为 Claude Code 的团队网关。

Claude Code 侧怎么配置

LiteLLM 文档示例里,静态 key 通常设置为 ANTHROPIC_AUTH_TOKEN。这个 token 可以是 proxy master key,也可以是限制了模型范围的 virtual key。

export ANTHROPIC_AUTH_TOKEN="$LITELLM_KEY"

推荐方式是使用 LiteLLM 的 unified endpoint,把 ANTHROPIC_BASE_URL 指向 LiteLLM Proxy 地址。

export ANTHROPIC_BASE_URL="http://0.0.0.0:4000"
claude

Anthropic pass-through 方式

如果你使用 provider-specific pass-through endpoint,也可以把 Base URL 指向 LiteLLM 的 Anthropic 路径。

export ANTHROPIC_BASE_URL="http://0.0.0.0:4000/anthropic"

动态 Key Helper

LiteLLM 文档还提到,Claude Code 可以通过 apiKeyHelper 调用脚本动态获取 key,例如从 vault 获取或生成短期 JWT。这适合企业做轮换、审计和权限隔离。

{
  "apiKeyHelper": "~/bin/get-litellm-key.sh"
}

排查顺序

  • 确认 LiteLLM Proxy 正在运行;
  • 确认 ANTHROPIC_BASE_URL 指向正确端口;
  • 确认 ANTHROPIC_AUTH_TOKEN 和 LiteLLM key 一致;
  • 确认 virtual key 有目标模型权限;
  • 确认 Claude Code 请求的模型名在 LiteLLM 里有映射。

安全提醒

官方 Claude Code 文档也提醒,LiteLLM 是第三方代理服务,使用时要自己评估安全性和版本。尤其要注意依赖版本、凭据轮换和日志中是否包含敏感内容。

如果你不想自己维护网关、证书、模型映射、上游兼容和各种错误排查,可以了解 YYLX.IO 鱼鱼连线。它更适合想直接稳定使用 Claude Code、Codex、Gemini CLI、Cline 等 AI 编程工具的用户。

总结

LiteLLM Proxy 适合有技术能力的团队统一管理 Claude Code 流量。个人用户如果只是想稳定使用,现成中转站会更省维护成本。

参考资料:Claude Code LLM gateway configurationLiteLLM Claude Code Quickstart

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注