很多教程直接从网页渲染的代码块里复制,会导致两个致命错误:
- 不可见字符 (U+00A0):网页排版产生的空格,会导致 Python 报
SyntaxError。 - YAML 格式混乱:部分博文为了美观加了多余的
###或缩进错误,导致 LiteLLM 无法读取。 - CMD 指令误判:Windows 环境下,
pip安装时带引号可能导致指令无法识别。
🛠️ 核心配置清单
1. 极简版安装指令
先清理环境,再安装:
Bash
# 避免引号和不可见空格,建议直接输入
pip install litellm[proxy]
2. 纯净版 litellm_config.yaml
这是最核心的部分,请直接替换 api_key:
YAML
model_list:
- model_name: nvidia_glm4.7 # 此处 model_name 必须对应 cc-switch
litellm_params:
model: "openai/z-ai/glm4.7"
api_base: "https://integrate.api.nvidia.com/v1"
api_key: "nvapi-你的Key"
- model_name: minimax-m2
litellm_params:
model: "openai/minimaxai/minimax-m2.1"
api_base: "https://integrate.api.nvidia.com/v1"
api_key: "nvapi-你的Key"
litellm_settings:
drop_params: true # 自动过滤 Claude Code 传来的冗余参数
set_verbose: false
注:NVIDIA API 地址固定为
https://integrate.api.nvidia.com/v1。
🖥️ 运行与配置 cc-switch
启动代理服务
在配置文件所在目录下运行:
Bash
litellm --config litellm_config.yaml --port 4000 --host 127.0.0.1
cc-switch 填表指南
在 UI 界面配置时,只需要注意以下映射关系:
- 模型名称:填
nvidia_glm4.7或minimax-m2。 - 接口地址:统一填
http://127.0.0.1:4000。 - API Key:随意填写即可(实际走的是 LiteLLM 里的 Key)。
- 运行正确的指令在命令行中,请确保你跳转到了文件所在的目录
D:\Environment,或者使用绝对路径。输入以下指令:Bashlitellm –config “D:\Environment\litellm_config.yaml” –port 4000 –host 127.0.0.1
💡 总结与建议
虽然 NVIDIA 提供了免费的 GLM-4.7 和 MiniMax-M2.1,但免费接口有时存在频率限制或响应不稳定的情况。作为 Claude Code 的补充方案非常香,但重度开发建议作为备选。
“如果你看到 U+00A0 报错,说明你复制了垃圾格式;如果你看到 429 Too Many Requests,恭喜你,你的配置已经通了,只是 NVIDIA 的羊毛太火爆,被薅秃了,等会儿再试即可。”