🚩 Litellm快速上手配置

很多教程直接从网页渲染的代码块里复制,会导致两个致命错误:

  1. 不可见字符 (U+00A0):网页排版产生的空格,会导致 Python 报 SyntaxError
  2. YAML 格式混乱:部分博文为了美观加了多余的 ### 或缩进错误,导致 LiteLLM 无法读取。
  3. CMD 指令误判:Windows 环境下,pip 安装时带引号可能导致指令无法识别。

🛠️ 核心配置清单

1. 极简版安装指令

先清理环境,再安装:

Bash

# 避免引号和不可见空格,建议直接输入
pip install litellm[proxy]

2. 纯净版 litellm_config.yaml

这是最核心的部分,请直接替换 api_key

YAML

model_list:
- model_name: nvidia_glm4.7 # 此处 model_name 必须对应 cc-switch
  litellm_params:
    model: "openai/z-ai/glm4.7"
    api_base: "https://integrate.api.nvidia.com/v1"
    api_key: "nvapi-你的Key"

- model_name: minimax-m2
  litellm_params:
    model: "openai/minimaxai/minimax-m2.1"
    api_base: "https://integrate.api.nvidia.com/v1"
    api_key: "nvapi-你的Key"

litellm_settings:
drop_params: true # 自动过滤 Claude Code 传来的冗余参数
set_verbose: false

:NVIDIA API 地址固定为 https://integrate.api.nvidia.com/v1


🖥️ 运行与配置 cc-switch

启动代理服务

在配置文件所在目录下运行:

Bash

litellm --config litellm_config.yaml --port 4000 --host 127.0.0.1

cc-switch 填表指南

在 UI 界面配置时,只需要注意以下映射关系:

  • 模型名称:填 nvidia_glm4.7minimax-m2
  • 接口地址:统一填 http://127.0.0.1:4000
  • API Key:随意填写即可(实际走的是 LiteLLM 里的 Key)。
  • 运行正确的指令在命令行中,请确保你跳转到了文件所在的目录 D:\Environment,或者使用绝对路径。输入以下指令:Bashlitellm –config “D:\Environment\litellm_config.yaml” –port 4000 –host 127.0.0.1

💡 总结与建议

虽然 NVIDIA 提供了免费的 GLM-4.7 和 MiniMax-M2.1,但免费接口有时存在频率限制或响应不稳定的情况。作为 Claude Code 的补充方案非常香,但重度开发建议作为备选。

“如果你看到 U+00A0 报错,说明你复制了垃圾格式;如果你看到 429 Too Many Requests,恭喜你,你的配置已经通了,只是 NVIDIA 的羊毛太火爆,被薅秃了,等会儿再试即可。”

暂无评论

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇
下一篇