litellm
核心价值
- 一句话：开源版“统一API网关”，用同一套代码调用100+AI模型
- 根本问题：同TokenRouter，但要省钱自己托管
- 人话版：自己部署的“万能转接头”，开源免费
使用指南
- 第一步（5分钟）：
pip install litellm - 第二步（30分钟）：写一个简单脚本调用OpenAI/Anthropic双平台
- 第三步（后续）：部署为Proxy Server，配置负载均衡
- 踩坑预警：需要维护服务器，但有Docker镜像
- 与大哥需求的关联：做AI工具必备，50k stars行业标配
- 一句话结论：开源LLM网关事実标准，50k stars不是盖的 | 价值评分：⭐⭐⭐⭐