l

litellm

统一调用100+大语言模型的开源AI网关。

🌍 海外免费开源
支持平台:WebAPI开源自部署
地区
海外
定价
免费
是否开源
GitHub Stars
★ 4.9w
收录来源
GitHub
收录于
2026-06-05
最近确认可用
2026-06-05

详细介绍

LiteLLM 是一个开源的AI网关,支持通过统一接口调用超过100种大语言模型。它解决了在不同提供商之间管理语言模型调用时遇到的复杂性问题,如不同的SDK、认证模式和请求格式等。用户可以使用Python SDK直接集成到项目中,或者部署AI网关作为团队或组织的集中服务。面向开发者、企业和研究机构。

核心功能

  • 统一API调用100+ LLM
  • 兼容OpenAI格式
  • 自带成本跟踪功能
  • 提供负载均衡与日志记录

适用场景

企业级AI应用开发跨平台自然语言处理快速原型设计与测试

优点

  • 简化多供应商集成
  • 提高开发效率
  • 增强安全性与控制力

局限 / 注意

  • 需要一定的技术背景

适合谁

开发者企业研究人员

以上介绍由 AI 基于公开资料整理,可能存在偏差,以官网为准。

常见问题

LiteLLM 支持哪些语言模型?

支持包括OpenAI、Azure、Anthropic等在内的100多种语言模型。

如何开始使用LiteLLM?

可以通过Python SDK直接集成或部署AI网关来使用。

信息有误?欢迎在 关于页 联系我们更正。