- 地区
- 国内
- 定价
- 免费
- 是否开源
- 是
- GitHub Stars
- ★ 2.5k
- 收录来源
- GitHub
- 收录于
- 2026-06-07
- 最近确认可用
- 2026-06-07
详细介绍
api-for-open-llm 是一个开源大模型的统一后端接口，支持多种语言模型如 LLaMA、BLOOM 等。它通过提供与 OpenAI ChatGPT API 兼容的方式，简化了调用各类开源大模型的过程。用户只需修改环境变量即可将不同的开源模型作为 ChatGPT 的替代品使用，适用于需要快速集成和部署大模型的应用场景。
核心功能
- ▪OpenAI 风格API兼容
- ▪支持流式响应
- ▪实现文本嵌入模型
- ▪支持langchain工具
- ▪简单修改环境变量即可切换模型
适用场景
文档知识问答聊天机器人开发代码生成助手
优点
- ＋易于集成
- ＋支持多模型
- ＋流式响应高效
局限 / 注意
- －需配置环境变量
- －依赖特定版本Python和PyTorch
适合谁
开发者研究人员企业应用团队
以上介绍由 AI 基于公开资料整理，可能存在偏差，以官网为准。
常见问题
如何启动模型？
请参考项目文档中的启动方式章节获取详细步骤。
支持哪些模型？
支持LLaMA, BLOOM, Baichuan等多种开源大模型。
信息有误？欢迎在 关于页 联系我们更正。