t

tensorzero

TensorZero 是一个开源的 LLMOps 平台,统一了 LLM 网关、可观测性、评估、优化和实验。

🌍 海外免费开源
支持平台:WebAPI开源自部署
地区
海外
定价
免费
是否开源
GitHub Stars
★ 1.1w
收录来源
GitHub
收录于
2026-06-05
最近确认可用
2026-06-05
tensorzero 预览图

详细介绍

TensorZero 是一个开源的 LLMOps 平台,集成了 LLM 网关、可观测性、评估、优化和实验。它通过统一 API 访问各大 LLM 提供商,支持高性能调用、工具使用、结构化输出等功能。适用于需要对 LLM 进行集成、监控和优化的企业和个人开发者。

核心功能

  • 统一 LLM 网关
  • 高性能调用 <1ms p99 延迟
  • 全面可观测性
  • 内置 A/B 测试
  • 优化提示和模型

适用场景

LLM 集成与管理LLM 性能监控LLM 模型优化LLM 实验与测试

优点

  • 支持多种 LLM 提供商
  • 低延迟高性能
  • 丰富的功能模块
  • 易于集成和扩展

局限 / 注意

  • 需要一定的技术基础
  • 部分高级功能可能复杂

适合谁

AI 初创公司大型企业个人开发者研究人员

以上介绍由 AI 基于公开资料整理,可能存在偏差,以官网为准。

常见问题

TensorZero 支持哪些 LLM 提供商?

支持所有主要的 LLM 提供商,包括 OpenAI SDK 和其他自托管模型。

如何开始使用 TensorZero?

访问官网文档,按照快速入门指南进行配置和部署。

信息有误?欢迎在 关于页 联系我们更正。