OpenLIT
开源 AI 工程平台，OpenTelemetry 原生 LLM 可观测性。支持 GPU 监控、Guardrails、评估、提示管理，集成 50+ LLM 供应商。2.4K+ stars。
🎯适用场景：AI 工程全栈可观测、GPU 监控、LLM 供应商统一监控
📥 收录于 2026/6/3
📊 仓库数据
📈 上次抓取以来 ↑+2 ⭐
✅ 优点
- •OpenTelemetry 原生
- •50+ LLM 供应商集成
- •GPU 监控亮点
⚠️ 限制
- •项目较新社区在成长中
- •高级功能需商业版
🔗 相关工具
llm-action
github.com/liguodongiot/llm-action
生成式 AI 指南，4.9K+ stars。生成式 AI 研究更新、工具和资源的一站式资源库，涵盖最新进展和实用工具
🎯生成式 AI 技术学习、LLM 训练/推理/部署实践参考
Ragas
github.com/vibrantlabsai/ragas
LLM 应用评估框架，提供 RAG 管道的自动化评测能力，支持答案相关性、上下文忠实度、幻觉检测等关键指标，帮助开发者量化和优化 LLM 应用质量。（14K+ stars）
🎯LLM 应用质量评估、RAG 管道评测、AI 产品验收测试
TensorZero
github.com/tensorzero/tensorzero
开源 LLMOps 平台，统一 LLM 网关、可观测性、评估和微调能力，提供从实验到生产的端到端基础设施，帮助企业高效管理多模型 LLM 应用。（11K+ stars）
🎯LLM 生产环境管理、多模型路由、A/B 测试和效果评估
phoenix
github.com/arize-ai/phoenix
AI 可观测性与评估平台，9750 stars。提供 LLM 应用的可观测性、评估和调试能力，帮助监控 AI 系统性能
🎯LLM/RAG 链路追踪、Embedding 质量评估、生产监控
HyperDX
github.com/hyperdxio/hyperdx
开源可观测性平台，统一整合日志、指标、追踪、会话回放和错误追踪。基于 OpenTelemetry 标准，适合需要全栈可观测性的 AI 应用团队，一站式排查线上问题。
🎯AI 应用全栈可观测性、用户会话回放辅助调试、日志与追踪关联分析
Helicone
github.com/Helicone/helicone
开源 LLM 可观测性平台，一行代码即可监控、评估和实验。YC W23 孵化，支持 LangChain、LlamaIndex 等主流框架的追踪与成本分析。5.7K+ stars。
🎯LLM 应用可观测性、成本追踪、A/B 实验评估