Phoenix
AI 可观测性与评估平台,9750 stars。提供 LLM 应用的可观测性、评估和调试能力,帮助监控 AI 系统性能
🎯适用场景:LLM/RAG 链路追踪、Embedding 质量评估、生产监控
📥 收录于 2026/5/7
📊 仓库数据
📈 Stars 变化 ↑6 小时 +4· 统计区间 6/28 18:12 → 6/29 00:15(6 小时)
✅ 优点
- •开源 LLM 可观测性平台
- •Embedding 漂移检测
- •支持 OpenTelemetry 集成
- •Python 一键部署
⚠️ 限制
- •大规模数据存储需规划
- •部分高级分析需 Arize 云服务
- •需要 Python 环境
🔗 相关工具
Logfire
github.com/pydantic/logfire
Pydantic 团队打造的 AI 可观测性平台。面向生产环境 LLM 和 Agent 系统的监控与追踪,支持 FastAPI 原生集成、日志与指标采集。4.2K+ stars。
🎯生产环境 LLM/Agent 监控、Pydantic 生态集成可观测性
Laminar
github.com/lmnr-ai/lmnr
YC S24 孵化的 AI Agent 可观测性平台——专为 AI Agent 设计的开源观测和分析工具,支持 LLM 评估、Agent 追踪和自托管部署,是 Agent 可观测性领域的新星。
🎯AI Agent 可观测性、LLM 评估追踪和自托管部署
Netdata
github.com/netdata/netdata
AI 全栈可观测性平台,78,515+ stars。实时监控服务器性能、应用指标和网络流量,内置 AI 异常检测引擎,自动发现并预警系统问题。零配置、开箱即用,每秒采集数千指标,是最轻量的基础设施监控方案。
🎯服务器与基础设施实时监控、AI 异常检测预警
Nightingale
github.com/ccfos/nightingale
开源监控告警平台,定位为「告警和监控领域的 Grafana」。支持多数据源接入、灵活的告警规则和通知策略,适合需要统一监控告警平台的 AI/MLOps 团队。
🎯AI 模型性能告警、训练任务异常通知、多集群统一监控
TensorZero
github.com/tensorzero/tensorzero
开源 LLMOps 平台,统一 LLM 网关、可观测性、评估和微调能力,提供从实验到生产的端到端基础设施,帮助企业高效管理多模型 LLM 应用。(11K+ stars)
🎯LLM 生产环境管理、多模型路由、A/B 测试和效果评估
Weights & Biases
github.com/wandb/wandb
AI 开发者平台,用于模型训练、微调、实验管理和生产部署,支持从实验到生产的全流程管理。
🎯团队级的 AI 模型实验追踪和全生命周期管理