OpenLLMetry
基于 OpenTelemetry 的开源 LLM 可观测性工具，为 GenAI 应用提供追踪、指标和日志能力。
🎯适用场景：为 LLM 应用提供生产级的追踪和监控能力
📥 收录于 2026/6/10
📊 仓库数据
✅ 优点
- •基于 OpenTelemetry 标准，兼容主流可观测性平台
- •自动集成多种 LLM 框架（LangChain、OpenAI 等）
- •活跃的开源社区
⚠️ 限制
- •需要额外部署可观测性后端（如 Jaeger）
- •Python 生态为主
🔗 相关工具
HyperDX
github.com/hyperdxio/hyperdx
开源可观测性平台，统一整合日志、指标、追踪、会话回放和错误追踪。基于 OpenTelemetry 标准，适合需要全栈可观测性的 AI 应用团队，一站式排查线上问题。
🎯AI 应用全栈可观测性、用户会话回放辅助调试、日志与追踪关联分析
Langtrace
github.com/Scale3-Labs/langtrace
基于 OpenTelemetry 的 LLM 应用端到端可观测性工具。提供实时追踪、评估和指标，支持主流 LLM/框架/向量数据库。TypeScript/Python 双语言集成
🎯LLM 应用可观测性与调试评估
homelab-monitor
github.com/SikamikanikoBG/homelab-monitor
即插即用的 Homelab 仪表盘，单容器部署——GPU、本地 AI VRAM、Docker、systemd、主机健康状态，内置只读 MCP Server。
🎯Homelab 爱好者监控服务器状态，AI Agent 查询硬件资源
Netdata
github.com/netdata/netdata
AI 全栈可观测性平台，78,515+ stars。实时监控服务器性能、应用指标和网络流量，内置 AI 异常检测引擎，自动发现并预警系统问题。零配置、开箱即用，每秒采集数千指标，是最轻量的基础设施监控方案。
🎯服务器与基础设施实时监控、AI 异常检测预警
Nightingale
github.com/ccfos/nightingale
开源监控告警平台，定位为「告警和监控领域的 Grafana」。支持多数据源接入、灵活的告警规则和通知策略，适合需要统一监控告警平台的 AI/MLOps 团队。
🎯AI 模型性能告警、训练任务异常通知、多集群统一监控
TensorZero
github.com/tensorzero/tensorzero
开源 LLMOps 平台，统一 LLM 网关、可观测性、评估和微调能力，提供从实验到生产的端到端基础设施，帮助企业高效管理多模型 LLM 应用。（11K+ stars）
🎯LLM 生产环境管理、多模型路由、A/B 测试和效果评估