HyperDX

基于 OpenTelemetry 的 LLM 应用端到端可观测性工具。提供实时追踪、评估和指标，支持主流 LLM/框架/向量数据库。TypeScript/Python 双语言集成

🎯LLM 应用可观测性与调试评估

AI 全栈可观测性平台，78,515+ stars。实时监控服务器性能、应用指标和网络流量，内置 AI 异常检测引擎，自动发现并预警系统问题。零配置、开箱即用，每秒采集数千指标，是最轻量的基础设施监控方案。

🎯服务器与基础设施实时监控、AI 异常检测预警

应用错误追踪与性能监控平台，可用于 AI 产品的线上异常定位、接口错误聚合、性能退化排查和发布质量追踪。

🎯AI 应用上线后需要追踪异常、接口失败、前端崩溃和性能回归。

AI Agent 可观测性 SDK，1,000+ stars。Python SDK，提供 Agent 追踪、调试、评估和自托管 Dashboard

🎯AI Agent 生产环境可观测性和监控

开源监控告警平台，定位为「告警和监控领域的 Grafana」。支持多数据源接入、灵活的告警规则和通知策略，适合需要统一监控告警平台的 AI/MLOps 团队。

🎯AI 模型性能告警、训练任务异常通知、多集群统一监控

开源 LLMOps 平台，统一 LLM 网关、可观测性、评估和微调能力，提供从实验到生产的端到端基础设施，帮助企业高效管理多模型 LLM 应用。（11K+ stars）

🎯LLM 生产环境管理、多模型路由、A/B 测试和效果评估