Langtrace
基于 OpenTelemetry 的 LLM 应用端到端可观测性工具。提供实时追踪、评估和指标，支持主流 LLM/框架/向量数据库。TypeScript/Python 双语言集成
🎯适用场景：LLM 应用可观测性与调试评估
📥 收录于 2026/5/29
📊 仓库数据
✅ 优点
- •OpenTelemetry 标准
- •双语言集成
- •评估与追踪全覆盖
⚠️ 限制
- •相对较新项目
- •大规模部署经验待积累
🔗 相关工具
HyperDX
github.com/hyperdxio/hyperdx
开源可观测性平台，统一整合日志、指标、追踪、会话回放和错误追踪。基于 OpenTelemetry 标准，适合需要全栈可观测性的 AI 应用团队，一站式排查线上问题。
🎯AI 应用全栈可观测性、用户会话回放辅助调试、日志与追踪关联分析
Grafana
github.com/grafana/grafana
开源可观测性和数据可视化平台。支持可视化指标、日志、追踪等多源数据，兼容 Prometheus、Loki、Elasticsearch、InfluxDB 等后端。是 MLOps 团队监控模型和基础设施的首选仪表盘工具。
🎯MLOps 模型监控仪表盘、AI 服务指标可视化、训练任务实时追踪
netron
github.com/lutzroeder/netron
神经网络可视化工具，5K+ stars。神经网络、深度学习和机器学习模型的可视化工具，支持多种模型格式
🎯神经网络模型结构可视化、多格式模型调试分析
h4cker
github.com/The-Art-of-Hacking/h4cker
由安全专家 Omar Santos 维护的综合性网络安全资源库，涵盖道德黑客、漏洞赏金、数字取证和事件响应等数千条学习资源，是安全从业者的必备参考。（26K+ stars）
🎯网络安全学习、渗透测试资源查找、数字取证参考、AI 安全研究
mlflow
github.com/mlflow/mlflow
开源 AI 工程平台，26K+ stars。面向 Agent、LLM 和 ML 模型的端到端生命周期管理平台，支持实验追踪、模型注册、部署和监控
🎯ML/LLM 实验追踪、模型版本注册与部署、Agent 生命周期管理
onnx
github.com/onnx/onnx
开放神经网络交换格式（ONNX），21K+ stars。跨框架的 ML 模型表示标准，支持 PyTorch、TensorFlow 等框架间模型转换与互操作，是模型部署生态的基础规范
🎯跨框架模型格式转换、ONNX 标准模型交换与互操作