Laminar
YC S24 孵化的 AI Agent 可观测性平台——专为 AI Agent 设计的开源观测和分析工具,支持 LLM 评估、Agent 追踪和自托管部署,是 Agent 可观测性领域的新星。
🎯适用场景:AI Agent 可观测性、LLM 评估追踪和自托管部署
📊 仓库数据
✅ 优点
- •YC S24 孵化器项目质量有保障
- •专为 AI Agent 设计非通用 APM 替代
- •支持自托管部署保护数据隐私
- •Rust + TypeScript 高性能架构
⚠️ 限制
- •项目较新功能仍在持续完善中
- •大规模生产用例积累不足
- •社区文档相对较少
🔗 相关工具
langfuse
github.com/langfuse/langfuse
🪢 开源 LLM 工程平台,28K+ stars。提供 LLM 可观测性、指标监控、评估、提示词管理、playground 等功能,是 LLM 应用开发和调试的基础设施
🎯LLM 应用链路追踪、Prompt 调试与评估、生产环境可观测性
TensorZero
github.com/tensorzero/tensorzero
开源 LLMOps 平台,统一 LLM 网关、可观测性、评估和微调能力,提供从实验到生产的端到端基础设施,帮助企业高效管理多模型 LLM 应用。(11K+ stars)
🎯LLM 生产环境管理、多模型路由、A/B 测试和效果评估
phoenix
github.com/arize-ai/phoenix
AI 可观测性与评估平台,9750 stars。提供 LLM 应用的可观测性、评估和调试能力,帮助监控 AI 系统性能
🎯LLM/RAG 链路追踪、Embedding 质量评估、生产监控
Helicone
github.com/Helicone/helicone
开源 LLM 可观测性平台,一行代码即可监控、评估和实验。YC W23 孵化,支持 LangChain、LlamaIndex 等主流框架的追踪与成本分析。5.7K+ stars。
🎯LLM 应用可观测性、成本追踪、A/B 实验评估
Logfire
github.com/pydantic/logfire
Pydantic 团队打造的 AI 可观测性平台。面向生产环境 LLM 和 Agent 系统的监控与追踪,支持 FastAPI 原生集成、日志与指标采集。4.2K+ stars。
🎯生产环境 LLM/Agent 监控、Pydantic 生态集成可观测性
OpenLIT
github.com/openlit/openlit
开源 AI 工程平台,OpenTelemetry 原生 LLM 可观测性。支持 GPU 监控、Guardrails、评估、提示管理,集成 50+ LLM 供应商。2.4K+ stars。
🎯AI 工程全栈可观测、GPU 监控、LLM 供应商统一监控