onnx

神经网络可视化工具，5K+ stars。神经网络、深度学习和机器学习模型的可视化工具，支持多种模型格式

开源 AI 工程平台，26K+ stars。面向 Agent、LLM 和 ML 模型的端到端生命周期管理平台，支持实验追踪、模型注册、部署和监控

高性能神经网络推理框架，4.6K+ stars。针对移动端优化的高性能神经网络推理框架，腾讯开源的移动端深度学习推理方案

ONNX 推理加速引擎，4.4K+ stars。ONNX Runtime 跨平台高性能 ML 推理和训练加速器，支持多种硬件后端

高吞吐 LLM 推理引擎，77,418+ stars。采用 PagedAttention 显存优化技术，吞吐量比 HuggingFace Transformers 高 24 倍，是生产环境部署大模型推理的首选方案，支持 OpenAI 兼容 API

🎯 生产环境 LLM 推理服务、高并发 API 服务、模型部署优化

AI 全栈可观测性平台，78,515+ stars。实时监控服务器性能、应用指标和网络流量，内置 AI 异常检测引擎，自动发现并预警系统问题。零配置、开箱即用，每秒采集数千指标，是最轻量的基础设施监控方案。

🎯 服务器监控、应用性能观测、AI 驱动的异常预警、基础设施运维