netron

高性能神经网络推理框架，4.6K+ stars。针对移动端优化的高性能神经网络推理框架，腾讯开源的移动端深度学习推理方案

开源 AI 工程平台，26K+ stars。面向 Agent、LLM 和 ML 模型的端到端生命周期管理平台，支持实验追踪、模型注册、部署和监控

ONNX 推理加速引擎，4.4K+ stars。ONNX Runtime 跨平台高性能 ML 推理和训练加速器，支持多种硬件后端

高吞吐 LLM 推理引擎，77,418+ stars。采用 PagedAttention 显存优化技术，吞吐量比 HuggingFace Transformers 高 24 倍，是生产环境部署大模型推理的首选方案，支持 OpenAI 兼容 API

🎯 生产环境 LLM 推理服务、高并发 API 服务、模型部署优化

AI 全栈可观测性平台，78,515+ stars。实时监控服务器性能、应用指标和网络流量，内置 AI 异常检测引擎，自动发现并预警系统问题。零配置、开箱即用，每秒采集数千指标，是最轻量的基础设施监控方案。

🎯 服务器监控、应用性能观测、AI 驱动的异常预警、基础设施运维

CLI 代理层，减少 60-90% 的 LLM token 消耗。Rust 编写的单二进制文件，零依赖，支持 Claude Code、Codex、Cursor 等主流 AI 编码工具。通过本地代理缓存和智能去重，大幅降低日常开发中的 token 成本

🎯 AI 编码工具 token 成本优化、日常开发中的智能缓存