Prometheus

开源 AIOps 和告警管理平台。通过 AI 驱动的事件关联和根因分析，帮助运维团队减少告警疲劳。支持整合多种监控工具（Prometheus、Datadog、PagerDuty 等）的告警到统一平台。

🎯AI 服务多源告警聚合、自动告警降噪、AIOps 工作流自动化

面向开发者的自动化状态页工具，支持 HTTP/TCP/ICMP 等多种健康检查，内置告警和事件管理。轻量级设计，适合小团队监控 AI 服务和 API 的可用性。

🎯AI API 端点健康检查、模型推理服务可用性监控、对外服务状态页

全球最流行的机器学习框架之一，195K+ stars。Google 开源的端到端 ML 平台，支持 TensorFlow、Keras 等多种 API，覆盖深度学习、强化学习、移动端部署等全场景，是 AI 工程师的必备工具

🎯深度学习模型训练、移动端 AI 部署、生产环境 ML 推理服务

AI 分布式计算引擎，42K+ stars。提供核心分布式运行时和一套 AI 库，加速 ML 工作负载——包括超参数搜索、强化学习、LLM 推理服务等，是大规模 AI 训练和推理的事实标准基础设施

🎯分布式 ML 训练与推理调度、超参数搜索与强化学习

纯 C 零依赖推理引擎，可在 25GB RAM 消费级机器上运行 GLM-5.2 744B MoE 模型。通过 per-layer LRU cache 从磁盘流式加载 21,504 个路由专家（~370GB），仅保持密集部分（~9.9GB int4）在内存中。Apple M5 Max 128GB 可达 ~1 tok/s。Apache 2.0 许可。

🎯在消费级硬件上本地运行 744B 参数 MoE 模型——无需 GPU 集群

生成式 AI 指南，4.9K+ stars。生成式 AI 研究更新、工具和资源的一站式资源库，涵盖最新进展和实用工具

🎯生成式 AI 技术学习、LLM 训练/推理/部署实践参考