OpenVINO Toolkit
Intel 开源 AI 推理优化与部署工具包，10K+ stars。支持计算机视觉、深度学习、扩散模型等多种 AI 任务的推理加速和跨平台部署，是端侧 AI 推理的标准工具
🎯适用场景：AI 模型推理加速和跨平台部署
📥 收录于 2026/5/21
📊 仓库数据
📈 Stars 变化 ↑1 天 +4· 统计区间 6/11 00:29 → 6/12 00:58（1 天）
✅ 优点
- •Intel 官方维护，长期支持
- •覆盖 CPU/GPU/VPU 多平台
- •丰富的模型优化能力
- •Apache-2.0 可商用
⚠️ 限制
- •C++ 生态门槛较高
- •部分优化仅限 Intel 硬件
- •文档分散
🔗 相关工具
ONNX Models
github.com/onnx/models
ONNX 官方预训练模型集合，涵盖视觉、NLP、音频等多种模态，所有模型以 ONNX 格式提供，可直接用于跨平台部署。
🎯预训练 ONNX 模型获取——适合需要将模型部署到多种硬件平台的开发者，一次训练多端部署
Mistral Inference
github.com/mistralai/mistral-inference
Mistral 模型官方推理库，提供优化的模型服务化和推理能力。专为 Mistral 系列大语言模型设计，支持高效推理和部署，是使用 Mistral 模型开发者的核心工具链。
🎯Mistral 模型官方推理库——优化 Mistral 模型的推理和服务，适合使用 Mistral 模型的开发者
Tensorflow
github.com/tensorflow/tensorflow
全球最流行的机器学习框架之一，195K+ stars。Google 开源的端到端 ML 平台，支持 TensorFlow、Keras 等多种 API，覆盖深度学习、强化学习、移动端部署等全场景，是 AI 工程师的必备工具
🎯深度学习模型训练、移动端 AI 部署、生产环境 ML 推理服务
Prometheus
github.com/prometheus/prometheus
开源监控系统和时序数据库，CNCF 毕业项目。采用多维数据模型和 PromQL 查询语言，是云原生和 AI 基础设施监控的事实标准，可与 Grafana 无缝集成。
🎯AI 服务 GPU 使用率监控、模型推理延迟追踪、Kubernetes 集群资源监控
Ray
github.com/ray-project/ray
AI 分布式计算引擎，42K+ stars。提供核心分布式运行时和一套 AI 库，加速 ML 工作负载——包括超参数搜索、强化学习、LLM 推理服务等，是大规模 AI 训练和推理的事实标准基础设施
🎯分布式 ML 训练与推理调度、超参数搜索与强化学习
LLM Action
github.com/liguodongiot/llm-action
生成式 AI 指南，4.9K+ stars。生成式 AI 研究更新、工具和资源的一站式资源库，涵盖最新进展和实用工具
🎯生成式 AI 技术学习、LLM 训练/推理/部署实践参考