Tensorflow
全球最流行的机器学习框架之一,195K+ stars。Google 开源的端到端 ML 平台,支持 TensorFlow、Keras 等多种 API,覆盖深度学习、强化学习、移动端部署等全场景,是 AI 工程师的必备工具
🎯适用场景:深度学习模型训练、移动端 AI 部署、生产环境 ML 推理服务
📊 仓库数据
📈 Stars 变化 ↑7 小时 +7· 统计区间 6/8 18:12 → 6/9 00:49(7 小时)
✅ 优点
- •生态最完善文档最全面
- •支持训练推理部署全场景
- •Keras 高级 API 开发效率高
- •移动端 TensorFlow Lite 支持广泛
⚠️ 限制
- •静态图调试体验不如 PyTorch
- •API 版本迁移有兼容问题
- •学习曲线较陡入门成本高
🔗 相关工具
Jetson Inference
github.com/dusty-nv/jetson-inference
Jetson AI 推理指南,8863 stars。Hello AI World 深度学习推理网络和深度视觉原型的部署指南,针对 NVIDIA Jetson 平台
🎯机器人控制、仿真与边缘部署
ONNX Models
github.com/onnx/models
ONNX 官方预训练模型集合,涵盖视觉、NLP、音频等多种模态,所有模型以 ONNX 格式提供,可直接用于跨平台部署。
🎯预训练 ONNX 模型获取——适合需要将模型部署到多种硬件平台的开发者,一次训练多端部署
Prometheus
github.com/prometheus/prometheus
开源监控系统和时序数据库,CNCF 毕业项目。采用多维数据模型和 PromQL 查询语言,是云原生和 AI 基础设施监控的事实标准,可与 Grafana 无缝集成。
🎯AI 服务 GPU 使用率监控、模型推理延迟追踪、Kubernetes 集群资源监控
Ray
github.com/ray-project/ray
AI 分布式计算引擎,42K+ stars。提供核心分布式运行时和一套 AI 库,加速 ML 工作负载——包括超参数搜索、强化学习、LLM 推理服务等,是大规模 AI 训练和推理的事实标准基础设施
🎯分布式 ML 训练与推理调度、超参数搜索与强化学习
LLM Action
github.com/liguodongiot/llm-action
生成式 AI 指南,4.9K+ stars。生成式 AI 研究更新、工具和资源的一站式资源库,涵盖最新进展和实用工具
🎯生成式 AI 技术学习、LLM 训练/推理/部署实践参考
ncnn
github.com/Tencent/ncnn
高性能神经网络推理框架,4.6K+ stars。针对移动端优化的高性能神经网络推理框架,腾讯开源的移动端深度学习推理方案
🎯移动端/嵌入式高性能神经网络推理部署