FedML
统一可扩展的机器学习库，支持大规模分布式训练、模型服务和联邦学习，内置跨云 GPU 调度器。
🎯适用场景：大规模分布式 AI 训练和联邦学习场景
📥 收录于 2026/6/3
📊 仓库数据
✅ 优点
- •支持联邦学习和分布式训练
- •跨云 GPU 调度
- •开源社区活跃
⚠️ 限制
- •学习曲线较陡
- •联邦学习场景较为专业
- •大规模部署需要专业运维
🔗 相关工具
Qbot
github.com/UFund-Me/Qbot
AI 自动量化交易机器人，支持完全本地部署。集成深度学习模型进行投资策略研究，支持回测、实盘交易和多种加密货币及股票市场的自动化交易，提供在线文档和量化交易研究平台。十七点五 K+ stars。
🎯AI 驱动量化交易策略研究、自动交易机器人部署、加密货币投资分析
Olares
github.com/beclab/Olares
开源个人云方案，帮助用户重新掌控自己的数据，内置 AI Agent 支持，适合家庭自动化和个人数据隐私场景。
🎯搭建个人私有云并部署本地 AI 服务
Ollama
github.com/ollama/ollama
本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具
🎯生产环境模型推理服务
gpt4free
github.com/xtekky/gpt4free
多模型免费访问平台，66,037+ stars。提供多种大语言模型的免费访问接口，包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案
🎯本地模型运行与推理服务
LocalAI
github.com/mudler/LocalAI
开源本地 AI 引擎，45,607+ stars。完全兼容 OpenAI API 的本地 AI 推理引擎，支持 LLM、语音识别、图像生成等多种模型，数据完全本地处理保护隐私
🎯生产环境模型推理服务、多模态内容理解与生成
New API
github.com/QuantumNous/new-api
统一的 AI 模型网关，支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式，是 LLM 路由与统一接入的集中式网关方案。36K+ stars。
🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关