Ollama
本地运行开源大语言模型的最简方案,支持 Llama、Qwen、DeepSeek 等主流模型,一键安装、自动下载模型、提供 OpenAI 兼容 API,是 AI 开发者本地部署的首选工具
🎯适用场景:生产环境模型推理服务
#本地部署#开源模型#API
📊 仓库数据
Stars178,363
Forks17,377
语言Go
上线2023/6/27
更新2026/8/13
📈 Stars 变化 ↑1 天 +78· 统计区间 8/12 03:47 → 8/13 04:33(1 天)
✅ 优点
- •一键安装极简体验
- •支持众多开源模型
- •OpenAI 兼容 API
- •本地运行数据隐私安全
⚠️ 限制
- •需要较好 GPU 才能运行大模型
- •显存要求高
- •不如云端模型能力强
