Qwen3

数百模型/提供商一键匹配硬件。帮助用户根据硬件配置和使用场景快速找到最适合的 LLM 模型，优化部署成本和性能。30310 stars。

🎯根据硬件配置快速匹配最优 LLM 模型

阿里通义团队开源的端到端多模态模型，支持理解文本、音频、视觉、视频，并执行实时语音生成。

🎯多模态理解和生成的端到端推理，支持实时语音交互

本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具

🎯生产环境模型推理服务

高性能 C++ LLM 推理引擎，支持在 CPU/GPU 上运行各种开源大语言模型，GGUF 量化格式首创者，本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换

深度求索开源 MoE 架构大语言模型，671B 参数但仅激活 37B，推理成本低且性能对标 GPT-4 级别，支持多语言

🎯高性价比 LLM 部署、中文场景优化、MoE 架构研究

开源本地 LLM 聊天应用和推理框架，提供一键安装的桌面应用和 Python 生态，支持多种开源模型本地运行

🎯本地 AI 聊天、隐私敏感的文档问答、离线 AI 助手