Duix Mobile

实时交互式 AI 数字人项目,支持本地化部署,端到端延迟低于 1.5 秒,提供高质量的虚拟形象驱动和自然对话能力

🎯适用场景:虚拟偶像互动、AI 伴侣应用、移动端实时数字人交互体验

#digital-human#avatar#实时#on-device

📥 收录于 2026/6/4

📊 仓库数据

Stars8,140
Forks1,202
语言C++
更新2026/7/18

📈 Stars 变化 1 天 +3· 统计区间 7/17 20:11 → 7/18 23:22(1 天)

优点

  • 延迟低于 1.5 秒实时交互体验流畅
  • 支持本地部署保障数据隐私和安全

⚠️ 限制

  • C++ 实现移动端集成有一定技术门槛
  • 数字人形象定制需要额外 3D 资源支持

🔗 相关工具

LiteRT-LM

开源5.9k+16

github.com/google-ai-edge/LiteRT-LM

Google AI Edge 出品的端侧 LLM 推理框架——在移动和边缘设备上高性能部署大语言模型。5.3K+ stars,是 Google 在端侧 AI 领域的正式产品级方案

🎯移动端 AI 应用、离线 LLM 推理、边缘设备智能交互

#端侧 AI#Google#LLM 推理#移动设备+1
语言C++
🍴 Forks635
🔄 更新2026/7/18
📥 收录2026/6/2

Open Knowledge

开源3.0k+25

github.com/inkeep/open-knowledge

AI 原生 Markdown 编辑器与 LLM Wiki,1,397 stars。支持 agent-skills、知识库管理、第二大脑构建,TypeScript 构建,开源。

🎯AI 原生知识库与文档管理

#知识库#Markdown#LLM Wiki#第二大脑+1
语言TypeScript
🍴 Forks191
📅 上线2026/6/3
🔄 更新2026/7/18
📥 收录2026/6/28

Core ML

免费

developer.apple.com/machine-learning/core-ml/

Apple 的端侧机器学习框架,用于在 iPhone、iPad、Mac 等设备上部署和加速模型推理,适合隐私敏感和低延迟场景。

🎯在 iOS、macOS 或 iPadOS 应用中部署本地 AI 推理能力。

#端侧 AI#Apple#模型部署#移动端推理+1
📥 收录2026/7/12

Ollama

开源176k+76

github.com/ollama/ollama

本地运行开源大语言模型的最简方案,支持 Llama、Qwen、DeepSeek 等主流模型,一键安装、自动下载模型、提供 OpenAI 兼容 API,是 AI 开发者本地部署的首选工具

🎯生产环境模型推理服务

#本地部署#开源模型#API
语言Go
🍴 Forks17,012
📅 上线2023/6/27
🔄 更新2026/7/18
📥 收录2026/4/13

llama.cpp

开源121k+131

github.com/ggml-org/llama.cpp

高性能 C++ LLM 推理引擎,支持在 CPU/GPU 上运行各种开源大语言模型,GGUF 量化格式首创者,本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换

#推理#大语言模型#本地 AI#gguf+1
语言C++
🍴 Forks20,727
🔄 更新2026/7/18
📥 收录2026/6/6

DeepSeek-V3

开源104k+7

github.com/deepseek-ai/DeepSeek-V3

深度求索开源 MoE 架构大语言模型,671B 参数但仅激活 37B,推理成本低且性能对标 GPT-4 级别,支持多语言

🎯高性价比 LLM 部署、中文场景优化、MoE 架构研究

#moe#大语言模型#open-weight#chinese+1
语言Python
🍴 Forks16,713
🔄 更新2026/7/18
📥 收录2026/6/6