VisionPsy-Nano

实时交互式 AI 数字人项目，支持本地化部署，端到端延迟低于 1.5 秒，提供高质量的虚拟形象驱动和自然对话能力

🎯虚拟偶像互动、AI 伴侣应用、移动端实时数字人交互体验

Google AI Edge 出品的端侧 LLM 推理框架——在移动和边缘设备上高性能部署大语言模型。5.3K+ stars，是 Google 在端侧 AI 领域的正式产品级方案

🎯移动端 AI 应用、离线 LLM 推理、边缘设备智能交互

AI 原生 Markdown 编辑器与 LLM Wiki，1,397 stars。支持 agent-skills、知识库管理、第二大脑构建，TypeScript 构建，开源。

🎯AI 原生知识库与文档管理

Apple 的端侧机器学习框架，用于在 iPhone、iPad、Mac 等设备上部署和加速模型推理，适合隐私敏感和低延迟场景。

🎯在 iOS、macOS 或 iPadOS 应用中部署本地 AI 推理能力。

本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具

🎯生产环境模型推理服务

高性能 C++ LLM 推理引擎，支持在 CPU/GPU 上运行各种开源大语言模型，GGUF 量化格式首创者，本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换