Apple CoreAI Models
NEWApple 官方开源的端侧 AI 模型导出工具，含 Python 原语与 Swift 运行时，1K+ stars。
🎯适用场景：将 AI 模型导出为 Apple 设备端侧可运行格式
📥 收录于 2026/6/20
📊 仓库数据
📈 Stars 变化 ↑6 小时 +2· 统计区间 6/24 00:08 → 6/24 06:11（6 小时）
✅ 优点
- •Apple 官方开源
- •Swift 原生支持
- •端侧部署优化
⚠️ 限制
- •主要面向 Apple 生态
- •非 Apple 平台无法使用
🔗 相关工具
LiteRT-LM
github.com/google-ai-edge/LiteRT-LM
Google AI Edge 出品的端侧 LLM 推理框架——在移动和边缘设备上高性能部署大语言模型。5.3K+ stars，是 Google 在端侧 AI 领域的正式产品级方案
🎯移动端 AI 应用、离线 LLM 推理、边缘设备智能交互
Duix Mobile
github.com/duixcom/Duix-Mobile
实时交互式 AI 数字人项目，支持本地化部署，端到端延迟低于 1.5 秒，提供高质量的虚拟形象驱动和自然对话能力
🎯虚拟偶像互动、AI 伴侣应用、移动端实时数字人交互体验
MNN
github.com/alibaba/MNN
阿里巴巴端侧 AI 推理引擎，15K+ stars。轻量高效的移动端和边缘端推理引擎，支持 LLM 端侧部署，在 ARM、RISC-V 等平台上提供极致性能
🎯手机、IoT 等设备上的轻量模型与 LLM 端侧推理部署
Runanywhere SDKs
github.com/RunanywhereAI/runanywhere-sdks
跨平台 AI 推理工具包，支持在 Android/iOS/Web/Flutter 等端侧运行扩散模型、LLM、VLM 等多模态模型，主打本地推理。
🎯移动端/端侧 AI 推理、离线 AI 应用开发、边缘计算场景
ExecuTorch
github.com/pytorch/executorch
PyTorch 端侧 AI 推理引擎，4.6K+ stars。覆盖移动设备、嵌入式和边缘端的 PyTorch 端侧推理方案，支持模型量化、编译和优化部署
🎯将 PyTorch 模型编译部署到手机与嵌入式设备的端侧推理
Ollama
github.com/ollama/ollama
本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具
🎯生产环境模型推理服务