llamafile
用单个可执行文件分发和运行大型语言模型，支持跨平台本地推理的轻量级方案，无需复杂环境配置即可快速启动 AI 模型
🎯适用场景：本地运行 LLM 的轻量级方案
📥 收录于 2026/5/31
📊 仓库数据
📈 Stars 变化 ↑13 小时 +10· 统计区间 7/13 23:54 → 7/14 13:02（13 小时）
✅ 优点
- •单个文件即可运行
- •跨平台支持
⚠️ 限制
- •模型加载速度较慢
- •不支持所有模型格式
🔗 相关工具
llama.cpp
github.com/ggml-org/llama.cpp
高性能 C++ LLM 推理引擎，支持在 CPU/GPU 上运行各种开源大语言模型，GGUF 量化格式首创者，本地 AI 生态核心基础设施
🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换
Runanywhere SDKs
github.com/RunanywhereAI/runanywhere-sdks
跨平台 AI 推理工具包，支持在 Android/iOS/Web/Flutter 等端侧运行扩散模型、LLM、VLM 等多模态模型，主打本地推理。
🎯移动端/端侧 AI 推理、离线 AI 应用开发、边缘计算场景
node-llama-cpp
github.com/withcatai/node-llama-cpp
基于 llama.cpp 的 Node.js 本地 AI 模型运行库，支持 JSON schema 输出约束、函数调用和 GPU 加速
🎯Node.js 项目需要本地运行 LLM 时的高性能方案
kvpress
github.com/NVIDIA/kvpress
KVPress 是 NVIDIA 开源的 KV Cache 压缩工具，通过智能压缩技术减少大语言模型推理时的显存占用。支持多种压缩算法，显著提升长上下文处理能力。
🎯LLM 推理优化、KV Cache 压缩、长上下文处理
Ollama
github.com/ollama/ollama
本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具
🎯生产环境模型推理服务
DeepSeek-V3
github.com/deepseek-ai/DeepSeek-V3
深度求索开源 MoE 架构大语言模型，671B 参数但仅激活 37B，推理成本低且性能对标 GPT-4 级别，支持多语言
🎯高性价比 LLM 部署、中文场景优化、MoE 架构研究
