Personal AI Infrastructure

开源LLM 运行时 › 本地运行时⭐ 17k↑+9

Daniel Miessler 的个人 AI 基础设施框架，帮助你构建、部署和管理个人 AI 生态系统，涵盖本地模型、AI 代理、安全配置和工作流自动化

🎯适用场景：个人 AI 环境搭建、本地模型部署、AI 安全配置指南

#personal-ai#基础设施#自动化#自托管#ai-setup

📥 收录于 2026/6/7

访问工具

📊 仓库数据

Stars16,902

Forks2,295

语言TypeScript

更新2026/7/24

📈 Stars 变化 ↑11 小时 +9· 统计区间 7/24 12:26 → 7/24 23:22（11 小时）

✅ 优点

•14k+ stars 本周 +63 stars
•知名安全专家出品
•涵盖完整的个人 AI 生态搭建
•注重安全和隐私

⚠️ 限制

•偏技术向，需要一定基础
•部分内容可能过时

🔗 相关工具

Open Notebook

开源⭐ 36k↑+21

github.com/lfnovo/open-notebook

开源的 NotebookLM 替代品，支持 18+ AI 提供商（OpenAI/Anthropic/Ollama/Qwen 等），支持播客生成、内容转换、完整 REST API，支持 Docker 本地部署

🎯私人 AI 学习笔记、播客内容生成、多模型学习助手

#notebook#ai-assistant#podcast-generation#开源+1

Ollama

开源⭐ 177k↑+35

github.com/ollama/ollama

本地运行开源大语言模型的最简方案，支持 Llama、Qwen、DeepSeek 等主流模型，一键安装、自动下载模型、提供 OpenAI 兼容 API，是 AI 开发者本地部署的首选工具

🎯生产环境模型推理服务

llama.cpp

开源⭐ 121k↑+56

github.com/ggml-org/llama.cpp

高性能 C++ LLM 推理引擎，支持在 CPU/GPU 上运行各种开源大语言模型，GGUF 量化格式首创者，本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换

#推理#大语言模型#本地 AI#gguf+1

DeepSeek-V3

开源⭐ 104k↑+4

github.com/deepseek-ai/DeepSeek-V3

深度求索开源 MoE 架构大语言模型，671B 参数但仅激活 37B，推理成本低且性能对标 GPT-4 级别，支持多语言

🎯高性价比 LLM 部署、中文场景优化、MoE 架构研究

#moe#大语言模型#open-weight#chinese+1

GPT4All

开源⭐ 77k↑+1

github.com/nomic-ai/gpt4all

开源本地 LLM 聊天应用和推理框架，提供一键安装的桌面应用和 Python 生态，支持多种开源模型本地运行

🎯本地 AI 聊天、隐私敏感的文档问答、离线 AI 助手

#chat#本地 AI#大语言模型#桌面端+1

GPT4Free

开源⭐ 66k↑+5

github.com/xtekky/gpt4free

多模型免费访问平台，66,037+ stars。提供多种大语言模型的免费访问接口，包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案

🎯本地模型运行与推理服务