Thunderbolt

Thunderbird 出品的本地 AI 平台——「AI You Control」。核心理念是消除厂商锁定:用户自主选择模型、完全掌控数据、无需依赖云端 API。支持多模型统一接口(OpenAI/Anthropic/本地模型),数据完全本地存储,提供 Web UI 和 API。4,074 stars,周增 2,799 星,是本周增速最快的本地 AI 项目。适合对数据隐私有严格要求的团队和个人。

🎯适用场景:多模型 API 统一接入与路由

#本地 AI#模型选择#数据隐私#消除锁定#多模型

📥 收录于 2026/4/25

📊 仓库数据

Stars4,744
Forks319
语言TypeScript
上线2026/1/20
更新2026/7/18

📈 Stars 变化 14 小时 +1· 统计区间 7/17 20:11 → 7/18 10:10(14 小时)

优点

  • 完全本地部署,数据零泄露
  • 支持任意模型(OpenAI / Anthropic / 本地)
  • 消除厂商锁定,随时切换提供商
  • Web UI + API,使用灵活
  • 周增 2,799 星,社区快速增长

⚠️ 限制

  • 本地模型需要足够的 GPU 资源
  • 高级功能需要一定运维成本
  • 文档仍在完善中

🔗 相关工具

llama.cpp

开源121k+67

github.com/ggml-org/llama.cpp

高性能 C++ LLM 推理引擎,支持在 CPU/GPU 上运行各种开源大语言模型,GGUF 量化格式首创者,本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换

#推理#大语言模型#本地 AI#gguf+1
语言C++
🍴 Forks20,708
🔄 更新2026/7/18
📥 收录2026/6/6

GPT4All

开源77k-2

github.com/nomic-ai/gpt4all

开源本地 LLM 聊天应用和推理框架,提供一键安装的桌面应用和 Python 生态,支持多种开源模型本地运行

🎯本地 AI 聊天、隐私敏感的文档问答、离线 AI 助手

#chat#本地 AI#大语言模型#桌面端+1
语言C++
🍴 Forks8,302
🔄 更新2026/7/18
📥 收录2026/6/6

GPT4Free

开源66k+1

github.com/xtekky/gpt4free

多模型免费访问平台,66,037+ stars。提供多种大语言模型的免费访问接口,包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案

🎯本地模型运行与推理服务

#免费模型#API聚合#多模型#开源
语言Python
🍴 Forks13,531
📅 上线2023/3/30
🔄 更新2026/7/18
📥 收录2026/4/20

Deep Research

开源4.6k+2

github.com/u14app/deep-research

支持任意 LLM 的深度研究工具——可使用任何大语言模型进行自主深度研究。支持 SSE API 和 MCP 服务器,兼容 OpenAI、Anthropic、Gemini、DeepSeek、Grok 和 Ollama。4.6K+ stars

🎯自主深度研究、竞品调研、技术文档自动搜集

#深度研究#多模型#MCP 服务器#SSE API+1
语言JavaScript
🍴 Forks1,056
🔄 更新2026/7/18
📥 收录2026/6/2

Surf

开源3.5k+2

github.com/deta/surf

Deta 出品的个人 AI 笔记本——组织文件和网页并自动生成笔记。支持 Claude、Gemini、DeepSeek 和本地 Ollama 模型,数据完全本地或开源存储。3.4K+ stars,是个人知识管理+AI 的新选择

🎯个人知识管理与笔记、网页信息整理、本地 AI 研究工作台

#个人 AI#知识管理#笔记生成#本地部署+1
语言TypeScript
🍴 Forks255
🔄 更新2026/7/18
📥 收录2026/6/2

LM Studio Bionic

免费

lmstudio.ai/blog/lm-studio-bionic

本地开源模型的 AI Agent 运行时。混合推理架构(Bionic Inference)支持工具调用、多轮对话和上下文管理,将本地模型转化为完整的 Agent 运行环境。

🎯本地开源模型 Agent 化——工具调用、多轮对话、上下文管理

#本地 AI#Agent 运行时#开源模型#工具调用+1
📥 收录2026/7/18