Thunderbolt

高性能 C++ LLM 推理引擎，支持在 CPU/GPU 上运行各种开源大语言模型，GGUF 量化格式首创者，本地 AI 生态核心基础设施

🎯本地 LLM 部署、端侧 AI 推理、离线 AI 应用、模型量化和格式转换

开源本地 LLM 聊天应用和推理框架，提供一键安装的桌面应用和 Python 生态，支持多种开源模型本地运行

🎯本地 AI 聊天、隐私敏感的文档问答、离线 AI 助手

多模型免费访问平台，66,037+ stars。提供多种大语言模型的免费访问接口，包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案

🎯本地模型运行与推理服务

支持任意 LLM 的深度研究工具——可使用任何大语言模型进行自主深度研究。支持 SSE API 和 MCP 服务器，兼容 OpenAI、Anthropic、Gemini、DeepSeek、Grok 和 Ollama。4.6K+ stars

🎯自主深度研究、竞品调研、技术文档自动搜集

Deta 出品的个人 AI 笔记本——组织文件和网页并自动生成笔记。支持 Claude、Gemini、DeepSeek 和本地 Ollama 模型，数据完全本地或开源存储。3.4K+ stars，是个人知识管理+AI 的新选择

🎯个人知识管理与笔记、网页信息整理、本地 AI 研究工作台

本地开源模型的 AI Agent 运行时。混合推理架构（Bionic Inference）支持工具调用、多轮对话和上下文管理，将本地模型转化为完整的 Agent 运行环境。

🎯本地开源模型 Agent 化——工具调用、多轮对话、上下文管理