New API

统一的 AI 模型网关,支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式,是 LLM 路由与统一接入的集中式网关方案。36K+ stars。

🎯适用场景:多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关

#ai-gateway#llm-routing#openai#claude#gemini

📥 收录于 2026/6/3

📊 仓库数据

Stars42,620
Forks9,933
语言Go
更新2026/7/18

📈 Stars 变化 1 天 +79· 统计区间 7/17 20:11 → 7/18 23:22(1 天)

优点

  • 支持主流模型格式互转
  • 统一网关降低集成成本
  • Go 实现高性能

⚠️ 限制

  • 需要自行部署维护
  • 模型适配需持续跟进更新

🔗 相关工具

One Api

开源36k+20

github.com/songquanpeng/one-api

开源 LLM API 网关与管理平台,5.1K+ stars。统一接入 OpenAI、Claude、Azure 等多家模型 API,支持密钥分发、用量统计与负载均衡

🎯多模型 API 统一接入与路由

#api#api-gateway#azure-openai-api#chatgpt+1
语言JavaScript
🍴 Forks6,745
📅 上线2023/4/22
🔄 更新2026/7/18
📥 收录2026/5/20

Apache APISIX

开源17k+1

github.com/apache/apisix

云原生 API 网关兼 AI 网关,Apache 顶级项目。支持动态路由、限流、鉴权,新增 AI Gateway 能力支持 LLM 请求的智能路由与插件扩展。16K+ stars。

🎯AI 服务 API 网关、LLM 请求智能路由、云原生微服务网关

#api-gateway#ai-gateway#云原生#kubernetes
语言Lua
🍴 Forks2,899
🔄 更新2026/7/18
📥 收录2026/6/3

InsForge

开源12k+11

github.com/InsForge/InsForge

面向 Agentic Coding 的全栈开源后端平台,为编码 Agent 提供数据库、认证、存储、计算、托管和 AI 网关,支持端到端构建全栈应用。

🎯多模型 API 统一接入与路由

#agentic-coding#backend-as-a-service#数据库#auth+1
语言TypeScript
🍴 Forks1,078
🔄 更新2026/7/18
📥 收录2026/5/11

Higress

开源8.9k+6

github.com/higress-group/higress

AI 原生 API 网关,基于 Envoy 构建。专注 LLM 服务的路由、限流和安全接入,提供开箱即用的 AI Gateway 能力,支持 OpenAI 协议兼容。8.5K+ stars。

🎯LLM 服务代理网关、AI API 安全与限流、多云模型接入

#ai-gateway#envoy#api-gateway#云原生
语言Go
🍴 Forks1,197
🔄 更新2026/7/18
📥 收录2026/6/3

Bifrost

开源6.6k+18

github.com/maximhq/bifrost

企业级 AI 网关,比 LiteLLM 快 50 倍,支持自适应负载均衡、集群模式和 GPU 推理。

🎯高性能 AI 推理网关、模型路由与负载均衡

#ai-gateway#mlops#LLMOps#推理+1
语言Go
🍴 Forks904
🔄 更新2026/7/18
📥 收录2026/6/3

DeepClaude

开源2.9k

github.com/erlichliu/deepclaude

将 DeepSeek R1 和 Claude 3.7 Sonnet 结合的 AI 推理代理,提供 OpenAI 兼容 API,支持流式和非流式输出。

🎯通过组合多个 LLM 获得更好的 AI 输出质量

#deepseek#claude#llm-proxy#openai-api+1
语言Python
🍴 Forks497
🔄 更新2026/7/17
📥 收录2026/6/10