OpenRouter
统一接入多家大模型 API 的模型网关,适合在同一套应用中比较模型、做路由切换、控制成本并保留 OpenAI 兼容调用方式。
🎯适用场景:需要在一个 AI 应用中灵活切换 GPT、Claude、Gemini、开源模型等多模型供应商时使用。
✅ 优点
- •统一接入多家模型供应商,降低迁移成本
- •适合做模型对比、兜底路由和成本治理
- •API 形态接近 OpenAI 生态,工程接入成本低
⚠️ 限制
- •核心能力依赖第三方模型供应商稳定性
- •生产环境需要额外关注密钥、限流和账单治理
🔗 相关工具
LiteLLM
github.com/BerriAI/litellm
100+ LLM API 统一 SDK,48K+ stars。统一的 LLM API 代理和 SDK,支持 OpenAI、Claude、Gemini 等所有主流模型,一个接口调用所有模型,是 AI 编码的瑞士军刀
🎯多模型 API 统一接入与路由
New API
github.com/QuantumNous/new-api
统一的 AI 模型网关,支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式,是 LLM 路由与统一接入的集中式网关方案。36K+ stars。
🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关
One Api
github.com/songquanpeng/one-api
开源 LLM API 网关与管理平台,5.1K+ stars。统一接入 OpenAI、Claude、Azure 等多家模型 API,支持密钥分发、用量统计与负载均衡
🎯多模型 API 统一接入与路由
Go Zero
github.com/zeromicro/go-zero
一款云原生 Go 微服务框架,内置代码生成 CLI 工具,支持 RPC/REST/gRPC 等多种协议,提供高性能服务治理能力,适合构建大规模分布式系统。(33K+ stars)
🎯微服务架构开发、分布式系统构建、高性能 API 服务开发
Apache APISIX
github.com/apache/apisix
云原生 API 网关兼 AI 网关,Apache 顶级项目。支持动态路由、限流、鉴权,新增 AI Gateway 能力支持 LLM 请求的智能路由与插件扩展。16K+ stars。
🎯AI 服务 API 网关、LLM 请求智能路由、云原生微服务网关
InsForge
github.com/InsForge/InsForge
面向 Agentic Coding 的全栈开源后端平台,为编码 Agent 提供数据库、认证、存储、计算、托管和 AI 网关,支持端到端构建全栈应用。
🎯多模型 API 统一接入与路由
