One Api
开源 LLM API 网关与管理平台,5.1K+ stars。统一接入 OpenAI、Claude、Azure 等多家模型 API,支持密钥分发、用量统计与负载均衡
🎯适用场景:多模型 API 统一接入与路由
📊 仓库数据
📈 Stars 变化 ↑12 小时 +16· 统计区间 7/10 12:08 → 7/11 00:11(12 小时)
✅ 优点
- •多模态输入输出支持
- •兼容主流大模型
- •统一多模型 API 接入
- •实时语音/视频交互
- •34K+ stars 社区认可
⚠️ 限制
- •需要 Node.js 环境
- •API 变更需跟进版本升级
- •文档与社区支持因项目而异
🔗 相关工具
New API
github.com/QuantumNous/new-api
统一的 AI 模型网关,支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式,是 LLM 路由与统一接入的集中式网关方案。36K+ stars。
🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关
Apache APISIX
github.com/apache/apisix
云原生 API 网关兼 AI 网关,Apache 顶级项目。支持动态路由、限流、鉴权,新增 AI Gateway 能力支持 LLM 请求的智能路由与插件扩展。16K+ stars。
🎯AI 服务 API 网关、LLM 请求智能路由、云原生微服务网关
Higress
github.com/higress-group/higress
AI 原生 API 网关,基于 Envoy 构建。专注 LLM 服务的路由、限流和安全接入,提供开箱即用的 AI Gateway 能力,支持 OpenAI 协议兼容。8.5K+ stars。
🎯LLM 服务代理网关、AI API 安全与限流、多云模型接入
DeepClaude
github.com/erlichliu/deepclaude
将 DeepSeek R1 和 Claude 3.7 Sonnet 结合的 AI 推理代理,提供 OpenAI 兼容 API,支持流式和非流式输出。
🎯通过组合多个 LLM 获得更好的 AI 输出质量
LiteLLM
github.com/BerriAI/litellm
100+ LLM API 统一 SDK,48K+ stars。统一的 LLM API 代理和 SDK,支持 OpenAI、Claude、Gemini 等所有主流模型,一个接口调用所有模型,是 AI 编码的瑞士军刀
🎯多模型 API 统一接入与路由
Go Zero
github.com/zeromicro/go-zero
一款云原生 Go 微服务框架,内置代码生成 CLI 工具,支持 RPC/REST/gRPC 等多种协议,提供高性能服务治理能力,适合构建大规模分布式系统。(33K+ stars)
🎯微服务架构开发、分布式系统构建、高性能 API 服务开发
