Bifrost
企业级 AI 网关，比 LiteLLM 快 50 倍，支持自适应负载均衡、集群模式和 GPU 推理。
🎯适用场景：高性能 AI 推理网关、模型路由与负载均衡
📊 仓库数据
📈 Stars 变化 ↑1 天 +18· 统计区间 7/17 20:11 → 7/18 23:22（1 天）
✅ 优点
- •性能远超 LiteLLM
- •自适应负载均衡
- •企业级稳定性
⚠️ 限制
- •功能相对 LiteLLM 较少
- •社区较小
🔗 相关工具
New API
github.com/QuantumNous/new-api
统一的 AI 模型网关，支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式，是 LLM 路由与统一接入的集中式网关方案。36K+ stars。
🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关
Apache APISIX
github.com/apache/apisix
云原生 API 网关兼 AI 网关，Apache 顶级项目。支持动态路由、限流、鉴权，新增 AI Gateway 能力支持 LLM 请求的智能路由与插件扩展。16K+ stars。
🎯AI 服务 API 网关、LLM 请求智能路由、云原生微服务网关
InsForge
github.com/InsForge/InsForge
面向 Agentic Coding 的全栈开源后端平台，为编码 Agent 提供数据库、认证、存储、计算、托管和 AI 网关，支持端到端构建全栈应用。
🎯多模型 API 统一接入与路由
Higress
github.com/higress-group/higress
AI 原生 API 网关，基于 Envoy 构建。专注 LLM 服务的路由、限流和安全接入，提供开箱即用的 AI Gateway 能力，支持 OpenAI 协议兼容。8.5K+ stars。
🎯LLM 服务代理网关、AI API 安全与限流、多云模型接入
LiteLLM
github.com/BerriAI/litellm
100+ LLM API 统一 SDK，48K+ stars。统一的 LLM API 代理和 SDK，支持 OpenAI、Claude、Gemini 等所有主流模型，一个接口调用所有模型，是 AI 编码的瑞士军刀
🎯多模型 API 统一接入与路由
One Api
github.com/songquanpeng/one-api
开源 LLM API 网关与管理平台，5.1K+ stars。统一接入 OpenAI、Claude、Azure 等多家模型 API，支持密钥分发、用量统计与负载均衡
🎯多模型 API 统一接入与路由
