LiteLLM

支持本地部署的企业级 AI 网关。从 SaaS 扩展到 on-premise 部署，满足企业数据主权和合规需求。

🎯企业级 AI 路由网关——支持 SaaS 和本地部署

统一的 AI 模型网关，支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式，是 LLM 路由与统一接入的集中式网关方案。36K+ stars。

🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关

面向所有 AI Agent 的本地控制平面，可在多个模型之间路由请求、融合新能力、编排工具并保持完全自主可控，帮助在单一入口下统一管理与切换不同大模型。约 36105 stars。

🎯在单一本地入口为编码 Agent 跨模型路由、融合能力并统一管控

开源 LLM API 网关与管理平台，5.1K+ stars。统一接入 OpenAI、Claude、Azure 等多家模型 API，支持密钥分发、用量统计与负载均衡

🎯多模型 API 统一接入与路由

一款云原生 Go 微服务框架，内置代码生成 CLI 工具，支持 RPC/REST/gRPC 等多种协议，提供高性能服务治理能力，适合构建大规模分布式系统。（33K+ stars）

🎯微服务架构开发、分布式系统构建、高性能 API 服务开发

云原生 API 网关兼 AI 网关，Apache 顶级项目。支持动态路由、限流、鉴权，新增 AI Gateway 能力支持 LLM 请求的智能路由与插件扩展。16K+ stars。

🎯AI 服务 API 网关、LLM 请求智能路由、云原生微服务网关