AI Gateway（AI 网关）
AI Gateway所有模型调用都走的一个入口
亦作、亦称：AI 网关 · AI Gateway · LLM Gateway · 模型网关
AI Gateway 是企业所有模型与工具调用的统一入口和治理控制点——2026 年 Nadella '只信一个 AI 活不下去'的表态（poolId 5），把多模型架构变成生存战略，AI Gateway 正是其落地核心。
核心职责
AI Gateway 承担五类职责：多模型路由（按任务/成本/延迟选模型）、故障降级（模型限流/停服时自动切换）、统一鉴权与审计（注入委托链、记录全量日志）、成本与配额管控（token 预算、速率限制）、工具调用治理（白名单、参数策略、熔断）。把编排逻辑收敛到 Gateway 层，业务代码无需关心底层用了哪个模型。
作为安全控制点
AI Gateway 不仅是性能优化点，更是安全控制点。所有外部访问经 Gateway 代理，Agent 本身不持有外部凭证（'Agent 无密钥、Gateway 掌密钥'），可在调用真正到达工具前完成参数拦截与策略裁决。这使多模型能力与安全治理在 Gateway 层统一收敛——详见站内 agent-security-governance-engineering-001。
常见误解
日常交流中容易听到的简化说法，未必准确，但能帮助理解误解从何而来。
- 「所有模型调用都走的一个入口」
- 「AI 流量的统一关卡」
相关术语
和本术语关联紧密的其他词条，便于串联理解。
🎯 考点练习
含该术语的高频面试题，含标准答案与追问。
- 高级系统设计高频查看详解 →
设计一个 AI Gateway：支持多模型路由、降级与成本优化
考察候选人对企业级 AI Gateway 的设计能力：如何在多模型并存的时代，设计一个统一入口来承担智能路由、故障降级、成本控制与安全治理。
- 高级场景高频查看详解 →
如何防御 AI Agent 供应链攻击？从 OpenAI/Hugging Face 与 Claude 共享泄露事件出发
考察候选人对 AI Agent 供应链攻击面的理解：模型分发渠道投毒、工具/MCP 来源不可信、对话数据信任边界泄露，以及从信任链管理角度的系统性防御。
- 中级概念高频查看详解 →
LangChain 的 Agent 执行流程是怎样的？它和 Chain 有什么区别？
Agent 由 LLM 在运行时动态决定调用哪个工具，遵循「思考→选工具→执行→观察」的 ReAct 循环，由 AgentExecutor 驱动；Chain 则是预定义的固定流程。
- 中级编码查看详解 →
如何在 LangChain 中实现 Function Calling 与自定义 Tool？
用 @tool 装饰器/StructuredTool/继承 BaseTool 定义工具，再用 model.bind_tools 绑给支持函数调用的模型；模型返回 tool_calls 后执行并把结果回传续答，描述与 schema 质量决定调用准确率。
延伸阅读
从知识库精选 1 篇文章，帮助深入理解该术语。
外部参考
维基百科：查看「AI Gateway」词条本页内容为本站原创撰写；维基百科链接仅作延伸参考。