Authority Laundering(权限洗白)

Authority Laundering

AI Agent 将不可信输入转化为授权操作的新型安全威胁

亦作、亦称:权限洗白 · Authority Laundering · Agent 权限洗白攻击

Authority Laundering是 AI Agent 安全的重大新威胁——攻击者不攻击模型,而是污染 Agent 读取的外部数据,让 Agent '自愿'执行恶意操作。

攻击链路

Authority Laundering 攻击包含五个阶段:恶意输入构造——在网页中隐藏指令(如 HTML 注释中的命令);Agent 读取——Agent 抓取网页时将隐藏指令一并读取;指令解析——Agent 将隐藏指令误认为合法任务;工具调用——Agent 基于'任务'调用内部工具;副作用产生——工具执行产生实际影响(删除文件、发送数据等)。

防御策略

防御 Authority Laundering 需要四层防线:最小权限原则——Agent 只授予完成任务所需的最小权限;输入输出隔离——外部输入标记为不可信,与内部指令严格分离;工具调用审计——记录所有工具调用,异常调用触发告警;关键操作人工确认——危险操作必须人工确认,不允许 Agent 自主执行。

常见误解

日常交流中容易听到的简化说法,未必准确,但能帮助理解误解从何而来。

  • 「AI Agent 将不可信输入转化为授权操作的新型安全威胁」

相关术语

和本术语关联紧密的其他词条,便于串联理解。

🎯 考点练习

含该术语的高频面试题,含标准答案与追问。

延伸阅读

从知识库精选 1 篇文章,帮助深入理解该术语。

  1. 1

    Agent 系统安全工程:沙箱、权限边界与零信任防御

    2026年2月,GitHub、OpenAI、LangChain在两周内相继发布安全架构更新,行业共识从「Safety-by-Prompt」转向「Guardrails-by-Construction」——不再假设Agent行为可信,而是用确定性门控、沙箱和严格权限约束执行面。NVIDIA安全团队指出:Agent以与用户相同的权限运行命令行工具,构成了完整的计算机使用代理风险面。Strata数据显示企业内非人类身份数量是人类的50倍,80%IT负责人报告Agent曾超出预期行为。本文系统拆解Agentic AI安全的五大工程支柱:沙箱执行隔离、权限边界设计、零信任Enclave模型、可观测性审计、以及从Parallax论文到OWASP Agentic Top 10的防御范式转移。

外部参考

维基百科:查看「Authority Laundering」词条

本页内容为本站原创撰写;维基百科链接仅作延伸参考。