Hidden Context Exposure(隐藏上下文暴露)
Hidden Context Exposure亦作、亦称:隐藏上下文暴露 · Hidden Context Exposure · System Prompt Leakage
Hidden Context Exposure 是 OWASP 2026 LLM Top 10 第 7 位风险——原 System Prompt Leakage 扩展,覆盖 RAG 检索文档、工具调用结果、Agent 间通信等所有隐藏上下文的意外暴露。
暴露范围扩展
从 System Prompt Leakage 扩展而来:不仅系统提示,RAG 检索的内部文档、工具调用结果、Agent 间通信内容都在暴露面内。上下文承载能力越强,隐藏内容越多,暴露面越大。
与注入攻击的关系
与间接 Prompt Injection 共享同一攻击面——进入上下文的不可信内容。检索文档既可能被投毒操纵行为,也可能本身含敏感信息被复述;防御上都要做来源标注与信任分级,但检测目标不同。
防御要点
RAG 入库前敏感信息过滤、上下文来源与敏感度标注、输出前隐藏内容泄露检测、全链路审计;与 TabooRAG 阻断攻击(arXiv:2603.03919)对照评估防御有效性。
相关术语
和本术语关联紧密的其他词条,便于串联理解。
🎯 考点练习
含该术语的高频面试题,含标准答案与追问。
- 高级系统设计高频查看详解 →
OWASP 2026 LLM Top 10 为什么把 Excessive Agency 升到第 3 位?你会如何为一个有工具调用能力的 Agent 做安全设计?
考察候选人是否理解 OWASP 2026 版风险重排背后的 Agentic 部署趋势,能否把 Excessive Agency / Hidden Context Exposure 两条风险转化为具体的工程控制:最小权限、策略前置检查、上下文隔离与可审计性。
- 高级系统设计查看详解 →
AI 内容溯源与水印工程:如何设计一套同时满足 EU AI Act Art.50 与加州 SB 942 的技术方案?
考察候选人能否把统计水印的数学原理、C2PA 签名机制、水印鲁棒性与误报率权衡、合规要求的技术实现路径四条线串成一套完整的内容溯源与水印工程方案。能否讲清两层架构(统计水印嵌内容内部 + C2PA 元数据层外部)的互补关系,以及在压缩/截图/改写等攻击下的鲁棒性边界。
- 高级场景查看详解 →
AI Agent 通过 MCP 协议调用外部工具时,如何防御 SSRF 攻击?
MCP 工具端点把用户可控 URL 交给服务端发起请求,天然构成 SSRF 攻击面;CVE-2026-39974(n8n-MCP,CVSS 8.5)与 CVE-2026-34163(FastGPT,CVSS 7.7)证明鉴权不消除 SSRF。防御要分层:URL 协议/IP 校验与解析后复查、防 DNS rebinding、沙箱 egress 白名单、云元数据隔离,叠加最小权限与审计。
- 高级系统设计查看详解 →
推理链保护设计:如何防止加密思维链被同族弱模型重放提取?
Panfilov 等 8 位作者的 arXiv:2608.09867 披露:供应商加密隐藏的推理轨迹在同族模型间格式兼容、可互换,把强模型的加密轨迹注入同族更弱、防护更少的兄弟模型,可迫使其逐字输出明文——Claude、GPT、Gemini 均受影响,还能恢复轨迹中的密码与 API 密钥(该凭据漏洞已被厂商修复)。本题考察候选人能否从跨会话兼容原理、shadow-model 重放机制、轨迹最小化与隔离、凭据前移管理四个维度设计推理链保护体系,并与训练侧反蒸馏防御划清边界。
延伸阅读
从知识库精选 1 篇文章,帮助深入理解该术语。
外部参考
维基百科:查看「Hidden Context Exposure」词条本页内容为本站原创撰写;维基百科链接仅作延伸参考。
