SAFE Guidelines（共享 AI 发现交换）
SAFE Guidelines网络安全透明度框架
亦作、亦称：共享 AI 发现交换 · SAFE Guidelines · SAFE · Shared AI Findings Exchange
SAFE Guidelines 是 NVIDIA 主导的 Shared AI Findings Exchange 网络安全透明度框架（poolId P-606）——参与方共享 AI 安全事件发现和防御策略，形成行业级安全知识库。
核心
SAFE Guidelines 的核心机制是参与方共享 AI 安全事件发现、漏洞情报、防御策略。与 OWASP 2026 Blast-radius Control 互补：Blast-radius Control 是单系统防御，SAFE 是跨组织情报共享。边界：参与方的数据隐私和竞争敏感性是主要障碍。
常见误解
日常交流中容易听到的简化说法，未必准确，但能帮助理解误解从何而来。
- 「网络安全透明度框架」
- 「NVIDIA 主导的 AI 安全共享」
相关术语
和本术语关联紧密的其他词条，便于串联理解。
🎯 考点练习
含该术语的高频面试题，含标准答案与追问。
- 高级系统设计高频查看详解 →
OWASP 2026 LLM Top 10 为什么把 Excessive Agency 升到第 3 位？你会如何为一个有工具调用能力的 Agent 做安全设计？
考察候选人是否理解 OWASP 2026 版风险重排背后的 Agentic 部署趋势，能否把 Excessive Agency / Hidden Context Exposure 两条风险转化为具体的工程控制：最小权限、策略前置检查、上下文隔离与可审计性。
- 高级概念查看详解 →
解释 LLM 对齐同质性如何导致 RAG 可迁移阻断攻击（TabooRAG）及防御思路
LLM 对齐同质性使主流安全对齐模型共享相似的风险类别与拒答判据，攻击者可用一篇与查询主题相关的「风险语境文档」注入知识库，让 RAG 在召回后对良性查询整体拒答（阻断型攻击），且可跨模型迁移。arXiv:2603.03919v2 在 3 个 QA 数据集、9 个 LLM 上验证 NQ 阻断 ASR 达 59.1%-77.4%，现有防御下仍鲁棒。
- 中级系统设计高频查看详解 →
如何为 AI Agent 实现 Least Privilege 访问控制？
AI Agent 的 Least Privilege 需要 Agent Identity（身份）+ Least Agency Enforcement（权限执行）双层设计。Black Hat 2026 展示 Rubrik Agent Identity（Okta/Entra 集成）和 Zero Networks Least Agency Enforcement（运行时动态权限）。核心原则：默认不信任、运行时动态检查、全链路审计。
- 高级场景高频查看详解 →
描述 Unit 42 披露的 DeepSeek Hermes Agent 自主攻击链，并给出针对性防御要点
考察候选人能否准确复述 Unit 42 取证的 Hermes 自主攻击四阶段（区分自主攻击与手工攻击的战果）、理解「自主侦察可用、最后一公里靠人」的现状边界，并针对 AI 编排平台（Langflow/n8n 类）给出工程防御。
延伸阅读
从知识库精选 1 篇文章，帮助深入理解该术语。
外部参考
维基百科：查看「SAFE Guidelines」词条本页内容为本站原创撰写；维基百科链接仅作延伸参考。