DARPA AI Forge：国家安全与商业 AI 的桥梁

读完本文，你将理解：DARPA AI Forge 计划的完整架构（三大战略方向、15 项核心挑战、三方协作论坛）、AI 可解释性从「为什么输出这个 token」到「为什么执行这个行动序列」的范式转变、AI 控制的五个挑战层级（从基础模型可引导到可信基准测试）、对抗鲁棒性的科学基础建设，以及 AI Forge 对全球 AI 治理和国家 AI 战略的深远影响。

2026 年 6 月 1 日，美国国防高级研究计划局（DARPA）与美国国家科学基金会（NSF）联合发布了名为 AI Forge 的研究开发计划，旨在催化国家安全领域的 AI 突破性进展。该计划与美国国家标准与技术研究院（NIST）旗下的 AI 标准与创新中心（CAISI）紧密协作，已于同日发布了《AI Forge 国家安全关键 AI 挑战报告》并启动了大学研究能力征集（RFI），截止日期为 2026 年 6 月 22 日。

本文所有信息均来自 DARPA 官方新闻稿（darpa.mil）、AI Forge 官方项目页面及 RFI 文件，经交叉验证。

理解 AI Forge 的战略意义，需要先看清当前 AI 发展格局中的一个根本性矛盾。

商业 AI 的爆炸式发展

2025-2026 年，商业 AI 发展以惊人速度推进。从 GPT-5 到 Claude Opus 4.7，从多模态模型到 Agent 系统，前沿 AI 公司的能力每隔几个月就发生质的飞跃。商业市场是这些进步的主要驱动力——企业需要更好的客服、更强的编码助手、更智能的数据分析工具。

国家安全的独特需求被边缘化

然而，许多对国家安全最为关键的 AI 挑战，由于缺乏直接的商业应用场景，并未得到私营行业的重点关注。这些挑战包括：

• 高风险场景下的 AI 可靠性：军事决策、情报分析、关键基础设施防护等场景对 AI 的要求远高于商业场景。一个聊天机器人偶尔给出错误答案只是用户体验问题，但一个情报分析 AI 给出错误判断可能导致战略失误。
• 可解释性的操作化：商业用户通常只需要「为什么模型给出这个答案」的事后解释；而国家安全场景需要「为什么系统执行了这行动序列」的操作级可解释性。
• 对抗环境下的鲁棒性：商业 AI 面临的对抗攻击主要是数据投毒和提示词注入；而国家安全场景面临的是国家级对手的复杂对抗策略。

AI Forge 的核心假设

DARPA 在官方文件中明确表述了 AI Forge 的核心假设：

「在这三个战略方向上进行竞争前（pre-competitive）AI 研究，可以加速行业和联邦机构对 AI 创新的采用。」

这里的「竞争前」是关键——它意味着 AI Forge 资助的研究成果将公开共享，而非由单一公司或机构独占。这与 DARPA 一贯的「高风险、高回报、开源成果」研究哲学一致（互联网、GPS、Siri 等均源自 DARPA 的早期研究）。

来源：背景分析基于 DARPA 2026 年 6 月 1 日官方新闻稿（darpa.mil/news/2026/ai-forge-accelerating-ai-breakthroughs-national-security），AI Forge 项目页面（darpa.mil/research/programs/ai-forge），以及 RFI 文件。

AI Forge 不是传统的 DARPA 研究项目——它构建了一个全新的协作生态。

2.1 三方角色定位

DARPA（主导方）

• 提供项目愿景、战略规划和管理框架
• 项目经理 Matthew Marge 负责整体协调
• 连接国防部（DOW）和情报界（IC）的 15+ 个机构的 AI 需求

NSF（科研资助方）

• 提供大学研究的资金支持和学术网络
• NSF 技术与创新助理总监 Erwin Gianchandani 表示：「通过将前沿 AI 公司的快速进展、大学的研究和人才培养、以及情报界提出的用例相结合，AI Forge 将推动 AI 能力的进步。」

NIST/CAISI（标准制定方）

• AI 标准与创新中心（CAISI）提供技术标准和评估框架
• 确保研究成果的可比性、可重复性和可操作性

2.2 论坛机制（Forum）

AI Forge 将建立一个由大学、产业界和美国政府代表组成的论坛，用于资助、指导和管理快节奏的大学主导研究项目。

论坛的核心功能：

• 将学术人才与前沿规模的算力、模型和专业知识相结合
• 基于国家安全的 AI 挑战来定义研究课题
• 每六个月重新审视和更新技术挑战清单（反映快速变化的 AI 技术格局）
• 由非营利组织管理，计划于 2026 年夏季启动

2.3 大学研究能力征集（RFI）

2026 年 6 月 1 日，DARPA 在 SAM.gov 发布了大学研究能力征集（RFI），编号 DARPA-SN-26-80，截止日期为 2026 年 6 月 22 日。

RFI 的目的：

• 识别美国大学在 AI Forge 三大战略方向上的研究能力
• 建立对国家安全 AI 研究感兴趣的大学资源库
• 为论坛的利益相关方提供研究伙伴匹配基础

来源：组织架构信息来自 DARPA 官方新闻稿和 AI Forge 项目页面；RFI 信息来自 SAM.gov 发布的 DARPA-SN-26-80。

AI Forge 将国家安全的关键 AI 挑战归纳为三大战略方向，每个方向包含5 项研究挑战，总计 15 项。这些挑战构成了《AI Forge 国家安全关键 AI 挑战报告》的核心内容。

3.1 AI 可解释性（AI Interpretability）

目标：使 AI 系统的行为、决策和影响对人类可理解，超越常规场景下的解释，实现操作级可解释性。

范式转变：Agent AI 系统将可解释性问题从「为什么模型输出了这个 token？」转变为「为什么系统执行了这个行动序列？」

Agent 在目标设定、规划、工具使用和记忆更新的循环中运行，引入了以下风险：

• 有缺陷的推理链：Agent 的逻辑推理过程中出现错误
• 脆弱的规划：计划在特定条件下失效
• 不安全的工具调用：Agent 调用工具时缺乏安全验证
• 涌现行为：系统中出现设计时未预期的行为

5 项研究挑战聚焦：

1. 理解 Agent 推理链中的错误模式
2. 建立规划可靠性的评估方法
3. 工具调用的安全验证机制
4. 涌现行为的检测与预防
5. 操作级可解释性的标准化框架

3.2 AI 控制（AI Control）

目标：开发工具，提供强有力的、可验证的证据，证明模型行为是有边界的、可审计的和可靠的，同时为未来更强大的 AI 系统保持有意义的人类控制奠定基础。

AI 控制的五个挑战层级（全生命周期）：

这五个层级覆盖了 AI 控制的全生命周期——从模型设计（挑战 1）到部署供应链（挑战 2），再到主动管理（挑战 3 和 4），最终到预测性评估（挑战 5）。

3.3 对抗鲁棒性（Adversarial Robustness）

目标：为 AI 构建科学基础，使其不仅「有能力」，而且天生具有韧性——在面对有思维能力的对手的蓄意攻击时，仍能保持其完整性和预期性能。

核心问题：如何建立通用的、与操作相关的指标、基准和标准，以准确测量国家安全场景中 AI 系统的对抗鲁棒性，并产生足够可信的结果，以支持高风险的认证和部署决策？

对抗鲁棒性 vs 传统安全：

• 传统安全关注「系统是否按设计运行」
• 对抗鲁棒性关注「系统在被有意识攻击时是否仍能按设计运行」
• 对手是有思维的，会不断适应和进化攻击策略

来源：三大战略方向和 15 项挑战的详细描述基于《AI Forge 国家安全关键 AI 挑战报告》（darpa.mil/sites/default/files/attachment/2026-06/ai-forge-report.pdf），2026 年 6 月发布。

AI Forge 不仅是美国国内的研究计划，它对全球 AI 治理格局有着深远影响。

4.1 与《美国 AI 行动计划》的战略协同

AI Forge 明确与《美国 AI 行动计划》（America's AI Action Plan）保持战略协同。该计划由白宫于 2025 年 7 月发布，确立了美国在 AI 领域的国家战略框架。

协同关系：

• AI Forge 的技术研究为 AI 行动计划提供科学基础
• AI 行动计划为 AI Forge 提供政策方向和需求定义
• 两者共同构成美国在 AI 安全领域的「研究+政策」双轮驱动

4.2 与 NIST AI 风险管理框架的关系

NIST 的 AI 风险管理框架（AI RMF） 是目前全球最广泛采用的 AI 治理框架。AI Forge 与 NIST/CAISI 的紧密协作意味着：

• AI Forge 的研究成果将直接输入到 AI RMF 的迭代更新中
• AI RMF 的「测量（Measure）」和「管理（Manage）」功能将因 AI Forge 的对抗鲁棒性研究而增强
• AI Forge 的基准测试研究可能催生 AI RMF 的国家安全扩展版

4.3 对中国和全球的影响

对中国的影响：

AI Forge 的发布可能加速中美在 AI 安全领域的战略竞争。中国已建立了自己的 AI 治理框架，包括：

• 《新一代人工智能治理原则》
• 《互联网信息服务深度合成管理规定》
• 《生成式人工智能服务管理暂行办法》

AI Forge 的技术方向（可解释性、控制、对抗鲁棒性）与中国 AI 治理的关注点有部分重叠，但出发点和优先级存在差异：中国更强调「内容安全」和「价值观对齐」，而 AI Forge 更强调「系统可靠性」和「对抗环境下的韧性」。

对全球的影响：

AI Forge 可能推动全球 AI 治理进入「技术驱动治理」的新阶段：

• 过去：治理框架主要基于伦理原则（公平、透明、问责）
• 现在：AI Forge 将治理框架建立在具体技术挑战（可解释性、控制、鲁棒性）之上
• 未来：可能出现技术标准先行、政策框架跟进的新治理模式

4.4 与欧盟 AI 法案的对比

欧盟 AI 法案（EU AI Act）采用基于风险的分类监管模式，而 AI Forge 采用基于技术挑战的研究驱动模式：

两种模式互补而非对立：欧盟 AI 法案提供法律框架，AI Forge 提供技术基础。长期来看，两者的融合可能催生更完善的全球 AI 治理体系。

AI Forge 的 15 项挑战虽然尚未完全公开细节，但其框架已足以揭示当前 AI 安全研究的最前沿。以下是对三大方向技术挑战的深度解读。

5.1 可解释性：从「事后解释」到「操作级理解」

传统 AI 可解释性研究主要关注事后解释（post-hoc explanation）——模型做出决策后，用 SHAP、LIME 等方法解释「为什么是这个结果」。这种方法在商业场景中基本够用，但在国家安全场景中存在根本性缺陷：

• 时效性问题：事后解释是延迟的，无法在 Agent 执行行动之前提供指导
• 粒度问题：SHAP 等工具解释的是特征重要性，而非 Agent 的推理逻辑
• 可信度问题：事后解释本身可能是不准确的——解释模型可能与原模型行为不一致

AI Forge 追求的操作级可解释性要求：

• 实时性：在 Agent 规划阶段就能理解其意图
• 因果性：理解 Agent 的「为什么这样做」，而非仅仅是「什么特征导致了输出」
• 可操作性：解释结果必须支持人类干预和修正

5.2 AI 控制：从「对齐」到「可验证控制」

AI 对齐（AI Alignment）研究关注如何让 AI 系统的目标与人类价值观一致。但 AI Forge 的视角更进一步——它关注的是可验证的控制：

不是问「AI 是否对齐？」
而是问「我们能否证明 AI 的行为在安全边界内？」

这种转变的意义在于：

• 对齐是难以证明的：你无法穷举所有可能的输入来验证 AI 是否「对齐」
• 边界控制是可验证的：你可以定义具体的行为边界，并通过工具验证 AI 是否越界

AI Forge 的 AI 控制五层级框架，本质上是一个从预防到检测的纵深防御体系：

• 层级 1-2：在设计和部署阶段嵌入安全机制
• 层级 3-4：在运行阶段主动隔离和实时控制
• 层级 5：通过基准测试提供部署前的可信证据

5.3 对抗鲁棒性：从「防御已知攻击」到「天生韧性」

当前的 AI 安全研究大多聚焦于防御已知的攻击类型：

• 数据投毒攻击
• 对抗样本攻击
• 提示词注入攻击
• 模型窃取攻击

AI Forge 的对抗鲁棒性方向提出了更高的要求——天生韧性（resilient by design）：

• 不是「修复漏洞」，而是「设计免疫系统」
• 不是「防御已知攻击」，而是「应对未知的、有思维能力的对手」
• 不是「事后修补」，而是「从架构层面内置韧性」

这要求 AI 系统的架构设计范式发生根本性变化——从「功能优先」转向「韧性优先」。

来源：技术解读基于 AI Forge 报告中的框架性描述，结合 AI 安全领域（可解释性、对齐、对抗鲁棒性）的公开研究文献进行交叉分析。

AI Forge 的设计强调快速迭代和广泛参与。

6.1 参与路径

大学研究者：

1. 阅读《AI Forge 国家安全关键 AI 挑战报告》
2. 评估自身研究能力与 15 项挑战的匹配度
3. 通过 SAM.gov 提交 RFI 响应（截止 2026 年 6 月 22 日）
4. 等待论坛启动后的研究项目征集

前沿 AI 公司：

1. 通过论坛机制参与
2. 提供算力、模型和专业知识
3. 与大学研究团队合作解决国家安全挑战

政府机构（DOW/IC）：

1. 定义国家安全 AI 需求
2. 参与挑战的定义和优先级排序
3. 推动研究成果向实际系统转化

6.2 时间线

6.3 与 DARPA 历史项目的对比

AI Forge 的设计模式与 DARPA 历史上的成功项目有相似之处：

• DARPA Grand Challenge：通过竞赛推动自动驾驶技术突破
• DARPA Cyber Grand Challenge：通过竞赛推动自动化漏洞发现和修复
• MolDARPA：加速分子发现

AI Forge 的独特之处在于它不是竞赛模式，而是协作论坛模式——大学、产业界和政府在同一平台上共同定义问题、共同解决问题。

6.4 潜在影响与局限

积极影响：

• 为 AI 安全研究提供集中的资金和方向引导
• 促进学术界和产业的深度合作
• 推动 AI 安全从「伦理讨论」走向「工程技术」

潜在局限：

• 仅面向美国实体，国际合作有限
• 聚焦国家安全，民用 AI 安全的覆盖可能不足
• 每 6 个月更新挑战的节奏可能跟不上 AI 技术的发展速度

AI Forge 代表了 AI 安全研究领域的新范式——从「各自为战」到「系统性协作」，从「伦理讨论」到「工程技术」，从「事后补救」到「天生韧性」。

关键要点回顾：

• AI Forge 由 DARPA、NSF 和 NIST/CAISI 联合发起，目标是桥接商业 AI 创新与国家安全需求
• 三大战略方向：AI 可解释性（操作级理解）、AI 控制（全生命周期可验证）、对抗鲁棒性（天生韧性）
• 15 项核心挑战覆盖三大方向，每 6 个月更新
• 论坛模式：大学 + 产业界 + 政府三方协作，2026 年夏季启动
• AI Forge 与《美国 AI 行动计划》和 NIST AI RMF 战略协同
• 对全球 AI 治理的影响：可能推动「技术驱动治理」新模式

AI Master 的立场判断：

AI Forge 的意义超越了国家安全范畴。它定义的三大战略方向——可解释性、控制、对抗鲁棒性——正是全球 AI 行业在部署 Agent 系统时面临的共同挑战。即使不涉及国家安全，任何在高价值场景中部署 AI Agent 的组织，都应该关注 AI Forge 的研究进展。

最值得关注的三个信号：

1. 论坛启动后的首批研究项目：将揭示 AI 安全研究的真实优先级
2. RFI 响应者名单：将揭示哪些大学和机构在 AI 安全领域具有核心能力
3. 首次挑战更新（预计 2026 年底）：将揭示 AI 安全研究的演进方向

对中文 AI 社区的建议：

• 跟踪 AI Forge 的公开报告和研究成果
• 对比中国 AI 治理框架与 AI Forge 的技术方向
• 关注 AI Forge 是否可能扩展到国际合作模式

本文所有信息均来自 DARPA 官方渠道（darpa.mil），2026 年 6 月发布。