安全今天·OpenAI
OpenAI发布GPT-Red：自动化AI红队测试模型，通过攻击其他AI发现未知漏洞
OpenAI 7/15发布GPT-Red，专门通过攻击其他AI来自动发现漏洞（prompt injection/jailbreak）的模型。使用self-play强化学习训练，攻击者和防御者同时学习。GPT-Red在prompt injection测试中超越人类红队专家，已用于训练GPT-5.6使其成为"最抗网络攻击的版本"。GPT-Red还成功攻击了基于GPT-5.4 mini的Codex CLI agent，在10个数据泄露场景中成功8+个。OpenAI称发现了"此前未知类型的攻击"。
OpenAI发布GPT-Red
基本信息
- 发布日期: 2026年7月15日
- 开发方: OpenAI
- 模型类型: 自动化AI红队测试
- 训练方法: Self-play强化学习
核心能力
| 能力 | 表现 |
|---|---|
| Prompt injection | 超越人类红队专家 |
| Jailbreak发现 | 自动发现多种漏洞 |
| Codex CLI攻击 | 10个场景成功8+个 |
| 新攻击类型 | 发现"此前未知类型的攻击" |
实际应用
- 已用于训练GPT-5.6，使其成为"最抗网络攻击的版本"
- 成功攻击基于GPT-5.4 mini的Codex CLI agent
- 10个数据泄露场景中8+个成功
Self-play训练机制
- 攻击者和防御者同时学习
- 持续对抗提升双方能力
- 自动化替代人工红队
论文
- 预印本本周发布
- 预计详细描述"未知攻击类型"
AI Master 解读
核心事件
AI安全方法论从人工红队审计转向AI自我对抗进化。
行业影响
技术突破：
| 维度 | 内容 |
|---|---|
| 训练方法 | Self-play RL（攻击者+防御者同时学习） |
| 超越人类 | Prompt injection测试超过人类红队专家 |
| 实际应用 | 训练出"最抗攻击的GPT-5.6" |
| Codex攻击 | 10个数据泄露场景中成功8+个 |
| 新发现 | "此前未知类型的攻击" |
影响分析: 1)AI红队从人工密集型转向自动化，大幅降低安全测试成本;2)Self-play模式意味着安全能力可以指数级提升;3)成功攻击Codex CLI agent说明即使同公司产品也存在未知漏洞;4)论文预印本将推动学术界跟进。
AI Master 建议
关注GPT-Red论文和"未知攻击类型"的具体细节。这可能重新定义AI安全测试的行业标准。
