Anthropic罕见呼吁全球暂停AI开发，警告递归自我改进风险

Anthropic警告：AI可能比预期更快实现自我进化

2026年6月4日，Anthropic在官方博客发表长文"When AI Builds Itself"，引发全球AI行业震动。

震撼数据

• 超过80%代码由Claude编写：截至2026年5月，合并到Anthropic代码库的代码中，超80%由Claude创作
• 工程师产出增长8倍：2026年Q2，典型工程师每天合并的代码量是2024年的8倍
• Claude审查已超越人类：自动化Claude审查工具能发现人类工程师遗漏的约1/3生产事故bug
• Claude编写的代码质量已与人类持平，预计一年内全面超越

递归自我改进警告

• AI模型能够独立可靠完成任务的时长，从每7个月翻一番缩短至每4个月翻一番
• 2024年3月Claude Opus 3能完成约4分钟的任务，一年后Claude Sonnet 3.7能处理约1.5小时任务，再一年后Claude Opus 4.6能胜任约12小时任务
• 如果趋势持续，AI系统最终将能够"完全自主地设计和开发自己的继任者"
• 这一阶段"可能在未来两年内发生，甚至更早"

全球协调呼吁

• Anthropic呼吁建立类似核武器协议的全球核查机制
• "AI训练运行比导弹发射井更容易隐藏"，作弊动机极大
• 单方面暂停没有意义，只会让最不谨慎的参与者获得技术领先
• 计划未来数月与政策制定者、研究人员及其他AI公司展开讨论

业界争议

• 批评者认为这是"监管俘获"策略，试图限制竞争对手
• 支持者认为Anthropic对AI风险的警示是真诚的
• 宾大沃顿教授Ethan Mollick指出AI实验室内部存在多重逻辑

来源: Anthropic Blog + 华尔街见闻 + 大纪元 + 观察者网
链接: https://www.anthropic.com/news/when-ai-builds-itself