行业2026-05-14 00:06·The Verge

OpenAI 安全委员会正式要求延迟模型发布,已两次叫停

OpenAI 安全与安全委员会主席 Jeremy 'Zico' Kolter 在 Musk v Altman 庭审中透露,该委员会已正式要求延迟模型发布两次。OpenAI 约有 200 人从事安全工作,涵盖安全防护、模型对齐和准备度评估等多个团队。

OpenAI 安全机制透明化

2026 年 5 月 12 日,The Verge 庭审直播报道。

安全团队结构

  • 安全系统团队:防护栏和评估
  • 准备度团队:OpenAI 准备度框架
  • 对齐团队:模型人类价值观对齐
  • 模型政策团队:模型规范制定
  • 调查团队:安全事件调查

关键信息

  • 安全委员会已两次正式要求延迟模型发布
  • 约 200 人从事安全工作
  • 此前解散的超对齐团队和 AGI 准备度团队的研究正在其他团队继续进行

来源: The Verge
链接: https://www.theverge.com/ai-artificial-intelligence/929001/the-chair-of-openais-safety-and-security-committee-said-theyve-formally-delayed-its-model-releases