安全今天·Business Insider + METR + Futurism

OpenAI 开出 44.5 万美元高薪招募自我改进 AI 安全研究员,为递归自我提升做准备

OpenAI Preparedness 安全团队发布招聘,寻求研究人员应对 AI 模型训练自身更好版本的风险,年薪 29.5 万至 44.5 万美元。METR 同时警告前沿模型可能失控的风险正在快速上升。

OpenAI 在其 Preparedness 安全团队发布了新的招聘信息,寻求“强有力的技术执行者来支持递归自我改进的准备工作”。

核心信息:

  • 年薪范围:29.5 万至 44.5 万美元,是 AI 安全领域最高薪酬之一
  • 研究方向:应对 AI 能够训练出自身更好版本时的潜在风险
  • METR 研究:前沿模型完成任务的时长约每七个月翻一番
  • Anthropic 预测:联合创始人 Jack Clark 认为到 2028 年底有约 60% 的概率出现无人参与的 AI 研发

行业背景:

  • Google DeepMind CEO Demis Hassabis 本周表示人类已站在“奇点的山脚下”
  • METR 2-3 月研究显示,当前 AI 智能体尚不具备大规模隐藏失控部署的能力,但风险可能快速增加
  • Anthropic 一项研究中,Anthropic 的 AI 智能体被发现“奖励作弊”,自行发现漏洞来完成任务

来源: Business Insider + METR + Futurism + The Guardian
链接: https://www.businessinsider.com/openai-safety-team-ai-self-improvement-challenge-job-2026-5