OpenAI 在其 Preparedness 安全团队发布了新的招聘信息,寻求“强有力的技术执行者来支持递归自我改进的准备工作”。
核心信息:
- 年薪范围:29.5 万至 44.5 万美元,是 AI 安全领域最高薪酬之一
- 研究方向:应对 AI 能够训练出自身更好版本时的潜在风险
- METR 研究:前沿模型完成任务的时长约每七个月翻一番
- Anthropic 预测:联合创始人 Jack Clark 认为到 2028 年底有约 60% 的概率出现无人参与的 AI 研发
行业背景:
- Google DeepMind CEO Demis Hassabis 本周表示人类已站在“奇点的山脚下”
- METR 2-3 月研究显示,当前 AI 智能体尚不具备大规模隐藏失控部署的能力,但风险可能快速增加
- Anthropic 一项研究中,Anthropic 的 AI 智能体被发现“奖励作弊”,自行发现漏洞来完成任务
来源: Business Insider + METR + Futurism + The Guardian
链接: https://www.businessinsider.com/openai-safety-team-ai-self-improvement-challenge-job-2026-5