AI 安全功能正在从理论走向实践。
Trusted Contact 功能
- 用户在 ChatGPT 中设置可信联系人
- 当 AI 检测到用户可能有自残、自杀等安全风险时，系统会自动通知紧急联系人
- 这是 AI 产品中最敏感的安全功能之一
行业意义
- OpenAI 率先在消费级 AI 产品中引入此类安全机制
- 反映了 AI 聊天机器人在心理健康领域的角色日益重要
- 也引发了关于隐私保护和安全干预边界的讨论
来源： OpenAI + The Verge
链接： https://openai.com/index/introducing-trusted-contact-in-chatgpt/