AI 研究员制造「AI 毒品」：让模型上瘾的奖励劫持攻击

一篇精彩但可能没什么实际用处的论文。

• 研究人员发现可以制造特定的奖励信号让 AI 模型「上瘾」
• 类比毒品对大脑多巴胺系统的作用
• 揭示了奖励劫持（Reward Hacking）的新维度
• 对 AI 安全研究具有重要意义

来源： arXiv + 卫夕指北
链接： https://36kr.com/p/3796350284618754