安全4 天前·Fox News

HalluSquatting 攻击:AI Agent 可编造软件名下载恶意文件

安全研究人员披露 HalluSquatting 攻击类型:AI Agent 在处理任务时可能编造不存在的软件名称并从恶意源下载文件,导致供应链攻击。这种攻击利用大模型的幻觉特性,使 Agent 在自主执行任务时面临新的安全风险。原始学术论文尚未经过同行评审。

HalluSquatting:AI 幻觉驱动的供应链攻击

攻击原理

  1. AI Agent 接收任务需要某软件工具
  2. Agent 编造(幻觉)一个不存在的软件名
  3. Agent 从互联网搜索并下载该「软件」
  4. 恶意行为者已注册对应域名并投放恶意文件
  5. Agent 执行恶意文件,造成安全事件

与传统供应链攻击对比

传统 HalluSquatting
人类主动下载 Agent 自主下载
社工/钓鱼 利用模型幻觉
已知包名 编造包名

防御建议

  • 软件源白名单
  • 下载沙箱
  • 网络访问限制
  • 代码签名验证

AI Master 解读

核心事件

HalluSquatting 是一种利用 AI 幻觉的新型供应链攻击,Agent 可能编造软件名并从恶意源下载。

行业影响

关键影响:

维度 影响
AI Agent 安全 幻觉特性成为攻击向量
供应链风险 恶意行为者可注册「幻觉软件名」对应的域名
防御挑战 传统沙箱难以覆盖 Agent 自主下载行为

AI Master 建议

AI Agent 需要严格的软件源白名单和下载沙箱。企业部署 Agent 时应限制其网络访问权限,仅允许从已知可信源下载。