AI安全2026-07-02·Forbes

PagerDuty警告AI Agent生产风险:模型漂移比崩溃更难发现

PagerDuty执行主席Jenn Tejada指出AI正从实验转向生产,警告Agent系统引入模型漂移等新型故障模式。2026年超大规模AI基础设施支出预计达7250亿美元(BNP Paribas数据),同比翻倍。

AI Agent生产风险警告

2026年7月2日,PagerDuty执行主席Jenn Tejada接受Forbes采访。

核心观点

要点 详情
AI阶段 实验→生产转型
新型故障 模型漂移(渐进式)
检测难度 比传统崩溃更难发现
基础设施支出 $725B(2026年)
团队趋势 更小的"两个披萨"团队

技术背景

  • 漂移:准确率/行为渐进退化
  • 传统监控(延迟、可用性)无法检测
  • 需要关联模型级信号与基础设施遥测

AI Master 解读

核心事件

PagerDuty高管警告AI Agent进入生产环境的可靠性风险。

行业影响

影响分析: 模型漂移(Model Drift)不同于传统服务崩溃——症状在Agent执行多个错误操作后才显现。AIOps需要同时监控模型信号和基础设施指标。7250亿美元的AI基础设施支出说明部署速度远超安全验证能力。

AI Master 建议

部署AI Agent时必须建立漂移监控机制,传统APM无法覆盖此类故障。