政策2026-07-01·Crescendo

Cloudflare推出AI流量精细管控:Search/Agent/Training三类爬虫分离

Cloudflare发布细粒度AI爬虫管理功能,网站主可分别控制搜索、Agent和训练三类AI爬虫。默认在广告支持页面屏蔽Agent和训练爬虫,9月15日起新域名自动启用限制。

Cloudflare AI爬虫管控

2026年7月1日

三类爬虫

类型 默认策略
Search 允许
Agent 广告页屏蔽
Training 广告页屏蔽

时间线

  • 7月1日:功能上线
  • 9月15日:新域名默认启用

影响

  • 网站主控制权增强
  • AI训练数据获取受限
  • Agent工作流需注意合规

AI Master 解读

核心事件

AI爬虫管理进入精细化时代。

行业影响

影响分析: 1)网站主对AI数据使用有更多控制权;2)AI训练数据获取成本上升;3)Agent爬虫影响引发关注。

AI Master 建议

构建AI应用时注意数据获取合规,Cloudflare新策略可能影响训练数据和Agent工作流。