Cloudflare推出新设置「Disallow AI Training」,该设置允许网站管理员在允许搜索引擎爬取网站内容的同时,拒绝将网站内容用于AI训练,苹果、谷歌和微软已承诺遵守。启用后,只有标记为「Accountable」的混合爬虫可抓取内容,其他用于AI训练的爬虫将被拦截,且可能影响网站搜索排名。多数客户无需更改设置,此前选择相关拦截设置的网站将自动迁移至新设置。此外,谷歌将推出URL层级透明度工具,苹果也在开发类似工具,微软则计划于2027年初支持通过robots.txt拒绝AI训练。
