快讯2026-10-31 · 智涌AI

四家 AI 公司支持统一的训练退出信号

robots.txt 统一 AI 训练偏好信号的写法要点

10 月 30 日(美国时间),OpenAI、Google、微软和 Anthropic 同日表态,支持在 robots.txt 里用一个共同的“策略令牌”表达是否允许内容被用于 AI 训练。网站以后不必给每家爬虫各写一套规则。

落地时间各不相同。OpenAI 说会在未来几个月实现,届时另发细节。Google 表示,网站用这个令牌退出训练、又没有单独写 Google-Extended 时,会按禁止 Google-Extended 处理,并提到这与欧盟 AI 法案通用模型行为准则把 robots.txt 当作主要机读方式一致。微软同时推出页面级的训练和“答案引用(Grounding)”偏好,可以用 meta 标签或响应头设置,2027 年 2 月 1 日起在抓取时执行。

对内容站来说,这一步主要省事:一组规则可以同时管多家。它仍是自愿遵守的信号,挡不住不守规矩的爬虫,训练以外的用途(比如搜索摘要)也要看各家单独的设置。

注意:草案目前是 IETF 个人草案(2027 年 5 月到期),不是正式标准,令牌名称和细节仍可能调整;各家实施时间以官方后续公告为准。

关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。