GEO研究 › 知识基础 › 数据与实证 › Google 不支持 crawl-delay:robots.txt 只认 4 个字段,降速走官方两条路
数据与实证 · 数据卡

Google 不支持 crawl-delay:robots.txt 只认 4 个字段,降速走官方两条路

仅支持 4 个字段

一手官方截至 2026-10-01

Google 官方规范:robots.txt 仅支持 user-agent/allow/disallow/sitemap 四个字段,"crawl-delay 等其他字段不受支持";官方降速替代路径是临时返回 500/503/429 或经 Search Console 提交请求。

Google 官方 robots.txt 规范只认 4 个字段:user-agent、allow、disallow、sitemap,原文明确“crawl-delay 等其他字段不受支持”——写进去的 Crawl-delay 行会被静默忽略,不报错、也不限速。官方替代路径只有两条:临时应急时对爬虫请求返回 500/503/429 状态码,Google 自动降低全主机名抓取速度、错误停止后回弹;或经 Search Console 提交特殊降速请求(只能降、不能升,处理需数日)。

对站长的含义

与 Anthropic 恰好相反——ClaudeBot 是少数官方支持 Crawl-delay 的大厂爬虫(见 ClaudeBot 卡)——给 Google 写 Crawl-delay 属于无效配置,还容易造成“已限速”的错觉。真实降速用 429/503 信号或 Search Console 请求;日常压力管理更可靠的位置在边缘层限速,而非 robots.txt。

样本与口径
Google robots.txt 规范与官方降速文档(developers.google.com,2026-10 现行)
出处文献卡
无对应文献卡(数字出自下方直接引用来源)
如何引用
据 Google robots.txt 规范及官方降速文档(2026-10 现行口径)

引用来源

  1. Google:robots.txt 规范
  2. Google:降低 Google 抓取速率
最后更新 2026-10-01数字有时效性——引用前请按出处名称检索核对最新口径