Google 不支持 crawl-delay:robots.txt 只认 4 个字段,降速走官方两条路
仅支持 4 个字段
Google 官方规范:robots.txt 仅支持 user-agent/allow/disallow/sitemap 四个字段,"crawl-delay 等其他字段不受支持";官方降速替代路径是临时返回 500/503/429 或经 Search Console 提交请求。
Google 官方 robots.txt 规范只认 4 个字段:user-agent、allow、disallow、sitemap,原文明确“crawl-delay 等其他字段不受支持”——写进去的 Crawl-delay 行会被静默忽略,不报错、也不限速。官方替代路径只有两条:临时应急时对爬虫请求返回 500/503/429 状态码,Google 自动降低全主机名抓取速度、错误停止后回弹;或经 Search Console 提交特殊降速请求(只能降、不能升,处理需数日)。
对站长的含义
与 Anthropic 恰好相反——ClaudeBot 是少数官方支持 Crawl-delay 的大厂爬虫(见 ClaudeBot 卡)——给 Google 写 Crawl-delay 属于无效配置,还容易造成“已限速”的错觉。真实降速用 429/503 信号或 Search Console 请求;日常压力管理更可靠的位置在边缘层限速,而非 robots.txt。
- 样本与口径
- Google robots.txt 规范与官方降速文档(developers.google.com,2026-10 现行)
- 出处文献卡
- 无对应文献卡(数字出自下方直接引用来源)
- 如何引用
- 据 Google robots.txt 规范及官方降速文档(2026-10 现行口径)
引用来源
- Google:robots.txt 规范
- Google:降低 Google 抓取速率
最后更新 2026-10-01数字有时效性——引用前请按出处名称检索核对最新口径