GEO研究 › 知识基础 › 术语表 › Pay Per Crawl(按次付费抓取)
术语表 · 术语卡

Pay Per Crawl(按次付费抓取) Pay Per Crawl

站方综述

Cloudflare 的抓取付费协议——爬虫访问付费 URL 返回 HTTP 402 与报价,凭 Web Bot Auth 身份经 X-Pay 微支付按次付费后放行,「放行与否」第一次变成价格问题。

Pay Per Crawl 是 Cloudflare 推出的抓取付费协议:AI 爬虫访问开启付费的 URL 时,源站不再直接放行或封锁,而是返回 HTTP 402(Payment Required——这个沉睡近三十年的状态码找到了第一个规模化用途)与 crawler-price 报价头;爬虫侧经 X-Pay 微支付通道回应,可带 crawler-exact-price(被动接受报价)或 crawler-max-price(主动出价);成交则返回 200 与 crawler-charged 扣费确认。官方定价下限每请求 0.01 美元,参与爬虫必须通过 Web Bot Auth 认证,Cloudflare 任 Merchant of Record。

GEO 语境

它标记的是访问控制逻辑的一次换轨:robots.txt 表达偏好、爬虫自愿尊重,Pay Per Crawl 把「给不给抓」改写成「什么价格抓」——执行在 CDN 边缘层,协议流程与 Cloudflare 三代方案的完整时间线见爬虫访问控制实战档案,付费技术流的另一份拆解见CDN 与缓存对 AI 抓取的影响档案。强制 Web Bot Auth 的含义回到身份问题:密码学身份是付费谈判的前置,伪装 UA 的流量没有议价资格,验签机制见Web Bot Auth卡。对站方的冷静判断:商业模式是否成立——有没有引擎愿意按次付费——官方数字缺席,截至 2026-07 仍是 private beta,现阶段把它当「内容货币化选项的信号」跟踪即可,不必当收入渠道规划。真正的短期价值是三态按路径配置:训练收钱、检索放行的混合策略,已在边缘层成为配置项而非定制开发。

别称 / 相关写法

按次付费抓取402 付费协议Pay Per Crawl beta
常见误用:把它当成已可依赖的收入渠道——截至 2026-07 仍是 private beta,官方未公布参与爬虫与收入数字;也别把它与 robots.txt 混为一谈,后者是偏好声明,这是执行层交易。
最后更新 2026-10-01引用本卡请附:https://www.showhoo.net/library/glossary/pay-per-crawl/