关键词

cloud flare

互联网服务提供商Cloudflare日前宣布启动一项新功能,旨在应对AI公司未经授权抓取网站内容的问题。该功能允许网站和内容发布者向AI公司收取费用,以换取正式授权访问其内容。

目前,这一功能正在有限的网站群体中进行试点。内容发布者需手动提交申请,获得批准后方可启用该功能,并根据需求配置相关选项,例如完全屏蔽AI爬虫、收取访问费用,或限定允许抓取的内容类型。

网站运营方可选择屏蔽所有AI爬虫,仅允许特定爬虫访问,收取费用或免费开放内容。AI公司则可根据查询量注册爬取权限,查看价格,选择支付或拒绝访问,从而通过正规渠道获取高质量内容。

Cloudflare尚未公布统一的付费标准。鉴于不同网站内容价值存在差异,未来版本预计将支持发布者自定义定价模式,例如按文章计费。

使用该功能的前提是网站必须托管在启用了Cloudflare“橙云”保护的服务下。启用后,所有流量均通过Cloudflare传输,使其能利用专有爬虫数据库识别和管理不同爬虫。

当启用付费爬取功能时,AI爬虫发出请求若被允许访问,服务器将返回标准的HTTP 200响应;若需付费,服务器则返回HTTP 402(Payment Required)状态码。AI公司可通过解析这些响应码,判断访问要求。若同意支付费用,需通过Cloudflare的付费爬取计划注册,激活后即可在协议范围内访问内容。

Cloudflare确认已有多家AI公司参与此付费访问计划,但具体合作取决于发布者设定的价格是否被AI企业接受。如若价格过高,AI公司可选择拒绝合作并停止抓取。

安全圈

网罗圈内热点 专注网络安全

实时资讯一手掌握!

好看你就分享 有用就点个赞

支持「安全圈」就点个三连吧!