当你打开一个网站,屏幕上却跳出“确认你不是机器人”的提示,这很可能不是你的网络出了问题。该网站的管理员部署了一套名为Anubis的防护方案,用来应对AI公司大规模抓取网页内容。管理员指出,这种不受限的抓取会直接导致网站宕机,让所有人都无法正常访问。
Anubis采取的是一种工作量证明(Proof-of-Work)机制,与早期用来减少垃圾邮件的Hashcash方案思路类似。其核心逻辑是:单个真实用户访问时,客户端在后台完成的计算任务几乎可以忽略不计;但到了需要抓取海量页面的爬虫那里,每一次请求都要付出计算成本,累积起来就会让大规模抓取变得异常昂贵。
打开网易新闻 查看精彩图片
根据部署方的说明,目前的挑战页面其实只是一个过渡方案。开发团队希望争取更多时间,用来完善对无头浏览器(headless browser)的指纹识别能力,比如通过分析字体渲染等底层行为来分辨自动化流量。当识别技术足够成熟时,大多数正常用户就不再需要经过工作量证明的验证阶段。
打开网易新闻 查看精彩图片
同时,Anubis需要现代浏览器中的JavaScript特性才能运行,像JShelter这类会默认禁用部分脚本功能的隐私插件,反而可能阻止验证通过。因此,访问受保护的网站时,暂时关闭这类插件,就能顺利通过验证。
热门跟贴