让AI爬虫抓你的网站,效果不是当天见效的。有人实测了一遍,抓取几小时内就发生,但真正带来客户,等了一个月。

卫斯理在复盘里把GEO的落地过程拆成了几个动作。他一开始是怀疑的,后来决定试,试完拿到了结果。

先让爬虫进得来

第一步是改robots.txt,把GPTBot、ClaudeBot这类AI爬虫加进白名单。默认配置下,很多站点的规则是把它们挡在外面的。

第二步是结构化网页,让AI更容易读懂页面在讲什么。第三步是写一个llm.txt,给模型补充语义层面的信息。

这三件事都不复杂,核心思路就一个:对爬虫友好。

抓取是实时的,生效不是

他自建了一个工具监控抓取频率,发现线上发布后几个小时,AI爬虫就来了。

但抓取不等于生效。他观察到,模型知识库更新有明显的滞后,大约要等一个月。这解释了为什么GEO不是立竿见影的事——爬虫当天到,推荐一个月后才可能出现。

他在复盘里写得很直白:AI抓取速度还是很快,基本上线上后几个小时就会被抓取,但是AI模型训练完成应该是一个月后的事情了。

客户是怎么来的

一个月后,有客户找上门。验证方式是客户提供的截图,显示对方是直接导航到网站的,而不是通过搜索点击。

这条链路说明推荐确实发生了,只是发生在用户看不见的地方。

整个复盘里最值得记的一点是时间差:抓取、训练、生效是三件事,节奏完全不同。按天看数据的人,大概率会在第二周就放弃。