让AI爬虫抓你的网站,效果不是当天见效的。有人实测了一遍,抓取几小时内就发生,但真正带来客户,等了一个月。
卫斯理在复盘里把GEO的落地过程拆成了几个动作。他一开始是怀疑的,后来决定试,试完拿到了结果。
先让爬虫进得来
第一步是改robots.txt,把GPTBot、ClaudeBot这类AI爬虫加进白名单。默认配置下,很多站点的规则是把它们挡在外面的。
第二步是结构化网页,让AI更容易读懂页面在讲什么。第三步是写一个llm.txt,给模型补充语义层面的信息。
这三件事都不复杂,核心思路就一个:对爬虫友好。
抓取是实时的,生效不是
他自建了一个工具监控抓取频率,发现线上发布后几个小时,AI爬虫就来了。
但抓取不等于生效。他观察到,模型知识库更新有明显的滞后,大约要等一个月。这解释了为什么GEO不是立竿见影的事——爬虫当天到,推荐一个月后才可能出现。
他在复盘里写得很直白:AI抓取速度还是很快,基本上线上后几个小时就会被抓取,但是AI模型训练完成应该是一个月后的事情了。
客户是怎么来的
一个月后,有客户找上门。验证方式是客户提供的截图,显示对方是直接导航到网站的,而不是通过搜索点击。
这条链路说明推荐确实发生了,只是发生在用户看不见的地方。
整个复盘里最值得记的一点是时间差:抓取、训练、生效是三件事,节奏完全不同。按天看数据的人,大概率会在第二周就放弃。
热门跟贴