区分抓取、索引和排名,最直接的方法是看“页面有没有被访问”“页面能不能被搜到”“页面在结果里排第几”这三件事分别成立与否。抓取是搜索引擎发现并读取页面,索引是把读取后的内容存入可检索的数据库,排名是用户搜索某个词时页面出现在结果中的位置。三者是先后关系,但并非线性保证:抓取成功不等于一定索引,索引成功也不等于有好排名。优化网站时,如果搞混环节,就容易在错误的地方用力。
判断问题处在哪一环,不能只凭“搜不到”这一个现象下结论,因为搜不到可能来自抓取失败、索引被排除,也可能来自排名太靠后。更稳妥的做法是分别找独立信号。
robots.txt是否允许该路径;页面是否需要登录或依赖脚本才能看到主体内容。noindex、规范链接指向了别的地址。这三个信号要分开记录。把“日志有访问”当成“已经索引”,或者把“索引里有页面”当成“排名会靠前”,都会导致误判。
实际优化中,面对“页面没流量”这个问题,通常有两种处理思路,适用条件不同。
方案一:优先修抓取和索引。适用条件是日志里几乎没有该页面的抓取记录,或者站内搜索查不到该网址,或者页面被noindex、规范链接、登录墙挡住。此时应检查robots.txt、状态码、内链入口、站点地图,并确认主体内容不依赖用户交互才出现。验收信号是:日志出现正常抓取,站内搜索能查到该网址,页面状态从“已排除”转为可索引。
方案二:优先修排名和内容匹配。适用条件是页面已经被索引,日志也有持续抓取,但目标查询词下位置很靠后或完全不出现。此时应检查标题与正文是否真正回应了该查询意图、是否与站内其他页面争夺同一批词、内容深度是否弱于当前结果页。验收信号是:目标查询词下开始出现该页面,且位置随时间有可观察的移动,而不是仅凭一次查询就下结论。
两种方案不能同时乱用。如果页面根本没被索引,先去改标题和关键词密度,通常不会带来排名变化;如果页面已经稳定索引,却反复提交抓取,也不会自动改善排名。
可以按下面顺序执行,每一步都记录结果,再决定下一步。
noindex、规范链接、重复内容合并和状态码。这里的关键是:每一步只回答一个是非问题,不把“抓取正常”直接推导为“排名会好”。搜索引擎的抓取、索引和排名由不同机制处理,具体规则会变化,但三者分属不同环节这一基本结构可以用来排查。
抓取、索引、排名都可能受查询词、地区、设备、时间影响。一次搜索看不到页面,不等于页面没有被索引;索引中存在页面,也不等于它会在所有相关查询下出现。比较两种处理方案时,应固定查询词和观察环境,记录一段时间内的变化,而不是用单次结果下结论。
另外,网页搜索、平台推荐和付费广告是不同系统。付费广告展示不代表自然排名改善,平台推荐流量也不等于搜索引擎索引状态。优化网站时若把这几类混在一起,就容易把广告带来的曝光误判为排名提升。
下一步可以选一个具体页面,按上面的清单依次记录抓取、索引、排名三项结果,再决定是先修可访问性,还是先修内容与查询匹配。