区分网店收录正常与异常,核心看两点:一是页面是否进入了搜索引擎可检索的索引,二是进入索引的结果是否与页面真实内容一致。正常收录表现为目标页面能被站内标题或特征词搜到,且摘要、标题、跳转链接指向该页面;异常收录则表现为该收录的页面打不开、被替换成其他内容、标题摘要严重不符,或者只有首页被收录而商品页、分类页长期不出现。判断时不能只看“搜到没有”,还要看搜到的是不是你想被收录的那个版本。
时间和人手有限时,不要全站逐页查。先挑三类页面各取几个样本:首页、一个重点分类页、一个主推商品页。然后做三种检索。
三种结果一致,说明判断比较可靠。如果只有标题能搜到、特征词搜不到,可能是页面内容太薄或与站内其他页面高度重复,属于可疑但不一定异常。如果网址能查到,但点开后跳转到别的商品或首页,这属于明确的异常收录。
正常收录有几个可核对的特征:搜索结果标题与页面标题基本一致;摘要来自页面正文而不是其他页面;点击结果能打开同一个商品或分类;页面上的价格、规格、库存状态与收录快照没有严重冲突。异常收录常见于以下情况:
需要分清:robots.txt 里写了禁止抓取,只能限制抓取,不等于页面已从索引移除;站点地图提交了,也不保证一定收录;HTTPS 只说明传输加密,不保证页面安全无漏洞,也不保证排名。这些都不能单独当作收录正常的证据。
人手有限时,按影响面排序,先处理“入口失效”和“内容被替换”,再处理重复版本,最后处理只收首页。
这里给一个假设例子:某网店有 200 个商品页,其中 30 个被收录成带筛选参数的网址。处理时先确认这些参数页是否与主商品页内容相同,相同则把规范链接指向主商品页,并检查站内链接是否还在大量指向参数页。这个例子只说明判断顺序,不代表任何真实店铺的结果。
处理完成后不要立刻下结论。复查时重新做同一组检索:站内特征词、完整标题、直接查网址,看异常表现是否消失。重点看三件事:异常网址是否还在索引里;正常网址是否开始出现;搜索结果标题和摘要是否回到页面主体内容。
复查周期取决于页面改动幅度和抓取频率,无法给出固定天数。如果改动后一周内没有任何变化,可以检查页面是否仍被 robots.txt 限制、是否返回错误状态、是否有规范链接指向了别的网址。不同搜索引擎的抓取和索引支持情况需要分别核查,不能用一家的结果推断另一家。
下一步,先选一个异常最明显的商品页,按“观察—判断—处理—复查”走完一轮,把每一步的实际结果记下来,再决定是否扩大到其他页面。