网站被Google收录时遇到重复或冲突信号,最常见的误解是“只要提交一个网址,Google就会按这个网址收录”。实际上,Google会自行判断哪个网址是规范版本。如果页面同时出现多个互相矛盾的信号,它可能抓取A网址、索引B网址,或者暂时不索引。处理顺序应是:先确认冲突发生在哪一层,再决定是否修改,而不是一次性把所有SEO设置都改一遍。
重复或冲突信号不是单一问题。可以按以下三层排查:
robots.txt禁止抓取某个目录,但站内链接、站点地图又指向该目录。Google可能无法读取页面上的noindex或canonical,导致索引状态与预期不符。www与不带www、http与https并存,页面上的canonical又指向另一个版本。判断方法很直接:在Google Search Console的网址检查工具中查看“已抓取的页面”和“Google选择的规范网址”。如果两者不一致,说明冲突已经影响到规范化判断,而不只是抓取问题。
canonical是提示,不是指令。Google会综合页面内容、内部链接、站点地图、重定向和外部链接来判断规范版本。如果页面A的canonical指向页面B,但页面A有大量内部链接、页面B没有,Google仍可能选择页面A。冲突信号越多,Google越可能忽略你的首选版本。
另一个常见误解是把robots.txt当成移除索引的工具。robots.txt只能阻止抓取,不能可靠地移除已经索引的网址。如果页面已经被索引,正确做法通常是让页面可抓取,再在页面上放置noindex,或者用301重定向把旧网址指向新网址。具体选哪种,取决于页面是否还有保留价值。
不同冲突场景,处理方式不同。可以按以下条件判断:
canonical指向主版本,并检查内部链接是否只指向主版本。如果参数页面不需要被访问,也可以考虑用robots.txt阻止抓取,但前提是这些页面没有被索引,且没有外部链接指向它们。canonical、noindex和站点地图条目都应同步更新,避免留下冲突信号。canonical指向它。robots.txt禁止抓取的网址,或者站点地图包含重定向网址。应清理站点地图,只保留返回200、可抓取、且希望被索引的规范网址。假设一个项目同时存在http://example.com/page、https://example.com/page和https://www.example.com/page三个版本,页面上的canonical指向第二个,但站点地图只提交了第三个,内部链接又混用三个版本。此时Google可能选择任意一个。处理方式是:确定一个首选版本,把另外两个301重定向到首选版本,统一内部链接和站点地图,并确保首选版本返回200。
修改完成后,不要只看一个页面。按以下检查项逐条核对:
canonical是否指向自身或正确的主版本,且没有同时出现noindex。robots.txt是否误屏蔽了需要索引的目录,尤其是CSS、JS和图片资源。如果修改后Google选择的规范网址仍未变化,通常需要等待重新抓取和重新评估。此时可以继续观察,而不是反复修改canonical或频繁提交站点地图。频繁变动信号本身也会增加冲突。
下一步,先选一个最典型的重复网址组,用网址检查工具记录当前“Google选择的规范网址”,再对照页面上的canonical、重定向和站点地图,找出互相矛盾的那一项。只改这一项,观察变化后再处理下一组。