在《WordPress 屏蔽恶意搜索,防止被搜索引擎收录恶意搜索结果》中,提到了网站被恶意搜索攻击,已经给出了一些处理方案,但是最近查看 Google Search Console 的覆盖率,看到了“已编入索引,尽管遭到 robots.txt 屏蔽”的警告,一看具体的网址,几万条全部都是恶意搜索结果。
查看了google官方文档《已编入索引,但被 robots.txt 屏蔽了》,了解到通过 robots.txt 并不能阻止Google索引恶意搜索结果:
而是需要通过使用“noindex”阻止搜索引擎编入索引:
重要提示:为让
noindex
指令生效,网页不得被 robots.txt 文件屏蔽,并且必须能被抓取工具访问。如果该网页被 robots.txt 文件屏蔽或抓取工具无法访问该网页,那么抓取工具将永远无法看到noindex
指令,因此该网页可能仍会显示在搜索结果中,例如,如果有其他网页链接到该网页的话。
我们不能在 robots.txt 屏蔽google蜘蛛访问搜索结果网址,但是倡萌并不清楚百度等其他搜索引擎是否会遵循 noindex
指令,所以我们在 robots.txt 中允许谷歌蜘蛛抓取搜索结果页面,但是禁止其他搜索引擎抓取。
按照《WordPress 屏蔽恶意搜索,防止被搜索引擎收录恶意搜索结果》 处理过的恶意搜索结果页面,会返回404状态码,并且源码中包含了 <meta name="robots" content="noindex">
:
这样一来,google蜘蛛就可以读取到该指令,不再索引被屏蔽关键词的恶意搜索结果页面。
以上步骤处理完以后,在 Google Search Console 覆盖率的警告界面,提交验证,然后耐心等待处理。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 lk2768783601@gmail.com 举报,一经查实,本站将立刻删除。