求教,是我robots.txt写错了吗,为什么百度蜘蛛不断抓取我不想让他抓取的页面。


求教,我写robots.txt有错吗?为什么百度蜘蛛一直爬我不想让他爬的页面? 求教,我写robots.txt有错吗?为什么百度蜘蛛一直爬我不想让他爬的页面? 简介:个人网站是www.drlmeng.com。 八月份网站降级,首页权重还在 。当时判断是论坛帖子质量差导致百度蜘蛛无法抓取,但是禁止抓取的页面却一直被蜘蛛抓取。 当时尝试的论坛页面。
转载请注明原文地址:https://juke.outofmemory.cn/read/2026911.html

最新回复(0)