robots.txt文件中屏蔽的内容百度也抓取?

勾股数2022-10-16  9

百度还抓取robots.txt文件中被屏蔽的内容?百度还抓取robots.txt文件中被屏蔽的内容?导读:为什么我网站的robots.txt在十几天前确实不允许:/templates/和css文件、js文件,但是每天还是有蜘蛛爬/templates/files和/templates/files里面的内容?
转载请注明原文地址:https://juke.outofmemory.cn/read/2070789.html

最新回复(0)