robots协议

robots协议,第1张

百度百科: robots协议也叫robotstxt (统一小写)是一种存放于网站根目录下的ASCII编码的文本文件,它通常告诉网络搜索引擎的漫游器(又称网络蜘蛛),此网站中的哪些内容是不应被搜索引擎的漫游器获取的,哪些是可以被漫游器获取的。因为一些系统中的URL是大小写敏感的,所以robotstxt的文件名应统一为小写。robotstxt应放置于网站的根目录下。如果想单独定义搜索引擎的漫游器访问子目录时的行为,那么可以将自定的设置合并到根目录下的robotstxt,或者使用robots元数据(Metadata,又称元数据)。

简单来说即:robots协议是一个君子协议,是网站所有者编写的,用来告诉搜索引擎该网站下的哪些内容可以爬取、收录,哪些内容不可以爬取和收录。

robots协议是通用共识,一般来说,大型的、有资质的搜索引擎都会遵守,robots协议是网站所有者不想要公开在网上的内容,是为了保障个人隐私,但是robots协议里规定的内容是可以获取的,只是大家默认遵守该协议,不获取协议内的内容。

robots协议是一个纯文本文件,通常是搜索引擎第一个爬取的文件,搜索引擎该文件了解该网站哪些是所有者不想被收录的内容,进行有选择的爬取和收录。

robots协议命名为robotstxt,放在网站的根目录下。

简单的robots协议如下:

其中 User-agent 代表要遵守该协议的搜索引擎,如果是通配符‘’,代表所有搜索引擎都要遵守该协议。

Disallow 代表不允许搜索引擎访问的内容, / 代表不允许搜索引擎访问所有带?的路径内容, / 代表不允许搜索引擎访问该网站所有内容。

实际环境中,网站所有者依据个人情况编写该文件,robots协议的编写会影响网站的收录情况和搜索引擎的效率。

和孩子的君子协议写法要写时间日期地点事件。时间日期地点事件是和孩子的君子协议的写法。在协议中写好事件发生的事件,地点,内容,采取定协议的方式,在协议里孩子有权决定在做到了某一条时,可获得特别的奖品,让孩子有一定的决定权。

以上就是关于robots协议全部的内容,包括:robots协议、和孩子的君子协议怎么写、等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:聚客百科

原文地址: https://juke.outofmemory.cn/life/3650363.html

()
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-24
下一篇 2023-04-24

发表评论

登录后才能评论

评论列表(0条)

保存