熊平平个人博客

【重庆SEO论坛】网站robots文件对SEO的重要性

318人参与 |分类: 学习笔记|时间:2018年05月31日 00:04

【重庆SEO论坛】网站robots文件对SEO的重要性

seo排名.jpg

  一、robots文件是做什么的

  robots文件是一种协议,所有的搜索引擎蜘蛛进入网站的时候第一个访问的就是这个文件,具体的作用就是用来自由设置哪些文件可以抓取,哪些不能抓取。  

       二、robots文件设置的格式

  User-agent:定义搜索引擎的类型;

  Crawl-delay:定义抓取延迟

  Disallow:定义禁止搜索引擎收录的地址

  Allow:定义允许搜索引擎收录的地址

  seo.jpg

       三、为什么robots对网站优化非常重要:

  1.网站优化切忌的就是重复页面,但是不少人没有重视,现在的主流网站程序都很容易自动产生一些没用的页面,比如缓存页面,搜索页面,等等,这些页面内容往往和主体内容相重复,而且没有什么用,如果被蜘蛛抓到,那么对网站排名会有非常严重的负面影响。

  2.搜索引擎喜欢原创内容,而这一方面并不是单单是指文章的原创度,另一方面网站模板的原创度也是非常重要的评分点,所以如果自己网站的模板不是原创,最好要屏蔽css目录和模板目录。

  3.利用robots文件可以用来屏蔽一些没有用的页面,比如隐私页面,后台登陆页面,图片目录等内容。

  4.增强蜘蛛网站的爬取效率,帮助搜索引擎理解哪些才是自己网站最重要的内容,不再浪费到其它的那些无用的页面上。

      seo优化.jpg

       以上就是介绍的【重庆SEO论坛】robots对SEO重要性,感谢阅读。


顶: 4踩: 0

来源:熊平平博客(微信/QQ号:Mr_xiongp/599393129),转载请保留出处和链接!

必填

选填

选填

◎已有 1 人评论,请发表您的观点。

  
    
1楼代码狗   2018-06-01 14:21:32
写得不错,加油。嘿嘿rolleyes
顶: 0踩: 0 回复