码迷,mamicode.com
首页 > 其他好文 > 详细

robots.txt 协议

时间:2020-01-08 10:56:05      阅读:86      评论:0      收藏:0      [点我收藏+]

标签:and   robot   基本   txt   文件   lin   uri   用途   baidu   

robots.txt 协议

  1. Robits Exclusion Standard网络爬虫排除标准

  2. 作用:网站告知网络爬虫那些页面可以爬取,那些不行。

  3. 形式:在网站根目录下的robots.txt文件

    百度的robots协议: https://www.baidu.com/robots.txt

    # 例子:
    
    
    User-agent: Baiduspider   #(百度爬虫引擎)允许那些用户爬取
    Allow: /article       #允许访#代表运行爬取的内容问/article.html、/article/12345.com
    Disallow: /baidu      # 不允许爬取的内容
    Disallow: /s?        # 不允许爬取的内容
    Disallow: /ulink?    # 不允许爬取的内容
    Disallow: /link? # 不允许爬取的内容
    Disallow: /home/news/data/   # 不允许爬取的内容
    Disallow: /     # 禁止爬取除了Allow规定页面之外的其他任何界面。
    

    以Allow开头URL 链接的是可以进行爬取的内容,以Disallow开头的链接是不允许访问爬取的。

    如果没有robots.txt文件,那么就可以爬取所有的内容。

    网站开发者对于网络爬虫的规范的公告,你可以不遵守可能存在法律风险,但尽量去遵守

    Robots协议:在网页的根目录+robots.txt

    Robots协议的基本语法:

    #注释,*代表所有,/代表根目录
    User-agent:* #user-agent代表来源
    Allow:/ 
    Disallow:/ #代表不可爬取的目录,如果是/后面没有写内容,便是其对应的访问者不可爬取所有内容
    并不是所有网站都有Robots协议
    

    如果一个网站不提供Robots协议,是说明这个网站对应所有爬虫没有限制

    类人行为`可以不参考robots协议,比如我们写的小程序访问量很少,内容也少`但是内容不能用于商业用途
    
  4. 技术图片

    技术图片

总的来说请准守Robots协议

robots.txt 协议

标签:and   robot   基本   txt   文件   lin   uri   用途   baidu   

原文地址:https://www.cnblogs.com/SkyOceanchen/p/12165108.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!