Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。Robots协议的本质是网站和搜索引擎爬虫的沟通方式，用来指导搜索引擎更好地抓取网站内容，而不是作为搜索引擎之间互相限制和不正当竞争的工具。
找到wechall的robots.txt ht...
分类：
其他好文 时间：
2014-09-04 15:03:09
阅读次数：
542
禁止搜索引擎收录的方法（robots.txt）一、什么是robots.txt文件?搜索引擎通过一种程序robot（又称spider），自己主动訪问互联网上的网页并获取网页信息。您能够在您的站点中创建一个纯文本文件robots.txt，在这个文件里声明该站点中不想被robot訪问的部分，这样，该站点的...
分类：
其他好文 时间：
2014-08-23 11:19:10
阅读次数：
338
一、从Spider程序到Robots协议 即使不是工程狮，关注互联网的人也很少不知道Robots协议。百度和360从2012年起展开的一场屏蔽与反屏蔽战把原本程序猿才知道的Robots协议变成媒体热词。北京一中院8月7日对3B搜索不正...
分类：
其他好文 时间：
2014-08-12 09:06:44
阅读次数：
149
一、从Spider程序到Robots协议即使不是工程狮，关注互联网的人也很少不知道Robots协议。百度和360从2012年起展开的一场屏蔽与反屏蔽战把原本程序猿才知道的Robots协议变成媒体热词。北京一中院8月7日对3B搜索不正当竞争纠纷案（3B案）刚刚作出的一审判决让Robots协议在新闻里又...
分类：
其他好文 时间：
2014-08-11 20:57:32
阅读次数：
250
Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol)，网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。Robots协议是网站出于安全和隐私考虑，防止搜索引擎抓取敏感信息而设置的。搜索引擎的原理是通过...
分类：
其他好文 时间：
2014-08-07 22:47:25
阅读次数：
350
今天很不小心点开百度新闻主页面，以及360新闻主页面，分别有一篇文章，但是针对百度诉360违反Robots协议案。标题分别是《百度诉360违反爬虫协议案宣判：360赔偿70万》 《法院判定360搜索可抓取百度内容》。显然，两者报道的最终法院判决结果截然相反。请看下面截图：
显然，双方都在掩饰自己的过错，宣扬自己的长处。更搞笑的是双方互相挖苦，百度发文《360律师要求百度感谢被...
分类：
其他好文 时间：
2014-08-07 19:11:20
阅读次数：
280
