码迷,mamicode.com
首页 > 编程语言 > 详细

Python爬虫是什么?常用框架有哪些?

时间:2020-08-25 15:55:25      阅读:47      评论:0      收藏:0      [点我收藏+]

标签:下载   输出   网页   col   岗位   网络爬虫   内容   学习python   scrapy   

大家都知道python是一门多岗位编程语言,学习python之后可以从事的岗位有很多,python爬虫便在其中,不过很多人对python不是很了解,所以也不知道python爬虫是什么,接下来带着你的疑问小编为大家介绍一下。

  Python是一门非常适合开发网络爬虫的编程语言,相比于其他静态编程语言,Python抓取网页文档的接口更简洁;相比于其他动态脚本语言,Python的urllib2包提供了较为完整的访问网页文档的API。此外,python中有优秀的第三方包可以高效实现网页抓取,并可用极短的代码完成网页的标签过滤功能。

  Python爬虫架构组成:

  1. URL管理器:管理待爬取的url集合和已爬取的url集合,传送待爬取的url给网页下载器;

  2. 网页下载器:爬取url对应的网页,存储成字符串,传送给网页解析器;

  3. 网页解析器:解析出有价值的数据,存储下来,同时补充url到URL管理器。

  Python爬虫工作原理:

  Python爬虫通过URL管理器,判断是否有待爬URL,如果有待爬URL,通过调度器进行传递给下载器,下载URL内容,并通过调度器传送给解析器,解析URL内容,并将价值数据和新URL列表通过调度器传递给应用程序,并输出价值信息的过程。

  Python爬虫常用框架有:

  grab:网络爬虫框架;

  scrapy:网络爬虫框架,不支持Python3;

  pyspider:一个强大的爬虫系统;

  cola:一个分布式爬虫框架;

  portia:基于Scrapy的可视化爬虫;

  restkit:Python的HTTP资源工具包。它可以让你轻松地访问HTTP资源,并围绕它建立的对象。

  demiurge:基于PyQuery的爬虫微框架。

Python爬虫是什么?常用框架有哪些?

标签:下载   输出   网页   col   岗位   网络爬虫   内容   学习python   scrapy   

原文地址:https://blog.51cto.com/14596632/2521941

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!