码迷,mamicode.com
首页 > 编程语言 > 详细

python爬虫----scrapy框架简介和基础应用

时间:2019-01-24 20:45:06      阅读:173      评论:0      收藏:0      [点我收藏+]

标签:被集成   异步   就是   lin   应用   bsp   pip3   网站   基础应用   

一、什么是scrapy?

  scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架,非常出名,非常强悍。所谓的框架就是一个已经被集成了各种功能(高性能异步下载,队列,分布式,解析,持久化等)的具有很强通用性的项目模板。

二、安装

  

Linux:

      pip3 install scrapy

 

Windows:

      a. pip3 install wheel

      b. 下载twisted http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted

      c. 进入下载目录,执行 pip3 install Twisted?17.1.0?cp35?cp35m?win_amd64.whl

      d. pip3 install pywin32

      e. pip3 install scrapy

三、基础使用

 

python爬虫----scrapy框架简介和基础应用

标签:被集成   异步   就是   lin   应用   bsp   pip3   网站   基础应用   

原文地址:https://www.cnblogs.com/wjs521/p/10316602.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!