码迷,mamicode.com
首页 > 其他好文 > 详细

数据抓取练习

时间:2015-06-04 22:56:26      阅读:306      评论:0      收藏:0      [点我收藏+]

标签:

代码放在Github上了。https://github.com/lpe234/meizi_spider 


基于Scrapy(0.22)爬虫示例

获取(http://www.meizitu.com/)网站图片,并保存到本地文件夹(meizi_images)下。

运行

python run_spider.py  # 即可

网站做了一些防爬措施

1.必须使用Cookie,否则无法访问

2.访问频率限制(请求间隔2秒,可正常访问)


数据抓取练习

标签:

原文地址:http://my.oschina.net/lpe234/blog/425027

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!