码迷,mamicode.com
首页 > 其他好文 > 详细

小白写爬虫

时间:2018-07-20 11:28:33      阅读:125      评论:0      收藏:0      [点我收藏+]

标签:一个   nbsp   爬虫   数据信息   本地   bsp   抓取   基本   提取   

写的第一个爬虫,基本思路:

定义 pageMax 方法 获取整体数据信息,最大页数

定义 request的方法获取单页数据

定义parse方法分析单页数据,提取items,存储在生成器yield中

定义search方法循环获取数据,保存在本地

 

 

 

另外,通过history文件记录抓取历史

saveImg对文件是否已存在做判断

小白写爬虫

标签:一个   nbsp   爬虫   数据信息   本地   bsp   抓取   基本   提取   

原文地址:https://www.cnblogs.com/huhume/p/9339600.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!