码迷,mamicode.com
首页 > 其他好文 > 详细

12. scrapy 框架持续化存储

时间:2019-01-11 14:44:49      阅读:172      评论:0      收藏:0      [点我收藏+]

标签:基于   class   crawl   示例   snippet   形式   存储   code   parse   

一、 基于终端指令的持久化存储

  • 保证爬虫文件的parse方法中有可迭代类型对象(通常为列表or字典)的返回,该返回值可以通过终端指令的形式写入指定格式的文件中进行持久化操作
   执行输出指定格式进行存储:将爬取到的数据写入不同格式的文件中进行存储:
      scrapy crawl 爬虫名称 -o xxx.json
      scrapy crawl 爬虫名称 -o xxx.xml
      scrapy crawl 爬虫名称 -o xxx.csv

示例:

12. scrapy 框架持续化存储

标签:基于   class   crawl   示例   snippet   形式   存储   code   parse   

原文地址:https://www.cnblogs.com/mwhylj/p/10254959.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!